Threats of Artificial Intelligence for Cybersecurity

Descriere

Abstract

Artificial intelligence enables automated decision-making and facilitates many aspects of daily life, bringing with it improvements in operations and numerous other benefits. However, AI systems face numerous cybersecurity threats, and AI itself needs to be secured, as cases of malicious attacks have already been reported, e.g. AI techniques and AI-based systems can lead to unexpected results and can be modified to manipulate expected results. Therefore, it is essential to understand the AI threat landscape and to have a common and unifying basis for understanding the potential of threats and consequently to perform specific risk assessments. The latter will support the implementation of targeted and proportionate security measures and controls to counter AI-related threats. This article explores the potential threats posed by AI in cybersecurity and discusses the implications for individuals, organizations, and society at large.

Keywords: artificial intelligence, threats, cyber security, cybersecurity, cyber-attacks, black boxes, algorithmic biases, threat actors, threat taxonomy, threat modeling

Amenințări ale inteligenței artificiale pentru securitatea cibernetică

Rezumat

Inteligența artificială permite luarea automată a deciziilor și facilitează multe aspecte ale vieții de zi cu zi, aducând cu ea îmbunătățiri ale operațiunilor și numeroase alte beneficii. Cu toate acestea, sistemele AI se confruntă cu numeroase amenințări la adresa securității cibernetice, iar AI în sine trebuie să fie securizată, deoarece au fost deja raportate cazuri de atacuri rău intenționate, de ex. tehnicile AI și sistemele bazate pe IA pot duce la rezultate neașteptate și pot fi modificate pentru a manipula rezultatele așteptate. Prin urmare, este esențial să înțelegem peisajul amenințărilor AI și să avem o bază comună și unificatoare pentru înțelegerea potențialului amenințărilor și, în consecință, pentru a efectua evaluări specifice de risc. Acesta din urmă va sprijini punerea în aplicare a unor măsuri și controale de securitate direcționate și proporționale pentru a contracara amenințările legate de IA. Acest articol explorează potențialele amenințări reprezentate de AI în securitatea cibernetică și discută implicațiile pentru indivizi, organizații și societate în general.

Cuvinte cheie: inteligență artificială, amenințări, securitate cibernetică, atacuri cibernetice, cutii negre, părtiniri algoritmice, actori ai amenințărilor, taxonomie a amenințărilor, modelare a amenințărilor

IT & C, Volumul 3, Numărul 3, Septembrie 2024, pp. 38-52
ISSN 2821 – 8469, ISSN – L 2821 – 8469, DOI: 10.58679/IT17846
URL: https://www.internetmobile.ro/threats-of-artificial-intelligence-for-cybersecurity/
© 2024 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.