The Internet of Things (IoT) has emerged as a disruptive technology with far-reaching applications in various sectors. In warfare, IoT is rapidly transforming the way militaries operate, communicate and gather information.
This essay explores the various applications of IoT in warfare, examining its impact on military strategies, logistics, and intelligence gathering. It also looks at the ethical and security considerations that arise as a result of this technological change.
Keywords: Internet of Things, IoT, Military Internet of Things, IoMT, Internet of Things Battles, IoBT, war
Using IoT in Modern Warfare – Military Internet of Things (IoMT)
Rezumat
Internetul obiectelor (IoT) a apărut ca o tehnologie disruptivă cu aplicații de anvergură în diferite sectoare. În război, IoT transformă rapid modul în care armatele operează, comunică și colectează informații.
Acest eseu explorează diversele aplicații ale IoT în război, examinând impactul acestuia asupra strategiilor militare, logisticii și colectarea de informații. De asemenea, analizează considerentele etice și de securitate care apar ca urmare a acestei schimbări tehnologice.
[1] Cercetător – Academia Română – Comitetul Român de Istoria și Filosofia Științei și Tehnicii (CRIFST), Divizia de Istoria Științei (DIS)
Introducere
Internetul obiectelor (IoT) se referă la o rețea de dispozitive, senzori și sisteme interconectate care colectează, procesează și partajează date. Această tehnologie a revoluționat operațiunile militare, oferind o serie de beneficii, inclusiv comunicare îmbunătățită, analiza datelor în timp real și cunoaștere îmbunătățită a situației.
În timpul Războiului Rece, armata SUA a dezvoltat Sistemul de Supraveghere a Sunetului (SOSUS), o rețea de senzori acustici subacvatici, adică hidrofoane, plasate în Oceanul Atlantic și Pacific pentru monitorizări subacvatice[1]. DoD a contribuit la pregătirea terenului pentru viitoarele cercetări IoT la sfârșitul anilor 1960, prin crearea ARPANET[2].
În anii 1980, Agenția de Proiecte Avansate de Apărare (DARPA) a dezvoltat rețele de senzori wireless distribuite[3], în timp ce DoD a investit în miniaturizarea circuitelor integrate[4].
La finele anilor 1990, Departamentul Apărării a dezvoltat conceptul de război „centrat pe rețea” care a integrat domeniile fizic, informațional și cognitiv pentru a îmbunătăți schimbul de informații și colaborare[5]. Au fost astfel inițiate proiecte precum Nett Warrior[6], și Force XXI Battle Command Brigade și platforma de comunicare Below[7].
Începând cu 2019, cercetarea în tehnologia modernă IoT în domeniul militar a început să se dezvolte accelerat cu sprijin din partea Armatei, Marinei și Forțelor Aeriene ale SUA[8][9].
Acest eseu discută despre utilizarea cu mai multe fațete a IoT în război, subliniind impactul acestuia asupra strategiei, logisticii, informațiilor și preocupările asociate de etică și securitate.
Internetul obiectelor (IoT)
Internetul obiectelor (IoT) este format din dispozitive cu senzori, capacitate de procesare, software și alte tehnologii care conectează și schimbă date cu alte dispozitive și sisteme prin Internet sau alte rețele de comunicații[10].
IoT reprezintă convergența mai multor domenii interdisciplinare[11]: rețele, hardware încorporat, spectru radio, computere mobile, tehnologii de comunicare, arhitecturi software, tehnologii de detectare, eficiență energetică, managementul informațiilor și analiza datelor. Conform lui Paula Fraga-Lamas et al.[12], creșterea rapidă a IoT este condusă de patru progrese cheie în tehnologiile digitale. Primul este costul în scădere și miniaturizarea microelectronicilor din ce în ce mai puternice, cum ar fi traductoare (senzori și actuatoare), unități de procesare (de exemplu, microcontrolere, microprocesoare, SOC (System-on-a-chip), FPGA (Field-Programmable Gate Array)), și receptoare. Al doilea factor este ritmul rapid și extinderea conectivității fără fir. Al treilea este extinderea stocării datelor și a capacității de procesare a sistemelor de calcul. În cele din urmă, al patrulea este apariția aplicațiilor software și a analizelor inovatoare, inclusiv progrese în tehnicile de învățare automată pentru procesarea datelor mari. Aceste patru drivere sunt prezente în straturile stivei de tehnologie IoT. De exemplu, IoT poate include traductoare care colectează date despre condițiile fizice și de mediu. Aceste dispozitive transmit date prin cablu sau fără fir. rețeaua de comunicații către servere și computere care stochează și procesează date utilizând aplicații software și analize.Cunoștințele obținute din analiză pot fi utilizate pentru detectarea defecțiunilor, controlul, predicția, monitorizarea și optimizarea proceselor și sistemelor[13].
IoT oferă o perspectivă asupra comportamentelor umane, putând declanșa atenționări asupra proceselor de luare a deciziilor și permite factorilor de decizie militare să-și sporească cunoașterea situației operaționale, atenuând în același timp surpriza strategică. Utilizarea eficientă a IoT necesită o abordare bazată pe o teorie a identității și un concept clar al tipului de raționament logic pentru a răspunde nevoilor analitice, logica adecvării oferind o legătură conceptuală între interese, gândire, comportament și identitate. Pentru aceasta, este nevoie să se apeleze la cele trei tipuri de raționament logic, descrise în mod generic drept crowdsourcing, lucru de detectiv și proiectarea viitorului[14].
Impactul economic potențial al IoT va fi de la 3,9 trilioane de dolari la 11,1 trilioane de dolari pe an până în 2025[15].
Aplicații IoT în război
Utilizarea Internetului obiectelor (IoT) în război este un domeniu în evoluție rapidă, cu beneficii potențiale, dar și preocupări etice și de securitate semnificative. Iată câteva moduri în care tehnologia IoT este utilizată în război:
Comunicare îmbunătățită: IoT permite forțelor militare să mențină o comunicare fără întreruperi pe distanțe mari. Dispozitivele și senzorii conectați facilitează transmisia de voce, video și date, asigurând că trupele și comandanții pot rămâne în contact constant. Acest lucru îmbunătățește coordonarea, reduce timpii de răspuns și crește agilitatea operațiunilor militare.
Autentificare biometrică: IoT poate fi utilizat pentru autentificare biometrică și controlul accesului, asigurându-se că numai personalul autorizat poate accesa sistemele și datele militare critice.
Logistica și urmărirea activelor: IoT joacă un rol crucial în gestionarea lanțului de aprovizionare și în urmărirea activelor. Senzorii și etichetele RFID de pe echipamente și vehicule permit logisticii militare să urmărească inventarul în timp real, îmbunătățind alocarea resurselor și reducând riscul pierderii sau furtului echipamentelor. Această eficiență în logistică are un impact direct asupra succesului misiunii.
IoT poate ajuta la optimizarea logisticii operațiunilor militare. Senzorii de pe consumabile și echipamente pot furniza date în timp real despre starea, locația și disponibilitatea acestora, permițând o gestionare mai eficientă a resurselor.
Echipamente pentru soldați: dispozitivele IoT sunt din ce în ce mai integrate în uniformele și echipamentele soldaților. Aceste obiecte purtabile pot monitoriza semnele vitale ale soldatului, pot oferi capacități de navigare și comunicare și pot îmbunătăți conștientizarea situației.
Sisteme fără pilot: dronele, vehiculele terestre fără pilot și alte sisteme autonome sunt echipate cu tehnologie IoT pentru a colecta informații, a efectua recunoașteri și a îndeplini diverse misiuni. Ele pot fi controlate de la distanță sau pot funcționa autonom.
Baze inteligente: bazele militare devin din ce în ce mai conectate și automatizate. Senzorii IoT sunt utilizați pentru securitate, managementul energiei și monitorizarea infrastructurii. Acest lucru sporește securitatea și eficiența instalațiilor militare.
Sisteme de arme la distanță: tehnologia IoT este integrată în sistemele de arme la distanță care permit operatorilor să controleze armele de la o distanță sigură. Aceste sisteme pot spori precizia și pot reduce riscul pentru soldați.
Senzorii și dispozitivele IoT pot fi utilizați pentru a urmări și monitoriza activele militare, cum ar fi vehiculele, armele și echipamentele, în timp real. Acest lucru le permite comandanților să aibă o mai bună cunoaștere a situației și să ia decizii mai informate.
Colectarea de informații: Colectarea și analiza informațiilor este o piatră de temelie a operațiunilor militare. Dispozitivele IoT, inclusiv drone, sateliți și senzori de la sol, oferă date în timp real despre mișcările inamicului, condițiile de mediu și dinamica câmpului de luptă. Aceste date ajută la luarea deciziilor și îmbunătățesc precizia acțiunilor militare.
Analiza datelor: datele generate de IoT pot fi procesate folosind analize avansate, permițând liderilor militari să ia decizii bazate pe date. De exemplu, datele de la diverși senzori pot fi folosite pentru a prezice nevoile de întreținere, pentru a detecta anomalii și pentru a evalua pregătirea generală a activelor militare.
Analiza logicii adecvării se întreabă care sunt comportamentele adecvate din punct de vedere normativ și etic, care depind de identitatea contextualizată. Analiștii derivă ipoteze rezonabile și ipoteze de cercetare atunci când gama de comportamente acceptabile este cunoscută pe baza literaturii sociologice și antropologice existente[16].
Legătura dintre identitate, priorități și comportamente permite crearea unei matrice pentru a analiza modelele comportamentale din datele IoT, identificând modele de comportament și legând aceste comportamente cu o gamă de comportamente posibile legate de identități specifice.
Analiza IoT oferă o oportunitate exponențială emergentă de a dezvolta indicații și avertismentedintr-o perspectivă a identității și a logicii adecvării. Crowdsourcing-ul (raționament inductiv) urmărește să permită datelor să identifice corelații relevante, în timp ce tehnologia le poate spune analiștilor de ce trebuie să fie îngrijorați. Munca de detectiv (raționament deductiv) începe cu o ipoteză despre corelații și relații cauzale și apoi se uită la dovezi. Proiectarea viitorului (raționamentul abductiv) abordează problemele rele prin inferențele abductive.
Explorând populațiile prin cele trei lentile, IoT ar putea oferi date excelente pentru a determina ce viitor posibil este „în tendințe”, având în vedere bogăția de date empirice, crowdsourcing, în timp ce munca de detectiv bună bazată pe bănuiala unui analist ar putea lumina o potențială amenințare localizată pe care crowdsourcing-ul. algoritmii ar putea să nu fie o tendință importantă. Sintetiza acestor tipuri de raționament este ceea ce face ca gândirea și comportamentul populațiilor să prindă viață[17].
Introducerea paradigmei Războiul Centrat în Rețea (NCW)[18] a transformat abordările militare tradiționale, integrând trei domenii: fizic, informațional, și cognitiv. Această paradigmă de conducere a dus la adoptarea tehnologiilor legate de IoT, utilizând tehnologiile COTS (Commercial Off-The-Shelf, produse comerciale standard), inclusiv telefoane inteligente comerciale sau identificarea prin radiofrecvență (RFID). Astăzi, acest concept este explorat în proiectele Uniunii Europene de cercetare precum RERUM, RELYonIt, FIESTA-IoT, BIGioT, bloTope sau METIS-II[19].
Inteligența IoT poate fi oferită la trei niveluri: dispozitive IoT, noduri Edge/Fog și cloud computing[20]. Nevoia de control și decizie inteligentă la fiecare nivel depinde de sensibilitatea la timp a aplicației IoT. Integrarea algoritmilor avansati de învățare automată, inclusiv învățarea profundă, în dispozitivele IoT este un domeniu activ de cercetare, ajutate de analitica datelor IoT, extragerea informațiilor ascunse și predicția deciziilor de control. Învățarea automată este prezentă în IoT atât prin metode tradițional (regresia, mașina vectorială de suport) cât și avansate (rețelele neuronale convoluționale, LSTM și autoencoderul variațional)[21][22].
Impactul strategic al IoT în război: IoMT (IoBT)
{003} Internetul Obiectelor Militare (IoMT) este o rețea complexă de entități interconectate, sau „obiecte” cu beneficii recunoscute[23], care comunică între ele pentru a coordona, învăța și interacționa cu mediul pentru o gamă largă de activități într-un mod mai eficient și mai informat[24][25]. Ideea de bază este că că viitoarele bătălii militare vor fi dominate de inteligența mașinilor și războiul cibernetic[26].
Dispozitivele (”obiectele”) din IoMT posedă capacități fizice inteligente de detectare, învățare și acționare prin interfețe virtuale sau cibernetice integrate[27]. În general, dispozitivele IoMT formează o ”țesătură de date”[28] pentru transport de date, captare a datelor, detectare și de acționare, și un dispozitiv general cu capabilități de procesare și comunicare care poate face schimb de informații cu rețeaua mai mare[29]. S-a sugerat și posibilitatea de a încorpora în sistem obiecte neînsuflețite, cum ar fi plante și roci, prin dotarea acestora cu senzori care le vor transforma în puncte de colectare a informațiilor[30]. (e-Plants[31]).
Avantaje ale implementării IoMT:
Precizie și daune colaterale reduse: IoT îmbunătățește precizia operațiunilor militare, reducând probabilitatea daunelor colaterale și a victimelor civile. Loviturile direcționate sunt mai precise, iar factorii de decizie au acces la informații în timp real care pot minimiza consecințele neintenționate ale războiului.
Conștientizare îmbunătățită a situației: Comandanții militari au acces la o mulțime de informații în timp real, permițându-le să ia decizii mai bine informate. IoT dă putere forțelor militare să înțeleagă mediul câmpului de luptă și să își adapteze strategiile în consecință.
Securitate cibernetică îmbunătățită: Pe măsură ce armatele se bazează mai mult pe dispozitive interconectate, nevoia de măsuri solide de securitate cibernetică devine primordială. Vulnerabilitatea sistemelor IoT la atacurile cibernetice prezintă o provocare semnificativă care trebuie abordată pentru a proteja operațiunile militare.
Războiul informațional: Manipularea și diseminarea informațiilor prin dispozitive și rețele conectate poate juca un rol semnificativ în războiul modern. Campaniile de dezinformare și propaganda sunt exemple ale modului în care tehnologia IoT poate fi utilizată pentru războiul informațional.
C4ISR: Sistemele C4ISR folosesc milioane de senzori desfășurați pe o gamă largă de platforme pentru a oferi cunoaștere avansată a situației.
Sisteme de control al incendiului: Implementarea end-to-end a rețelelor de senzori și a analizelor digitale permit răspunsuri complet automatizate la amenințările în timp real și oferă putere de foc cu precizie maximă.
Logistică: Mai mulți senzori de nivel scăzut sunt deja utilizați în apărare, pentru monitorizarea și managementul flotei, sau rechizite individuale.
Operațiuni în orașe inteligente: Infrastructurile IoT existente ar putea fi reutilizate în operațiuni militare.
Detecție personală, asistență medicală a soldaților și instruire a forței de muncă: De exemplu, dispozitivele purtate pe corp[33], și monitorizări de fitness.
Colaborativ și crowd sensing: Detecția colaborativă implică partajarea datelor de detectare între dispozitivele mobile, combinată cu comunicații robuste pe distanță scurtă.
Managementul energiei: Reducerea cererii de energie din instalații prin investiții în proiecte de eficiență a instalațiilor sale.
Supraveghere: Camerele și senzorii de securitate, combinați cu software-ul sofisticat de analiză a imaginilor și de recunoaștere a modelelor, ușurează monitorizarea.
Arhitectura IoT trebuie să țină cont de elementele de bază ale peisajului IoT 5 pentru a sprijini cerințele operaționale[35]:
Protocoale standardizate IoT
Protocoale de nivel de aplicație
Protocoale de descoperire a serviciilor
Tehnologii de activare
Activarea protocoalelor
Calcul
Platforme hardware și software
Platforme cloud
Fog Computing
Analiza digitală {/002}
Programe implementate în IoMT:
Connected Soldier: susținut de Centrul de Cercetare, Dezvoltare și Inginerie Natick Soldier al Armatei SUA (NSRDEC), pentru crearea echipamentelor inteligente de corp[36].
Internet of Battlefield Things (IoBT): Înițiat în 2016, de U.S. Army Research Laboratory (ARL)[37] ca un plan detaliat pentru un război viitor prin o integrare a tehnologiei IoT în operațiunile militare[38]. Tehnologia IoBT încorporează inteligența predictivă, învățarea automată și rețelele neuronale[39].
Internet of Battlefield Things Collaborative Research Alliance (IoBT-CRA): Inițiat de ARL în 2017 pentru a avansa bazele teoretice ale sistemelor IoBT[40].
Mosaic Warfare: Un termen inventat în 2017, folosit de DARPA, pentru a descrie o abordare de „sisteme de sisteme” a războiului militar care se concentrează pe reconfigurarea sistemelor și tehnologiilor de apărare[41]. Mosaic Warfare a fost promovat ca o strategie de a deruta și de a copleși forțele adverse prin desfășurarea unor sisteme de arme consumabile tehnologic, adaptabile, cu costuri reduse coordonate între ele, complicând procesul de luare a deciziilor pentru inamic[42].
System of Systems Integration Technology and Experimentation (SoSIT): Dezvoltat din Mosaic Warfare, un sistem de rețea care permite stații și platforme terestre care să transmită și să traducă date între ele[43].
Ocean of Things: Înițiat de DARPA în 2017, pentru a aplica tehnologia IoT la scară largă folosind tehnici analitice, pentru a stabili o conștientizare a situației maritime persistente pe zone mari oceanice[44], incluzând mii de flotoare mici, disponibile comercial, cu senzori care colectează date de mediu.
Provocări și preocupări
Utilizarea IoT în război ridică întrebări etice, în special în ceea ce privește confidențialitatea și potențialul de automatizare și armament autonom. Preocupările legate de supraveghere și confidențialitatea civilă, precum și de moralitatea desfășurării de arme complet autonome, necesită o analiză și o reglementare atentă.
În timp ce tehnologia IoT oferă multe beneficii potențiale pentru operațiunile militare, utilizarea sa în război ridică, de asemenea, preocupări etice și de securitate semnificative. Vulnerabilitățile dispozitivelor conectate fac sistemele militare susceptibile la atacuri cibernetice, iar colectarea de date extinse despre activitățile și personalul militar poate prezenta riscuri pentru confidențialitate și securitate. În plus, potențialul pentru arme autonome și implicațiile etice ale utilizării lor sunt subiecte de dezbatere internațională.
Integrarea IoT în operațiunile militare introduce noi riscuri de securitate. Hackerii și adversarii pot încerca să exploateze vulnerabilitățile sistemelor IoT, compromițând datele sensibile și eficiența militară. Protocoalele de securitate robuste sunt esențiale pentru a atenua aceste amenințări.
În războiul cibernetic, dispozitivele IoT sunt vulnerabile la atacuri cibernetice, iar exploatarea acestor vulnerabilități poate face parte dintr-o strategie mai largă de război cibernetic. Atacatorii pot viza sistemele și infrastructura militară conectate, perturbând comunicarea, supravegherea și operațiunile critice.
Principalele provocări și limitări tehnice în domeniul militar sunt evidențiate de Grupul operativ de cercetare al NATO (RTG) „Aplicații militare ale internetului obiectelor” (IST-147), și IST-ET-076, „Internetul obiectelor militare”. Principalele preocupări miliare includ dependența de introducerea manuală, prelucrarea limitată a datelor, lipsa automatizării și arhitectura IT fragmentată[45]. Preocupările legate de securitate includ riscul atât de amenințări adverse, cât și de defecțiuni ale sistemului care ar putea compromite întreaga rețea[46]. Pe lângă riscurile de interferență digitală și manipulare de către hackeri, au fost exprimate și îngrijorări cu privire la disponibilitatea semnalelor wireless puternice în locații de luptă la distanță[47].
Securitatea este cea mai mare preocupare în adoptarea tehnologiei IoT[48]. Cele mai multe dintre preocupările de securitate sunt similare cu cele ale dispozitivelor convenționale[49], precum utilizarea unei autentificări slabe, uitarea de a schimba acreditările implicite, mesajele necriptate trimise între dispozitive, injecții SQL, atacuri Man-in-the-middle și gestionarea slabă a actualizărilor de securitate[50]. În plus, dispozitivele IoT au limitări operaționale severe în ceea ce privește puterea de calcul, astfel încât nu pot utiliza măsuri de securitate de bază (preum firewall, sau criptarea) care ar crește timpul de răspuns[51].
Există și riscul unor injectări de erori în sistem, neintenționat sau ca atacuri pentru a introduce defecte în sistem pentru a schimba comportamentul dorit[52].
Dispozitivele IoT accesibile la internet slab securizate pot fi, de asemenea, subminate pentru a ataca pe alții. În 2016, un atac distribuit de denial-of-service alimentat de dispozitive Internet of Things care rulează malware-ul Mirai a distrus un furnizor de DNS și site-uri web importante[53]. Mirai Botnet a infectat aproximativ 65.000 de dispozitive IoT în primele 20 de ore[54].
Internet of Things Security Foundation (IoTSF) a fost lansată în 2015 cu misiunea de a securiza Internetul obiectelor. În 2017, Mozilla a lansat Project Things pentru rutarea dispozitivelor IoT printr-un gateway sigur Web of Things[55]. La nivel de guverne se pot lua măsuri specifice de reglementare pentru a securiza dispozitivele IoT[56].
În ciuda încrederii în potențialul IoT, în prezent acesta se confruntă cu bariere în adoptarea tehnologiei IoT pe o scară mai largă. Mike Farley a susținut în Forbes că, deși soluțiile IoT atrag utilizatorii timpurii, fie le lipsește interoperabilitatea, fie un caz de utilizare clar pentru utilizatorii finali.[291] Un studiu realizat de Ericsson cu privire la adoptarea IoT în rândul companiilor daneze sugerează că mulți se luptă „să identifice exact unde se află valoarea IoT pentru ei”[57].
Datele IoT trebuie securizate cu o combinație de tehnologie blockchain, modificări ale hardware-ului sau prin construirea de aplicații cu securitatea ca o considerație principală.
Concluzie
IoT ar putea exacerba provocările cu care se confruntă analiștii în mediul informațional. Implicarea IoT necesită cercetare și analiză cu privire la motivațiile din spatele și implicațiile datelor primite pentru construcția socială a realității.
Integrarea IoT în război a revoluționat modul în care operează armatele moderne, îmbunătățind comunicarea, logistica și colectarea de informații. IoT oferă numeroase avantaje strategice, dar ridică și preocupări etice și de securitate importante. Pe măsură ce utilizarea IoT în război continuă să evolueze, este imperativ ca forțele militare și factorii de decizie să găsească un echilibru între valorificarea beneficiilor acestei tehnologii și atenuarea riscurilor asociate acesteia. Viitorul războiului va fi din ce în ce mai interconectat, solicitând o abordare cuprinzătoare pentru a aborda provocările și oportunitățile prezentate de IoT.
Implementarea mai largă a aplicațiilor IoT în apărare va necesita un timp mai îndelungat. Domeniul intelligence și cel al militar trebuie să adopte cele mai bune practici pentru dezvoltarea tehnologiei și achizițiile din sectorul privat și ar trebui să ia în considerare un model de jos în sus de inovare și achiziții. Armata ar trebui să investească în dezvoltarea de noi tehnici de securitate care pot fi aplicate dispozitivelor și aplicațiilor COTS, inclusiv celor găzduite în cloud. Accentul ar trebui să se pună pe investiții în măsuri de securitate scalabile în loc să securizeze sisteme individuale. Această abordare le va oferi apărării și PS o pârghie mai mare în investițiile lor IoT, permițându-le venituri mai bune pe dolar cheltuit pe cercetare și dezvoltare proprie, exploatând în același timp potențialul militar IoT[58].
Implementarea IoT în război necesită o analiză atentă a acestor probleme etice, legale și de securitate pentru a asigura utilizarea responsabilă și sigură a acestei tehnologii în contexte militare.
Bibliografie
Ahmadi, Mohsen, Pantea Kiaei, și Navid Emamdoost. „SN4KE: Practical Mutation Testing at Binary Level”. arXiv, 13 februarie 2021. https://doi.org/10.48550/arXiv.2102.05709.
Alfandi, Omar, Musaab Hasan, și Zayed Balbahaith. „Assessment and Hardening of IoT Development Boards | SpringerLink”, 2019. https://link.springer.com/chapter/10.1007/978-3-030-30523-9_3.
Antonakakis, Manos, Tim April, Michael Bailey, Matthew Bernhard, Elie Bursztein, Jaime Cochran, Zakir Durumeric, et al. „Understanding the mirai botnet: 26th USENIX Security Symposium”. Proceedings of the 26th USENIX Security Symposium, Proceedings of the 26th USENIX Security Symposium, 2017, 1093–1110.
Barry, Mark. „DARPA & The Ocean of Things”. Aberdeen Strategy & Research (blog), 21 decembrie 2017. https://www.aberdeen.com/featured/darpa-ocean-things/.
Bastos, D., M. Shackleton, și F. El-Moussa. „Internet of Things: A survey of technologies and security risks in smart home and city environments”. În Living in the Internet of Things: Cybersecurity of the IoT – 2018, 1–7, 2018. https://doi.org/10.1049/cp.2018.0030.
Beinart, Matthew. „Air Force Improving Data Control, Cyber Security Before Deploying New Sensors For IoT Devices”. Defense Daily, 24 aprilie 2018. https://www.defensedaily.com/air-force-improving-data-control-cyber-security-deploying-new-sensors-iot-devices/air-force/.
Breeden II, John. „The Internet of Things’ Role on Battlefields and at Sea”. Nextgov.com, 1 mai 2018. https://www.nextgov.com/ideas/2018/05/internet-things-role-battlefields-and-sea/147877/.
Cameron, Lori. „Internet of Things Meets the Military and Battlefield: Connecting Gear and Biometric Wearables for an IoMT and IoBT”. IEEE Computer Society, 1 martie 2018. https://www.computer.org/publications/tech-news/research/internet-of-military-battlefield-things-iomt-iobt/.
Cirani, Simone, și Marco Picone. „Wearable Computing for the Internet of Things”. IT Professional 17 (21 septembrie 2015): 35–41. https://doi.org/10.1109/MITP.2015.89.
DARPA. „DARPA Tiles Together a Vision of Mosaic Warfare”, 2019. https://www.darpa.mil/work-with-us/darpa-tiles-together-a-vision-of-mosiac-warfare.
Defense Update. „Force XXI Battle Command Brigade and Below – FBCB2 – Defense Update”:, 23 iulie 2005. https://defense-update.com/20050723_fbcb2.html, https://defense-update.com/20050723_fbcb2.html.
Ericsson. „Every. Thing. Connected. A study of the adoption of «Internet of Things» among Danish companies”, 2020. https://www.ericsson.com/49928a/assets/local/news/2015/11/every-thing-connected.pdf.
Fraga-Lamas, Paula, Tiago M. Fernández-Caramés, Manuel Suárez-Albela, Luis Castedo, și Miguel González-López. „A Review on Internet of Things for Defense and Public Safety”. Sensors 16, nr. 10 (octombrie 2016): 1644. https://doi.org/10.3390/s16101644.
Francis, Ben. „Building the Web of Things – Mozilla Hacks – the Web Developer Blog”. Mozilla Hacks – the Web developer blog, 2017. https://hacks.mozilla.org/2017/06/building-the-web-of-things.
GAO, U. S. Government Accountability. „Defense Logistics: DOD Has Addressed Most Reporting Requirements and Continues to Refine Its Asset Visibility Strategy | U.S. GAO”. Data accesării 8 noiembrie 2023. https://www.gao.gov/products/gao-16-88.
Gudeman, Kim. „Next-Generation Internet of Battle Things (IoBT) Aims to Help Keep Troops and Civilians Safe”, 2017. https://ece.illinois.edu/newsroom/news/3875.
Hitchens, Theresa. „DARPA’s Mosaic Warfare – Multi Domain Ops, But Faster”. Breaking Defense (blog), 10 septembrie 2019. https://breakingdefense.com/2019/09/darpas-mosaic-warfare-multi-domain-ops-but-faster/.
Kott, Alexander. „Challenges and Characteristics of Intelligent Autonomy for Internet of Battle Things in Highly Adversarial Environments”, 20 martie 2018.
Kott, Alexander, David S. Alberts, și Cliff Wang. „Will Cybersecurity Dictate the Outcome of Future Wars?” Computer 48, nr. 12 (decembrie 2015): 98–101. https://doi.org/10.1109/MC.2015.359.
Li, Shancang, și Li Da Xu. Securing the Internet of Things. Syngress, 2017.
Liu, Ximeng, Yang Yang, Kim-Kwang Raymond Choo, și Huaqun Wang. „Security and Privacy Challenges for Internet-of-Things and Fog Computing”. Wireless Communications and Mobile Computing 2018 (24 septembrie 2018): e9373961. https://doi.org/10.1155/2018/9373961.
Mahdavinejad, Mohammad Saeid, Mohammadreza Rezvan, Mohammadamin Barekatain, Peyman Adibi, Payam Barnaghi, și Amit P. Sheth. „Machine learning for internet of things data analysis: a survey”. Digital Communications and Networks 4, nr. 3 (1 august 2018): 161–75. https://doi.org/10.1016/j.dcan.2017.10.002.
Malin, Carrington. „U.S. Army’s Nett Warrior System Gets Future-Ready”. Armada International (blog), 20 iulie 2023. https://www.armadainternational.com/2023/07/u-s-armys-nett-warrior-system-gets-future-ready/.
MeriTalk. „DARPA Floats a Proposal for the Ocean of Things”, 2018. https://www.meritalk.com/articles/darpa-floats-a-proposal-for-the-ocean-of-things/.
Miorandi, Daniele, Sabrina Sicari, Francesco De Pellegrini, și Imrich Chlamtac. „Internet of Things: Vision, Applications and Research Challenges”. Ad Hoc Networks 10 (1 septembrie 2012). https://doi.org/10.1016/j.adhoc.2012.02.016.
Mohammadi, Mehdi, Ala Al-Fuqaha, Sameh Sorour, și Mohsen Guizani. „Deep Learning for IoT Big Data and Streaming Analytics: A Survey”. IEEE Communications Surveys & Tutorials 20, nr. 4 (2018): 2923–60. https://doi.org/10.1109/COMST.2018.2844341.
Parker, Paul. „The Internet of Battlefield Things Is Coming. Are IT Pros Ready?” C4ISRNet, 3 octombrie 2018. https://www.c4isrnet.com/opinion/2018/10/03/the-internet-of-battlefield-things-is-coming-are-it-pros-ready/.
Polit, Kate. „Army Takes on Wicked Problems With the Internet of Battlefield Things”, 2018. https://www.meritalk.com/articles/army-takes-on-wicked-problems-with-the-internet-of-battlefield-things/.
Polyak, Mark, și Katie Ziemer. „The Internet of Things (loT) and the Art of Mapping a Population’s Thinking, Behavior, and Influencers”. În SMA White Paper – What Do Others Think and How Do We Know What They Are Thinking? Mariah Yager, 2018. https://nsiteam.com/social/wp-content/uploads/2018/03/White-Paper_What-Do-Others-Think_March2018_FINAL.pdf.
Rowlands, Greg. „The Internet of Military Things & Machine Intelligence: A Winning Edge or Security Nightmare? | Australian Army Research Centre (AARC)”, 2017. https://researchcentre.army.gov.au/library/land-power-forum/internet-military-things-machine-intelligence-winning-edge-or-security-nightmare.
Russell, Stephen, și Tarek Abdelzaher. „The Internet of Battlefield Things: The Next Generation of Command, Control, Communications and Intelligence (C3I) Decision-Making”. În MILCOM 2018 – 2018 IEEE Military Communications Conference (MILCOM), 737–42, 2018. https://doi.org/10.1109/MILCOM.2018.8599853.
Saxena, Shalini. „Researchers Create Electronic Rose Complete with Wires and Supercapacitors”. Ars Technica, 1 martie 2017. https://arstechnica.com/science/2017/03/researchers-grow-electronic-rose-complete-with-wires-and-supercapacitors/.
Shafiq, Muhammad, Zhaoquan Gu, Omar Cheikhrouhou, Wajdi Alhakami, și Habib Hamam. „The Rise of “Internet of Things”: Review and Open Research Issues Related to Detection and Prevention of IoT-Based Security Attacks”. Wireless Communications and Mobile Computing 2022 (3 august 2022): e8669348. https://doi.org/10.1155/2022/8669348.
Silicon Labs. „The Evolution of Wireless Sensor Networks”, 2013. https://www.silabs.com/documents/public/white-papers/evolution-of-wireless-sensor-networks.pdf.
Stackpole, Beth. „Keeping the Connected Soldier Connected with Simulation”. Digital Engineering, 1 septembrie 2016. https://www.digitalengineering247.com/article/keeping-the-connected-soldier-connected-with-simulation.
Sternstein, Aliya. „A more connected military means new battlefield glitches, too”. Christian Science Monitor, 2017. https://www.csmonitor.com/World/Passcode/2017/0331/A-more-connected-military-means-new-battlefield-glitches-too.
Sydney J. Freedberg Jr. „Project Rainmaker: Army Weaves ‘Data Fabric’ To Link Joint Networks”. Breaking Defense (blog), 17 noiembrie 2020. https://breakingdefense.sites.breakingmedia.com/2020/11/project-rainmaker-army-weaves-data-fabric-to-link-joint-networks/.
Tucker, Patrick. „US Army Seeks Internet-of-Battlefield-Things, Distributed Bot Swarms”. Defense One, 18 iulie 2017. https://www.defenseone.com/technology/2017/07/us-army-seeks-internet-battlefield-things-distributed-bot-swarms/139533/.
Tunnell, C. D. „[PDF] Network-Centric Warfare and the Data-Information-Knowledge-Wisdom Hierarchy | Semantic Scholar”, 2014. https://www.semanticscholar.org/paper/Network-Centric-Warfare-and-the-Hierarchy-Tunnell/804eecfc51ef8c9f43cf4556a44d88bf4e2eff5f.
Weissman, Cale Guthrie. „We Asked Executives About The Internet Of Things And Their Answers Reveal That Security Remains A Huge Concern”. Business Insider, 2015. https://www.businessinsider.in/we-asked-executives-about-the-internet-of-things-and-their-answers-reveal-that-security-remains-a-huge-concern/articleshow/45959921.cms.
Woolf, Nicky. „DDoS Attack That Disrupted Internet Was Largest of Its Kind in History, Experts Say”. The Guardian, 26 octombrie 2016, sec. Technology. https://www.theguardian.com/technology/2016/oct/26/ddos-attack-dyn-mirai-botnet.
Zheng, Denise E., și William A. Carter. „Leveraging the Internet of Things for a More Efficient and Effective Military”, 17 septembrie 2015. https://www.csis.org/analysis/leveraging-internet-things-more-efficient-and-effective-military.
Referințe
[1] Silicon Labs, „The Evolution of Wireless Sensor Networks”.
[2] Zheng și Carter, „Leveraging the Internet of Things for a More Efficient and Effective Military”.
[3] Silicon Labs, „The Evolution of Wireless Sensor Networks”.
[4] Zheng și Carter, „Leveraging the Internet of Things for a More Efficient and Effective Military”.
[22] Mahdavinejad et al., „Machine learning for internet of things data analysis”.
[23] Silicon Labs, „The Evolution of Wireless Sensor Networks”.
[24] Rowlands, „The Internet of Military Things & Machine Intelligence: A Winning Edge or Security Nightmare? | Australian Army Research Centre (AARC)”.
[25] Cameron, „Internet of Things Meets the Military and Battlefield”.
[26] Kott, Alberts, și Wang, „Will Cybersecurity Dictate the Outcome of Future Wars?”
[27] Kott, „Challenges and Characteristics of Intelligent Autonomy for Internet of Battle Things in Highly Adversarial Environments”.
[53] Woolf, „DDoS Attack That Disrupted Internet Was Largest of Its Kind in History, Experts Say”.
[54] Antonakakis et al., „Understanding the mirai botnet”.
[55] Francis, „Building the Web of Things – Mozilla Hacks – the Web Developer Blog”.
[56] Alfandi, Hasan, și Balbahaith, „Assessment and Hardening of IoT Development Boards | SpringerLink”.
[57] Ericsson, „Every. Thing. Connected. A study of the adoption of «Internet of Things» among Danish companies”.
[58] Fraga-Lamas et al., „A Review on Internet of Things for Defense and Public Safety”.
Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/).
Artificial intelligence (AI) has seen rapid progress in recent years, transforming various industries and fields. However, alongside its potential benefits, AI also poses a number of threats that deserve careful consideration. Threat modeling in artificial intelligence involves identifying and assessing potential risks and vulnerabilities associated with AI systems. This is crucial to ensure the responsible and safe development and deployment of AI technologies. This essay explores the multifaceted threats from AI, categorizing them into technical, ethical, and societal domains. Mitigation strategies to address these threats and to ensure the responsible development and implementation of AI systems and the importance of threat modeling in AI are also discussed. By understanding and modeling these threats, we can take proactive steps to ensure the responsible and safe development and deployment of AI technologies. In this regard, I highlight some AI threat mitigation strategies for each situation.
Keywords: modeling, patterns, artificial intelligence, threats, AI technologies, AI ethics
Rezumat
Inteligența artificială (IA) a cunoscut progrese rapide în ultimii ani, transformând diverse industrii și domenii. Cu toate acestea, alături de beneficiile sale potențiale, IA reprezintă și o serie de amenințări care merită o analiză atentă. Modelarea amenințărilor în inteligența artificială implică identificarea și evaluarea riscurilor potențiale și a vulnerabilităților asociate cu sistemele IA. Acest lucru este crucial pentru a asigura dezvoltarea și implementarea responsabilă și sigură a tehnologiilor IA. Acest eseu explorează amenințările cu mai multe fațete din IA, clasificându-le în domenii tehnice, etice și societale. De asemenea, se discută strategiile de atenuare pentru a aborda aceste amenințări și pentru a asigura dezvoltarea și implementarea responsabilă a sistemelor IA și importanța modelării amenințărilor în IA. Înțelegând și modelând aceste amenințări, putem lua măsuri proactive pentru a asigura dezvoltarea și implementarea responsabilă și sigură a tehnologiilor IA. În acest sens, evidențiez unele strategii de atenuare a amenințărilor în IA pentru fiecare situație în parte.
[1] Cercetător – Academia Română – Comitetul Român de Istoria și Filosofia Științei și Tehnicii (CRIFST), Divizia de Istoria Științei (DIS)
Introducere
Inteligența artificială devine rapid o parte integrantă a vieții noastre de zi cu zi, cu aplicații variind de la asistenți virtuali și vehicule autonome până la diagnosticare medicală și prognoză financiară. Capacitățile sale de a automatiza sarcini, de a procesa cantități mari de date și de a face predicții au deblocat numeroase oportunități. Deși capacitățile IA sunt impresionante, ele vin cu o serie de potențiale amenințări și vulnerabilități care trebuie modelate și gestionate cu atenție.
Modelarea amenințărilor în inteligența artificială implică identificarea și evaluarea riscurilor potențiale și a vulnerabilităților asociate cu sistemele IA. Acest lucru este crucial pentru a asigura dezvoltarea și implementarea responsabilă și sigură a tehnologiilor IA. Modelarea amenințărilor în IA poate fi abordată în mai multe moduri.
Tipuri de amenințări
Impactul amenințărilor asupra confidențialității, integrității și disponibilității, pe baza impactului asupra acestor proprietăți fundamentale de securitate, este mapat după cum urmează: (1)
Autenticitatea poate fi afectată atunci când integritatea este compromisă, deoarece autenticitatea datelor sau a rezultatelor ar putea fi afectată.
Autorizarea poate fi afectată atunci când confidenţialitatea şi integritatea sunt afectate, având în vedere că legitimitatea operaţiunii ar putea fi afectată.
Nerepudierea poate fi afectată atunci când integritatea este afectată.
Robustețea unui sistem/aplicație IA poate fi afectată atunci când disponibilitatea și integritatea sunt afectate.
Încrederea în un sistem/aplicație IA poate fi afectată atunci când integritatea, confidențialitatea și disponibilitatea sunt afectate, deoarece sistemul/aplicația IA poate funcționa cu date corupte sau cu performanțe slabe.
Siguranța poate fi afectată atunci când integritatea sau disponibilitatea sunt afectate, deoarece aceste proprietăți pot avea un impact negativ asupra funcționării corespunzătoare a unui sistem/aplicație IA.
Transparența poate fi afectată atunci când confidențialitatea, integritatea sau disponibilitatea sunt afectate, deoarece împiedică dezvăluirea de ce și cum s-a comportat un sistem/aplicație IA așa cum s-a comportat.
Explicabilitatea poate fi afectată atunci când confidențialitatea, integritatea sau disponibilitatea sunt afectate, deoarece împiedică deducerea explicațiilor adecvate cu privire la motivul pentru care un sistem/aplicație IA s-a comportat așa cum s-a comportat.
Responsabilitatea poate fi afectată atunci când integritatea este afectată, deoarece împiedică repartizarea acțiunilor verificate către proprietari.
Protecția datelor cu caracter personal poate fi afectată atunci când confidențialitatea, integritatea sau disponibilitatea sunt afectate. De exemplu, încălcarea confidențialității (de exemplu, realizată prin combinarea diferitelor seturi de date pentru aceeași persoană) poate duce la dezvăluirea datelor cu caracter personal către destinatari neautorizați. Încălcarea integrității (de exemplu, calitatea slabă a datelor sau seturi de date de intrare „părtinitoare”) poate duce la sisteme automate de luare a deciziilor care clasifică greșit persoanele și îi exclud de la anumite servicii sau îi privează de drepturile lor. Problemele de disponibilitate pot perturba accesul la datele personale în servicii importante, bazate pe IA. Transparența și explicabilitatea pot afecta direct protecția datelor cu caracter personal, în timp ce responsabilitatea este, de asemenea, un aspect inerent al protecției datelor cu caracter personal. În general, sistemele și aplicațiile IA pot limita în mod semnificativ controlul uman asupra datelor cu caracter personal, conducând astfel la concluzii despre indivizi, care au impact direct asupra drepturilor și libertăților acestora. Acest lucru se poate întâmpla fie pentru că rezultatele mașinii se abat de la rezultatele așteptate de indivizi, fie pentru că nu îndeplinesc așteptările indivizilor. (1)
Amenințări tehnice
Prejudecăți și corectitudine: Sistemele de inteligență artificială pot perpetua prejudecățile prezente în datele utilizate pentru formare, ceea ce duce la rezultate inechitabile și discriminatorii. Strategie de atenuare: implementați tehnici de învățare automată conștiente de corectitudine și preprocesare riguroasă a datelor pentru a reduce părtinirea.
Robusteţe: Sistemele IA pot fi vulnerabile la atacuri adverse, unde perturbații minore de intrare pot duce la decizii incorecte. Strategie de atenuare: Dezvoltați modele robuste de inteligență artificială folosind tehnici precum antrenamentul advers și validarea intrărilor.
Securitate: Sistemele IA pot fi exploatate în scopuri rău intenționate, inclusiv hacking, fraudă și diseminare de informații dezinfectate. Strategie de atenuare: Îmbunătățiți securitatea IA prin testare riguroasă, criptare și monitorizare.
Amenințări etice
Confidențialitate: Sistemele IA pot încălca confidențialitatea persoanelor prin colectarea și analizarea datelor cu caracter personal fără consimțământ. Strategie de atenuare: implementați politici de confidențialitate puternice și tehnici de anonimizare.
Autonomie: Sistemele IA, cum ar fi vehiculele autonome, ridică preocupări etice atunci când vine vorba de luarea deciziilor în situații critice. Strategie de atenuare: Dezvoltați algoritmi transparente de luare a deciziilor și stabiliți linii directoare etice.
Responsabilitate: Determinarea responsabilității pentru deciziile IA poate fi o provocare, mai ales în cazurile de vătămare sau erori. Strategie de atenuare: Definiți cadrele legale și principiile de răspundere pentru sistemele IA.
Amenințări societale
Deplasarea locului de muncă: Automatizarea sarcinilor prin IA poate duce la înlocuirea locurilor de muncă și la inegalități economice. Strategie de atenuare: Investește în recalificarea forței de muncă și oferă rețele de protecție socială.
Deepfake și dezinformare: Deepfake-urile generate de IA și conținutul manipulat pot propaga informații false, ceea ce duce la instabilitate socială și politică. Strategie de atenuare: Dezvoltați instrumente de detectare a falsurilor profunde și promovați alfabetizarea media.
Arme autonome: Sistemele de arme autonome bazate pe inteligență artificială reprezintă o amenințare semnificativă la adresa securității și eticii globale. Strategie de atenuare: Avocați pentru tratatele internaționale care interzic utilizarea armelor autonome.
Modelarea amenințărilor
Taxonomia amenințărilor inteligenței artificiale
Modelarea amenințărilor (1) implică procesul de identificare a amenințărilor și, eventual, de listare și prioritizare a acestora (38). Există diverse metodologii cu privire la modul de realizare a modelării amenințărilor, STRIDE (39) fiind una dintre cele mai proeminente. În contextul viitoarelor evaluări risc/tratament pentru inteligența artificială (IA) pentru cazuri specifice de utilizare, metodologia de modelare a amenințărilor presupune 5 pași:
Identificarea obiectivelor: identificați proprietățile de securitate pe care ar trebui să le aibă sistemul.
Studiu: mapați sistemul, componentele sale și interacțiunile acestora și interdependențele cu sistemele externe.
Identificarea activelor: identificați activele critice din punct de vedere al securității care au nevoie de protecție.
Identificarea amenințărilor: identificați amenințările la adresa activelor care vor duce la neîndeplinirea obiectivelor menționate mai sus.
Identificarea vulnerabilităților: determinați – de obicei pe baza atacurilor existente – dacă sistemul este vulnerabil în raport cu amenințările identificate (40).
Pentru a dezvolta peisajul amenințărilor IA, luăm în considerare atât proprietățile tradiționale de securitate, cât și proprietățile de securitate care sunt mai relevante pentru domeniul IA. Primele includ confidențialitatea, integritatea și disponibilitatea cu proprietăți de securitate suplimentare, inclusiv autenticitatea, autorizarea și non-repudierea, în timp ce cele din urmă sunt mai specifice IA și includ robustețe, încredere, siguranță, transparență, explicabilitate, responsabilitate, precum și protecția datelor (41).
Modelarea amenințărilor în IA poate fi abordată în mai multe moduri:
Confidențialitatea și securitatea datelor
Una dintre preocupările fundamentale în IA este confidențialitatea și securitatea datelor. Sistemele IA se bazează în mare măsură pe cantități mari de date, adesea de natură sensibilă. Amenințările din această categorie includ scurgerile de date și otrăvirea datelor.
Scurgeri de date: sistemele IA, în special cele care folosesc învățarea automată, sunt la fel de bune ca și datele pe care sunt instruiți. Scurgerile de date, acolo unde sunt expuse informații sensibile, reprezintă o amenințare semnificativă. Pentru a atenua acest lucru, organizațiile ar trebui să implementeze tehnici robuste de anonimizare a datelor, criptare și controale stricte de acces pentru a proteja datele sensibile. Strategie de atenuare: Evaluați riscul ca datele sensibile să fie expuse sau scurse din sistemele IA. Luați în considerare anonimizarea datelor, criptarea și mecanismele de control al accesului pentru a atenua aceste amenințări.
Otrăvirea datelor: actorii rău intenționați pot manipula modelele IA prin injectarea de date otrăvite. Otrăvirea datelor poate duce la predicții incorecte ale modelului sau la comportamente neintenționate. Pentru a combate acest lucru, organizațiile ar trebui să utilizeze tehnici de validare a datelor, preprocesare și detectare a anomaliilor pentru a identifica și a atenua datele otrăvite. Strategie de atenuare: Analizați riscul injectării de date rău intenționate care poate manipula modelele IA. Implementați tehnici de validare și preprocesare a datelor pentru a detecta și a atenua datele otrăvite.
Atacurile adverse
Atacurile adverse sunt o preocupare tot mai mare în IA, unde atacatorii manipulează datele de intrare pentru a înșela modelele IA.
Învățare automată adversară: această amenințare implică actori rău intenționați care creează intrări care par benefice pentru oameni, dar care pot determina sistemele IA să facă predicții incorecte. Modelele robuste și tehnicile de antrenament adversar pot ajuta la apărarea împotriva unor astfel de atacuri. Strategie de atenuare: Înțelegeți amenințarea atacurilor adverse în care actorii rău intenționați manipulează datele de intrare pentru a înșela modelele IA. Folosiți modele robuste și antrenament adversar pentru a vă apăra împotriva unor astfel de atacuri.
Atacuri de inversare a modelelor: în această amenințare, atacatorii încearcă să modifice modelele IA pentru a obține informații despre informațiile sensibile. Pentru a se proteja împotriva atacurilor de inversare a modelelor, organizațiile pot implementa confidențialitate diferențială sau pot adopta mecanisme sigure de partajare a modelelor. Strategie de atenuare: Examinați riscul ca atacatorii să efectueze inginerie inversă a modelelor IA pentru a accesa informații sensibile. Implementați măsuri de protecție precum confidențialitatea diferențială sau partajarea securizată a modelelor.
Prejudecăți și corectitudine
Sistemele IA moștenesc adesea părtiniri din datele pe care sunt instruiți, perpetuând inegalitățile societale. Amenințările din această categorie includ prejudecățile algoritmice și compromisurile de corectitudine.
Prejudecăți algoritmice: datele de antrenament ale modelului pot conține părtiniri, ceea ce duce la predicții părtinitoare. Pentru a rezolva acest lucru, ar trebui utilizate tehnici de învățare automată care conștientizează corectitudinea și audituri cuprinzătoare de părtinire. Strategie de atenuare: Modelați potențialul sistemelor IA de a perpetua părtinirea și discriminarea. Implementați tehnici de învățare automată conștiente de corectitudine și audituri cuprinzătoare de părtinire pentru a atenua aceste riscuri.
Compensații de corectitudine: atingerea unui echilibru între corectitudine și acuratețe în sistemele IA este o provocare. Organizațiile trebuie să dezvolte modele care să permită setări de corectitudine ajustabile și să ia în considerare compromisurile dintre corectitudine și performanță. Strategie de atenuare: Lați în considerare compromisurile între corectitudine și acuratețe în sistemele IA. Dezvoltați modele care echilibrează aceste compromisuri și au setări de corectitudine ajustabile.
Securitatea infrastructurii IA
Securitatea infrastructurii care sprijină sistemele IA este primordială.
Furtul de modele: accesul neautorizat la modele IA instruite sau furtul de modele reprezintă o preocupare semnificativă. Ar trebui să existe controale puternice de acces, criptare și mecanisme de stocare sigură pentru a proteja parametrii modelului. Strategie de atenuare: Evaluați riscul accesului neautorizat sau al furtului modelelor IA instruite. Implementați controale puternice de acces, criptare și stocare sigură pentru parametrii modelului.
Securitate în cloud: infrastructura IA se bazează adesea pe platforme cloud, care necesită măsuri de securitate meticuloase, inclusiv controale de acces, criptare și monitorizare continuă pentru a proteja activele IA. Strategie de atenuare: Examinați securitatea infrastructurii IA găzduite pe platformele cloud. Configurați controalele de acces, monitorizarea și criptarea adecvate pentru a proteja activele IA.
Preocupări etice și societale
IA are implicații etice și societale de amploare, iar aceste preocupări trebuie abordate în modelarea amenințărilor.
Considerații etice: modelarea amenințărilor ar trebui să cuprindă considerații etice, evaluând impactul aplicațiilor IA asupra indivizilor și societății. Orientările și cadrele etice pot ghida dezvoltarea responsabilă a IA. Strategie de atenuare: Evaluați implicațiile etice și consecințele societale ale aplicațiilor IA. Implementați orientări etice și luați în considerare impacturile sociale mai ample.
Transparență și responsabilitate: organizațiile ar trebui să asigure transparența în procesele de luare a deciziilor privind IA și să stabilească mecanisme de responsabilitate în cazul unor consecințe nedorite, contribuind la dezvoltarea responsabilă a IA. Strategie de atenuare: Asigurați transparența în procesele de luare a deciziilor IA și stabiliți mecanisme de responsabilitate în cazul unor consecințe nedorite.
Utilizare rău intenționată
Tehnologia IA poate fi exploatată în mod rău intenționat, ceea ce duce la atacuri automate și la crearea de deepfake.
Atacuri automate: sistemele IA pot fi utilizate pentru automatizarea atacurilor cibernetice, cum ar fi phishingul și hackingul. Asigurarea faptului că sistemele IA au măsuri de protecție pentru a detecta și a preveni o astfel de utilizare rău intenționată este esențială. Strategie de atenuare: Modelați riscul ca sistemele IA să fie utilizate pentru atacuri cibernetice automate, cum ar fi phishingul sau hackingul automatizat. Implementați măsuri de securitate pentru a detecta și preveni o astfel de utilizare rău intenționată.
Deepfake: Strategie de atenuare: Analizați riscul ca tehnologia deepfake să fie utilizată în scopuri înșelătoare. Dezvoltați metode de detectare și contracarare a conținutului deepfake.
Vulnerabilități hardware și software
Atacuri hardware: Strategie de atenuare: luați în considerare vulnerabilitățile din infrastructura fizică care susține sistemele IA, cum ar fi atacurile la nivel de hardware. Implementați mecanisme de securitate hardware și medii de execuție de încredere.
Vulnerabilități software: Strategie de atenuare: evaluați riscul vulnerabilităților software care ar putea fi exploatate pentru a compromite sistemele IA. Actualizați și corectați în mod regulat componentele software.
Respectarea reglementărilor
Riscuri legale și de reglementare: Strategie de atenuare: evaluați riscurile legale și de reglementare asociate cu dezvoltarea și implementarea IA. Asigurați-vă conformitatea cu protecția datelor, proprietatea intelectuală și reglementările specifice IA.
După ce s-au introdus proprietățile de securitate și pe baza modelului de referință al ciclului de viață IA introdus și a activelor identificate, următorul pas în metodologia luată în considerare presupune identificarea amenințărilor și vulnerabilităților. Pentru a identifica amenințările, se iau în considerare fiecare activ individual și ca grup și se evidențiază modurile de eșec relevante (42) în ceea ce privește proprietățile de securitate menționate mai sus. Prin identificarea amenințărilor la adresa activelor, suntem capabili să mapăm peisajul amenințărilor din sistemele IA. Mai mult, efectele identificării amenințării la adresa vulnerabilităților sistemelor IA sunt subliniate și prin referirea la manifestări specifice ale atacurilor. Acest lucru ar duce în viitor la introducerea unor măsuri și controale de securitate proporționale. (7)
Încorporați modelarea amenințărilor în ciclul de viață al dezvoltării IA, implicând echipe interfuncționale, considerente etice și monitorizare continuă. Actualizați în mod regulat modelele de amenințări pentru a se adapta la riscurile și vulnerabilitățile în evoluție din peisajul IA.
Concluzie
Inteligența artificială prezintă un potențial imens, dar este crucial să recunoaștem și să abordăm amenințările pe care le reprezintă. Provocările tehnice, etice și societale asociate cu IA necesită eforturi concertate din partea guvernelor, industriilor și cercetătorilor. Strategiile de atenuare, așa cum sa discutat, pot ajuta la atenuarea acestor amenințări, asigurând dezvoltarea și implementarea responsabilă a sistemelor IA. Prin abordarea proactivă a acestor provocări, putem valorifica beneficiile IA, minimizând în același timp riscurile și asigurând un viitor mai echitabil și mai etic pentru societate.
(2) A se vedea Shostack, Adam (2014). „Threat Modeling: Designing for Security„. John Wiley & Sons Inc: Indianapolis.
(3) A se vedea https://docs.microsoft.com/en-us/previous-versions/commerce-server/ee823878(v=cs.20). STRIDE este un acronim care reprezintă 6 categorii de amenințări, și anume falsificarea, manipularea datelor, repudierea, divulgarea informațiilor, refuzul serviciului și creșterea privilegiilor (Spoofing, Tampering with data, Repudiation, Information disclosure, Denial of Service și Elevation of privilege).
(4) Identificarea vulnerabilităților nu a fost explorată pe larg aici, având în vedere că situațiile de utilizare specifice trebuie luate în considerare pentru a efectua acest pas.
(5) Proprietățile de securitate specifice AI s-au bazat pe activitatea HLEG EC AI privind lista de evaluare pentru IA de încredere: https://ec.europa.eu/digital-single-market/en/news/assessment-list-trustworthy- inteligenta-artificiala-altai-autoevaluare
(6) A se vedea https://link.springer.com/article/10.1186/s40887-018-0025-1
Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/).
ANISP (Asociatia Nationala a Internet Service Providerilor din Romania) organizează evenimentul RITE 2023 (Romanian Internet Technologies Event 2023), cel mai important eveniment dedicat Internetului în România, având ca scop facilitarea dialogului între furnizorii de servicii Internet, creatorii de conținut și diverse categorii de utilizatori. RITE va genera dezbateri interactive între producători și consumatori pe teme fundamentale din acest domeniu printre care: tehnologiile pe care se bazează Internetul, evolutia conținutului prezent pe Internet (de la date simple nestructurate până la Cloud, Containere, OpenAI, Realitate Virtuala sau DevOps).
De ce organizăm evenimentul RITE 2023?
Tehnologiile Internet au devenit cel mai important vehicul pentru economia digitală. Tendințele actuale indica schimbări accelerate în mediul de afaceri, prin transformarea economiei clasice în economia on-line. Acest proces este ireversibil.
Actori de pe piață printre care ISP, CDN-uri, IEX asigură accesul utilizatorilor la Internet-ul din ziua de astăzi – care a crescut în complexitate. Acești actori sunt influentați de factori cum ar fi: infrastructura Internet, disponibilitatea accesului, distribuția conținutului, confidențialitatea datelor și compatibilitatea acestora, monetizarea accesului, transmisiile live, sustenabilitatea modelelor de afaceri și influenta tehnologiilor în curs de dezvoltare.
Ce audiența are evenimentul?
Sunt așteptați să participe peste 200 invitați în sala conferinței, la care se adaugă audiența de pe rețelele sociale și profesionale.
Participă miniștri, secretari de stat, oameni de afaceri, specialiști și profesioniști din piața IT&C, reprezentanți ai categoriilor de utilizatori.
ANISP (Asociatia Nationala a Internet Service Providerilor din Romania) este prima și cea mai reprezentativă organizație neguvernamentală din sectorul Internet & comunicații electronice. Constituită la 31 ianuarie 2001 din 12 cei mai importanți furnizori de servicii Internet (ISP) ai momentului, ANISP este implicată în întreaga evoluție a sectorului Internet & comunicații electronice din România prin participarea la consultările organizate de ministere, agenții și alte organisme guvernamentale cu atribuții de reglementare precum și prin operarea primului nod de Internet eXchange românesc – RoNIX.
Revista IT & C este o publicație trimestrială din domeniile tehnologiei informației și comunicații, și domenii conexe de studiu și practică.
Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY SA 4.0 (
Taxonomia amenințărilor inteligenței artificiale