Cunoașterea Științifică, Volumul 1, Numărul 1, Septembrie 2022

postat în: Știri 0

Cunoașterea Științifică, Volumul 1, Numărul 1, Septembrie 2022Revista Cunoașterea Științifică este o publicație trimestrială din domeniile științei și filosofiei, și domenii conexe de studiu și practică.

Cuprins:

EDITORIAL
Cunoașterea, de Nicolae Sfetcu
Cuvânt introductiv pentru (și despre) „Cunoașterea Științifică”, de Adrian Klein

ȘTIINȚE NATURALE
Teste gravitaționale, de Nicolae Sfetcu
Inside, and Beyond „Nothingness”, de Adrian Klein și Robert Neil Boyd

ȘTIINȚE SOCIALE
Fondarea Uniunii Europene și evoluția tratatelor comunității europene, de Alexandru Cristian
Istoria eugeniei, de Nicolae Sfetcu
Contextul intrării României în al Doilea Război Mondial, de Nicolae Sfetcu

ȘTIINȚE FORMALE
Ontologii de intreprindere în tehnologia blockchain, de Nicolae Sfetcu

FILOSOFIE
Platon: Biografia, de Nicolae Sfetcu

RECENZII CĂRȚI
Lebăda Neagră, un risc asumat – Merită?, de Nicolae Sfetcu

ISSN 2821– 8086 ISSN – L 2821 – 8086, DOI: 10.58679/CS18266

Cunoașterea Științifică, Volumul 1, Numărul 1, Septembrie 2022

 

Filosofia tehnologiei blockchain

IT & C - Descarcă PDFSfetcu, Nicolae (2023), Filosofia tehnologiei blockchain, IT & C, 2:2, 3-6, DOI: 10.58679/IT40292, https://www.internetmobile.ro/filosofia-tehnologiei-blockchain/

 

The philosophy of blockchain technology

Abstract

The concept of digital heterotopia implies a way to describe and analyze the special and evolving relationship between the contemporary state and digital money, including blockchain-driven cryptocurrencies. The characteristics of the state are affected by the connection with digital currencies. Social systems create their own boundaries and sustain themselves according to their internal logic, which does not derive from the system’s environment. So social systems are operationally closed and autonomous – they interact with their environment and there is a general increase in entropy, but individual systems work to maintain themselves and preserve their internal order.

Keywords: blockchain technology, blockchain, philosophy, digital heterotopia

Rezumat

Conceptul de heterotopie digitală implică o modalitate de a descrie și analiza relația specială și evolutivă dintre statul contemporan și banii digitali, inclusiv criptovalutele derulate prin blockchain. Caracteristicile statului sunt afectate prin conexiunea cu monedele digitale. Sistemele sociale își creează propriile limite și se mențin în viață conform logicii lor interne, care nu derivă din mediul sistemului. Deci, sistemele sociale sunt închise din punct de vedere operațional și autonome – interacționează cu mediul lor și există o creștere generală a entropiei, dar sistemele individuale lucrează pentru a se menține și pentru a-și păstra ordinea internă.

Cuvinte cheie: tehnologia blockchain, blockchain, filosofia, heterotopia digitală

 

IT & C, Volumul 2, Numărul 1, Martie 2023, pp. 3-6
ISSN 2821 – 8469, ISSN – L 2821 – 8469, DOI: 10.58679/IT40292
URL: https://www.internetmobile.ro/filosofia-tehnologiei-blockchain/
© 2023 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Filosofia tehnologiei blockchain

Nicolae Sfetcu

nicolae@sfetcu.com

 

Donncha Kavanagh și Gianluca Miscione introduc conceptul de heterotopie[1] digitală ca o modalitate de a descrie și analiza relația specială și evolutivă dintre statul contemporan și banii digitali, inclusiv criptovalutele derulate prin blockchain. (Miscione and Kavanagh 2015)

Caracteristicile statului sunt afectate prin conexiunea cu monedele digitale. Sistemele sociale își creează propriile limite și se mențin în viață conform logicii lor interne, care nu derivă din mediul sistemului. Deci, sistemele sociale sunt închise din punct de vedere operațional și autonome – interacționează cu mediul lor și există o creștere generală a entropiei, dar sistemele individuale lucrează pentru a se menține și pentru a-și păstra ordinea internă. Sistemele autopoietice (precum statul, cu tendința de a menține ordinea interioară cu un grad remarcabil de independență față de lumea exterioară) pot contrasta cu cele alopoietice. Rezultă un stat cu un domeniu de influență finit, dar tulburat în ultimul timp de noile forme de bani digitali și infrastructurile corespunzătoare.

În general, lumea actuală este polarizată politic, cu foarte puține excepții. Noile sisteme monetare, precum criptovalutele, se încadrează în aceste excepții, existând tendința de decuplare a acestora de stat.

Satoshi Nakamoto, în proiectarea celei mai puternice criptovalute, a luat în considerare practic o lume imaginară populată de indivizi care nu au încredere între ei. În conformitate cu ideologia libertății, unul dintre obiectivele cheie a fost evitarea oricărei autorități. Soluția a fost Bitcoin, o variantă care deranjează toate infrastructurile formale actuale.

Foucault a folosit ideea heterotopiei pentru a identifica locurile în care normele și constrângerile hegemonice nu se aplică. El a folosit mai întâi termenul pentru a descrie spații cu multiple semnificații (Foucault and Miskowiec 1986) care reflectă alte spații, identificând diferite tipuri de heterotopii. Blockchain manifestă aceste atribute ale heterotopiei, la nivel digital. Blockchain este un element în creștere al „spațiului cibernetic” care a fost deja identificat ca o formă de heterotopie, (Young 1998) dar are și trăsături particulare.

În sistemul blockchain regăsim categoriile separate și opozabile ale heterotopiilor: centrul și periferia, interiorul și exteriorul, străin și local, etc. În acest spațiu, ”bibliotecile” și ”muzeele” ca tip heterotopic funcționează cu „timp de acumulare nelimitat”. (Foucault and Miskowiec 1986, 26) Deci, blockchain funcționează în conformitate cu o logică similară.

Spațiile heterotopice evită normele și structurile stabilite în favoarea proceselor alternative de ordine socială care nu limitează imaginația, alteritatea și diferența.

Tehnologii digitale pot fi interpretate și ca tehnologii notaționale, respectiv un rezultat al notării sintactice într-un câmp de referință, o versiune tehnologizată a ceea ce Nelson Goodman numea un „sistem notațional”. (Dupont 2017) Tehnologiile notaționale produc entități abstracte prin teste pozitive și fiabile, sau constitutive, teste ale sensului social acceptabil. În consecință, TB sunt eficiente în gestionarea activelor digitale, deoarece produc identități abstracte prin performanța notării. Tehnologiile digitale creează reprezentări prin abstractizarea proprietăților complexe ale obiectelor și apoi folosesc aceste identități nou formate pentru controlul și gestionarea entităților. Acest proces este apoi folosit pentru a controla și gestiona entitățile „reale”. Mai nou, aceste tehnologii pot controla și gestiona persoane și bunuri reale, bazându-se pe abilitatea lor de a abstractiza și de a gestiona identitățile.

Goodman consideră că: „Un sistem este notațional dacă și numai dacă toate obiectele care respectă inscripțiile aparțin aceleiași clase de conformitate și putem, teoretic, să determinăm că fiecare marcă aparține, și fiecare obiect respectă inscripțiile, a cel mult unui caracter particular”. (Goodman 1968, 156) Codurile, precum codul binar, codul mașinii și codul software, se consideră a fi un fel de scriere. Există o prăpastie ontologică între scrierea alfabetică (cod uman) și Javascript (cod pentru computere). Dar există o traducere simplă și fără probleme între Javascript și codul binar (aparent „limba” folosită de computere).

TB este un artefact al interacțiunii asincrone a unei rețele de mii de noduri independente, cu reguli simple și algoritmice, pentru a realiza o multitudine de procese financiare. (Antonopoulos 2014, 177)

Bibliografie

  • Antonopoulos, Andreas M. 2014. Mastering Bitcoin: Unlocking Digital Cryptocurrencies. 1 edition. Sebastopol CA: O’Reilly Media.
  • Dupont, Quinn. 2017. “Blockchain Identities: Notational Technologies for Control and Management of Abstracted Entities.” 2017. https://philarchive.org.
  • Foucault, Michel, and Jay Miskowiec. 1986. “Of Other Spaces.” Diacritics 16 (1): 22–27. https://doi.org/10.2307/464648.
  • Goodman, Nelson. 1968. Languages of Art. Bobbs-Merrill.
  • Miscione, Gianluca, and Donncha Kavanagh. 2015. “Bitcoin and the Blockchain: A Coup D’État through Digital Heterotopia?” SSRN Scholarly Paper ID 2624922. Rochester, NY: Social Science Research Network. https://papers.ssrn.com/abstract=2624922.
  • Young, Sherman. 1998. “’Of Cyber Spaces: The Internet & Heterotopias.” 1998. http://journal.media-culture.org.au/9811/hetero.php.

Note

[1] Heterotopia este un concept elaborat de filosoful Michel Foucault pentru a descrie anumite spații culturale, instituționale și discursive care sunt într-un fel „diferite”: tulburătoare, intense, incompatibile, contradictorii sau transformatoare. Heterotopiile sunt lumi în lumi, care în același timp oglindesc și totuși deranjează pe cei din afara lor.

Inteligența artificială, o provocare esențială

Sfetcu, Nicolae (2023), Inteligența artificială, o provocare esențială, IT & C, 2:1, 3-6, DOI: 10.58679/IT30677Sfetcu, Nicolae (2023), Inteligența artificială, o provocare esențială, IT & C, 2:1, 3-6, DOI: 10.58679/IT30677, https://www.internetmobile.ro/inteligenta-artificiala-o-provocare-esentiala/

 

Artificial intelligence, an essential challenge

Abstract

Artificial intelligence has progressed to the point where it is an essential component in almost all sectors of today’s modern economy, with a significant impact on our private, social and political lives. It was founded on the assumption that human intelligence can be described so precisely that it can be made a machine to simulate it. This raises philosophical arguments about the mind and the ethics of creating artificial beings endowed with human-like intelligence. Artificial intelligences are a source of a whole new set of problems of explainability, accountability and trust.

Keywords: artificial intelligence

Rezumat

Inteligența artificială a progresat până la punctul în care este o componentă esențială în aproape toate sectoarele economiei moderne actuale, cu un impact semnificativ asupra vieții noastre private, sociale și politice. Ea a fost întemeiată pe presupunerea că inteligența umană poate fi descrisă atât de precis încât să poată fi făcută o mașină să o simuleze. Acest lucru ridică argumente filozofice despre minte și etica creării de ființe artificiale înzestrate cu inteligență asemănătoare omului. Inteligența artificială sunt o sursă a unui set complet nou de probleme de explicabilitate, responsabilitate și încredere.

Cuvinte cheie: inteligența artificială

 

IT & C, Volumul 2, Numărul 1, Martie 2023, pp. 3-6
ISSN 2821 – 8469, ISSN – L 2821 – 8469, DOI: 10.58679/IT30677
URL: https://www.internetmobile.ro/inteligenta-artificiala-o-provocare-esentiala/
© 2023 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Inteligența artificială, o provocare esențială

Nicolae Sfetcu

nicolae@sfetcu.com

 

Inteligența artificială a progresat până la punctul în care este o componentă esențială în aproape toate sectoarele economiei moderne actuale, cu un impact semnificativ asupra vieții noastre private, sociale și politice. Revenirea inteligenței artificiale în lumina reflectoarelor în ultimii ani este legată în principal de învățarea automată din date, care a făcut un salt înainte datorită apariției megadatelor. Practic, datele ajung la masa critică de exemple de învățat, algoritmii descoperă tipare predictive și tipare ascunse în date, iar arhitecturile de înaltă performanță reușesc să compenseze resursele de calcul și stocare necesare. Astfel, inteligența artificială a reușit să abordeze cu succes provocări deschise de lungă durată, cum ar fi înțelegerea și traducerea textelor și vorbirii, recunoașterea conținutului imaginilor și a videoclipurilor, rezumarea și abstractizarea, și alte sarcini despre care se crede că necesită inteligență.

Aplicațiile inteligenței artificiale includ motoare de căutare web avansate (de exemplu, Google), sisteme de recomandare (utilizate de YouTube, Amazon și Netflix), înțelegerea vorbirii umane (cum ar fi Siri și Alexa), mașini cu conducere autonomă (de exemplu, Tesla), luarea automată a deciziilor și concurarea la cel mai înalt nivel în sisteme de joc strategice (cum ar fi șah și go). Pe măsură ce mașinile devin din ce în ce mai capabile, sarcinile considerate a necesita „inteligență” sunt adesea eliminate din definiția inteligenței artificiale, un fenomen cunoscut sub numele de efectul IA. De exemplu, recunoașterea optică a caracterelor este adesea exclusă din lucrurile considerate a fi inteligență artificială, devenind o tehnologie de rutină.

Studiul raționamentului mecanic sau „formal” a început cu filozofii și matematicienii din antichitate. Studiul logicii matematice a condus direct la teoria calculului a lui Alan Turing, care sugera că o mașină, amestecând simboluri la fel de simple ca „0” și „1”, ar putea simula orice act imaginabil de deducție matematică. Această înțelegere conform căreia computerele digitale pot simula orice proces de raționament formal este cunoscută sub numele de teza Church-Turing.

Cu aproximativ zece ani în urmă, s-a observat că unele modele de învățare cunoscute de mult, până acum ineficiente pentru sarcinile menționate, dacă sunt generalizate în mod corespunzător și instruite pe un set mare de date de exemplu, pot face un salt calitativ. Într-adevăr, astfel de metode pot învăța, din pixelii imaginilor sau din cuvintele textelor de exemplu, „conceptele” generale care permit să recunoască și să clasifice cu precizie imagini noi și texte noi.

Etapa actuală de dezvoltare a inteligenței artificiale prezintă puncte forte și puncte slabe. Pe de o parte, capacitatea de învățare a modelelor de inteligența artificială crește, aducând progrese extraordinare în viziunea robotică și conducerea autonomă, în traducerea automată a textului și a vorbirii, în diagnosticul medical, în evaluarea riscurilor, în analiza predictivă. Pe de altă parte, decalajul cu alte aspecte ale inteligenței artificiale  crește, în special, cu raționamentul și interacțiunea persoană-mașină, aspecte centrale pentru dezvoltarea unei inteligențe artificiale umane, etice și antropocentrice, care este punctul central al abordării europene. Opacitatea și natura cutiilor negre ale modelelor de inteligența artificială sunt în creștere, împreună cu riscul de a crea sisteme expuse la prejudecăți în datele de instruire, sisteme pe care nici chiar experții nu reușesc să le înțeleagă. Instrumentele lipsesc pentru a permite dezvoltatorilor de inteligența artificială să certifice fiabilitatea modelelor lor. Este crucial să se injecteze în tehnologiile de inteligența artificială valori etice ale corectitudinii (cum să se evite deciziile neloiale și discriminatorii), acuratețea (cum să se furnizeze informații fiabile), confidențialitatea (cum să se protejeze confidențialitatea persoanelor implicate) și transparența (cum să se modele și să se ia decizii inteligibile tuturor părților interesate). Această abordare de proiectare sensibilă la valoare, care încă nu a fost pe deplin operaționalizată, este puternic necesară pentru a stimula acceptarea socială pe scară largă a inteligenței artificiale, fără a-i inhiba puterea.

Mai mult, pe măsură ce apar sisteme sociotehnice din ce în ce mai complexe, formate din mulți oameni care interacționează și sisteme inteligente și autonome, inteligența artificială capătă o dimensiune societală importantă. O observație cheie este că o mulțime de indivizi inteligenți (asistată de instrumente de inteligența artificială) nu este neapărat o mulțime inteligentă. Dimpotrivă, poate fi proastă în multe cazuri, din cauza efectelor de rețea nedorite, neintenționate și a comportamentului agregat emergent. Exemplele abundă în societatea contemporană.

Inteligența artificială a fost întemeiată pe presupunerea că inteligența umană poate fi descrisă atât de precis încât să poată fi făcută o mașină să o simuleze. Acest lucru ridică argumente filozofice despre minte și etica creării de ființe artificiale înzestrate cu inteligență asemănătoare omului. Aceste probleme au fost explorate prin mit, ficțiune și filozofie încă din antichitate. Literatura științifico-fantastică și futurologia au sugerat, de asemenea, că, cu potențialul și puterea sa enormă, inteligența artificială poate deveni un risc existențial pentru umanitate. Interacțiunea dintre alegerile individuale se poate desfășura dramatic în provocările globale legate de inegalitatea economică, durabilitatea mediului și democrația. Efectele aglomerate ale rețelei și ale societății ale AI și impactul acestora asupra societății nu sunt suficient discutate în public și nu sunt abordate suficient de cercetarea inteligenței artificiale, în ciuda importanței izbitoare de a înțelege și de a prezice rezultatele agregate ale sistemelor bazate pe inteligența artificială sociotehnice și ale proceselor sociale complexe conexe, precum și modalitatea de a evita efectele lor nocive. Astfel de efecte sunt o sursă a unui set complet nou de probleme de explicabilitate, responsabilitate și încredere, chiar presupunând că putem rezolva aceste probleme pentru un sistem individual de inteligența artificială bazat pe învățarea automată. Prin urmare, nu ne putem concentra exclusiv pe sensibilizarea cetățenilor sau instituțiilor individuale și capabile să ia decizii în cunoștință de cauză. De asemenea, trebuie să studiem efectele rețelei emergente ale mulțimilor de agenți interacționanți inteligenți, precum și proiectarea mecanismelor de colaborare distribuită care împing spre realizarea setului convenit de valori și obiective la nivel colectiv: mobilitate durabilă în orașe, diversitate și pluralismul în dezbaterea publică și distribuția echitabilă a resurselor economice. Inteligența artificială socială se dezvoltă ca un nou domeniu de investigație cu impact potențial imens, necesitând următorul pas înainte în integrarea trans-disciplinară a inteligenței artificiale cu știința datelor, științele sociale, psihologia, știința rețelelor și sistemele complexe.

 

CC BY SA 4.0Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/), care permite utilizarea, în orice mediu sub aceeași licență, cu condiția ca lucrarea originală să fie citată corect.

Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare

Sfetcu, Nicolae (2023), Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare, IT & C, 2:1, 41-47, DOI: 10.58679/IT21269Sfetcu, Nicolae (2023), Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare, IT & C, 2:1, 41-47, DOI: 10.58679/IT21269, https://www.internetmobile.ro/riscuri-si-provocari-in-inteligenta-artificiala-cutii-negre-si-actorii-de-amenintare/

 

Risks and Challenges in Artificial Intelligence: Black Boxes and Threat Actors

Abstract

Artificial intelligence has created unprecedented opportunities, but also new risks. The exponential increase in the capabilities of artificial intelligence models enables previously unattainable levels of value and generalization. However, the opacity of these models has also increased, and their black-box nature makes it difficult, even for experts, to explain the rationale behind their conclusions. This may represent a technological and social critical point, as the risk is real, as evidenced by recent episodes, of training systems being compromised by discrimination biases that have learned from training data. It is therefore possible that learning from digital traces of past decisions can lead to existing invisible biases being incorporated into the resulting patterns, perpetuating them.

Keywords: artificial intelligence, risks, challenges, black boxes, threats

Rezumat

Inteligența artificială a creat oportunități fără precedent, dar și noi riscuri. Creșterea exponențială a capabilităților modelelor de inteligența artificială permite atingerea unor niveluri de valoare și generalizare neatinse până acum. Cu toate acestea, opacitatea acestor modele a crescut, de asemenea, iar natura lor de cutie neagră face dificilă, chiar și pentru experți, explicarea justificării concluziilor lor. Acest lucru poate reprezenta un punct critic din punct de vedere tehnologic și social, deoarece riscul este real, după cum demonstrează episoadele recente, ale sistemelor de antrenament care sunt compromise de părtiniri și prejudecăți de discriminare, care au învățat din datele de instruire. Prin urmare, este posibil ca învățarea din urmele digitale ale deciziilor trecute să poată duce la încorporarea prejudecăților invizibile existente în modelele rezultate, perpetuându-le.

Cuvinte cheie: inteligența artificială, riscuri, provocări, cutii negre, amenințări

 

IT & C, Volumul 2, Numărul 1, Martie 2023, pp. xx-xx
ISSN 2821 – 8469, ISSN – L 2821 – 8469, DOI: 10.58679/IT21269
URL: https://www.internetmobile.ro/riscuri-si-provocari-in-inteligenta-artificiala-cutii-negre-si-actorii-de-amenintare/
© 2023 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare

Nicolae Sfetcu

nicolae@sfetcu.com

 

Modelele de învățare automată sunt adesea cutii negre. Logica unui model de inteligență artificială (IA) de luare a deciziilor poate fi ascunsă chiar și dezvoltatorilor și experților.

Riscuri:

  • Învățarea din date părtinitoare (fie din întâmplare, fie din necesitate);
  • Modelele instruite pentru, de exemplu, viziunea conducerii și recunoașterea obstacolelor, pot moșteni erori dăunătoare pentru siguranță;
  • Modelele de profilare pentru, de exemplu, justiția predictivă, pot moșteni discriminarea grupurilor vulnerabile cunoscute (sau noi).

Direcția de urmărit pentru atenuarea riscurilor este o IA explicabilă și de încredere, cheia unei colaborări eficiente om-mașină în luarea deciziilor cu mize mari.

IA a creat oportunități fără precedent, dar și noi riscuri. Creșterea exponențială a capabilităților modelelor IA permite atingerea unor niveluri de valoare și generalizare neatinse până acum. Cu toate acestea, opacitatea acestor modele a crescut, de asemenea, iar natura lor de cutie neagră face dificilă, chiar și pentru experți, explicarea justificării concluziilor lor. Acest lucru poate reprezenta un punct critic din punct de vedere tehnologic și social, deoarece riscul este real, după cum demonstrează episoadele recente, ale sistemelor de antrenament care sunt compromise de părtiniri și prejudecăți de discriminare, care au învățat din datele de instruire. Prin urmare, este posibil ca „învățarea din urmele digitale ale deciziilor trecute să poată duce la încorporarea prejudecăților invizibile existente în modelele rezultate, perpetuându-le”, așa cum s-a raportat în lucrarea care a lansat studiul mineritului de date conștient de discriminare în 2008 (23) .

Parafrazându-l pe Frank Pasquale, autorul cărții The black box society (1), am văzut algoritmi din ce în ce mai opaci răspândiți, folosiți pentru a deduce trăsături intime ale indivizilor. Acești algoritmi generează modele de clasificare și predicție a trăsăturilor comportamentale ale indivizilor, cum ar fi scorul de credit, riscul asigurării, starea de sănătate, înclinația către infracțiuni, preferințele și orientările personale, folosind datele personale difuzate în mediul digital de către cetățeni, cu sau uneori fără conștientizarea lor . Astfel de sisteme automate de luare a deciziilor sunt adesea cutii negre care, respectând caracteristicile utilizatorilor, prezic o clasă, o judecată, un vot și sugerează decizii; dar fără a explica motivul predicției sau recomandării propuse. Nu este doar o chestiune de transparență. Modelele sunt instruite pe exemple reconstituite pe baza urmelor digitale ale activităților utilizatorilor, cum ar fi mișcări, achiziții, căutări online, opinii exprimate pe rețelele de socializare. Drept urmare, modelele moștenesc părtinirile și defectele – prejudecăți – care sunt ascunse în datele de instruire, ascunzându-le, la rândul lor, în algoritmii de decizie care riscă să sugereze alegeri neloiale, discriminatorii sau pur și simplu greșite, posibil fără conștientizarea factorul de decizie și subiectul deciziei finale. Dacă o casetă de chat, o IA care conversează cu utilizatorii de pe rețelele de socializare, învață din exemplele greșite, de exemplu, rostirea rasistă, va fi rasistă la rândul ei – și creatorii săi vor trebui să o elimine rapid și în tăcere. Multe cazuri care s-au întâmplat deja, precum cel al botului Twitter Tay lansat de Microsoft în 2016 și închis rapid după ce a ajuns la un comportament ofensator și rasist din conversațiile online (2), ne avertizează că delegarea alegerilor către algoritmii cutiei negre poate fi o idee rea.

Inteligența artificială (AI) permite luarea automată a deciziilor și facilitează multe aspecte ale vieții de zi cu zi, aducând cu ea îmbunătățiri ale operațiunilor și numeroase alte beneficii. Cu toate acestea, sistemele AI se confruntă cu numeroase amenințări la adresa securității cibernetice, și AI în sine trebuie să fie securizat, deoarece au fost deja raportate cazuri de atacuri rău intenționate, de ex. Tehnicile AI și sistemele bazate pe AI pot duce la rezultate neașteptate și pot fi modificate pentru a manipula rezultatele așteptate (3) (4) (5). Prin urmare, este esențial să înțelegem peisajul amenințărilor AI și să existe o bază comună și unificatoare pentru înțelegerea potențialului amenințărilor și, în consecință, pentru a realiza evaluări specifice ale riscurilor. Acestea din urmă vor sprijini implementarea unor măsuri și controale de securitate direcționate și proporționale pentru a contracara amenințările legate de AI.

Cutii negre

Compas, deținut de Northpointe Inc., este un model predictiv al riscului de recidivă penală, folosit până de curând de diferite curți de justiție din SUA în sprijinul deciziilor judecătorilor cu privire la cererile de eliberare. Jurnaliștii de la Propublica.org au colectat mii de cazuri de utilizare ale modelului și au arătat că are o puternică părtinire rasistă: negrii care nu vor mai comite o crimă vor primi un risc dublu comparativ cu albii în aceleași condiții (6). Modelul, dezvoltat cu tehnici de învățare automată (Machine Learning), probabil a moștenit părtinirea prezentă în sentințele istorice și este afectat de faptul că populația penitenciară americană reprezintă mult mai mult negrii decât albii;

Primele trei agenții de risc de credit din Statele Unite, Experian, TransUnion și Equifax sunt adesea discordante. Într-un studiu de 500.000 de cazuri, 29% dintre solicitanții de credit au avut o evaluare a riscurilor cu diferențe de peste 50 de puncte între cele trei companii, ceea ce poate însemna diferențe de zeci de mii de dolari în interesele generale. O astfel de variabilitate largă sugerează ipoteze de evaluare foarte diferite, precum și opace, sau un arbitrar puternic (7);

În anii 1970 și 1980, Școala de Medicină a Spitalului St. George din Londra a folosit software pentru a filtra cererile de locuri de muncă, care s-a dovedit ulterior a fi extrem de discriminatoriu față de femei și minoritățile etnice, deduse prin prenume și locul nașterii. Discriminarea algoritmică nu este un fenomen nou și nu se datorează neapărat învățătii automate (8);

Un clasificator bazat pe învățarea profundă (Deep Learning) poate fi foarte precis în ceea ce privește datele de antrenament și, în același timp, complet nefiabil, de exemplu, dacă a învățat din date de calitate proastă. Într-un caz de recunoaștere a imaginilor menite să distingă lupii husky într-un set mare de date, cutia neagră rezultată a fost disecată de cercetători doar pentru a afla că decizia de a clasifica o imagine ca „lup” s-a bazat exclusiv pe zăpada din fundal (9) ! Vina, desigur, nu este a învățării profunde, ci a alegerii accidentale a exemplelor de antrenament în care, evident, fiecare lup fusese fotografiat pe zăpadă. Deci, un husky în zăpadă este clasificat automat ca lup. Transmutând acest exemplu asupra sistemului de viziune al mașinii noastre cu conducere automată: cum putem fi siguri că va putea recunoaște corect fiecare obiect din jurul nostru?

Diverse studii, precum cel menționat în nota (10), arată că textele de pe web (dar și de pe media în general) conțin părtiniri și prejudecăți, precum faptul că numele albilor sunt mai des asociate cu cuvinte cu o sarcină emoțională pozitivă, în timp ce numele persoanelor de culoare sunt mai des asociate cu cuvinte cu o sarcină emoțională negativă. Prin urmare, modelele instruite pe texte pentru analiza sentimentelor și opiniilor sunt foarte susceptibile de a moșteni aceleași prejudecăți;

Jurnaliștii de date Bloomberg (11) au arătat cum modelul automat, utilizat de Amazon pentru a selecta cartierele orașelor americane pentru a oferi „livrare în aceeași zi” gratuit, are o prejudecată etnică. Software-ul, fără știrea companiei, exclude în mod sistematic din ofertă zonele locuite de minorități etnice în multe orașe, inclusiv în vecinătate. Amazon a răspuns la ancheta jurnalistică că nu era la curent cu această practică, deoarece modelul de învățare automată era total autonom și își baza alegerile pe activitatea anterioară a clienților. Pe scurt, este vina algoritmului.

Actorii de amenințare

Există diferite grupuri de actori ai amenințărilor care ar putea dori să atace sistemele AI folosind mijloace cibernetice (12).

Infractorii cibernetici sunt motivați în primul rând de profit. Infractorii cibernetici vor avea tendința de a utiliza AI ca instrument pentru a conduce atacuri, dar și pentru a exploata vulnerabilitățile sistemelor AI existente (13). De exemplu, ar putea încerca să pirateze chatbot-uri activate cu AI pentru a fura cardul de credit sau alte date. Alternativ, aceștia pot lansa un atac ransomware împotriva sistemelor bazate pe inteligență artificială utilizate pentru gestionarea lanțului de aprovizionare și depozitare.

Personalul companiei, inclusiv angajații și contractanții care au acces la rețelele unei organizații, pot implica fie pe cei care au intenții rău intenționate, fie pe cei care pot dăuna companiei în mod neintenționat. De exemplu, persoanele din interior rău intenționate ar putea încerca să fure sau să saboteze setul de date utilizat de sistemele AI ale companiei. În schimb, persoanele care nu sunt rău intenționate pot corupe accidental un astfel de set de date.

Actorii de stat național și alți atacatori sponsorizați de stat sunt, în general, avansați. Pe lângă dezvoltarea modalităților de a folosi sistemele AI pentru a ataca alte țări (inclusiv industriile și infrastructurile critice), precum și utilizarea sistemelor AI pentru a-și apăra propriile rețele, actorii din statele naționale caută în mod activ vulnerabilități în sistemele AI pe care le pot exploata. Acest lucru ar putea fi un mijloc de a provoca prejudicii unei alte țări sau ca un mijloc de colectare de informații.

Alți actori de amenințare includ teroriștii, care încearcă să provoace daune fizice sau chiar pierderi de vieți. De exemplu, teroriștii pot dori să spargă mașini fără șofer pentru a le folosi ca armă.

Hacktiviștii, care au tendința de a fi în mare parte motivați ideologic, pot încerca, de asemenea, să pirateze sistemele AI pentru a arăta că se poate face. Există un număr tot mai mare de grupuri preocupate de potențialele pericole ale AI și nu este de neconceput că ar putea pirata un sistem AI pentru a obține publicitate. Există, de asemenea, actori de amenințări nesofisticați, cum ar fi hackerii amatori (haxori), care pot fi motivați penal sau ideologic. Aceștia sunt, în general, persoane necalificate care folosesc scripturi sau programe pre-scrise pentru a ataca sistemele, deoarece le lipsește expertiza necesară pentru a le scrie pe ale lor. Dincolo de actorii tradiționali ai amenințărilor discutați mai sus, devine din ce în ce mai necesar să se includă și concurenții ca actori ai amenințărilor, deoarece unele companii au din ce în ce mai mult intenția de a-și ataca rivalii pentru a câștiga cotă de piață. (14)

Bibliografie

  1. F. Pasquale, The black box society, Harvard University Press 2015
  2. Tay (bot) https://en.wikipedia.org/wiki/Tay_(bot) [19-4-2020].
  3. A se vedea https://www.idgconnect.com/news/1506124/deepfakes-ai-deceives, septembrie 2020
  4. A se vedea https://thenewstack.io/camouflaged-graffiti-road-signs-can-fool-machine-learning-models/, septembrie 2017
  5. A se vedea https://www.media.mit.edu/publications/adversarial-attacks-on-medical-machine-learning/, martie 2019
  6. Machine Bias https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing [19-4-2020].
  7. R. Carter – H.V. Auken., Small firm bankruptcy, Journal of Small Business Management 2006, 44: pp. 493-512
  8. S. Lowry – G. Macpherson, A blot on the profession, British medical journal (Clinical research ed.) 1988, pp. 657
  9. M.T. Ribeiro et al., „Why should I trust you?” Explaining the predictions of any classifier, Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining 2016, pp. 1135-1144
  10. A. Caliskan Islam et al., Semantics derived automatically from language corpora necessarily contain human biases, arXiv preprint arXiv:1608.07187 2016
  11. Amazon Doesn’t Consider the Race of Its Customers. Should It? https://www.bloomberg.com/graphics/2016-amazon-same-day/ [19-4-2020].
  12. Având în vedere natura largă a sistemelor AI și implementarea lor în diverse sectoare, listarea este generică și nu implică o clasare a probabilității ca un actor de amenințare să atace sistemele AI.
  13. Pe măsură ce AI-as-a-service câștigă teren, astfel de sisteme vor fi din ce în ce mai disponibile pentru actorii care nu se pricep la tehnică.
  14. Vezi, Sailio, M.; Latvala, O.-M.; Szanto, A. Cyber Threat Actors for the Factory of the Future. Appl. Sci. 2020, 10, 4334 https://www.mdpi.com/2076-3417/10/12/4334/htm

 

Sursa: Sfetcu, Nicolae (2022). Introducere în inteligența artificială, MultiMedia Publishing, ISBN 978-606-033-659-4, https://www.telework.ro/ro/e-books/introducere-in-inteligenta-artificiala/

 

Creative Commons CC BY 4.0Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.

1 … 33 34 35 36 37 38 39 … 47