Descriere
Sfetcu, Nicolae (2023), Riscuri și provocări în inteligența artificială: Cutii negre și actorii de amenințare, IT & C, 2:1, 41-47, DOI: 10.58679/IT21269, https://www.internetmobile.ro/riscuri-si-provocari-in-inteligenta-artificiala-cutii-negre-si-actorii-de-amenintare/
Risks and Challenges in Artificial Intelligence: Black Boxes and Threat Actors
Abstract
Artificial intelligence has created unprecedented opportunities, but also new risks. The exponential increase in the capabilities of artificial intelligence models enables previously unattainable levels of value and generalization. However, the opacity of these models has also increased, and their black-box nature makes it difficult, even for experts, to explain the rationale behind their conclusions. This may represent a technological and social critical point, as the risk is real, as evidenced by recent episodes, of training systems being compromised by discrimination biases that have learned from training data. It is therefore possible that learning from digital traces of past decisions can lead to existing invisible biases being incorporated into the resulting patterns, perpetuating them.
Keywords: artificial intelligence, risks, challenges, black boxes, threats
Rezumat
Inteligența artificială a creat oportunități fără precedent, dar și noi riscuri. Creșterea exponențială a capabilităților modelelor de inteligența artificială permite atingerea unor niveluri de valoare și generalizare neatinse până acum. Cu toate acestea, opacitatea acestor modele a crescut, de asemenea, iar natura lor de cutie neagră face dificilă, chiar și pentru experți, explicarea justificării concluziilor lor. Acest lucru poate reprezenta un punct critic din punct de vedere tehnologic și social, deoarece riscul este real, după cum demonstrează episoadele recente, ale sistemelor de antrenament care sunt compromise de părtiniri și prejudecăți de discriminare, care au învățat din datele de instruire. Prin urmare, este posibil ca învățarea din urmele digitale ale deciziilor trecute să poată duce la încorporarea prejudecăților invizibile existente în modelele rezultate, perpetuându-le.
Cuvinte cheie: inteligența artificială, riscuri, provocări, cutii negre, amenințări
IT & C, Volumul 2, Numărul 1, Martie 2023, pp. xx-xx
ISSN 2821 – 8469, ISSN – L 2821 – 8469, DOI: 10.58679/IT21269
URL: https://www.internetmobile.ro/riscuri-si-provocari-in-inteligenta-artificiala-cutii-negre-si-actorii-de-amenintare/
© 2023 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.
Acesta este un articol cu Acces Deschis (Open Access) distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.
Recenzii
Nu există recenzii până acum.