Cum funcționează Internetul

Mendez, Michael (2022), Cum funcționează Internetul, IT & C, 1:2, 35-42. Traducere și adaptare independente: Nicolae SfetcuMendez, Michael (2022), Cum funcționează Internetul, IT & C, 1:2, 35-42. Traducere și adaptare independente: Nicolae Sfetcu, https://www.internetmobile.ro/cum-functioneaza-internetul/

 

Rezumat

O adresă IP (Internet Protocol) este un cod unic care identifică un echipament conectat la o rețea. Aceste adrese sunt utilizate în mesaje între dispozitive de rețea, cum ar fi rețeaua sau cardul wireless din computer, echipamentele de la ISP (furnizor de servicii de internet) și toate echipamentele dintre aparatul dvs. și cel cu care computerul dvs. trebuie să vorbească.

Adresele IP se găsesc în stratul de rețea, care este unul dintre cele șapte straturi din suita de protocol definită în modelul OSI (Open Systems Interconnection). Modelul OSI reprezintă interconectarea sistemelor deschise și a fost creat de Organizația Internațională pentru Standardizare, un grup internațional neguvernamental de profesioniști care se străduiesc să stabilească standarde și bune practici într-o varietate de domenii. Modelul OSI pentru rețea împarte sistemul de transmitere a datelor în straturile prezentate mai jos, în încercarea de a delimita unde ar trebui să aibă loc anumite acțiuni.

 

Cuvinte cheie: Internet, IP, URL, porturi, găzduire

 

Abstract

An Internet Protocol (IP) address is a unique code that identifies a piece of equipment connected to a network. These addresses are used in messages between network devices, such as your computer’s network or wireless card, equipment from your ISP (Internet Service Provider), and all the equipment between your machine and the one your computer needs to talk to. IP addresses are found in the network layer, which is one of seven layers in the protocol suite defined in the Open Systems Interconnection (OSI) model. The OSI model stands for Open Systems Interconnection and was created by the International Organization for Standardization, an international non-governmental group of professionals who strive to establish standards and best practices in a variety of fields. The OSI network model divides the data transmission system into the layers shown below in an attempt to delineate where certain actions should take place.

 

Keywords: Internet, IP, URL, ports, hosting

 

IT & C, Volumul 1, Numărul 2, Decembrie 2022, pp. 35-42
ISSN 2821 – 8469, ISSN – L 2821 – 8469
URL: https://www.internetmobile.ro/cum-functioneaza-internetul/
© 2022 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor. Responsabilitatea traducerii revine translatorului. Licența CC BY-NC-SA 3.0.

 

Creative Commons CC BY 4.0Acesta este un articol cu Acces Deschis distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.

This is an Open Access article distributed under the terms of the Creative Commons Attribution License CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited.

 

Cum funcționează Internetul

Michael Mendez

 

Adrese IP

Topologie de rețea.
Sursa: Kbrose, Wikipedia, CC Attribution-Share Alike 3.0 Unported license. Traducere și adaptare: Nicolae Sfetcu

(Topologie de rețea.)

O adresă IP (Internet Protocol) este un cod unic care identifică un echipament conectat la o rețea. Aceste adrese sunt utilizate în mesaje între dispozitive de rețea, cum ar fi rețeaua sau cardul wireless din computer, echipamentele de la ISP (furnizor de servicii de internet) și toate echipamentele dintre aparatul dvs. și cel cu care computerul dvs. trebuie să vorbească.

Adresele IP se găsesc în stratul de rețea, care este unul dintre cele șapte straturi din suita de protocol definită în modelul OSI (Open Systems Interconnection). Modelul OSI reprezintă interconectarea sistemelor deschise și a fost creat de Organizația Internațională pentru Standardizare, un grup internațional neguvernamental de profesioniști care se străduiesc să stabilească standarde și bune practici într-o varietate de domenii. Modelul OSI pentru rețea împarte sistemul de transmitere a datelor în straturile prezentate mai jos, în încercarea de a delimita unde ar trebui să aibă loc anumite acțiuni.

 

Model OSI cu 7 straturi.
Sursa: MrsValdry, Wikimedia, CC Attribution-Share Alike 3.0 Unported license. Traducere și adaptare: Nicolae Sfetcu)

(Model OSI cu 7 straturi.)

Cele șapte straturi descrise mai sus alcătuiesc suita de protocol recomandată a corpului OSI. În diagramă, transmiterea datelor traversează două routere și Internetul pentru a ajunge la destinație. Urmărind datele de-a lungul săgeților, le vedem trecând prin diferite straturi de comunicare și procesare pe măsură ce traversează rețeaua internă, prin primul router, prin rețeaua publică (conexiune la internet), către routerul destinatarului și apoi este reasamblat în forma sa originală.

Până de curând, majoritatea echipamentelor de rețea au funcționat pe IPv4, al patrulea standard lansat pentru adresele IP, care este în vigoare de aproximativ treizeci de ani. Adresele în acest format sunt de obicei reprezentate ca un model de patru blocuri de până la trei cifre separate prin puncte, fără bloc de numere care depășește 255, cum ar fi 127.0.0.1 sau 24.38.1.251. Aceasta este denumită reprezentare punct-zecimală și, deși nu este singura modalitate de a exprima o adresă IPv4, aceasta este cea mai recunoscută formă. Segmentele de adrese cuprinse între 192.168.xxx.xxx, 172.16.xxx.xxx la 172.31.xxx.xxx și 10.0.xxx.xxx la 10.255.xxx.xxx sunt rezervate rețelelor private, ceea ce înseamnă că sunt utilizate în rețea în casa dvs., la serviciu sau în orice alt loc în care un grup de computere partajează o conexiune la internet.

Fiecare dintre aceste rețele utilizează unul sau mai multe dintre aceste blocuri de numere pentru dispozitivele din acea rețea. Doar echipamentele care conectează rețeaua locală la Internet au nevoie de o adresă unică față de restul lumii. Echipamentul respectiv va urmări computerul din rețea pentru a trimite date către și de la, citind pachete – bucățile individuale de mesaje care sunt trimise prin rețele. Aceasta înseamnă că computerul dvs. ar putea fi 192.168.1.25 acasă, la fel și computerul dvs. la locul de muncă, în funcție de rețelele de acasă și de serviciu. Conexiunea dintre casa și biroul dvs. are un număr diferit, unic atribuit lor.

Această separare a rețelelor a fost făcută pentru a reduce viteza cu care au fost consumate adresele unice. Deși această schemă permite aproape 4,3 miliarde de adrese (cu precizie, 232) de adrese, ultima a fost atribuită oficial pe 4 februarie 2012. Pentru a susține numărul tot mai mare de dispozitive de astăzi, a fost creat IPv6, care este prezentat ca opt blocuri de patru cifre hexazecimale acum separate prin două puncte. Aceste noi adrese ar putea arăta ca 2001: 0db8: 85a3: 0042: 1000: 8a2e: 0370: 7334 și pot accepta aproximativ 4 miliarde de adrese unice. Deoarece noul interval este atât de uimitor de mare, au fost create protocoale suplimentare care spun când anumite valori sau intervale sunt utilizate în adrese. Acest lucru permite transmiterea informațiilor suplimentare despre dispozitiv doar de la adresă.

Pachetul IP versiunea 4.
Sursa: Nicolargo, Wikimedia, CC Attribution-Share Alike 3.0 Unported license. Traducere și adaptare: Nicolae Sfetcu

(Pachetul IP versiunea 4.)

Mesajele reale trimise între mașini sunt împărțite în mai multe piese. Aceste piese, numite pachete, sunt trimise bucată cu bucată de la expeditor la destinatar. Fiecare pachet este trimis în cel mai rapid mod posibil, ceea ce înseamnă că unele pachete pot lua rute diferite – imaginați-vă o scurtătură sau o ieșire de pe un drum aglomerat pentru a merge pe unul diferit. Acest lucru vă ajută să vă asigurați că mesajul ajunge de la expeditor la receptor cât mai repede posibil, dar înseamnă, de asemenea, că pachetele pot ajunge într-o ordine diferită de cele trimise.

NOTE ADIȚIONALE

Hexadecimal este o schemă numerică, care permite de la 0 la 9 și de la A la F ca valori unice, ceea ce înseamnă că putem număra până la 15 cu un singur caracter.

Pentru a explica acest lucru, fiecare piesă din mesaj, sau încărcătură utilă, este ambalată într-un antet – informații suplimentare care descriu câte alte bucăți există, ce protocol este utilizat, de unde a venit și unde îndreaptă pachetul, împreună cu unele alte informații conexe.

După ce pachetele sunt reasamblate, computerul receptor trimite toate răspunsurile necesare și procesul se repetă. Toate acestea au loc în fracțiuni de secundă, începând cu „salut” sau pachetul de strângere de mână pentru a anunța o cerere de comunicare, până la ultima piesă a pachetului.

URL

Întrucât la majoritatea dintre noi ne-ar fi greu să ne amintim ce adresă IP este necesară pentru a ajunge la, să zicem, Facebook (173.252.100.16) sau Weather Channel (96.8.80.132), folosim în schimb URL-uri, localizatori universali de resurse (universal resource locators). Acest lucru ne permite să folosim www.facebook.com și www.weather.com pentru a ajunge acolo unde vrem să mergem fără a face referire la o listă lungă de adrese IP. Serverele specializate (numite servere de nume) din întreaga lume sunt responsabile pentru a răspunde la solicitările din partea computerelor pentru aceste informații. Când introduceți facebook.com în bara de adrese, dacă routerul dvs. nu are o notă proprie cu privire la locul unde se află, va „întreba” un server de nume, care îl va căuta în înregistrările sale și va răspunde.

Există trei părți ale unei adrese de rețea: protocolul, numele și ID-ul resursei. Protocolul reprezintă modul în care dorim să trimitem și să primim mesaje, de exemplu putem folosi http:// pentru accesarea site-urilor web și ftp:// pentru mutarea fișierelor. Numele este ceea ce asociem site-ului, cum ar fi www.facebook.com, iar ID-ul resursei, sau URI, este totul după aceea, care indică fișierul special pe care vrem să îl vedem.

Porturi

În timp ce o adresă IP și o adresă URL vă vor duce la un anumit server web, este posibil să existe mai multe moduri în care doriți să interacționați cu acesta sau mai multe lucruri pe care doriți să le facă. Poate doriți ca serverul să ofere servicii de e-mail sau doriți să utilizați FTP pentru a vă actualiza fișierele. Aceste porturi acționează ca niște uși diferite în serverul dvs., astfel încât aplicații diferite pot comunica fără a se împiedica reciproc. Anumite porturi sunt de obicei utilizate pentru anumite activități, de exemplu portul 80 este portul standard pentru traficul web (browserul dvs. vizualizează o pagină), spre deosebire de ftp, care folosește de obicei portul 21. Utilizarea porturilor standard nu este o regulă, deoarece aplicațiile pot să fie configurate pentru a utiliza orice număr de port disponibil, dar este recomandat în majoritatea cazurilor, deoarece firewall-urile și alte dispozitive de securitate pot necesita configurări suplimentare pentru a le împiedica să blocheze traficul dorit dacă ajunge la un port neobișnuit, cu protecții sau „închis”.

Facilități de găzduire

Dacă utilizați un server care nu se află sub controlul dvs. fizic și este administrat de o terță parte din afara site-ului, atunci probabil că aveți un acord cu o firmă de găzduire. Facilitățile de găzduire sunt de obicei companii cu scop lucrativ care gestionează echipamentul fizic necesar pentru a oferi acces la site-uri web pentru un număr de clienți. Mulți oferă, de asemenea, servicii de dezvoltare și gestionare web.

NOTE ADITIONALE

Up Time este timpul mediu în care toate serviciile de pe un server sunt operaționale și accesibile utilizatorilor finali. Este o măsurare tipică a capacității unei companii de găzduire de a furniza serviciile pe care le promit.

Avantajul utilizării unui serviciu de găzduire se încadrează în aceleași principii ca și alte servicii de cloud computing. Plătiți pentru a închiria echipamente și / sau servicii în loc să investiți în echipamente și să gestionați singur serverul și conexiunea la internet. În plus, facilitățile de găzduire sunt echipate cu surse de alimentare de rezervă, precum și conexiuni redundante la internet, și pot avea chiar mai multe facilități care sunt dispersate fizic, asigurând clienților lor cel mai bun timp de funcționare posibil. Anunțurile sunt comune acestor servicii, și adesea subliniază cele mai bune caracteristici ale acestora. Concurența la prețuri asigură o găzduire relativ accesibilă pentru cei care nu caută servere dedicate și se simt confortabil cu partajarea resurselor serverului (virtual) cu alți clienți.

Registrator de domeniu

Registratorii de domenii coordonează serverele de nume care transformă adresele URL în adresele IP care ne duc la destinații. Aceste companii sunt locul în care înregistrați numele disponibile pentru a permite altora să vă găsească site-ul. Unul dintre cei mai recunoscuți registratori în acest moment este GoDaddy. La fel ca mulți registratori, GoDaddy oferă și alte servicii, cum ar fi găzduirea web și e-mail, precum și dezvoltarea web, în ​​efortul de a rezolva toate nevoile site-ului dvs. web.

 

Sursa: Michael Mendez, The Missing Link – An Introduction to Web Development and Programming (CC BY-NC-SA 3.0 License), Published by Open SUNY Textbooks, Milne Library (IITG PI), State University of New York at Geneseo. Traducere și adaptare independente: Nicolae Sfetcu

Securitatea informațiilor în lucrul cu megadate pe Internet

Sfetcu, Nicolae (2022), Securitatea informațiilor în lucrul cu megadate pe Internet, IT & C, 1:2, 74-84Sfetcu, Nicolae (2022), Securitatea informațiilor în lucrul cu megadate pe Internet, IT & C, 1:2, 74-84, DOI: 10.58679/IT75075, https://www.internetmobile.ro/securitatea-informatiilor-in-lucrul-cu-megadate-pe-internet/

 

Rezumat

Securitatea megadatelor (big data) presupune aderarea la conceptele de comportament etic corect și greșit în ceea ce privește datele, în special datele cu caracter personal. Etica big data pune accentul pe colectorii și diseminatorii de date structurate sau nestructurate. Securitatea și confidențialitatea informațiilor este susținută, la nivelul UE, de o amplă documentație, prin care se încearcă să se găsească soluții concrete pentru maximizarea valorii informațiilor fără a sacrifica drepturile fundamentale ale omului. Autoritatea Europeană pentru Protecția Datelor (AEPD) sprijină dreptul la viață privată și dreptul la protecția datelor cu caracter personal în respectul demnității umane.

 

Cuvinte cheie: securitatea informațiilor, securitate, informații, megadate, big data, Internet, confidențialitate, GDPR

 

Abstract

Big data security involves adhering to the concepts of right and wrong ethical behavior with respect to data, especially personal data. Big data ethics focuses on the collectors and disseminators of structured or unstructured data. Information security and privacy is supported, at EU level, by extensive documentation, which seeks to find concrete solutions to maximize the value of information without sacrificing fundamental human rights. The European Data Protection Authority (EDPS) supports the right to privacy and the right to the protection of personal data respecting human dignity.

 

Keywords: information security, security, information, megadata, big data, Internet, privacy, GDPR

 

IT & C, Volumul 1, Numărul 2, Decembrie 2022, pp. 74-84
ISSN 2821 – 8469, ISSN – L 2821 – 8469
URL: https://www.internetmobile.ro/securitatea-informatiilor-in-lucrul-cu-megadate-pe-internet/
© 2022 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Creative Commons CC BY 4.0Acesta este un articol cu Acces Deschis distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.

This is an Open Access article distributed under the terms of the Creative Commons Attribution License CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited.

 

Securitatea informațiilor în lucrul cu megadate pe Internet

Nicolae Sfetcu

 

Securitatea informațiilor presupune aderarea la conceptele de comportament corect și greșit în ceea ce privește datele, în special datele cu caracter personal. Etica megadatelor pune accentul pe colectorii și diseminatorii de date structurate sau nestructurate.

Securitatea și confidențialitatea informațiilor este susținută, la nivelul UE, de o amplă documentație, prin care se încearcă să se găsească soluții concrete pentru maximizarea valorii Big Data fără a sacrifica drepturile fundamentale ale omului. Autoritatea Europeană pentru Protecția Datelor (AEPD) sprijină dreptul la viață privată și dreptul la protecția datelor cu caracter personal în respectul demnității umane. Conform acestor documente, trebuie să se depășească conflictul conceptual dintre viața privată și Big Data,și între intimitate și inovație.  Este esențial să se identifice modalitățile de includere a dimensiunii etice în conceperea inovațiilor. (European Economic and Social Committee 2017)

Conform noului Regulament al UE 2016/679, operatorii de date trebuie să pună în aplicare măsurile de confidențialitate și tehnologiile de îmbunătățire a confidențialității  în momentul determinării modalităților de procesare și al procesării în sine. Prin ENISA75 au fost identificate multe strategii de confidențialitate prin design (minimizarea datelor, ascunderea datelor cu caracter personal și interconexiunile acestora, prelucrarea separată a datelor cu caracter personal, alegerea celui mai înalt nivel de agregare, transparența, monitorizarea, politica de confidențialitate, aspecte legale).

O modalitate de bază pentru coexistența pașnică dintre exploatarea Big Data și protecția datelor este controlul, de către utilizator, a datelor personale, ceea ce conduce la transparență și încredere între utilizatori și furnizorii de servicii digitale.  După cum s-a subliniat în evaluarea impactului GDPR,

„Construirea încrederii în mediul online este esențială pentru dezvoltarea economică. Lipsa de încredere îi face pe consumatori să ezite să cumpere online și să adopte noi servicii, inclusiv serviciile publice de e-guvernare. Dacă nu este abordată, această lipsă de încredere va continua să încetinească dezvoltarea utilizărilor inovatoare ale noilor tehnologii, să acționeze ca un obstacol în calea creșterii economice și să blocheze sectorul public în a profita de beneficiile potențiale ale digitalizării serviciilor sale.”

În cazul Big Data modelele tradiționale de consimțământ sunt insuficiente și depășite. ”Consimțământul ar trebui să fie suficient de granular pentru a acoperi toate procesele diferite și scopurile de prelucrare și reutilizare a datelor cu caracter personal.” (European Economic and Social Committee 2017)

O problemă specială este portabilitatea datelor, susținută la nivelul UE de AEPD în Avizul 7/2015, (MORO 2016) unde se impune garantarea dreptului cetățenilor de a accesa și corecta datele personale printr-un control extins. Portabilitatea datelor poate ajuta la creșterea gradului de conștientizare și control al consumatorilor prin transferul între servicii online.

AEPD consideră că datele cu caracter personal ar trebui să fie tratate la fel ca alte resurse importante, precum petrolul, unde tranzacționarea are loc între părți la fel de bine informate (simetria informațională). În realitate, piața informațiilor cu caracter personal are un caracter de asimetrie informațională, nefiind nici transparentă, nici echitabilă, clienții nefiind compensați pentru informațiile personale pe care le oferă. Astfel, portabilitatea datelor ar încuraja un mediu mai competitiv între beneficiarii acestor date, utilizatorii având posibilitatea să aleagă cui oferă atele personale.

O altă abordare pune în discuție stocarea datelor cu caracter personal, cu posibilitatea pentru utilizator de a acorda sau retrage consimțământul pentru datele sale personale. (MORO 2016) (DG Connect 2015) Stocarea datelor cu caracter personal implică un ”concept cadru și o implementare arhitecturală care transferă achiziția și controlul datelor de la un model de date distribuit la un model orientat spre utilizator.” (European Economic and Social Committee 2017) Portabilitatea datelor ar putea asigura acest deziderat.

AEPD susține promovarea beneficiarilor responsabili și reducerea birocrației în protecția datelor, prin coduri de conduită, audituri, certificări, și o nouă generație de clauze contractuale și reguli corporative obligatorii. Responsabilitatea beneficiarilor Big Data presupune instituirea unor politici interne și a unor sisteme de control conforme cu legislația în vigoare, prin soluții inteligente și dinamice care să garanteze respectarea principiilor fundamentale (minimizarea datelor, limitarea scopului, calitatea datelor, procesarea corectă și transparentă a datelor, design, limitare de stocare, integritate și confidențialitate).

Etica datelor se bazează pe următoarele principii: proprietatea (persoanele fizice dețin propriile date, transparența tranzacțiilor (utilizatorii trebuie să aibă acces transparent la proiectarea algoritmului), consimțământ (utilizatorul trebuie să fie informat și să își exprime explicit consimțământul cu privire la utilizarea datelor personale, confidențialitate (trebuie protejată confidențialitatea utilizatorilor), financiar (utilizatorul să cunoască tranzacțiile financiare rezultate din utilizarea datelor lui personale), și deschidere (seturile de date agregate să fie disponibile în mod liber).

Etica în cercetare

Termenul de studiu critic de date (SCD) implică faptul că cercetătorii investighează Big Data din perspective critice. Studierea datelor în acest context implică, pe lângă analiza lor, și încorporarea datelor în practici (cunoașterea), instituții și sisteme politice și economice, prin interacțiunea complexă dintre date și entitățile care le produc, dețin și folosesc.

Un raport al OECD (2013) subliniază că, spre deosebire de normele etice aplicate datelor obișnuite de cercetare, în cazul Big Data: (OECD 2013)

  • Colectarea de date nu a făcut obiectul unui proces formal de examinare etică.
  • Normele etice obișnuite nu vor fi implementate în cazul Big Data
  • Utilizarea datelor pentru cercetare poate să difere de scopul inițial.
  • Datele nu mai sunt deținute ca seturi discrete.

Relația dintre cei care oferă datele și cei care le folosesc este adesea indirectă și variabilă. Un raport mai recent al OECD (2016) susține că această relație este mai slabă sau inexistentă, Big Data limitând capabilitățile obișnuite. (OECD 2016)

Stocarea datelor e importantă pentru integritatea cercetării. Datele trebuie să aibă o „proveniență” clară, cu surse și procesare cunoscute, identificate și documentate.

Multe date care nu sunt colectate special pentru cercetare au standarde diferite în cercetarea datelor.

Pentru anumite date, adesea cu valoare comercială (de ex., datele colectate pe Twitter), există restricții legale privind reproducerea lor. (UK Data Service 2017)

Depozitele de date trebuie să respecte standardele de transparență și reproductibilitate.

Conștientizarea

Conștientizarea tipului de date care sunt furnizate în timpul unei înregistrări online (pentru crearea unui cont, sau un abonament, de ex.) este un fapt rar, mai ales că există posibilitatea folosirii unei identități digitale deja existente (profil Facebook, de ex.) în locul unei înregistrări separate, pentru un acces mai rapid. Astfel de situații creează o opacitate  cu privire la datele partajate între furnizorul de identitate și serviciul utilizat.

Consimțământul

Pentru utilizarea datelor cu caracter personal ale unei persoane, este nevoie de consimțământul informat și explicit exprimat al acesteia referitor la cine, când, cum și în ce scop se folosesc. Când trebuie partajate datele, aceste utilizări trebuie aduse la cunoștința persoanei. Ar trebui să fie întotdeauna posibilă retragerea consimțământului pentru viitoarele utilizări.

În analizele Big Data, se poate cunoaște foarte puțin despre utilizările viitoare intenționate ale datelor, și despre beneficiile, și riscurile implicate. Aici, există proceduri pentru consimțământul „larg” și „generic” de a împărtăși datele genomice, de ex., și în scopuri diferite. Chiar și atunci când se procedează corect, există anumite provocări practice specifice: obținerea consimțământului în cunoștință de cauză poate fi imposibil sau foarte costisitor, iar valabilitatea consimțământului este disputabil când acordul este obligatoriu pentru a accesa un serviciu.

Controlul

În lumea actuală, datele personale pot fi tranzacționate la fel ca orice monedă în implementarea Big Data. Există opinii diferite în ce măsură această situație este una etică, inclusiv cine să participe la profitul obținut din aceste tranzacționări..

În modelul de tranzacționare a datelor cu caracter personal, transmiterea datelor personale este un cadru care oferă persoanelor posibilitatea de a-și controla identitatea digitală și a crea acorduri granulare de partajare a datelor.

În prezent prinde contur ideea datelor deschise, centrată în jurul argumentului că datele ar trebui să fie disponibile în mod liber. Dorința de a partaja date variază în funcție de persoană.

În cazul copiilor, părinții sau tutorii au responsabilitatea pentru datele lor, care nu pot fi tranzacționate contra beneficii financiare.

La nivel național, un guvern este suveran asupra datelor generate și colectate. La 26 octombrie 2001 a intrat în vigoare Actul Patriot în SUA, iar la 25 mai 2018, Regulamentul general privind protecția datelor 2016/679 (GDPR) la nivelul Uniunii Europene, pentru problemele legate de protecția datelor personale.

În Big Data, relația om-date este asimetrică, bazată pe controlul datelor. ”Dreptul de a fi uitat”, adoptat la nivelul UE, este unul din elementele de bază ale controlului unui individ asupra datelor sale personale.

Transparența

Algoritmii utilizați în Big Data pot determina prejudecăți care afectează sistematic drepturile individului. De aceea, proiectarea algoritmului ar trebui să fie transparentă și inclusivă.

Guvernarea anticipativă implică analize predictive pe baza Big Data pentru a evalua potențiale comportamente, cu implicații etice care pot încuraja prejudecățile și discriminarea.

O persoană care acceptă includerea datelor sale personale în Big Data are dreptul să știe de ce se colectează datele, cum vor fi folosite, cât timp vor fi stocate, și cum pot fi modificate.

Încrederea

Încrederea în sistemele Big Data este legată de interdependențe cu confidențialitatea și conștientizarea. Până în prezent, încrederea a fost considerată din perspectivă strict tehnologică. Se speră să se realizeze arhitecturi hardware și software care ar putea crește încredere între ființe umane și obiecte, și deci o mai mare acceptanță a utilizării datelor personale.

Proprietatea

O întrebare fundamentală în etica cercetării cu Big Data este, cine deține datele? Aceasta implică subiectul drepturilor și obligațiilor asupra proprietății. În legislația europeană, GDPR indică faptul că persoanele dețin propriile date cu caracter personal.

Suma datelor personale ale unui individ formează o identitate digitală.

Protecția drepturilor morale (dreptul de a fi identificat ca sursă a datelor, și de a le controla) ale unui individ se bazează pe opinia că datele personale sunt o expresie directă a personalității acestuia, și nu pot fi transferate unei alte persoane decât, eventual, prin succesiune atunci când individul moare.

Proprietatea implică exclusivitate, respectiv restricționarea implicită a altora în ceea ce privește accesul la proprietate. O proprietate eficientă a datelor personale implică portabilitatea, posibilitatea de a folosi alternative fără a pierde din date. Standardizarea ar ajuta, de asemenea, la curățare datelor personale.

În mod efectiv, în prezent, datele sunt deținute de proprietarul senzorilor, cel care efectuează înregistrarea sau entitatea care deține senzorul.

În UE, s-a restrâns în mod progresiv posibilitatea ca datele cetățenilor UE să fie stocate în afara așa-numitului „Euro cloud”, dar nu s-a rezolvat problema datelor deja stocate și prelucrate în altă parte, și ”nu rezolvă dilema etică a modului în care proprietatea asupra datelor este definită în mod filosofic, înainte de a trece la o abordare mai degrabă a legii și a elaborării politicilor.” (European Economic and Social Committee 2017)

Supravegherea și securitatea

Din ce în ce mai multe surse de date sunt disponibile cu ajutorul tehnologiilor avansate, precum circuitele CCTV, GPS, dispozitive mobile, carduri de credit, ATM. De asemenea, supravegherea activă este o metodă de colectare a datelor, dar în același timp de limitare a libertăților cetățenilor. O astfel de supraveghere permanentă determină creșterea stresului oamenilor, și creează tendința acestora de a se comporta într-un anumit mod care să se conformeze normelor așteptate.

Identitatea digitală

Identitatea digitală are avantajul accesului rapid la conținutul online și serviciile conexe. Utilizarea identității digitale are potențialul de a genera discriminare bazată pe reprezentarea unei persoane conform datelor ei online, care de multe ori poate să nu corespundă cu situația reală, într-un proces numit ”dictatura datelor” în care „nu mai suntem judecați pe baza acțiunilor noastre, ci pe baza a ceea ce indică toate datele despre noi ca fiind acțiunile noastre probabile”, (Norwegian Data Protection Authority 2013) interacțiunea personală nefiind plasată într-un plan secundar.

Realitatea ajustată

Orice interacțiune a noastră cu Internetul implică posibilitatea stocării datelor noastre personale. Prelucrarea și analiza acestor date determină rezultatele personalizate care ne apar ulterior pe Internet, prin rezultate ale căutărilor noastre, afișarea produselor în magazinele online, afișarea reclamelor, etc. Se generează astfel o versiune mai îngustă și mai personalizată a experienței online anterioare a unui utilizator (așa-numitul „balon de filtrare” (Pariser 2011)). Un avantaj este că utilizatorul va găsi rapid ceea ce caută de obicei, dar excluderea anumitor aspecte, perspective și idei poate duce la o restrângere a creativității și dezvoltarea unei atitudini tolerante prin izolarea politică și socială de celelalte aspecte, prin lipsa unor viziuni pluraliste. (Crawford, Gray, and Miltner 2014)

De-anonimizarea

De-identificarea implică ștergerea sau ascunderea elementelor care ar putea identifica imediat o persoană sau organizație. Legislația din diferite țări privind protecția datelor definește tratamente diferite pentru datele identificabile. Identificabilitatea este văzută din ce în ce mai mult ca un continuum, nu un aspect binar. Riscurile de divulgare cresc simultan cu numărul de variabile, de surse de date și cu puterea analizei datelor. Riscurile de dezvăluire pot fi atenuate, dar nu eliminate. De-identificarea rămâne un instrument vital pentru asigurarea utilizării în siguranță a datelor. (UK Data Service 2017)

Informații perfect anonime luate separat, pot fi combinate cu alte date pentru a identifica în mod unic o persoană cu grade diferite de certitudine. Profilarea poate deveni un instrument puternic, ridicând îngrijorări cu privire la gradul în care este permisă intruziunea în viața unui individ, posibilitatea asigurării securității, și supravegherea.

Inegalitatea digitală

Avantajele dimensiunii mari a datelor sunt clare, dar există și opinii conform cărora acumularea de date la o scară uriașă prezintă riscuri specifice. Din această cauză, sunt puține entități care au acces, prin infrastructură și abilități, la sistemele Big Data. În acest context, costurile și abilitățile necesare accesului duce la anumite inegalități digitale specifice abordate de etică.

Confidențialitatea

În tranzacțiile de date este foarte important să se asigure confidențialitatea:

„Nimeni nu va fi supus la interferențe arbitrare cu intimitatea, familia, casa sau corespondența sa și nici la atacuri asupra onoarei și reputației sale. Toată lumea are dreptul la protecția legii împotriva unor asemenea ingerințe sau atacuri. „- Declarația Organizației Națiunilor Unite privind Drepturile Omului, Articolul 12.

În multe țări, monitorizarea publică datelor de către guvern pentru a observa cetățenii necesită o autorizare explicită printr-un proces judiciar adecvat. Confidențialitatea nu este despre păstrarea secretelor, ci despre alegere, drepturile omului, și libertate.

Adesea confidențialitatea este văzută în mod greșit ca o alegere binară între izolare și progres științific. Protejarea identității în date este posibilă tehnologic, de exemplu utilizând criptarea homomorfă și designul algoritmic.

Confidențialitatea ca o limitare a utilizării datelor poate fi, de asemenea, considerată ne-etică, (Kostkova et al. 2016) în special în asistența medicală, dar trebui ținut cont de faptul că este posibilă extragerea valorii datelor fără a compromite intimitatea.

Confidențialitatea este recunoscută ca un drept uman prin numeroase reglementări naționale și internaționale. Confidențialitatea în cercetare se realizează printr-o combinație de abordări: limitarea datelor colectate, anonimizarea acestora; și reglementarea accesului la date. În cazul cercetării Big Data apar probleme specifice: ambiguitatea între termenii „privațiune” și „confidențialitate; declararea spațiilor sociale ca publice sau private; necunoașterea riscurilor de confidențialitate de către utilizatori; distincția neclară între uzanțele publice și private. În prezent există dispute dacă știința datelor ar trebui să fie clasificată ca o cercetare a subiecților umani, și deci nesupusă normelor obișnuite de confidențialitate.

Cercetarea Big Data

Prin noile concepte de „daune algoritmice”, „analize predictive”, etc., algoritmii folosiți în prezent în operațiunile Big Data depășesc viziunea tradițională a confidențialității. Conform Consiliului Național pentru Știință și Tehnologie,

””Algoritmii analitici” sunt algoritmi pentru prioritizare, clasificare, filtrare și predicție. Utilizarea acestora poate crea probleme de confidențialitate atunci când informațiile utilizate de algoritmi sunt inadecvate sau inexacte, atunci când apar decizii incorecte, atunci când nu există mijloace rezonabile de recurs, atunci când autonomia unui individ este direct legată de rezultatul algoritmic sau atunci când folosirea algoritmilor predictivi încurajează alte daune asupra vieții private.” (NSTC (National Science and Technology Council) 2016, 18)

Cercetările Big Data sunt ceea ce eticianul James Moor ar numi „harababura conceptuală” datorită ”incapacității de a conceptualiza în mod corect valorile etice și dilemele de joc într-un context tehnologic nou.” (Buchanan and Zimmer 2018) În această situație confidențialitatea este asigurată printr-o combinație de diferite tactici și practici (medii controlate sau anonime, limitarea informațiilor personale, anonimizarea datelor, restricții de acces, securizarea datelor, etc.). În general, toate noțiunile conexe devin confuze în cazul Big Data. Astfel, postările sociale sunt considerate publice în rețelele sociale în cazul unei setări corespunzătoare. Dar rețelele sociale sunt medii complexe de interacțiuni socio-tehnice unde utilizatorii nu înțeleg întotdeauna funcționalitatea setărilor și termenii de utilizare. Astfel, există o incertitudine în ceea ce privește intențiile și așteptările utilizatorilor, iar aceste deficiențe conceptuale în contextul cercetărilor Big Data conduc la incertitudini  în ceea ce privește necesitatea consimțământului informat.

Bibliografie

Buchanan, Elizabeth A., and Michael Zimmer. 2018. “Internet Research Ethics.” In The Stanford Encyclopedia of Philosophy, edited by Edward N. Zalta, Winter 2018. Metaphysics Research Lab, Stanford University. https://plato.stanford.edu/archives/win2018/entries/ethics-internet-research/.

Crawford, Kate, Mary L. Gray, and Kate Miltner. 2014. “Big Data| Critiquing Big Data: Politics, Ethics, Epistemology | Special Section Introduction.” International Journal of Communication 8 (0): 10. https://ijoc.org/index.php/ijoc/article/view/2167.

DG Connect. 2015. “Study on Personal Data Stores Conducted at the Cambridge University Judge Business School.” Text. Digital Single Market – European Commission. August 7, 2015. https://ec.europa.eu/digital-single-market/en/news/study-personal-data-stores-conducted-cambridge-university-judge-business-school.

European Economic and Social Committee. 2017. “The Ethics of Big Data: Balancing Economic Benefits and Ethical Questions of Big Data in the EU Policy Context.” European Economic and Social Committee. February 22, 2017. https://www.eesc.europa.eu/en/our-work/publications-other-work/publications/ethics-big-data.

Kostkova, Patty, Helen Brewer, Simon de Lusignan, Edward Fottrell, Ben Goldacre, Graham Hart, Phil Koczan, et al. 2016. “Who Owns the Data? Open Data for Healthcare.” Frontiers in Public Health 4. https://doi.org/10.3389/fpubh.2016.00007.

MORO, Veronica. 2016. “Meeting the Challenges of Big Data.” Text. European Data Protection Supervisor – European Data Protection Supervisor. November 16, 2016. https://edps.europa.eu/data-protection/our-work/publications/opinions/meeting-challenges-big-data_en.

Norwegian Data Protection Authority. 2013. “Big Data – Privacy Principles under Pressure.” https://www.datatilsynet.no/globalassets/global/english/big-data-engelsk-web.pdf.

NSTC (National Science and Technology Council). 2016. “National Privacy Research Strategy.” https://obamawhitehouse.archives.gov/sites/default/files/nprs_nstc_review_final.pdf.

OECD. 2013. “New Data for Understanding the Human Condition: International Perspectives.” http://www.oecd.org/sti/inno/new-data-for-understanding-the-human-condition.pdf.

———. 2016. “Research Ethics and New Forms of Data for Social and Economic Research,” November. https://doi.org/10.1787/5jln7vnpxs32-en.

Pariser, Eli. 2011. The Filter Bubble: What The Internet Is Hiding From You. Penguin Books Limited.

UK Data Service. 2017. “Big Data and Data Sharing: Ethical Issues.” https://www.ukdataservice.ac.uk/media/604711/big-data-and-data-sharing_ethical-issues.pdf.

Ciclul de viață al inteligenței artificiale

Sfetcu, Nicolae (2022), Ciclul de viață al inteligenței artificiale, IT & C, 1:2, 10-26Sfetcu, Nicolae (2022), Ciclul de viață al inteligenței artificiale, IT & C, 1:2, 10-26, DOI: 10.58679/IT46421, https://www.internetmobile.ro/ciclul-de-viata-al-inteligentei-artificiale/

 

Rezumat

Ciclul de viață al unui sistem al inteligenței artificiale include mai multe faze interdependente, de la proiectarea și dezvoltarea acestuia (inclusiv subfaze precum analiza cerințelor, colectarea datelor, instruire, testare, integrare), instalare, implementare, operare, întreținere și eliminare. Având în vedere complexitatea sistemelor inteligenței artificiale (și în general cele de informații), se pot defini mai multe modele și metodologii pentru a gestiona această complexitate, în special în fazele de proiectare și dezvoltare, cum ar fi dezvoltare de software agilă, cascadă sau spirală, prototipare rapidă și incrementală. Ciclul de viață al inteligenței artificiale definește fazele pe care ar trebui să le urmeze o organizație pentru a profita de tehnicile inteligenței artificiale și în special de modelele de învățare automată pentru a obține valoare practică de afaceri.

 

Cuvinte cheie: ciclul de viață, inteligența artificială

 

Abstract

The life cycle of an AI system includes several interrelated phases, from its design and development (including subphases such as requirements analysis, data collection, training, testing, integration), installation, implementation, operation, maintenance and disposal. Given the complexity of artificial intelligence (and information systems in general), several models and methodologies can be defined to manage this complexity, especially in the design and development phases, such as agile, waterfall or spiral software development , rapid and incremental prototyping. The AI lifecycle defines the phases an organization should follow to take advantage of AI techniques and specifically machine learning models to achieve practical business value.

 

Keywords: life cycle, artificial intelligence

 

IT & C, Volumul 1, Numărul 2, Decembrie 2022, pp. 10-26
ISSN 2821 – 8469, ISSN – L 2821 – 8469
URL: https://www.internetmobile.ro/ciclul-de-viata-al-inteligentei-artificiale/
© 2022 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Acesta este un articol cu Acces Deschis distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.

This is an Open Access article distributed under the terms of the Creative Commons Attribution License CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited.

 

Ciclul de viață al inteligenței artificiale

Nicolae Sfetcu

 

Pentru a încadra în mod corespunzător domeniul inteligenței artificiale (AI), este esențial să se urmeze o abordare structurată și metodică pentru a înțelege diferitele sale fațete. Din acest motiv, se poate opta pentru a obține o viziune funcțională a ciclului de viață a sistemelor AI tipice. În consecință, activele implicate (de exemplu, actori, procese, artefacte, hardware etc.), se pot constitui ca bază pentru identificarea amenințărilor (4). Trebuie să se acorde o atenție specială la protecția datelor în contextul AI, o preocupare orizontală în toate etapele ciclului de viață al AI.

Ciclul de viață al unui sistem AI include mai multe faze interdependente, de la proiectarea și dezvoltarea acestuia (inclusiv subfaze precum analiza cerințelor, colectarea datelor, instruire, testare, integrare), instalare, implementare, operare, întreținere și eliminare. Având în vedere complexitatea sistemelor AI (și în general cele de informații), se pot defini mai multe modele și metodologii pentru a gestiona această complexitate, în special în fazele de proiectare și dezvoltare, cum ar fi dezvoltare de software agilă, cascadă sau spirală, prototipare rapidă și incrementală (5). Ciclul de viață AI definește fazele pe care ar trebui să le urmeze o organizație pentru a profita de tehnicile AI și în special de modelele de învățare automată (ML) pentru a obține valoare practică de afaceri. În scopul acestui document, modelele ML sunt utilizate pentru a reprezenta o transformare matematică a datelor de intrare într-un rezultat nou, de ex. utilizați datele de intrare ale imaginii pentru a recunoaște fețele. În schimb, algoritmii sunt utilizați pentru a actualiza parametrii modelului (antrenament) sau pentru a descoperi modele și relații în datele nou furnizate și pentru a deduce rezultatul (6).

Având în vedere gama largă și complexitatea tehnicilor, tehnologiilor, algoritmilor și modelelor implicate în sistemele AI, maparea integrală a acestora într-un singur model de ciclu de viață AI nu este posibilă. Particularitățile sistemelor AI și numeroasele subdomenii ale AI (de exemplu, sisteme de raționament, robotică, AI coecționistă vs simbolică etc.) ar necesita generarea de modele de referință țintite bazate pe tehnologia utilizată. Având în vedere importanța actuală a învățării automate (ML) în utilizarea și implementarea sistemelor AI, am optat pentru a orienta modelul de referință al ciclului de viață AI către ML, pentru a-l face pe de o parte specific și detaliat și, pe de altă parte, abordăm majoritatea sistemelor AI actuale. ML a fost vârful de lance a exploziei AI în ultimii zece ani în ceea ce privește identificarea imaginilor și a vocii.

Pe baza cercetării de birou (7), a fost elaborat un model de referință generic al diferitelor componente găsite în sistemele AI comune, prezentat în figură. Scopul existenței unui model de referință este de a stabili un cadru conceptual care să asigure înțelegerea comună a activelor care compun un sistem AI și relațiile lor semnificative. Acest lucru facilitează alocarea proprietarilor la diferite active pe de o parte și, pe de altă parte, oferă o modalitate sistematică și structurată de analiză a amenințărilor de securitate relevante. Cu condiția ca activele să fi fost definite, amenințările la adresa sistemelor AI pot fi mapate împotriva acestor active și, în urma acestora, pot fi furnizate măsuri de securitate direcționate către proprietarii de active corespunzători.

Ciclul de viață AI

Model de referință generic pentru ciclul de viață AI(Model de referință generic pentru ciclul de viață AI)

Datele sunt unul dintre cele mai valoroase active din inteligența artificială; sunt în continuă transformare de-a lungul ciclului de viață AI (8). Figura de mai jos ilustrează transformarea datelor de-a lungul diferitelor etape ale ciclului de viață: Ingestia datelot, Explorarea datelor, Preprocesarea datelor, Evidențierea caracteristicilor, Instruire, Testare și Evaluare. Transformarea datelor de-a lungul ciclului de viață AI implică mai multe alte tipuri de active, cum ar fi actorii implicați, resursele de calcul, software-ul etc., și chiar unele active netangibile, cum ar fi procesele, cultura și modul în care experiența și cunoștințele actorilor pot determina amenințări potențial neintenționale (de exemplu părtinire neintenționată).

Diferitele etape ale ciclului de viață AI se pot descrie punând accent pe diferitele active, procese și actori implicați (9), precum și analizând transformările relevante ale datelor.

Transformarea datelor de-a lungul etapelor de dezvoltare a ciclului de viață al AI(Transformarea datelor de-a lungul etapelor de dezvoltare a ciclului de viață al AI)

Entități implicate în ciclul de viață

Există diferite entități (actori) implicați activ în contextul întregului ciclu de viață al AI. Printre actori se numără designerii AI / designeri de aplicații AI implicați în proiectarea și crearea sistemelor AI. Există, de asemenea, dezvoltatorii AI care dezvoltă și construiesc software-ul și algoritmii utilizați în sistemele AI, și care lucrează și pentru a le rafina și îmbunătăți. Experiența și capacitatea lor joacă un rol cheie în dezvoltarea sistemelor AI securizate.

Dezvoltatorii și designerii AI lucrează îndeaproape cu specialițtii din știința datelor. Munca acestora ar putea implica asistența la proiectarea și dezvoltarea modelelor AI, sau poate consta în utilizarea unor astfel de modele și analizarea rezultatelor. Mai precis, pecialițtii din știința datelor sunt implicați în colectarea și interpretarea datelor, concentrându-se pe extragerea de cunoștințe și perspective din acele date. Alți actori ai ciclului de viață AI sunt inginerii de date, a căror activitate implică în primul rând extragerea și colectarea datelor din diferite surse, apoi transformarea, curățarea, standardizarea și stocarea acestora. Inginerii de date se concentrează în principal pe proiectarea, gestionarea și optimizarea fluxului de date.

Alți actori importanți ai ciclului de viață AI sunt proprietarii de date (10). Proprietarii de date dețin seturile de date care sunt utilizate fie pentru a instrui/valida sistemele AI, fie pentru a folosi aceste sisteme pentru a îndeplini sarcini. Sunt adesea companii care au propriile seturi de date legate de afacerea lor, la care implementează un sistem AI pentru a îndeplini o sarcină în numele lor. Proprietarii de date pot fi, de asemenea, furnizori / brokeri de date. Aceștia sunt terțe părți care monetizează datele utilizate de sistemele AI, fie în scopuri de instruire, fie pentru a îndeplini diverse sarcini. Aceștia pot include brokerii comerciali de date, care colectează, stochează și vând diferite tipuri de date, în mod legal. Există, de asemenea, rapoarte ale brokerilor de date din zona gri, care adună date despre utilizatori fără ca aceștia să știe că datele lor personale sunt colectate, stocate și vândute (11).

Alți actori ai ciclului de viață AI includ furnizorii de modele, care livrează modele (precum și implementări ale acestora sub formă de biblioteci AI/ML) care au fost deja testate și ajustate. Unii furnizori de modele sunt furnizori de cloud, care oferă modelele ca serviciu, în special utilizarea capabilităților de calcul și analiză a datelor bazate pe AI în cloud. Pe lângă furnizorii de modele, alți actori implică furnizori terți care pot oferi, de asemenea, cadre software și biblioteci terțe, pe care dezvoltatorii le pot folosi pentru instruirea sistemelor AI și hardware specializat de înaltă performanță.

În cele din urmă, există utilizatorii finali care folosesc sisteme AI, inclusiv consumatorii de servicii. Acestea ar putea fi companii, dintre care multe sunt utilizatori de modele. Acestea includ, de asemenea, consumatorii și publicul larg. Utilizatorii finali pot fi și utilizatori ai altor sisteme AI.

Fazele ciclului de viață AI

Definirea scopului

Înainte de a realiza orice dezvoltare de aplicație/sistem AI, este important ca organizația utilizator să înțeleagă pe deplin contextul de afaceri al aplicației/sistemului AI și datele necesare pentru a atinge obiectivele de afaceri ale aplicației AI, precum și valorile de afaceri care vor fi utilizate pentru a evalua gradul în care aceste obiective au fost atinse.

Faza de definire a obiectivelor de afaceri pe scurt: Identificarea scopului comercial al aplicației/sistemului AI. Conectarea scopului cu întrebarea la care trebuie să răspundă modelul AI care va fi utilizat în aplicație/sistem. Identificarea tipului de model pe baza întrebării.

Ingestia datelor

Ingestia datelor este etapa ciclului de viață AI în care datele sunt obținute din surse multiple (datele brute pot fi sub orice formă structurată sau nestructurată) pentru a alcătui puncte de date multidimensionale, numite vectori, pentru utilizare imediată sau pentru stocare pentru a fi accesate și folosite ulterior. Ingestia datelor stă la baza oricărei aplicații AI. Datele pot fi ingerate direct din sursele lor în timp real, într-un mod continuu cunoscut și sub denumirea de streaming, sau prin importul de loturi de date, unde datele sunt importate periodic în macro-loturi mari sau în micro-loturi mici.

Diferite mecanisme de asimilare pot fi active simultan în aceeași aplicație, sincronizând sau decuplând ingerarea în lot și în flux a acelorași fluxuri de date. Componentele de asimilare pot, de asemenea, specifica adnotarea datelor, adică dacă ingerarea este efectuată cu sau fără metadate (dicționar de date sau ontologia/taxonomia tipurilor de date). Adesea, controlul accesului operează în timpul ingerării datelor, modelând starea de confidențialitate a datelor (date personale/non-personale), alegând tehnici adecvate de păstrare a confidențialității și ținând cont de compromisul realizabil între impactul asupra confidențialității și acuratețea analitică. Conformitatea cu cadrul legal aplicabil al UE privind confidențialitatea și protecția datelor trebuie să fie asigurată în toate cazurile.

Statutul de confidențialitate alocat datelor este utilizat pentru a defini Acordul privind nivelul de servicii al aplicației AI (SLA) în conformitate cu cadrul legal aplicabil al UE privind confidențialitatea și protecția datelor, incluzând, printre altele, posibilitatea de inspecție/auditare a autorităților de reglementare competente (cum ar fi Autoritățile de protecție a datelor). Este important de remarcat că, în ingerarea datelor, poate apărea un conflict de guvernare IT. Pe de o parte, datele sunt compartimentate de către proprietarii săi pentru a asigura controlul accesului și protecția vieții private; pe de altă parte, trebuie să fie integrat pentru a permite analiza. Adesea, pentru articolele din aceeași categorie se aplică politici și reguli diferite. Pentru sursele de date multimedia, protocoalele de acces pot urma chiar și o abordare Digital Right Management (DRM) în care dovada de reținere trebuie mai întâi negociată cu serverele de licență. Este responsabilitatea designerului de aplicații AI să se asigure că ingerarea se face respectând politicile furnizorilor de date privind utilizarea datelor și cadrul legal aplicabil în UE privind confidențialitatea și protecția datelor.

Faza de colectare/ingestie a datelor pe scurt: Identificarea datelor de intrare (dinamice) care trebuie colectate și metadatele de context corespunzătoare. Organizarea asimilării în funcție de cerințele aplicației AI, importând date într-un flux, lot sau multimodal.

Explorarea datelor

Explorarea datelor în inteligența artificială (AI) este etapa în care informațiile încep să fie preluate din datele ingerate. Deși poate fi omisă în unele aplicații AI unde datele sunt bine înțelese, este de obicei o fază a ciclului de viață AI care necesită foarte mult timp. În această etapă, este important să înțelegeți tipul de date care au fost colectate. Trebuie făcută o distincție cheie între diferitele tipuri posibile de date, datele numerice și cele categoriale fiind cele mai proeminente (12), alături de datele multimedia (de exemplu, imagine, audio, video etc.) (13). Datele numerice se pretează la reprezentare grafică și permit calculul statisticilor descriptive și verificarea dacă datele se potrivesc cu distribuțiile parametrice simple precum cea gaussiană. Valorile datelor lipsă pot fi, de asemenea, detectate și gestionate în etapa de explorare. Variabilele categoriale sunt cele care au două sau mai multe categorii, dar fără o ordine intrinsecă. Dacă variabila are o ordonare clară, atunci este considerată ca o variabilă ordinală.

Validarea/explorarea datelor pe scurt: Verificați dacă datele se potrivesc unei distribuții statistice cunoscute, fie prin componentă (distribuții monovariate), fie ca vectori (distribuții multivariate). Estimați parametrii statistici corespunzători.

Preprocesarea datelor

Etapa de pre-procesare a datelor folosește tehnici de curățare, integrare și transformare a datelor. Acest proces are ca scop îmbunătățirea calității datelor care va îmbunătăți performanța și eficiența întregului sistem AI prin economisirea de timp în faza de pregătire a modelelor analitice și prin promovarea unei calități mai bune a rezultatelor. Mai exact, termenul de curățare a datelor desemnează tehnici de corectare a inconsecvențelor, de eliminare a zgomotului și de anonimizare/pseudonimizare a datelor.

Integrarea datelor reunește datele care provin din mai multe surse, în timp ce transformarea datelor pregătește datele pentru a alimenta un model analitic, de obicei prin codificarea lor într-un format numeric. O codificare tipică este o codificare one-hot folosită pentru a reprezenta variabilele categoriale ca vectori binari. Această codificare necesită mai întâi ca valorile categoriale să fie mapate la valori întregi. Apoi, fiecare valoare întreagă este reprezentată ca un vector binar care are toate valorile zero, cu excepția poziției numărului întreg, care este marcat cu 1.

Odată convertite în numere, datele pot fi supuse altor tipuri de transformări: redimensionare, standardizare, normalizare și etichetare (14). La finalul acestui proces, se obține un set de date numerice, care va sta la baza antrenării, testării și evaluării modelului AI.

Deoarece a avea un set de date suficient de mare este unul dintre factorii cheie de succes atunci când se instruiește corect un model, este obișnuit să se aplice diferite tehnici de creștere a datelor acelor seturi de date de antrenament care sunt prea mici. De exemplu, este obișnuit să se includă într-un set de date de antrenament diferite versiuni scalate sau rotite de imagini, care erau deja în acel set de date. Un alt exemplu de tehnică de creștere a datelor care poate fi folosită la procesarea textului este înlocuirea unui cuvânt cu sinonimul său. Chiar și în acele cazuri în care setul de date de antrenament este suficient de mare, tehnicile de creștere a datelor pot îmbunătăți modelul antrenat final. Datele pot fi, de asemenea, augmentate pentru a le crește cantitatea și diversitatea scenariilor acoperite. Augmentarea datelor constă de obicei în aplicarea transformărilor despre care se știe că păstrează etichetele, de exemplu modelul nu ar trebui să-și modifice rezultatul (și anume predicția) atunci când este prezentat cu elementele de date transformate. Augmentarea datelor poate servi la îmbunătățirea performanței unui model și în special a robusteței acestuia la perturbații benigne. O sarcină în care augmentarea datelor este utilizată în mod implicit este clasificarea imaginilor, unde datele pot fi augmentate, de exemplu, aplicând translații, rotații și filtre de estompare.

Preprocesarea datelor pe scurt: Convertirea datelor ingerate într-un format metric (numeric), integrarea datelor din diferite surse, gestionarea valorilor lipsă/nule prin interpolare, densificarea pentru a reduce dispersitatea datelor, eliminarea zgomotului, filtrarea valorii aberante, modificarea intervalului de reprezentare, anonimizarea/pseudonimizarea datelor, augmentarea datelor.

Selectarea caracteristicilor

Selectarea caracteristicilor (în ingineria generală a caracteristicilor) este etapa în care se reduce numărul de componente sau caracteristici (numite și dimensiuni) care compun fiecare vector de date, prin identificarea componentelor care se consideră a fi cele mai semnificative pentru modelul AI (15). Rezultatul este un set de date redus, deoarece fiecare vector de date are mai puține componente decât înainte (16). Pe lângă reducerea costurilor de calcul, selecția caracteristicilor poate aduce modele mai precise. În plus, modelele construite pe baza datelor de dimensiuni inferioare sunt mai înțelese și explicabile. Această etapă poate fi, de asemenea, încorporată în faza de construire a modelului (de exemplu, la procesarea datelor de imagine sau de vorbire).

Selectarea caracteristicilor pe scurt: Identificarea dimensiunilor setului de date care reprezintă un parametru global, de ex. varianța generală a etichetelor. Datele proiectului sunt stabilite de-a lungul acestor dimensiuni, eliminând pe celelalte.

Selectarea/construirea modelului

Această etapă realizează selecția/construirea celui mai bun model sau algoritm AI (17) pentru analiza datelor. Este o sarcină dificilă, adesea supusă încercărilor și erorilor. Pe baza obiectivului de afaceri și a tipului de date disponibile, pot fi utilizate diferite tipuri de tehnici AI. Cele trei categorii majore identificate în mod obișnuit sunt învățarea supravegheată, învățarea nesupravegheată și modelele de învățare prin întărire. Tehnicile supravegheate tratează datele etichetate: modelul AI este folosit pentru a învăța maparea dintre exemplele de intrare și ieșirile țintă.

Modelele supravegheate pot fi proiectate ca Clasificatori, al căror scop este să prezică o etichetă de clasă, și Regresori, al căror scop este să prezică o funcție de valoare numerică a intrărilor. Aici, câțiva algoritmi obișnuiți sunt Support Vector Machines, Naïve Bayes, Hidden Markov Model, rețele bayesiene și rețele neuronale.

Tehnicile nesupravegheate folosesc date de antrenament neetichetate pentru a descrie și a extrage relații din acestea, cu scopul de a le organiza în clustere, de a evidenția asocierea dintre spațiul de intrare a datelor, de a rezuma distribuția datelor și de a reduce dimensionalitatea datelor. Învățarea prin întărire mapează situații cu acțiuni, prin învățarea comportamentelor care vor maximiza o funcție de recompensă dorită.

În timp ce tipul de date de antrenament, etichetat sau nu, este esențial pentru tipul de tehnică necesar a fi utilizat și selectat, modelele pot fi, de asemenea, construite de la zero (deși acest lucru este destul de puțin probabil), cercetătorul de date proiectând și codificând modelul, cu tehnicile inerente de inginerie software; sau construind un model prin combinarea unei compoziţii de metode (18). Este important de remarcat că selecția modelului (și anume alegerea modelului adaptat la date) poate declanșa o transformare ulterioară a datelor de intrare, deoarece diferite modele AI necesită codificări numerice diferite ale vectorilor de date de intrare.

În general, selectarea unui model include și alegerea strategiei sale de antrenament. În contextul învățării supravegheate, de exemplu, antrenamentul presupune calcularea (o funcție de învățare a) diferenței dintre rezultatul modelului atunci când primește fiecare element de date din set de antrenament D ca intrare și eticheta lui D. Acest rezultat este folosit pentru a modifica modelul pentru a reduce diferența.

Sunt disponibili mulți algoritmi de antrenament pentru minimizarea erorilor, majoritatea bazați pe coborârea gradientului. Algoritmii de antrenament au proprii lor hiperparametri, inclusiv funcția (19) care trebuie utilizată pentru a calcula eroarea modelului (de exemplu, eroarea medie pătrată) și dimensiunea lotului, adică numărul de eșantioane etichetate care urmează să fie alimentate modelului pentru a acumula o valoare a erorii la să fie utilizat pentru adaptarea modelului în sine.

Selecția modelului AI pe scurt: Alegerea tipului de model AI potrivit pentru aplicație. Codificarea vectorilor de intrare a datelor pentru a se potrivi cu formatul de intrare preferat al modelului.

Instruirea modelului

După ce am selectat un model AI, care în contextul acestui model de referință se referă în principal la un model de învățare automată (ML), începe faza de instruire a sistemului AI. În contextul învățării supravegheate, modelul ML selectat trebuie să treacă printr-o fază de antrenament, în care parametrii interni ai modelului, cum ar fi ponderile și părtinirea, sunt învățați din date. Acest lucru permite modelului să înțeleagă datele utilizate și, astfel, să devină mai capabil să le analizeze. Din nou, antrenamentul presupune calcularea (o funcție a) diferenței dintre rezultatul modelului atunci când primește fiecare element de date D al setului de antrenament ca intrare și eticheta lui D. Acest rezultat este folosit pentru a modifica modelul pentru a reduce diferența dintre rezultatul dedus și rezultatul dorit și astfel duce progresiv la rezultate mai precise, așteptate.

Faza de antrenament va alimenta modelul ML cu loturi de vectori de intrare și va folosi funcția de învățare selectată pentru a adapta parametrii interni ai modelului pe baza unei măsuri (de exemplu, pierdere liniară, pătratică, log) a diferenței dintre ieșirea modelului și etichetele. Adesea, setul de date disponibil este împărțit în această etapă într-un set de antrenament, utilizat pentru setarea parametrilor modelului, și un set de testare, în care criteriile de evaluare (de exemplu rata de eroare) sunt înregistrate doar pentru a evalua performanța modelului în afara setului de antrenament. Schemele de validare încrucișată partiționează aleatoriu de mai multe ori un set de date într-un antrenament și o porțiune de testare de dimensiuni fixe (de exemplu, 80% și 20% din datele disponibile) și apoi repetă fazele de instruire și validare pe fiecare partiție.

Instruirea modelului AI pe scurt: Aplicarea algoritmului de antrenament selectat cu parametrii corespunzători pentru a modifica modelul ales în funcție de datele de antrenament. Validarea antrenamentului modelului pe setul de testare conform unei strategii de validare încrucișată.

Ajustarea modelului

Reglajul modelului se suprapune de obicei cu antrenamentul modelului, deoarece reglarea este de obicei luată în considerare în cadrul procesului de antrenament. Am optat pentru separarea celor două etape din ciclul de viață AI pentru a evidenția diferențele în ceea ce privește operarea funcțională, deși cel mai probabil este ca în majoritatea sistemelor AI să fie ambele parte a procesului de instruire.

Anumiți parametri definesc concepte de nivel înalt despre model, cum ar fi funcția sau modalitatea lor de învățare, și nu pot fi învățați din datele de intrare. Acești parametri speciali, adesea numiți hiper-parametri, trebuie configurați manual, deși în anumite circumstanțe pot fi reglați automat prin căutarea în spațiul parametrilor modelului (20). Această căutare, numită optimizare cu hiper-parametri (21), este adesea efectuată folosind tehnici clasice de optimizare, cum ar fi căutarea în grilă, dar pot fi utilizate căutarea aleatorie și optimizarea bayesiană. Este important de remarcat faptul că etapa Ajustarea modelului folosește un set de date special (numit adesea set de validare), distinct de seturile de antrenament și test utilizate în etapele anterioare. De asemenea, poate fi luată în considerare o fază de evaluare pentru a estima limitele rezultatelor și pentru a evalua modul în care modelul s-ar comporta în condiții extreme, de exemplu, prin utilizarea seturilor de date greșite/nesigure. Este important de remarcat faptul că, în funcție de numărul de hiper-parametri care trebuie ajustați, încercarea tuturor combinațiilor posibile poate să nu fie fezabilă.

Ajustarea modelului AI pe scurt: Aplicarea adaptării modelului la hiper-parametrii modelului AI antrenat folosind un set de date de validare, în funcție de condiția de implementare.

Învățarea prin transfer

În această fază, organizația utilizatorului se aprovizionează cu un model AI pre-antrenat și pre-ajustat și îl folosește ca punct de plecare pentru formarea ulterioară pentru a obține o convergență mai rapidă și mai bună. Acesta este de obicei cazul când sunt disponibile puține date pentru antrenament. Trebuie remarcat faptul că toți pașii descriși mai sus (reglare, testare etc.) se aplică și pentru învățarea prin transfer. Mai mult, deoarece în multe cazuri învățarea prin transfer este aplicată, se poate considera învățarea prin transfer ca parte a fazei de antrenament a modelului, având în vedere că învățarea prin transfer servește de obicei ca punct de plecare al algoritmului de antrenament. Pentru a asigura un domeniu mai larg, distingem învățarea prin transfer într-o fază distinctă din ciclul de viață AI prezentat aici.

Învățarea prin transfer pe scurt: Obținerea unui model AI pregătit în prealabil în același domeniu de aplicație și aplicarea instruirii suplimentare, după cum este necesar, pentru îmbunătățirea acurateții în producție.

Implementarea modelului

Un model de învățare automată va aduce cunoaștere unei organizații numai atunci când predicțiile sale devin disponibile pentru utilizatorii finali. Implementarea este procesul de preluare a unui model instruit și de punere la dispoziție utilizatorilor.

Implementarea modelului pe scurt: Generarea unei încadrări în producție a modelului ca software, firmware sau hardware. Implementarea încadrării modelului în edge sau cloud, conectând fluxurile de date din producție.

Întreținerea modelului

După implementare, modelele AI trebuie monitorizate și menținute în mod continuu pentru a gestiona schimbările de concept și potențialele devieri de concept care pot apărea în timpul funcționării lor. O schimbare de concept are loc atunci când semnificația unei intrări în model (sau a unei etichete de ieșire) se schimbă, de ex. din cauza reglementărilor modificate. O deviere a conceptului apare atunci când schimbarea nu este drastică, ci apare încet. Deriva se datorează adesea încrustării senzorului, adică evoluției lente în timp a rezoluției senzorului (cea mai mică diferență detectabilă între două valori) sau a intervalului general de reprezentare. O strategie populară pentru a gestiona întreținerea modelului este reînvățarea bazată pe ferestre, care se bazează pe puncte de date recente pentru a construi un model ML. O altă tehnică utilă pentru întreținerea modelului AI este testarea înapoi. În cele mai multe cazuri, organizația utilizatoruluir știe ce s-a întâmplat după adoptarea modelului AI și poate compara predicția modelului cu realitatea. Acest lucru evidențiază schimbările de concept: dacă un concept de bază se schimbă, organizațiile văd o scădere a performanței. O altă modalitate de a detecta aceste devieri de concept poate determina caracterizarea statistică a setului de date de intrare utilizat pentru antrenamentul modelului AI, astfel încât să fie posibil să se compare acest set de date de antrenament cu datele de intrare curente în ceea ce privește proprietățile statistice. Diferențele semnificative între seturile de date pot indica prezența unor potențiale deviații de concept care pot necesita efectuarea unui proces de reînvățare, chiar înainte ca rezultatul sistemului să fie afectat semnificativ. În acest fel, procesele de recalificare/reînvățare, care pot fi consumatoare de timp și resurse, pot fi efectuate numai atunci când este necesar și nu periodic, ca în strategiile de reînvățare bazate pe ferestre menționate mai sus. Întreținerea modelului reflectă, de asemenea, nevoia de a monitoriza obiectivele și activele de afaceri care ar putea evolua în timp și, în consecință, să influențeze modelul în sine.

Întreținerea modelului pe scurt: Monitorizarea rezultatelor inferenței ML ale modelului AI implementat, precum și datele de intrare primite de model, pentru a detecta posibile modificări sau derive ale conceptului. Reantrenarea modelului atunci când este necesar.

Înțelegerea afacerii

Construirea unui model AI este adesea costisitoare și întotdeauna necesită timp. Prezintă mai multe riscuri de afaceri, inclusiv nerespectarea unui impact semnificativ asupra organizației utilizatorului, precum și lipsa termenelor limită în producție după finalizare. Înțelegerea afacerii este etapa în care companiile care implementează modele AI obțin o perspectivă asupra impactului AI asupra afacerii lor și încearcă să maximizeze probabilitatea de succes.

Înțelegerea afacerii pe scurt: Evaluarea propunerilor de valoare a modelului AI implementat. Estimarea (înainte de implementare) și verificarea (după implementare) a impactului său asupra afacerii.

Note

  1. A se vedea https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines, aprilie 2019
  2. Evident, modelele de cutie albă sunt, de asemenea, susceptibile la atacuri cibernetice, deoarece adversarii au informații la scară largă pentru a adapta atacurile.
  3. Aceasta se referă atât la atacurile fizice asupra sistemelor AI, cât și la robustețea sistemelor AI împotriva variațiilor și evenimentelor care apar în mod natural.
  4. Aici considerăm că sursele de date pentru AI au fost protejate și sunt considerate a fi sigure. În abordarea noastră, ciclul de viață al aplicației AI este considerat un model generic pentru fundamentul identificării activelor și amenințărilor, și nu este conceput ca o declarație. Buclele de feedback prezentate nu sunt exhaustive, deoarece cazuri de utilizare diferite pot urma drumuri diferite și omite unele dintre fazele ciclului de viață generic. Hărțile mentale au fost incluse ca un prim pas către un model de referință complet.
  5. A se vedea https://ec.europa.eu/digital-single-market/en/news/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment
  6. Peisajul amenințărilor presupune înțelegerea de bază a terminologiei și conceptelor AI.
  7. Inclusiv lucrările deja menționate de la EC JRC, EC AI HLEG, EDA, ETSI ISG SAI, NIST, Stiftung Neue Verantwortung, Mcrosoft (https://docs.microsoft.com/en-us/security/engineering/threat-modeling-aiml ), Berryville Institute of Machine Learning (https://berryvilleiml.com/) și BSI (https://doi.org/10.3389/fdata.2020.00023).
  8. În ceea ce privește categoriile de date și proveniența datelor, distingem între următoarele.
    1. Date auto-raportate, furnizate voluntar de un operator „de încredere” (de exemplu, AIS pentru o navă sau ADS-B pentru o aeronavă, date cooperative și guvernamentale).
    2. Datele observate colectate de sisteme „securizate” active sau pasive (de exemplu IDS, senzori, RFID, camere, IoT în general, radare), integritatea datelor depinde de o varietate de parametri (rezoluție, interval, reîmprospătare, latență, condiții de mediu, dimensiune, orientare, caracteristici electromagnetice).
    3. Registre de informații și baze de date: conțin informații care leagă date (ID-uri aeronave sau nave, ID-uri umane din sistemele moștenite civile, ID-uri obiecte inteligente din industrii) cu detalii despre structura acesteora, construcție, aspect, istoric și interacțiuni, activitate, social media din sursele de internet libere și deschise (ex. Twitter, Youtube, Facebook, WhatsApp, Media, Open DB) sunt de asemenea incluse în această categorie.
  9. Modelul de referință detaliază fazele tipice, diferite ale ciclului de viață AI. O referire demnă de remarcat trebuie făcută la soluțiile automate de învățare automată (oferite de mai mulți furnizori) care cuprind marea majoritate a etapelor ciclului de viață AI pentru a facilita dezvoltatorii de produse. În ciuda numeroaselor inițiative de cercetare și comerciale pentru dezvoltarea unor mecanisme și instrumente automate eficiente de învățare automată, au fost identificate multe provocări, inclusiv probleme de transparență (funcționare în cutie neagră), reproductibilitate limitată etc.
  10. De reținut că, în cazul datelor cu caracter personal, rolul proprietarilor de date este echivalent cu cel al operatorilor de date.
  11. Evident, dacă apar astfel de cazuri, atunci există o lipsă clară de conformitate cu prevederile GDPR și o analiză juridică suplimentară (în afara domeniului de aplicare al acestei lucrări) este foarte recomandată.
  12. Discuția se referă în principal la date nunerice, tabelare. Cu toate acestea, trebuie menționat că sistemele AI pot folosi și alte tipuri de date, de ex. discurs, imagini. Acestea sunt, de asemenea, numerice, dar verificările de corectitudine au un grad avansat de complexitate, pentru care nu se efectuează nicio explorare a datelor așa cum este descrisă aici.
  13. Datele multimedia sunt date complexe care sunt foarte relevante în contextul învățării profunde.
  14. Re-scalarea este utilizată pentru a se asigura că toate variabilele sunt exprimate pe aceeași scară, deoarece unele metode pot trece cu vederea variabilele cu intensitate mai mică. Standardizarea este utilizată pentru a modifica media unei distribuții de valori la 0, în timp ce normalizarea mapează datele la un interval de reprezentare compact (de exemplu, intervalul (0, 1), împărțind toate valorile la maxim). Etichetarea (realizată de experți umani sau de alte aplicații AI) asociază fiecare element de date la o categorie sau o predicție.
  15. Modelele de învățare automată sunt algoritmi antrenați cu date istorice care descoperă modele și relații și construiesc modele matematice folosind aceste descoperiri.
  16. Este de remarcat faptul că nu este întotdeauna cazul. În special, în abordările recente de învățare profundă care iau în considerare abordări end-to-end de învățare profundă, în care nu se realizează nicio procesare a caracteristicilor.
  17. Stuart J. Russell și Peter Norvig, „Artificial Intelligence: A Modern Approach”, Prentice Hall Press. ISBN:978-0-13-604259-4
  18. Prin combinare de metode ne referim la ansamblu de modele care constă în combinarea rezultatelor mai multor modele pentru a profita de avantajele diferitelor abordări, cu prețul unei complexități mai mari.
  19. În învățarea profundă, unde sunt concepute funcții de pierdere posibil extrem de complexe și sunt un element cheie al procesului de formare.
  20. Reglarea hiper-paratametrelor este adesea o sarcină dificilă, având în vedere că spațiul hiper-parametrilor este de obicei imens, iar procesul necesită o cantitate mare de timp și resurse de calcul. Mai mult, trebuie remarcat faptul că acest tip de reglare necesită o reinstruire frecventă a modelului.
  21. Trebuie remarcat faptul că acest proces este foarte costisitor din punct de vedere computațional și tinde să fie limitat, în special în aplicațiile de învățare profundă, unde antrenamentul poate dura zile sau săptămâni.

Referințe

L.A. Adamic – N. Glance, The political blogosphere and the 2004 US election: divided they blog, Proceedings of the 3rd International Workshop on Link discovery 2005, pp. 36-43

  1. Aslay et al., Maximising the diversity of exposure in a social network, IEEE International Conference on Data Mining 2018, pp. 863-868
  2. Caliskan Islam et al., Semantics derived automatically from language corpora necessarily contain human biases, arXiv preprint arXiv:1608.07187 2016
  3. Carter – H.V. Auken., Small firm bankruptcy, Journal of Small Business Management 2006, 44: pp. 493-512
  4. De Biase, Homo pluralis. Essere umani nell’era tecnologica. Codice, Torino 2016
  5. Garimella et al., Reducing controversy by connecting opposing views, Proceedings of the Tenth ACM International Conference on Web Search and Data Mining 2017, pp. 81-90
  6. Guidotti et al., A survey of methods for explaining black box models, ACM computing surveys (CSUR) 2018, pp. 1-42
  7. Hegselmann – U. Krause, Opinion dynamics and bounded confidence: models, analysis and simulation, «Journal of Artificial Societies and Social Simulation» V (2002) 3
  8. Lowry – G. Macpherson, A blot on the profession, British medical journal (Clinical research ed.) 1988, pp. 657
  9. Pasquale, The black box society, Harvard University Press 2015
  10. Pedreschi et al., Discrimination-aware data mining, Proceedings of the 14th ACM SIGKDD international conference on Knowledge discovery and data mining 2008, pp. 560-568
  11. Pedreschi et al., Meaningful explanations of Black Box AI decision systems. Proceedings of the 33rd AAAI Conference on Artificial Intelligence 2019, 9780-9784
  12. Plous, The Psychology of Judgment and Decision Making. McGraw-Hill, New York 1993

M.T. Ribeiro et al., „Why should I trust you?” Explaining the predictions of any classifier, Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining 2016, pp. 1135-1144

A.L. Schmidt et al., Polarisation of the vaccination debate on Facebook, National Center for Biotechnology Information 36 (2018) 25, pp. 3606-3612

  1. Sirbu et al., Algorithmic bias amplifies opinion fragmentation and polarisation: A bounded confidence model, «PLoS ONE» 14(3), 2019
  2. Surowiecki, The wisdom of crowds, Anchor Books, New York 2004

Artificial Intelligence for Europe, Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and social committee and the committee of the Regions, Brussels 2018

Divina Frau-Meigs, Societal costs of “fake news” in the Digital Single Market, Study requested by the IMCO committee, 2018

Žiga TURK, Technology as Enabler of Fake News and a Potential Tool to Combat It, In-Depth Analysis requested by the IMCO committee, 2018

XAI (2019-2024, ERC Advanced Grants 2018) Science and technology for the explanation of AI decision making. https://xai-project.eu/

SoBigData (2015-2024, H2020-Excellent Science Research Infrastructures) Integrated Infrastructure for Social Mining & Big Data Analytics. A research infrastructure at the second stage of “Advanced community”, aggregating 32 partners of 12 EU Countries. http://www.sobigdata.eu/

Humane-AI (2019-2020, H2020-FETFLAG-2018-01 Coordination Action) Toward AI Systems That Augment and Empower Humans by Understanding Us, our Society and the World Around Us. https://www.humane-ai.eu/

 

 

Sursa: Sfetcu, Nicolae (2020). Introducere în inteligența artificială, MultiMedia Publishing, ISBN 978-606-033-659-4, https://www.telework.ro/ro/e-books/introducere-in-inteligenta-artificiala/. Licența CC-BY 3.0

Proiectarea și arhitectura rețelelor de comunicații 5G

Sfetcu, Nicolae (2022), Proiectarea și arhitectura rețelelor de comunicații 5G, IT & C, 1:2, 27-34Sfetcu, Nicolae (2022), Proiectarea și arhitectura rețelelor de comunicații 5G, IT & C, 1:2, 27-34, DOI: 10.58679/IT74636, https://www.internetmobile.ro/proiectarea-si-arhitectura-retelelor-de-comunicatii-5g/

 

Rezumat

Arhitectura 5G prezentată aici a rezultat din analiza diferitelor rapoarte accesibile publicului publicate de organisme de standardizare, cercetare și științifice. Această sarcină a vizat stabilirea unei înțelegeri comune și coerente asupra componentelor arhitecturii 5G. În ciuda unui număr mare de documente referitoare la diferite aspecte ale arhitecturii 5G (de exemplu, funcții de rețea individuale, interfețe, funcții de securitate, diferite domenii 5G etc.), doar câteva oferă o imagine de ansamblu compresivă. Pentru aceasta, a fost necesară vizualizarea diferitelor componente într-un mod modular și general. Odată ce arhitectura tehnică cuprinzătoare 5G a fost definită, și după examinarea punctelor slabe cunoscute ale componentelor, a fost posibil să se enumere activele sensibile și să se descrie cele mai relevante amenințări.

 

Cuvinte cheie: proiectare, arhitectura, rețele de comunicații, 5G

 

Abstract

The 5G architecture presented here resulted from the analysis of various publicly available reports published by standards, research and scientific bodies. This task aimed to establish a common and coherent understanding of the components of the 5G architecture. Despite a large number of documents relating to different aspects of the 5G architecture (e.g. individual network functions, interfaces, security functions, different 5G domains, etc.), only a few provide a comprehensive overview. For this, it was necessary to visualize the various components in a modular and general way. Once the comprehensive technical architecture of 5G was defined, and after examining the known weaknesses of the components, it was possible to list the sensitive assets and describe the most relevant threats.

 

Keywords: design, architecture, communication networks, 5G

 

IT & C, Volumul 1, Numărul 2, Decembrie 2022, pp. 27-34
ISSN 2821 – 8469, ISSN – L 2821 – 8469
URL: https://www.internetmobile.ro/proiectarea-si-arhitectura-retelelor-de-comunicatii-5g/
© 2022 Nicolae Sfetcu. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Acesta este un articol cu Acces Deschis distribuit în conformitate cu termenii licenței de atribuire Creative Commons CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), care permite utilizarea, distribuirea și reproducerea fără restricții pe orice mediu, cu condiția ca lucrarea originală să fie citată corect.

This is an Open Access article distributed under the terms of the Creative Commons Attribution License CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/), which permits unrestricted use, distribution, and reproduction in any medium, provided the original work is properly cited.

 

Proiectarea și arhitectura rețelelor de comunicații 5G

Nicolae Sfetcu

 

Arhitectura 5G prezentată aici a rezultat din analiza diferitelor rapoarte accesibile publicului publicate de organisme de standardizare, cercetare și științifice. Această sarcină a vizat stabilirea unei înțelegeri comune și coerente asupra componentelor arhitecturii 5G. În ciuda unui număr mare de documente referitoare la diferite aspecte ale arhitecturii 5G (de exemplu, funcții de rețea individuale, interfețe, funcții de securitate, diferite domenii 5G etc.), doar câteva oferă o imagine de ansamblu compresivă. Pentru aceasta, a fost necesară vizualizarea diferitelor componente într-un mod modular și general. Odată ce arhitectura tehnică cuprinzătoare 5G a fost definită, și după examinarea punctelor slabe cunoscute ale componentelor, a fost posibil să se enumere activele sensibile și să se descrie cele mai relevante amenințări.

Din acest motiv, abordarea adoptată aici, preluată de la ENISA, a fost dezvoltarea unei arhitecturi 5G generice și furnizarea detaliilor componentelor cheie individuale prin intermediul „Zoom-in-urilor”, permițând detalii suplimentare despre funcționalitatea și scopul acestora. Procedând astfel, pe lângă arhitectura generică 5G descrisă, ENISA a oferit o serie de vizualizări detaliate ale anumitor componente, și anume: Core Network, Management and Network Orchestrator (MANO), Radio Access Network (RAN), Network Function Virtualization (NFV), Software Defined Network (SDN), Multi-access Edge Computing (MEC), User Equipment (UE), Security Architecture (SA) și componente de infrastructură fizică 5G (Enisa Threat Landscape for 5G Network – Threat assessment for the fifth generation of mobile telecommunications networks (5G), November 2019. © European Union Agency for Cybersecurity (ENISA), 2019. Traducere și adaptare independente de Nicolae Sfetcu).

Cazuri de utilizare 5G

3GPP a definit aceste cazuri de utilizare ca parte a proiectului său New Services and Markets Technology Enabler (SMARTER ). (1) Obiectivul din spatele SMARTER a fost să dezvolte cazuri de utilizare la nivel înalt și să identifice care sunt caracteristicile și funcționalitățile necesare pentru a le permite. Procesul a început în 2015 și a dus la peste 70 de cazuri de utilizare, grupate inițial în cinci categorii, care au fost reduse la trei. Cele trei seturi de cazuri de utilizare sunt după cum urmează.

  • Banda largă mobilă îmbunătățită (Enhanced mobile broadband, eMBB). (2) Definită ca o extensie la serviciile existente în bandă largă 4G, eMBB va fi primul serviciu comercial 5G care permite descărcări mai rapide și mai fiabile. Pragurile definite în cerințele ITU pentru eMBB se stabilesc la minimum 20Gbps pentru legătura descendentă și 10Gbps pentru legătura ascendentă. În plus, cerința minimă pentru timpul de întrerupere a mobilității eMBB este de 0 ms.
  • Comunicare ultra-fiabilă cu latență scăzută (Ultra-reliable low latency communication, URLLC). Promisiunea de a furniza comunicații ultra-fiabile și cu latență redusă pentru rețelele fără fir 5G este considerată de o importanță capitală. URLLC este conceput pentru a sprijini companiile în scenarii de comunicare critice, cum ar fi situații de urgență, operațiuni de sisteme autonome, printre altele. (3) Realizarea URLLC reprezintă una dintre provocările majore cu care se confruntă rețelele 5G.
  • Comunicații tip mașină (Machine Type Communications, MTC). (4) Acest caz de utilizare se așteaptă să joace un rol esențial în viitorul sistemelor 5G. În proiectul METIS al șaptelea program-cadru UE (FP7), (5) MTC a fost clasificat în continuare ca o „comunicație masivă de tip mașină” (mMTC) și „comunicație de tip mașină ultra-fiabilă” (uMTC). În timp ce mMTC se referă la conectivitate fără fir la zeci de miliarde de terminale de tip mașină, uMTC se referă la disponibilitate, latență scăzută și fiabilitate ridicată. Principalele provocări ale mMTC sunt de a oferi conectivitate scalabilă și eficientă pentru un număr masiv de dispozitive care trimit pachete foarte scurte, ceea ce nu se realizează în mod adecvat în sistemele celulare concepute pentru comunicații de tip uman. În plus, soluțiile mMTC trebuie să permită o acoperire extinsă și o penetrare profundă în interior, având în același timp costuri reduse și eficiență energetică. Pentru MTC, ITU a definit o cerință minimă pentru densitatea conexiunii de 1.000.000 de dispozitive pe km2.

Mai multe scenarii de implementare pentru eMBB, mMTC și URLLC pot fi imaginate în implementările viitoare ale acestei tehnologii. Un studiu elaborat de ETSI a identificat unele dintre aceste scenarii viitoare prezentate în Scenarii de implementare 5G.

Scenarii de implementare 5G:

  • Sisteme inteligente de transport (ITS) și comunicații vehicul-orice (V2X): Un exemplu de caz de utilizare în misiuni critice este sistemul de transport. Utilizarea rețelei 5G pentru a spori siguranța auto este un alt domeniu principal al lansării 16. Acesta include mai multe îmbunătățiri în sprijinul comunicațiilor vehiculului celular la toate (C-V2X) și a sistemelor inteligente de transport (ITS). Îmbunătățirile din specificațiile C-V2X includ comunicații vehicul-vehicul (V2V), vehicul-pieton (V2P) și comunicații vehicul-infrastructură (V2I). Toate acestea sunt necesare pentru creșterea siguranței transportului în mediul actual, dar și în implementarea viitoare a conducerii autonome. Sistemele inteligente de transport sunt o altă zonă majoră de focalizare verticală în versiunea 16. Această zonă verticală va oferi o gamă largă de cazuri de utilizare a transportului și gestionării traficului către rețea. (6)
  • Internetul industrial al obiectelor (IIoT) și comunicare ultra-fiabilă cu latență scăzută (URLLC): IIOT este, de asemenea, o zonă de focalizare verticală majoră a versiunii 16. Introducerea 5G NR în cazurile de utilizare IIoT va permite cercetarea și inovarea unei viitoare fabrici conectate fără fir și reconfigurabile. Acesta creează o oportunitate de a introduce IIoT pentru a sprijini automatizarea fabricii, distribuția energiei electrice și transportul. Introduce îmbunătățiri importante în latența și fiabilitatea rețelei. Suportul pentru rețea sensibilă la timp (TSN) este, de asemenea, inclus în această versiune, unde sincronizarea orei foarte precisă este esențială în utilizarea automatizărilor din fabrică IIoT.
  • Acces integrat și backhaul (IAB): Pentru a extinde acoperirea rețelei 5G NR mmWave, costul noilor instalații de backhaul cu fibră optică este de obicei ridicat și reprezintă o provocare majoră la implementarea stațiilor de bază suplimentare. Versiunea 16 elimină necesitatea acestui backhaul cu fir, deoarece introduce acces integrat care permite unei stații de bază să ofere atât acces wireless pentru dispozitive, cât și conectivitate wireless backhaul.
  • Acces bazat pe NR la spectrul fără licență (NR-U): Versiunea 16 permite rețelelor 5G să funcționeze în spectru fără licență, care este cel mai mare disponibil. Banda fără licență globală existentă de 5 GHz și 6 GHz este utilizată de Wi-Fi și LTE LAA și este un caz de utilizare atractiv pentru creșterea ratelor de date și a capacității rețelei. Specificațiile definesc două moduri de funcționare: NR-U cu o ancoră în asistență licențiată (spectru partajat) și NR-U independent cu numai spectru fără licență.

Pe lângă aceste aplicații verticale, noua specificație adaugă peste 20 de caracteristici tehnologice standard, inclusiv o serie de îmbunătățiri pentru bandă largă mobilă îmbunătățită (eMBB) și alte aplicații verticale. Aceste îmbunătățiri eMBB acoperă MIMO masiv, transferul fără întrerupere a celulei și suprimarea interferențelor de la distanță. Mai mult, îmbunătățirile suplimentare introduse pot fi considerate ca facilitatori care vor spori eficiența 5G pentru o serie de aplicații ulterioare. Tabelul de mai jos oferă un rezumat al acestor îmbunătățiri / caracteristici.

Funcții suplimentare de activare 5G pentru toate verticalele – Eficiența 5G:

  • Îmbunătățiri importante în caracteristicile versiunii 16 pot fi găsite în domeniile îmbunătățirilor de intrare multiplă, ieșire multiplă (MIMO) și de formare a fasciculului, partajare dinamică a spectrului (DSS), conectivitate duală (DC) și agregare a purtătorului (CA), poziționare și echipamente de utilizator (UE) economie de energie. Cele mai relevante îmbunătățiri ale eficienței 5G sunt următoarele:
  • Atenuarea interferențelor: Versiunea 16 introduce caracteristicile de reducere a interferențelor la distanță (RIM) și a interferențelor încrucișate (CLI). Stațiile de bază pot comunica și coordona (prin semnale de referință (RIM-RS) prin aer sau în combinație cu semnalizarea backhaul) atenuarea interferențelor fluxurilor TDD DL-la-UL ale stației de bază (pentru a indica prezența interferențelor și dacă este suficientă atenuare). Cu CLI, dispozitivele pot măsura și raporta interferențe inter- / intra-celulare (Inter-celulă: când dispozitivele au programare TDD semi-statică, Intra-celulă: când dispozitivele acceptă TDD dinamic) cauzate de dispozitive învecinate cu configurații TDD diferite.
  • Performanță MIMO:
    • Versiunea 16 introduce îmbunătățiri MIMO, inclusiv:
      • manipulare îmbunătățită a fasciculului;
      • feedback-ul informațiilor despre starea canalului (CSI);
      • suport pentru transmisie către un singur UE din mai multe puncte de transmisie (multi-TRP)
      • transmisie de putere completă de la mai multe antene UE din legătura în sus (UL).
    • Unele dintre aceste îmbunătățiri sunt menite să mărească debitul rețelei, să reducă cheltuielile generale și / sau să ofere o rezistență suplimentară.
  • Poziționare de înaltă precizie: Cu o creștere a numărului de cazuri de utilizare și aplicații care necesită poziționare precisă în exterior și interior, versiunea 16 introduce diverse metode de poziționare bazate pe DL și UL, pentru a îndeplini cerințele de precizie pentru diferite cazuri de utilizare. În funcție de modul în care este operat, serverul de localizare a rețelei colectează și distribuie informații legate de poziționarea dispozitivului utilizator (capacități UE, date de asistență, măsurători, estimări de poziție etc.) către celelalte entități implicate în procedurile de poziționare. Poziționarea cu o singură și mai multe celule aduce, de asemenea, geolocalizare de precizie în sprijinul comunicațiilor ITS / V2X și aplicațiilor IIoT.
  • Consum de energie: Un alt aspect important al versiunii 16 este acela de a reduce și mai mult consumul de energie al dispozitivelor pe dispozitivele utilizatorului. De exemplu, utilizarea unui semnal de trezire (WUS), un canal de control de putere redusă pentru a indica activitatea sau lipsa acesteia în perioada corespunzătoare de monitorizare DRX (recepție discontinuă). Alte exemple includ setări optimizate de consum redus de energie, controale eficiente ale puterii și reducerea cheltuielilor generale și mecanisme mai eficiente de control al puterii. Noile funcții inteligente de economisire a energiei contribuie la îmbunătățirea autonomiei bateriei dispozitivului chiar și în aplicațiile cu utilizare ridicată (7).
  • Conectivitate dublă și agregare a operatorilor (CA / DC): Versiunea 16 reduce, de asemenea, latența pentru configurarea și activarea CA / DC pentru a atinge rate de date mai mari. În acest caz, conectivitatea poate fi reluată după perioade de inactivitate. Mai mult, versiunea 16 introduce, de asemenea, o declanșare a transmisiilor de semnal de referință CSI în cazul agregării purtătorilor cu numerologie diferită.
  • Îmbunătățiri ale mobilității: Reducerea timpului de întrerupere a transferului de 0 ms activat de stiva de protocol activă duală cu transmisii / recepție simultană de sursă / celulă țintă. Robustețe îmbunătățită a mobilității Transmisie condiționată bazată pe dispozitiv pentru conectivitate simplă și dublă și recuperare rapidă a eșecului transferului.
    • Sub-7 GHz și mmWave;
    • Ambele transferuri inter- și intra-frecvență;
    • Benefic pentru cazurile de utilizare cu mobilitate ridicată (de exemplu, tren, aerian).
  • Comunicare îmbunătățită ultra-fiabilă, cu latență scăzută (eURLLC): Un aspect important din versiunea 16 a vizat îmbunătățirea suportului pentru comunicații de înaltă fiabilitate și cu latență redusă. Principalele caracteristici introduse de acest caz includ îmbunătățiri în mecanismele rețelei 5G Core, îmbunătățiri ale straturilor fizice pentru 5G New Radio și suport pentru mecanismele Internetului nou al obiectelor radio industriale pentru a crește fiabilitatea includ un mecanism de transmisie redundant, monitorizare QoS îmbunătățită și suport RAN pentru multi-conectivitate de nivel superior (8). Mecanismele de reducere a latenței și de garantare a continuității sesiunii au fost, de asemenea, introduse în funcțiile Core 5G și susținute de îmbunătățiri ale specificațiilor stratului fizic ale 5G New Radio. În cele din urmă, îmbunătățirile care vizează în mod special scenariile IoT industriale includ livrarea exactă a calendarului de referință, îmbunătățiri ale planificării și gestionarea îmbunătățită a datelor de comunicare sensibile la timp.
  • Rețea auto-organizată (SON): Versiunea 16 îmbunătățește SON cu conceptul de optimizare robustă a mobilității (MRO), echilibrare a sarcinii de mobilitate (MLB) și optimizare RACH. Specificarea raportării dispozitivelor necesare pentru a îmbunătăți configurațiile de rețea și schimbul de informații între noduri (de exemplu, îmbunătățiri la interfețe precum N2 și Xn).

Referitor la evoluția planificată a specificațiilor 5G 3GPP: Specificațiile 5G sunt în continuă dezvoltare de către Proiectul de parteneriat de generația a treia (3GPP). Începând cu raportul de anul trecut, specificația actuală 5G este versiunea 16, care a atins înghețarea specificațiilor în iulie 2020, cu articole legate de rețeaua de acces radio. (9)

Se consideră că este util să planificăm versiuni potențiale ale peisajului amenințărilor 5G pentru a se potrivi actualizărilor introduse de versiunile mai noi ale specificației (de exemplu, sfârșitul anului 2021, care acoperă versiunea 17 prima etapă și sfârșitul anului 2022 care acoperă versiunea 17 etapa a doua).

Arhitectura 5G generică

Arhitectura 5G a evoluat ca rezultat al actualizărilor de specificații ale versiunii 3GPP 16. Actualizările au fost implementate fie la nivelul descrierilor, fie ca noi componente introduse de specificația 3GPP Versiunea 16.

Arhitectura 5G generică(Arhitectura 5G generică)

La fel ca în versiunea anterioară a 5G TL, arhitectura generică 5G este prezentată prin componentele sale principale descrise ca niște cutii etichetate. Aceste cutii au fost aranjate pe baza straturilor, prezentând rolul lor funcțional în arhitectura 5G (adică stratul de virtualizare și stratul de infrastructură fizică). Această arhitectură își propune să ofere o imagine de ansamblu asupra principalelor grupe de funcționalități 5G prevăzute și este o consolidare a componentelor / funcțiilor găsite în materialul analizat.

Mai exact în 5G, arhitectura a fost concepută astfel încât conectivitatea și serviciile să poată fi acceptate, permițând tehnici precum Virtualization Function Network (NFV), Network Slicing (NS) și Software Defined Networking (SDN), Slicing, etc. Această arhitectură bazată pe servicii îndeplinește mai multe cerințe funcționale și de performanță bazate pe noi cazuri de utilizare.

Arhitectura 5G generică este o prezentare generală a diferitelor componente care sunt detaliate și prezentate ulterior prin „Zoom-in” specifice. Componentele Transport și OSS au fost incluse în arhitectura generică 5G din motive de consistență, iar relațiile cu OSS sunt detaliate în zoom-in corespunzătoare pentru NVF și Network Slicing Management.

De asemenea, ca evoluție față de prima versiune a arhitecturii, în această versiune sunt luate în considerare procesele relevante, deoarece procesele MNO, Vânzător și Asigurare sunt consecințe pentru securitatea generală a rețelei 5G. Arhitectura 5G tehnică generică sau de nivel înalt este descrisă în figura de mai sus.

Referințe

(1) https://5g-ppp.eu/wp-content/uploads/2016/11/01_10-Nov_Session-3_Dino-Flore.pdf, accessed September 2019.

(2) https://5g.co.uk/guides/what-is-enhanced-mobile-broadband-embb/, accessed September 2019.

(3) https://arxiv.org/pdf/1801.01270.pdf, accessed September 2019.

(4) https://www.researchgate.net/profile/Carsten_Bockelmann/publication/305881263_Massive_Machine-type_Communications_in_5G_Physical_and_MAC-layer_solutions/links/5ad996fba6fdcc293586dbcd/Massive-Machine-type-Communications-in-5G-Physical-and-MAC-layer-solutions.pdf, accessed September 2019.

(5) https://metis2020.com/, accessed September 2019.

(6) https://www.ericsson.com/en/reports-and-papers/ericsson-technology-review/articles/5g-nr-evolution, accessed October 2020.

(7) https://www.qualcomm.com/news/onq/2020/07/07/propelling-5g-forward-closer-look-3gpp-release-16?, accessed October 2020.

(8) 3GPP TR 21.916 V0.5.0 (2020-07) Technical Report 3rd Generation Partnership Project; Technical Specification Group Services and System Aspects; Release 16 Description; Summary of Rel-16 Work Items (Release 16) – https://www.3gpp.org/ftp/Specs/archive/21_series/21.916, accessed October 2020.

(9) https://www.3gpp.org/release-16, accessed October 2020.

 

 

Sursa: Sfetcu, Nicolae (2022). Rețele de comunicații 5G, MultiMedia Publishing, ISBN 978-606-033-633-4, https://www.telework.ro/ro/e-books/retele-de-comunicatii-5g/

1 37 38 39 40 41 42 43 44