Inteligența artificială (AI) este o ramură a informaticii care implică crearea de sisteme capabile să învețe și să îndeplinească sarcini fără a fi programate explicit pentru acest lucru. Aceste sisteme pot fi antrenate pentru a recunoaște modele și pentru a lua deciziicu ajutorul datelor de intrare.

Utilizarea AI implică o serie de riscuri privind protecția datelor cu caracter personal, precum discriminarea, profilarea, lipsa de transparență și responsabilitate.

În cadrul strategiei sale digitale, UE dorește să reglementeze inteligența artificială pentru a asigura condiții optime de dezvoltare și folosire a acestei tehnologii inovatoare. AI poate aduce numeroase beneficii, cum ar fi servicii medicale mai bune, transport mai sigur și mai curat, producție mai eficientă precum și energie mai ieftină și mai sustenabilă.

În aprilie 2021, Comisia Europeană a propus primul cadru normativ al UE pentru AI. Acesta prevede ca sistemele AI ce pot fi folosite în diferite aplicații să fie analizate și clasificate conform cu nivelul de risc pentru utilizatori. Diferitele niveluri de risc impun mai multă sau mai puțină reglementare. O dată intrate în vigoare, acestea vor fi primele norme din lume în privința AI.

Prioritatea Parlamentului este să se asigure că sistemele AI folosite în UE sunt sigure, transparente, trasabile, nediscriminatorii și ecologice. Sistemele IA trebuie supravegheate de oameni, nu prin procese automatizate, pentru a evita rezultatele dăunătoare.

Parlamentul dorește, de asemenea, să stabilească o definiție uniformă și neutră din punct de vedere tehnologic pentru AI, care să poată fi aplicată sistemelor de inteșigență artificiale viitoare.

La 8 decembrie 2023, Consiliul Uniunii Europene și Parlamentul European au ajuns la un acord provizoriu istoric privind legile care reglementează utilizarea inteligenței artificiale în UE („Legea AI ”). Documentul marchează primul cadru legal la nivel global care reglementează utilizarea AI, având ca scop să se asigure că „sistemele de inteligență artificială introduse pe piața europeană și utilizate în statele UE sunt sigure și respectă drepturile fundamentale și valorile comunitare”.

La începutul lunii februarie, Consiliul statelor membre ale UE a aprobat în unanimitate textul Legii AI și a recomandat examinarea acestuia de către Parlamentul European. Înainte ca legea să intre în vigoare, documentul va fi suspus dezbaterii în comitetele pentru piața internă și libertățile civile ale Parlamentului European, după care va urma votul final în plenul programat la mijlocul lunii aprilie 2024.

Odată adoptată, Legea AI va intra apoi în vigoare la 20 de zile de la publicarea în jurnalul oficial al Parlamentului European. 

Până la adoptarea versiunii finale, Legea AI beneficiează de un acord provizoriu convenit între Consiliul Uniunii Europene și Parlamentul European:

• În general: Legea AI adoptă o abordare „bazată pe riscuri” – cu cât riscul este mai mare, cu atât regulile sunt mai stricte. Sistemele AI care prezintă un „risc inacceptabil” vor fi interzise, ​​în timp ce cerințele de reglementare stricte vor fi impuse sistemelor AI „cu risc ridicat”.
   
• Definiția IA : definiția IA care urmează să fie încorporată în Legea AI urmărește definiția OCDE: „… un sistem bazat pe mașini care, pentru obiective explicite sau implicite, deduce, din input-ul pe care îl primește, cum să genereze rezultate, cum ar fi predicții. , conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale. Diferite sisteme AI variază în ceea ce privește nivelurile lor de autonomie și adaptabilitate după implementare.’ 
• Domeniu de aplicare : Legea AI nu se va aplica domeniilor care nu intră în domeniul de aplicare al dreptului UE, de exemplu, pentru a restrânge competența statelor membre în domeniul securității naționale. Vor fi excluse sistemele utilizate exclusiv în scopuri militare sau de apărare, exclusiv pentru cercetare și inovare, sau pentru utilizări neprofesionale.
• Teritorialitate : Legea AI se va aplica extrateritorial, astfel încât organizațiile cu sediul în afara UE vor fi supuse restricțiilor legii atunci când comercializează sau implementează AI în UE. Uniunea Europeană intenționează ca Legea AI să stabilească un standard global pentru reglementarea inteligenței artificiale, pe modelul GDPR 
• Interdicții : unele forme de inteligență artificială vor fi interzise complet:
  • sisteme de clasificare biometrică AI care exploatează caracteristici sensibile (de exemplu, politică, religioasă, rasă sau orientare sexuală);
  • inteligența care recunoaște emoțiile la locul de muncă și instituțiile de învățământ,
  • sisteme de notare socială bazate pe comportamentul social sau caracteristicile personale;
  • sisteme care manipulează comportamentul uman pentru a-și eluda liberul arbitru
  • inteligența artificială implementată pentru a exploata vulnerabilitățile umane (de exemplu, vârstă, dizabilitate, situație economică)
• Sisteme cu risc ridicat: diferite sisteme AI sunt identificate ca fiind cu risc ridicat. Este vorba de sisteme care ar putea cauza daune potențiale semnificative sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept. Acestea includ sisteme de inteligență artificială utilizate pentru a influența rezultatul alegerilor și comportamentul alegătorilor. IA cu risc ridicat va fi supusă unor protecții suplimentare, inclusiv certificarea conformității și drepturile cetățenilor de a depune plângeri cu privire la sistemele de AI. Înainte de lansarea sistemelor AI cu risc ridicat, dezvoltatorii vor trebui să efectueze o „evaluare a impactului asupra drepturilor omului”. Acordul provizoriu extinde această evaluare a impactului asupra drepturilor la sectorul bancar și al asigurărilor. O altă modificare a propunerii inițiale a Legii AI este că va exista o excepție pentru inteligența artificială cu risc ridicat care, în practică, nu prezintă un risc semnificativ pentru siguranță sau drepturile fundamentale.
• Guvernare : Actul AI va fi pus în aplicare de autoritățile desemnate în statele membre. La nivelul UE, va fi înființat un nou birou AI pentru a coordona și a supraveghea guvernanța și aplicarea în întreaga UE, inclusiv supravegherea și punerea în aplicare a regulamentului GPAI convenit.
• Aplicare : niveluri diferite de amenzi vor fi implementate pentru încălcarea Legii AI. Acestea variază de la cea mai mare dintre:
  
  • 7% din cifra de afaceri globală anuală sau 35 milioane EUR pentru încălcările interzise ale IA,
  • 3% sau 15 milioane EUR din cifra de afaceri globală anuală pentru alte încălcări (inclusiv cele legate de sistemele cu risc ridicat) și
  • 1,5% sau 7 milioane EUR din cifra de afaceri globală anuală pentru dezvăluirea de informații inexacte.

IC CONSULTING SRL