Manipularea și recunoașterea persoanelor cu ajutorul AI sunt interzise în UE. Cele opt tipuri de sisteme de Inteligență Artificială interzise prin AI Act 2025

• Din 2 februarie 2025, Uniunea Europeană, inclusiv România, a implementat primul set de interdicții privind utilizarea anumitor sisteme de inteligență artificială (AI), conform Regulamentului AI Act. Acest regulament reprezintă primul cadru legislativ global dedicat reglementării AI, având ca scop protejarea drepturilor fundamentale, prevenirea abuzurilor și garantarea utilizării etice a tehnologiilor avansate.

Comisia Europeană a identificat opt tipuri de AI cu risc inacceptabil, care pot pune în pericol securitatea, intimitatea sau drepturile fundamentale ale cetățenilor europeni. Aceste sisteme sunt considerate o amenințare directă la adresa democrației, libertății și egalității. Interdicția acoperă domenii sensibile, de la recunoașterea facială în timp real până la evaluarea riscului infracțional pe baza datelor biometrice.

AI Act va fi implementat progresiv, iar până în august 2026, toate măsurile vor fi complet aplicate. Companiile și instituțiile care nu respectă regulamentul riscă amenzi de până la 35 de milioane de euro sau 7% din cifra de afaceri globală.

Acest regulament stabilește un precedent global, oferind un cadru clar pentru utilizarea etică a inteligenței artificiale. Uniunea Europeană își propune să mențină echilibrul între inovație și protecția drepturilor cetățenilor, asigurând un mediu digital sigur și echitabil.

Cele 8 tipuri de sisteme AI interzise în UE:

1. Identificarea în timp real a persoanelor cu camere în locuri publice

Sistemele de recunoaștere facială în timp real sunt interzise în spațiile publice, cum ar fi străzile comerciale, gările sau aeroporturile. Aceste tehnologii permit identificarea instantanee a indivizilor, ridicând probleme grave legate de supravegherea masivă și pierderea anonimității în spațiul public.

Excepții:

• Utilizarea acestora este permisă doar în cazuri excepționale, cum ar fi investigațiile privind terorismul sau infracțiunile grave, dar doar cu aprobarea instanței.

2. Clasificarea socială pe baza datelor personale irelevante

Uniunea Europeană interzice folosirea AI pentru a clasifica și evalua indivizii pe criterii sociale fără o legătură clară cu scopul unor analize.

De exemplu, o bancă nu poate evalua capacitatea de rambursare a unui împrumut în funcție de etnie, religie sau comportament online, ci doar pe baza datelor financiare relevante.

Această interdicție protejează cetățenii de discriminare și de excluderea socială pe criterii injuste.

3. Evaluarea riscului infracțional al unei persoane pe baza datelor biometrice

AI nu poate fi utilizată pentru a prezice comportamentul infracțional al unei persoane pe baza unor trăsături fizice, cum ar fi expresiile faciale sau trăsăturile genetice.

De exemplu, forțele de ordine nu pot folosi un algoritm pentru a detecta „posibile” intenții criminale doar pe baza analizării feței unei persoane.

Această măsură împiedică stereotipurile algoritmice și deciziile eronate bazate pe prejudecăți automate.

4. Crearea de baze de date cu fețe prin extragerea de imagini de pe internet

Colectarea masivă și fără consimțământ a imaginilor fețelor persoanelor de pe internet sau din rețelele sociale este strict interzisă.

Motivul interdicției:

• Acest tip de practică ar conduce la o supraveghere masivă a populației, permițând companiilor și guvernelor să urmărească cetățenii fără aprobarea acestora.

Un exemplu celebru este compania Clearview AI, care a fost criticată pentru crearea unei baze de date cu milioane de fețe preluate din rețelele sociale, fără consimțământul utilizatorilor.

5. Recunoașterea emoțiilor la locul de muncă sau în instituții de învățământ

AI nu poate fi folosită pentru a analiza emoțiile angajaților în timpul muncii sau ale elevilor și studenților în instituții de învățământ.

Exemple de interdicție:

• Un angajator nu poate monitoriza emoțiile angajaților pentru a le măsura nivelul de stres sau de productivitate.
• O școală nu poate folosi camere AI pentru a detecta atenția elevilor la ore pe baza expresiilor faciale.

Această măsură protejează intimitatea emoțională și previne abuzurile la locul de muncă.

6. Manipularea comportamentului persoanelor cu ajutorul AI

Este interzisă utilizarea inteligenței artificiale pentru a manipula deciziile consumatorilor prin interfețe înșelătoare sau mesaje subliminale.

• Exemplu:
• Un magazin online nu poate folosi AI pentru a crea un buton de „Cumpără acum” care induce utilizatorul în eroare să facă achiziții impulsive.

Această prevedere protejează drepturile consumatorilor și previne practicile comerciale înșelătoare.

7. Exploatarea vulnerabilităților legate de vârstă sau dizabilități

UE interzice utilizarea AI pentru a exploata persoane vulnerabile, cum ar fi copiii sau persoanele cu dizabilități.

• Exemplu:
• Un robot-jucărie cu AI care manipulează copiii să cumpere produse sau să participe la activități periculoase este interzis.

Scopul interdicției este de a proteja persoanele care nu pot evalua corect riscurile și de a preveni abuzurile tehnologice.

8. Deducerea opiniilor politice sau a orientării sexuale pe baza datelor biometrice

Orice sistem AI care pretinde că poate identifica opiniile politice, religioase sau orientarea sexuală a unei persoane pe baza analizării trăsăturilor faciale este interzis.

• Exemplu:
• Un angajator sau o instituție nu poate folosi AI pentru a analiza expresiile faciale ale unui candidat în timpul unui interviu pentru a deduce opiniile sale politice sau convingerile religioase.

Această prevedere protejează dreptul la viață privată și la libertatea de exprimare.