Publicat pe: 13 februarie 2025 / Actualizat pe: 13 februarie 2025 – Autor: Konrad Wolfenstein
Sisteme de inteligență artificială, sisteme cu risc ridicat și Legea privind inteligența artificială pentru aplicații practice în companii și autorități publice – Imagine: Xpert.Digital
Legislația UE privind inteligența artificială: Noi orientări de la Comisia Europeană – Ce trebuie să știe companiile acum
Sisteme de inteligență artificială, aplicații cu risc ridicat și Legea privind inteligența artificială în companii și autorități publice
La 11 februarie 2025, Comisia Europeană a publicat orientări cuprinzătoare privind implementarea practică a Legii UE privind inteligența artificială. Aceste orientări sunt menite să ajute companiile și autoritățile publice să înțeleagă și să respecte mai bine cerințele legii. Se pune un accent deosebit pe practicile de inteligență artificială interzise, sistemele cu risc ridicat și măsurile de asigurare a conformității.
Aspecte cheie ale orientărilor
Practici de inteligență artificială interzise
Legea IA interzice în mod explicit anumite aplicații IA considerate a prezenta riscuri inacceptabil de mari. Aceste interdicții sunt în vigoare din 2 februarie 2025. Printre altele, acestea includ:
- Sisteme de inteligență artificială care utilizează tehnici manipulatoare sau înșelătoare
- Sisteme care exploatează în mod specific vulnerabilitățile anumitor indivizi sau grupuri
- Sisteme de notare socială
- Inteligența artificială poate prezice potențiale acte criminale fără dovezi clare
- Extragerea necontrolată a imaginilor faciale de pe internet pentru identificare biometrică
- Sisteme de recunoaștere a emoțiilor la locul de muncă sau în instituțiile de învățământ
- Sisteme biometrice de identificare în timp real în spațiile publice (cu câteva excepții pentru agențiile de aplicare a legii)
Aceste interdicții au scopul de a garanta că tehnologiile de inteligență artificială sunt utilizate în mod etic și responsabil și nu încalcă drepturile fundamentale.
Aplicarea practică a liniilor directoare
Orientările Comisiei Europene, de 140 de pagini, conțin numeroase studii de caz practice menite să ajute companiile și autoritățile publice să își clasifice corect sistemele de inteligență artificială. Deși aceste orientări nu sunt obligatorii din punct de vedere juridic, ele servesc drept referință pentru autoritățile de supraveghere atunci când monitorizează și aplică reglementările.
Importanța pentru companii și autorități
Companiile și autoritățile trebuie să se implice activ în respectarea liniilor directoare pentru a:
- pentru a vă revizui sistemele de inteligență artificială existente pentru potențiale încălcări
- Pentru a face ajustările necesare din timp
- Pentru a construi structuri interne de conformitate pentru a evita penalitățile
Nerespectarea reglementărilor poate avea consecințe grave. Sancțiunile pot ajunge până la 35 de milioane de euro sau 7% din cifra de afaceri anuală globală a unei companii, oricare dintre acestea este mai mare.
Pașii următori
Înainte ca liniile directoare să poată fi implementate pe deplin, acestea trebuie încă traduse în toate limbile oficiale ale UE și adoptate oficial. Cu toate acestea, întreprinderile și autoritățile publice ar trebui să ia măsuri proactive pentru a se pregăti pentru introducerea treptată a Legii privind inteligența artificială. Aplicarea deplină a legii este programată pentru 2 august 2026.
Clasificarea riscurilor sistemelor de inteligență artificială
Legea UE privind IA împarte sistemele de IA în patru clase de risc, fiecare cu cerințe de reglementare diferite:
1. Risc inacceptabil – Sisteme de inteligență artificială interzise
Aceste sisteme sunt complet interzise în UE, deoarece reprezintă o amenințare semnificativă la adresa drepturilor și libertăților cetățenilor. Exemplele includ:
- Sisteme de inteligență artificială pentru scorare socială
- Inteligența artificială manipulatoare care influențează inconștient comportamentul utilizatorului
- Identificare biometrică în timp real în spațiile publice în scopuri de aplicare a legii (cu câteva excepții)
- Sisteme de inteligență artificială care exploatează vulnerabilitățile datorate vârstei, dizabilității sau statutului socioeconomic
2. Risc ridicat – este necesară o reglementare strictă
Aceste sisteme trebuie să îndeplinească cerințe stricte și să fie supuse unor teste de conformitate înainte de a putea fi introduse pe piață. Acestea includ:
- IA ca și componentă de siguranță în produse critice, cum ar fi dispozitivele medicale, vehiculele sau utilajele
- Sisteme de inteligență artificială independente cu implicații pentru drepturile fundamentale (de exemplu, verificări ale bonității, verificarea cererilor, aplicarea legii, administrarea judiciară)
Aceste aplicații sunt supuse unor cerințe extinse privind transparența, gestionarea riscurilor, calitatea datelor și supravegherea umană.
3. Risc limitat – obligații de transparență
Aceste sisteme trebuie să informeze utilizatorii că interacționează cu inteligența artificială. Exemplele includ:
- Chatbot-uri
- Deepfake-urile sunt folosite pentru a crea sau manipula conținut media
4. Risc minim sau inexistent – Utilizare gratuită
Astfel de sisteme nu sunt supuse unor obligații legale specifice; cu toate acestea, se recomandă un cod de conduită voluntar. Exemplele includ:
- Jocuri video bazate pe inteligență artificială
- Filtru de spam
Sisteme de inteligență artificială cu risc ridicat și reglementarea acestora
Legea privind inteligența artificială definește sistemele de inteligență artificială cu risc ridicat ca fiind cele care au un impact semnificativ asupra siguranței, sănătății sau drepturilor fundamentale ale persoanelor. Acestea pot fi împărțite în două categorii principale:
1. IA ca și componentă de securitate sau produs independent
Un sistem de inteligență artificială este clasificat ca având risc ridicat dacă:
- Funcționează ca o componentă de siguranță a unui produs care intră sub incidența reglementărilor de armonizare ale UE sau
- Este supus unei evaluări a conformității deoarece prezintă pericole potențiale.
Exemple de astfel de produse includ:
- IA în dispozitive medicale (de exemplu, sisteme de diagnosticare)
- Sisteme de asistență a șoferului bazate pe inteligență artificială
- IA în producția industrială pentru evaluarea riscurilor și asigurarea calității
2. Sisteme de inteligență artificială independente cu risc ridicat și relevanță societală
Aceste sisteme sunt enumerate în anexa III la Legea IA și afectează domenii critice ale societății, cum ar fi:
a) Infrastructuri critice
- IA pentru controlul și monitorizarea rețelelor electrice sau a rețelelor de transport
b) Educație și ocuparea forței de muncă
- Inteligența artificială pentru evaluarea automată a examenelor
- Inteligența artificială pentru selectarea candidaților sau evaluarea performanței angajaților
c) Accesul la beneficii financiare și sociale
- Verificări ale bonității bazate pe inteligență artificială
- Sisteme de evaluare a eligibilității pentru prestații sociale
d) Aplicarea legii și justiție
- IA pentru analiza dovezilor și suport pentru investigații
- Sisteme bazate pe inteligență artificială pentru controlul frontierelor și gestionarea migrației
e) Identificare biometrică
- Sisteme de identificare biometrică la distanță
- Sisteme de recunoaștere a emoțiilor în medii critice pentru siguranță
Toate aceste aplicații de inteligență artificială cu risc ridicat sunt supuse unor cerințe stricte privind gestionarea riscurilor, transparența, prelucrarea datelor, documentația tehnică și supravegherea umană.
Legea UE privind inteligența artificială: Cum se pot pregăti companiile pentru reglementările stricte privind inteligența artificială
Legea UE privind inteligența artificială stabilește un cadru clar pentru utilizarea tehnologiilor de inteligență artificială și pune un accent deosebit pe protejarea drepturilor fundamentale. Companiile și autoritățile publice trebuie să se familiarizeze temeinic cu noile reglementări și să își adapteze aplicațiile de inteligență artificială în consecință pentru a evita sancțiunile. Sistemelor cu risc ridicat li se aplică cerințe deosebit de stricte, care ar trebui integrate în procesele de dezvoltare și implementare într-un stadiu incipient.
Monitorizarea continuă a legislației și măsurile proactive de conformitate sunt esențiale pentru a asigura utilizarea responsabilă a IA, promovând în același timp inovația în cadrul legal. Anii următori vor dezvălui cum funcționează Legea IA în practică și ce ajustări suplimentare ar putea fi necesare.
Legat de asta:
Partenerul dumneavoastră global de marketing și dezvoltare a afacerilor
☑️ Limba noastră de afaceri este engleza sau germana
☑️ NOU: Corespondență în limba ta maternă!
Konrad Wolfenstein
Eu și echipa mea suntem bucuroși să vă fim la dispoziție în calitate de consilier personal.
Mă puteți contacta completând formularul de contact de aici sau pur și simplu sunându-mă la +49 89 89 674 804 ( München) . Adresa mea de e-mail este: [email protected]
Aștept cu nerăbdare proiectul nostru comun.