AI-süsteemid, kõrge riskiga süsteemid ja AI tegutsevad ettevõttes ja ametivõimudes

Konrad Wolfenstein

10 kuud tagasi

Tehisintellekti süsteemid: kõrge riskiga süsteemid ja tehisintellekti seadus ettevõtete ja avaliku sektori asutuste praktikas – pilt: Xpert.Digital

ELi tehisintellekti seadus: Euroopa Komisjoni uued suunised – mida ettevõtted peaksid nüüd teadma

Tehisintellekti süsteemid, kõrge riskiga rakendused ja tehisintellekti seadus ettevõtetes ja avaliku sektori asutustes

11. veebruaril 2025 avaldas Euroopa Komisjon põhjalikud suunised ELi tehisintellekti seaduse praktilise rakendamise kohta. Nende suuniste eesmärk on aidata ettevõtetel ja avaliku sektori asutustel seaduse nõudeid paremini mõista ja järgida. Erilist rõhku pannakse keelatud tehisintellekti tavadele, kõrge riskiga süsteemidele ja vastavuse tagamise meetmetele.

Suuniste põhiaspektid

Keelatud tehisintellekti tavad

Tehisintellekti seadus keelab sõnaselgelt teatud tehisintellekti rakendused, mida peetakse vastuvõetamatult kõrge riskiga. Need keelud on kehtinud alates 2. veebruarist 2025. Nende hulka kuuluvad muu hulgas:

Manipuleerivaid või petlikke tehnikaid kasutavad tehisintellekti süsteemid
Süsteemid, mis kasutavad ära teatud isikute või rühmade haavatavusi
Sotsiaalsed hindamissüsteemid
Tehisintellekt ennustab võimalikke kuritegusid ilma selgete tõenditeta
Näopiltide kontrollimatu kraapimine internetist biomeetrilise tuvastamise eesmärgil
Emotsioonide tuvastamise süsteemid töökohal või haridusasutustes
Biomeetrilised reaalajas tuvastamise süsteemid avalikes kohtades (vähese erandiga õiguskaitseasutustele)

Nende keeldude eesmärk on tagada, et tehisintellekti tehnoloogiaid kasutatakse eetiliselt ja vastutustundlikult ning et need ei riku põhiõigusi.

Suuniste praktiline rakendamine

Euroopa Komisjoni 140-leheküljelised suunised sisaldavad arvukalt praktilisi juhtumianalüüse, mis aitavad ettevõtetel ja avaliku sektori asutustel oma tehisintellekti süsteeme õigesti klassifitseerida. Kuigi need suunised ei ole õiguslikult siduvad, on need järelevalveasutustele viiteks regulatsioonide järelevalvel ja jõustamisel.

Tähtsus ettevõtetele ja ametiasutustele

Ettevõtted ja ametiasutused peavad suunistega aktiivselt tegelema, et:

oma olemasolevate tehisintellekti süsteemide ülevaatamiseks võimalike rikkumiste suhtes
Vajalike kohanduste tegemiseks varakult
Sisemiste vastavusstruktuuride loomine karistuste vältimiseks

Määruste eiramine võib kaasa tuua tõsiseid tagajärgi. Sanktsioonid võivad ulatuda kuni 35 miljoni euroni või 7%-ni ettevõtte ülemaailmsest aastakäibest, olenevalt sellest, kumb on suurem.

Järgmised sammud

Enne suuniste täielikku rakendamist tuleb need veel tõlkida kõikidesse ELi ametlikesse keeltesse ja ametlikult vastu võtta. Sellest hoolimata peaksid ettevõtted ja avaliku sektori asutused ennetavalt astuma samme tehisintellekti seaduse järkjärguliseks rakendamiseks valmistumiseks. Seaduse täielik kohaldamine on kavandatud 2. augustile 2026.

Tehisintellekti süsteemide riskikategooriad

ELi tehisintellekti seadus jagab tehisintellekti süsteemid nelja riskiklassi, millel kõigil on erinevad regulatiivsed nõuded:

1. Vastuvõetamatu risk – keelatud tehisintellekti süsteemid

Need süsteemid on ELis täielikult keelatud, kuna need kujutavad endast märkimisväärset ohtu kodanike õigustele ja vabadustele. Näited hõlmavad järgmist:

Sotsiaalse hindamise tehisintellekti süsteemid
Manipuleeriv tehisintellekt, mis mõjutab alateadlikult kasutaja käitumist
Reaalajas biomeetriline tuvastamine avalikes kohtades õiguskaitse eesmärgil (mõnede eranditega)
Tehisintellekti süsteemid, mis kasutavad ära vanuse, puude või sotsiaalmajandusliku staatuse tõttu tekkinud haavatavusi

2. Suur risk – vajalik range reguleerimine

Need süsteemid peavad enne turule laskmist vastama rangetele nõuetele ja läbima vastavustestimise. Nende hulka kuuluvad:

Tehisintellekt kui ohutuskomponent kriitilistes toodetes, näiteks meditsiiniseadmetes, sõidukites või masinates
Eraldiseisvad tehisintellekti süsteemid, millel on mõju põhiõigustele (nt krediidivõimelisuse kontroll, taotluste taustakontroll, õiguskaitse, kohtusüsteem)

Nendele rakendustele kehtivad ulatuslikud nõuded läbipaistvuse, riskijuhtimise, andmete kvaliteedi ja inimliku järelevalve osas.

3. Piiratud risk – läbipaistvuskohustused

Need süsteemid peavad kasutajaid teavitama, et nad suhtlevad tehisintellektiga. Näited hõlmavad järgmist:

Vestlusbotid
Süvavõltsinguid kasutatakse meediasisu loomiseks või manipuleerimiseks.

4. Minimaalne või puudub risk – tasuta kasutamine

Sellistele süsteemidele ei kohaldu mingeid konkreetseid juriidilisi kohustusi, kuid soovitatav on vabatahtlik käitumisjuhend. Näited hõlmavad järgmist:

Tehisintellektil põhinevad videomängud
Rämpsposti filter

Kõrge riskiga tehisintellekti süsteemid ja nende reguleerimine

Tehisintellekti seadus määratleb kõrge riskiga tehisintellekti süsteemid kui need, millel on oluline mõju inimeste ohutusele, tervisele või põhiõigustele. Need võib jagada kahte põhikategooriasse:

1. Tehisintellekt turvakomponendina või eraldiseisva tootena

Tehisintellekti süsteem liigitatakse kõrge riskiga süsteemiks, kui see kas:

See toimib toote ohutuskomponendina, mis kuulub ELi ühtlustamismääruste alla, või
See kuulub vastavushindamise alla, kuna see kujutab endast potentsiaalset ohtu.

Selliste toodete näideteks on:

Tehisintellekt meditsiiniseadmetes (nt diagnostikasüsteemides)
Tehisintellektiga toetatud juhiabisüsteemid
Tehisintellekt tööstuslikus tootmises riskihindamiseks ja kvaliteedi tagamiseks

2. Ühiskondlikult olulised eraldiseisvad kõrge riskiga tehisintellekti süsteemid

Need süsteemid on loetletud tehisintellekti seaduse III lisas ja mõjutavad ühiskonna kriitilisi valdkondi, näiteks:

a) Kriitilised infrastruktuurid

Tehisintellekt elektrivõrkude või transpordivõrkude juhtimiseks ja jälgimiseks

b) Haridus ja tööhõive

Tehisintellekt automatiseeritud eksamite hindamiseks
Tehisintellekt kandidaatide valimiseks või töötajate tulemuslikkuse hindamiseks

c) Juurdepääs rahalistele ja sotsiaalsetele hüvedele

Tehisintellektil põhinevad krediidivõimelisuse kontrollid
Sotsiaaltoetuste saamise õiguse hindamise süsteemid

d) Õiguskaitse ja õigusemõistmine

Tehisintellekt tõendite analüüsi ja uurimise toetamiseks
Tehisintellektiga toetatud süsteemid piirikontrolliks ja rändehalduseks

e) Biomeetriline tuvastamine

Biomeetrilise kaugtuvastuse süsteemid
Emotsioonide tuvastamise süsteemid ohutuskriitilistes keskkondades

Kõikidele neile kõrge riskiga tehisintellekti rakendustele kehtivad ranged nõuded riskijuhtimise, läbipaistvuse, andmetöötluse, tehnilise dokumentatsiooni ja inimjärelevalve osas.

EL-i tehisintellekti seadus: kuidas ettevõtted saavad valmistuda rangeteks tehisintellekti regulatsioonideks

ELi tehisintellekti seadus kehtestab tehisintellekti tehnoloogiate kasutamiseks selge raamistiku ja rõhutab eriti põhiõiguste kaitset. Ettevõtted ja avaliku sektori asutused peavad uute regulatsioonidega põhjalikult tutvuma ja oma tehisintellekti rakendusi vastavalt kohandama, et vältida sanktsioone. Eriti ranged nõuded kehtivad kõrge riskiga süsteemidele, mis tuleks juba varajases etapis arendus- ja rakendusprotsessidesse integreerida.

Õigusaktide pidev jälgimine ja ennetavad vastavusmeetmed on olulised, et tagada tehisintellekti vastutustundlik kasutamine, edendades samal ajal innovatsiooni õigusraamistikus. Lähiaastad näitavad, kuidas tehisintellekti seadus praktikas toimib ja millised edasised kohandused võivad olla vajalikud.

Sobib selleks:

Teie ülemaailmne turundus- ja äriarenduspartner

☑️ Meie ärikeel on inglise või sakslane

☑️ Uus: kirjavahetus teie riigikeeles!