Udgivet den: 13. februar 2025 / Opdateret den: 13. februar 2025 – Forfatter: Konrad Wolfenstein
AI-systemer, højrisikosystemer og AI-loven til praktisk anvendelse i virksomheder og offentlige myndigheder – Billede: Xpert.Digital
EU's AI-lovgivning: Nye retningslinjer fra EU-Kommissionen – Hvad virksomheder har brug for at vide nu
AI-systemer, højrisikoapplikationer og AI-loven i virksomheder og offentlige myndigheder
Den 11. februar 2025 offentliggjorde Europa-Kommissionen omfattende retningslinjer for den praktiske implementering af EU's AI-lov. Disse retningslinjer har til formål at hjælpe virksomheder og offentlige myndigheder med bedre at forstå og overholde lovens krav. Der lægges særlig vægt på forbudte AI-praksisser, højrisikosystemer og foranstaltninger til at sikre overholdelse.
Vigtige aspekter af retningslinjerne
Forbudte AI-praksisser
AI-loven forbyder eksplicit visse AI-applikationer, der anses for at udgøre uacceptabelt høje risici. Disse forbud har været gældende siden 2. februar 2025. De omfatter blandt andet:
- AI-systemer, der bruger manipulerende eller vildledende teknikker
- Systemer, der specifikt udnytter sårbarheder hos bestemte individer eller grupper
- Sociale scoringssystemer
- AI kan forudsige potentielle kriminelle handlinger uden klare beviser
- Ukontrolleret scraping af ansigtsbilleder fra internettet til biometrisk identifikation
- Systemer til følelsesgenkendelse på arbejdspladsen eller i uddannelsesinstitutioner
- Biometriske realtidsidentifikationssystemer i offentlige rum (med få undtagelser for retshåndhævende myndigheder)
Disse forbud har til formål at sikre, at AI-teknologier anvendes etisk og ansvarligt og ikke krænker grundlæggende rettigheder.
Praktisk anvendelse af retningslinjerne
Europa-Kommissionens 140-siders retningslinjer indeholder adskillige praktiske casestudier, der kan hjælpe virksomheder og offentlige myndigheder med at klassificere deres AI-systemer korrekt. Selvom disse retningslinjer ikke er juridisk bindende, fungerer de som reference for tilsynsmyndigheder, når de overvåger og håndhæver regler.
Betydning for virksomheder og myndigheder
Virksomheder og myndigheder skal aktivt engagere sig i retningslinjerne for at:
- at gennemgå dine eksisterende AI-systemer for potentielle overtrædelser
- At foretage nødvendige justeringer tidligt
- At opbygge interne compliance-strukturer for at undgå sanktioner
Manglende overholdelse af reglerne kan have alvorlige konsekvenser. Sanktioner kan nå op til 35 millioner euro eller 7 % af en virksomheds globale årlige omsætning, alt efter hvad der er højest.
Næste trin
Før retningslinjerne kan implementeres fuldt ud, skal de stadig oversættes til alle officielle EU-sprog og formelt vedtages. Ikke desto mindre bør virksomheder og offentlige myndigheder proaktivt tage skridt til at forberede sig på den gradvise indførelse af AI-loven. Lovens fulde anvendelse er planlagt til den 2. august 2026.
Risikokategorisering af AI-systemer
EU's AI-lov opdeler AI-systemer i fire risikoklasser, der hver især har forskellige lovgivningsmæssige krav:
1. Uacceptabel risiko – forbudte AI-systemer
Disse systemer er fuldstændig forbudt i EU, fordi de udgør en betydelig trussel mod borgernes rettigheder og friheder. Eksempler inkluderer:
- AI-systemer til social scoring
- Manipulerende AI, der ubevidst påvirker brugeradfærd
- Biometrisk identifikation i realtid i offentlige rum til retshåndhævelsesformål (med få undtagelser)
- AI-systemer, der udnytter sårbarheder på grund af alder, handicap eller socioøkonomisk status
2. Høj risiko – streng regulering påkrævet
Disse systemer skal opfylde strenge krav og gennemgå overensstemmelsestest, før de kan bringes på markedet. De omfatter:
- AI som sikkerhedskomponent i kritiske produkter såsom medicinsk udstyr, køretøjer eller maskiner
- Selvstændige AI-systemer med implikationer for grundlæggende rettigheder (f.eks. kreditværdighedstjek, screening af ansøgninger, retshåndhævelse, retsadministration)
Disse applikationer er underlagt omfattende krav vedrørende gennemsigtighed, risikostyring, datakvalitet og menneskeligt tilsyn.
3. Begrænset risiko – gennemsigtighedsforpligtelser
Disse systemer skal informere brugerne om, at de interagerer med AI. Eksempler inkluderer:
- Chatbots
- Deepfakes bruges til at skabe eller manipulere medieindhold
4. Minimal eller ingen risiko – Fri brug
Sådanne systemer er ikke underlagt nogen specifikke juridiske forpligtelser; dog anbefales en frivillig adfærdskodeks. Eksempler inkluderer:
- AI-drevne videospil
- Spamfilter
Højrisiko AI-systemer og reguleringen heraf
AI-loven definerer AI-systemer med høj risiko som systemer, der har en betydelig indvirkning på menneskers sikkerhed, sundhed eller grundlæggende rettigheder. Disse kan opdeles i to hovedkategorier:
1. AI som en sikkerhedskomponent eller et selvstændigt produkt
Et AI-system klassificeres som højrisiko, hvis det enten:
- Den fungerer som en sikkerhedskomponent i et produkt, der er omfattet af EU's harmoniseringsforordninger, eller
- Den er underlagt en overensstemmelsesvurdering, fordi den udgør potentielle farer.
Eksempler på sådanne produkter inkluderer:
- AI i medicinsk udstyr (f.eks. diagnostiske systemer)
- AI-understøttede førerassistentsystemer
- AI i industriel produktion til risikovurdering og kvalitetssikring
2. Selvstændige højrisiko-AI-systemer med samfundsmæssig relevans
Disse systemer er anført i bilag III til AI-loven og påvirker kritiske områder af samfundet såsom:
a) Kritisk infrastruktur
- AI til styring og overvågning af elnet eller transportnetværk
b) Uddannelse og beskæftigelse
- AI til automatiseret eksamensvurdering
- AI til udvælgelse af ansøgere eller evaluering af medarbejderpræstationer
c) Adgang til økonomiske og sociale ydelser
- AI-drevne kreditværdighedstjek
- Systemer til vurdering af berettigelse til sociale ydelser
d) Retshåndhævelse og retsvæsen
- AI til bevisanalyse og efterforskningsstøtte
- AI-understøttede systemer til grænsekontrol og migrationsstyring
e) Biometrisk identifikation
- Systemer til biometrisk fjernidentifikation
- Systemer til følelsesgenkendelse i sikkerhedskritiske miljøer
Alle disse højrisiko-AI-applikationer er underlagt strenge krav vedrørende risikostyring, gennemsigtighed, databehandling, teknisk dokumentation og menneskeligt tilsyn.
EU's AI-lov: Sådan kan virksomheder forberede sig på de strenge AI-regler
EU's AI-lovgivning fastsætter en klar ramme for brugen af AI-teknologier og lægger særlig vægt på beskyttelsen af grundlæggende rettigheder. Virksomheder og offentlige myndigheder skal sætte sig grundigt ind i de nye regler og tilpasse deres AI-applikationer i overensstemmelse hermed for at undgå sanktioner. Der gælder særligt strenge krav til højrisikosystemer, som bør integreres i udviklings- og implementeringsprocesserne på et tidligt stadie.
Løbende overvågning af lovgivningen og proaktive compliance-foranstaltninger er afgørende for at sikre ansvarlig brug af AI, samtidig med at innovation fremmes inden for de juridiske rammer. De kommende år vil vise, hvordan AI-loven fungerer i praksis, og hvilke yderligere justeringer der måtte være nødvendige.
Relateret til dette:
Din globale marketing- og forretningsudviklingspartner
☑️ Vores forretningssprog er engelsk eller tysk
☑️ NYT: Korrespondance på dit modersmål!
Konrad Wolfenstein
Jeg og mit team er glade for at stå til rådighed for dig som din personlige rådgiver.
Du kan kontakte mig ved at udfylde kontaktformularen her eller blot ringe til mig på +49 89 89 674 804 ( München) . Min e-mailadresse er: [email protected]
Jeg glæder mig til vores fælles projekt.