AI-system, högrisksystem och AI-lagen för praxis i företag och myndigheter

Konrad Wolfenstein

3 månader sedan

AI Systems High-Risk Systems och AI Act for Practice in Companies and Myndigheter-Image: Xpert.Digital

EU KI-lagen: Nya riktlinjer för EU-kommission-vad företag behöver veta nu

AI-system, högriskansökningar och AI-lagen i företag och myndigheter

Europeiska kommissionen publicerade omfattande riktlinjer den 11 februari 2025 för det praktiska genomförandet av EU KI -lagen (AI -lagen). Dessa är avsedda att stödja företag och myndigheter för att bättre förstå lagens krav och att genomföra dem i enlighet med. Fokus är särskilt på förbjudna AI-metoder, högrisksystem och åtgärder för att följa förordningarna.

Viktiga aspekter av riktlinjerna

Förbjudna AI -metoder

AI -lagen förbjuder uttryckligen vissa AI -applikationer som klassificeras som oacceptabla riskabla. Dessa förbud har varit i kraft sedan 2 februari 2025. Dessa inkluderar:

AI -system som använder manipulativa eller vilseledande tekniker
System som använder sårbarheter hos vissa människor eller grupper på ett riktat sätt
Sociala utvärderingssystem (social poäng)
AI för att förutsäga potentiella kriminella handlingar utan tydliga bevis
Okontrollerad skrapning av ansiktsbilder från internet för biometrisk identifiering
System för upptäckt av känslor på jobbet eller i utbildningsinstitutioner
Biometriska realtidsidentifieringssystem i offentliga utrymmen (med några få undantag för brottsbekämpande myndigheter)

Dessa förbud är avsedda att säkerställa att AI -teknologier används etiskt och ansvarsfullt och inte bryter mot grundläggande rättigheter.

Praktisk tillämpning av riktlinjerna

De 140-sidiga riktlinjerna för EU-kommissionen innehåller många praktiska fallstudier för att underlätta korrekt klassificering av deras AI-system. Även om dessa riktlinjer inte är juridiskt bindande, fungerar de som en referens för tillsynsmyndigheterna vid övervakning och verkställighet av förordningarna.

Betydelse för företag och myndigheter

Företag och myndigheter måste aktivt hantera riktlinjerna för att:

För att kontrollera dina befintliga AI -system för möjliga kränkningar
För att göra nödvändiga justeringar i ett tidigt skede
Bygga interna efterlevnadsstrukturer för att undvika straff

Icke -överensstämmelse med förordningarna kan få allvarliga konsekvenser. Sanktionerna varierar upp till 35 miljoner euro eller 7% av den globala årliga omsättningen för ett företag, beroende på vilket belopp som är högre.

Nästa steg

Innan riktlinjerna genomförs fullt ut måste de fortfarande översättas till alla EU: s kontor och formellt antagna. Ändå bör företag och myndigheter proaktivt vidta åtgärder för att förbereda sig för den gradvisa introduktionen av AI -lagen. Den fullständiga tillämpningen av lagen planeras för 2 augusti 2026.

Riskkategoriseringen av AI -system

EU AI -lagen delar AI -system i fyra riskklasser, som var och en har olika lagkrav:

1. Oacceptabla riskförlorande AI-system

Dessa system är helt förbjudna i EU eftersom de representerar en betydande fara för medborgarnas rättigheter och friheter. Exempel är:

AI -system för social utvärdering (social poäng)
Manipulativ AI som omedvetet påverkar användarnas beteende
Biometrisk realtidsidentifiering i offentliga utrymmen för brottsbekämpande ändamål (med några få undantag)
AI-system som använder sårbarheter på grund av ålder, funktionshinder eller socioekonomisk status

2. Hög risk - Strikt reglering krävs

Dessa system måste uppfylla strikta krav och gå igenom ett överensstämmelseprov innan de kommer ut på marknaden. De inkluderar:

AI som säkerhetskomponent i kritiska produkter som medicinsk utrustning, fordon eller maskiner
Oberoende AI -system med effekter på grundläggande rättigheter (t.ex. kreditkontroll, ansöknings screening, straffrättsligt åtal, rättslig administration)

Omfattande krav för öppenhet, riskhantering, datakvalitet och mänsklig övervakning gäller för dessa applikationer.

3. Begränsad risk - Öppenhetskyldigheter

Dessa system måste informera användare om att de interagerar med en AI. Exempel är:

Chatbotar
Deappares brukade skapa eller manipulera medieinnehåll

4. Minimal eller ingen risk - gratis användning

Sådana system är inte föremål för särskilda juridiska skyldigheter, men en frivillig uppförandekod rekommenderas. Exempel är:

AI-baserade videospel
Skräppostfilter

ACI-system med hög risk och deras reglering

AI-lagen definierar högrisk ACI-system som sådana som har en betydande inverkan på människors säkerhet, hälsa eller grundläggande rättigheter. Dessa kan delas in i två huvudkategorier:

1. AI som säkerhetskomponent eller oberoende produkt

Ett AI -system klassificeras som en hög risk om det är antingen:

Fungerar som en säkerhetskomponent i en produkt som faller enligt EU: s harmoniseringsregler, eller
En överensstämmelsebedömning är föremål för potentiella faror.

Exempel på sådana produkter är:

AI i medicintekniska produkter (t.ex. diagnostiska system)
AI-baserade körhjälpssystem
AI i industriell produktion för riskbedömning och kvalitetssäkring

2. Oberoende högrisk ACI-system med social relevans

Dessa system listas i bilaga III i AI -lagen och berör kritiska sociala områden som:

a) Kritiska infrastrukturer

AI för kontroll och övervakning av elnätverk eller trafiknätverk

b) Utbildning och anställning

AI för automatiserad bedömning av tentor
AI för att välja sökande eller prestationsbedömning av anställda

c) Tillgång till ekonomiska och sociala fördelar

AI-stödda kredittester
System för utvärdering av rätten att kräva för sociala förmåner

d) brottsbekämpning och rättsväsendet

AI för bevisanalys och utredningsstöd
AI-baserade system för gränskontroller och migreringshantering

e) biometrisk identifiering

Biometriska fjärridentifieringssystem
Känslor detekteringssystem i säkerhet -kritiska miljöer

För alla dessa högrisk-KI-applikationer gäller strikta krav för riskhantering, transparens, databehandling, teknisk dokumentation och mänsklig övervakning.

AI Act of EU: Hur kan företag förbereda sig för de strikta AI -förordningarna

EU AI -lagen sätter en tydlig ram för användning av AI -teknik och lägger särskild vikt vid skyddet av grundläggande rättigheter. Företag och myndigheter måste hantera de nya förordningarna och anpassa sina AI -ansökningar i enlighet därmed för att undvika sanktioner. Strikta krav gäller, särskilt för högrisksystem, som bör integreras i utvecklings- och implementeringsprocesser i ett tidigt skede.

Kontinuerlig övervakning av lagstiftning och proaktiva efterlevnadsåtgärder är avgörande för att använda AI -ansvaret och samtidigt främja innovationer inom den rättsliga ramen. De kommande åren kommer att visa hur AI -lagen bevisar sig i praktiken och vilka ytterligare justeringar kan vara nödvändiga.

Lämplig för detta:

Din globala marknadsförings- och affärsutvecklingspartner

☑ Vårt affärsspråk är engelska eller tyska

☑ Nytt: korrespondens på ditt nationella språk!