AI-system, högrisksystem och AI-lagen för praxis i företag och myndigheter

AI-system, högriskansökningar och AI-lagen i företag och myndigheter

Europeiska kommissionen publicerade omfattande riktlinjer den 11 februari 2025 för det praktiska genomförandet av EU KI -lagen (AI -lagen). Dessa är avsedda att stödja företag och myndigheter för att bättre förstå lagens krav och att genomföra dem i enlighet med. Fokus är särskilt på förbjudna AI-metoder, högrisksystem och åtgärder för att följa förordningarna.

Viktiga aspekter av riktlinjerna

Förbjudna AI -metoder

AI -lagen förbjuder uttryckligen vissa AI -applikationer som klassificeras som oacceptabla riskabla. Dessa förbud har varit i kraft sedan 2 februari 2025. Dessa inkluderar:

• AI -system som använder manipulativa eller vilseledande tekniker
• System som använder sårbarheter hos vissa människor eller grupper på ett riktat sätt
• Sociala utvärderingssystem (social poäng)
• AI för att förutsäga potentiella kriminella handlingar utan tydliga bevis
• Okontrollerad skrapning av ansiktsbilder från internet för biometrisk identifiering
• System för upptäckt av känslor på jobbet eller i utbildningsinstitutioner
• Biometriska realtidsidentifieringssystem i offentliga utrymmen (med några få undantag för brottsbekämpande myndigheter)

Dessa förbud är avsedda att säkerställa att AI -teknologier används etiskt och ansvarsfullt och inte bryter mot grundläggande rättigheter.

Praktisk tillämpning av riktlinjerna

De 140-sidiga riktlinjerna för EU-kommissionen innehåller många praktiska fallstudier för att underlätta korrekt klassificering av deras AI-system. Även om dessa riktlinjer inte är juridiskt bindande, fungerar de som en referens för tillsynsmyndigheterna vid övervakning och verkställighet av förordningarna.

Betydelse för företag och myndigheter

Företag och myndigheter måste aktivt hantera riktlinjerna för att:

1. För att kontrollera dina befintliga AI -system för möjliga kränkningar
2. För att göra nödvändiga justeringar i ett tidigt skede
3. Bygga interna efterlevnadsstrukturer för att undvika straff

Icke -överensstämmelse med förordningarna kan få allvarliga konsekvenser. Sanktionerna varierar upp till 35 miljoner euro eller 7% av den globala årliga omsättningen för ett företag, beroende på vilket belopp som är högre.

Nästa steg

Innan riktlinjerna genomförs fullt ut måste de fortfarande översättas till alla EU: s kontor och formellt antagna. Ändå bör företag och myndigheter proaktivt vidta åtgärder för att förbereda sig för den gradvisa introduktionen av AI -lagen. Den fullständiga tillämpningen av lagen planeras för 2 augusti 2026.

Riskkategoriseringen av AI -system

EU AI -lagen delar AI -system i fyra riskklasser, som var och en har olika lagkrav:

1. Oacceptabla riskförlorande AI-system

Dessa system är helt förbjudna i EU eftersom de representerar en betydande fara för medborgarnas rättigheter och friheter. Exempel är:

• AI -system för social utvärdering (social poäng)
• Manipulativ AI som omedvetet påverkar användarnas beteende
• Biometrisk realtidsidentifiering i offentliga utrymmen för brottsbekämpande ändamål (med några få undantag)
• AI-system som använder sårbarheter på grund av ålder, funktionshinder eller socioekonomisk status

2. Hög risk - Strikt reglering krävs

Dessa system måste uppfylla strikta krav och gå igenom ett överensstämmelseprov innan de kommer ut på marknaden. De inkluderar:

• AI som säkerhetskomponent i kritiska produkter som medicinsk utrustning, fordon eller maskiner
• Oberoende AI -system med effekter på grundläggande rättigheter (t.ex. kreditkontroll, ansöknings screening, straffrättsligt åtal, rättslig administration)

Omfattande krav för öppenhet, riskhantering, datakvalitet och mänsklig övervakning gäller för dessa applikationer.

3. Begränsad risk - Öppenhetskyldigheter

Dessa system måste informera användare om att de interagerar med en AI. Exempel är:

• Chatbotar
• Deappares brukade skapa eller manipulera medieinnehåll

4. Minimal eller ingen risk - gratis användning

Sådana system är inte föremål för särskilda juridiska skyldigheter, men en frivillig uppförandekod rekommenderas. Exempel är:

• AI-baserade videospel
• Skräppostfilter

ACI-system med hög risk och deras reglering

AI-lagen definierar högrisk ACI-system som sådana som har en betydande inverkan på människors säkerhet, hälsa eller grundläggande rättigheter. Dessa kan delas in i två huvudkategorier:

1. AI som säkerhetskomponent eller oberoende produkt

Ett AI -system klassificeras som en hög risk om det är antingen:

• Fungerar som en säkerhetskomponent i en produkt som faller enligt EU: s harmoniseringsregler, eller
• En överensstämmelsebedömning är föremål för potentiella faror.

Exempel på sådana produkter är:

• AI i medicintekniska produkter (t.ex. diagnostiska system)
• AI-baserade körhjälpssystem
• AI i industriell produktion för riskbedömning och kvalitetssäkring

2. Oberoende högrisk ACI-system med social relevans

Dessa system listas i bilaga III i AI -lagen och berör kritiska sociala områden som:

a) Kritiska infrastrukturer

• AI för kontroll och övervakning av elnätverk eller trafiknätverk

b) Utbildning och anställning

• AI för automatiserad bedömning av tentor
• AI för att välja sökande eller prestationsbedömning av anställda

c) Tillgång till ekonomiska och sociala fördelar

• AI-stödda kredittester
• System för utvärdering av rätten att kräva för sociala förmåner

d) brottsbekämpning och rättsväsendet

• AI för bevisanalys och utredningsstöd
• AI-baserade system för gränskontroller och migreringshantering

e) biometrisk identifiering

• Biometriska fjärridentifieringssystem
• Känslor detekteringssystem i säkerhet -kritiska miljöer

För alla dessa högrisk-KI-applikationer gäller strikta krav för riskhantering, transparens, databehandling, teknisk dokumentation och mänsklig övervakning.

AI Act of EU: Hur kan företag förbereda sig för de strikta AI -förordningarna

EU AI -lagen sätter en tydlig ram för användning av AI -teknik och lägger särskild vikt vid skyddet av grundläggande rättigheter. Företag och myndigheter måste hantera de nya förordningarna och anpassa sina AI -ansökningar i enlighet därmed för att undvika sanktioner. Strikta krav gäller, särskilt för högrisksystem, som bör integreras i utvecklings- och implementeringsprocesser i ett tidigt skede.

Kontinuerlig övervakning av lagstiftning och proaktiva efterlevnadsåtgärder är avgörande för att använda AI -ansvaret och samtidigt främja innovationer inom den rättsliga ramen. De kommande åren kommer att visa hur AI -lagen bevisar sig i praktiken och vilka ytterligare justeringar kan vara nödvändiga.

Lämplig för detta:

• AI BANS och kompetensplikt: EU AI ACT-en ny era när det gäller att hantera konstgjord intelligens
• AI Action Summit i Paris: Awakening av den europeiska strategin för AI - "Stargate Ki Europa" också för nystartade företag?

☑ Vårt affärsspråk är engelska eller tyska

☑ Nytt: korrespondens på ditt nationella språk!

Konrad Wolfenstein

Jag är glad att vara tillgänglig för dig och mitt team som personlig konsult.

Du kan kontakta mig genom att fylla i kontaktformuläret eller helt enkelt ringa mig på +49 89 674 804 (München) . Min e -postadress är: Wolfenstein ∂ xpert.digital

Jag ser fram emot vårt gemensamma projekt.

☑ SME -stöd i strategi, rådgivning, planering och implementering

☑ skapande eller omjustering av den digitala strategin och digitaliseringen

☑ Expansion och optimering av de internationella försäljningsprocesserna

☑ Globala och digitala B2B -handelsplattformar

☑ Pioneer Business Development / Marketing / PR / Measure