KI-stelsels, hoërisiko-stelsels en die KI-wet vir praktiese toepassing in maatskappye en openbare owerhede

Konrad Wolfenstein

1 jaar gelede

KI-stelsels, hoërisiko-stelsels en die KI-wet vir praktiese toepassing in maatskappye en openbare owerhede – Beeld: Xpert.Digital

EU KI-wetgewing: Nuwe riglyne van die EU-kommissie – Wat maatskappye nou moet weet

KI-stelsels, hoërisiko-toepassings en die KI-wet in maatskappye en openbare owerhede

Op 11 Februarie 2025 het die Europese Kommissie omvattende riglyne gepubliseer oor die praktiese implementering van die EU-KI-wet. Hierdie riglyne is bedoel om maatskappye en openbare owerhede te help om die vereistes van die wet beter te verstaan en daaraan te voldoen. Besondere klem word gelê op verbode KI-praktyke, hoërisiko-stelsels en maatreëls om nakoming te verseker.

Belangrike aspekte van die riglyne

Verbode KI-praktyke

Die KI-wet verbied uitdruklik sekere KI-toepassings wat as onaanvaarbaar hoë risiko's beskou word. Hierdie verbodsbepalings is sedert 2 Februarie 2025 van krag. Dit sluit onder andere in:

KI-stelsels wat manipulerende of misleidende tegnieke gebruik
Stelsels wat spesifiek die kwesbaarhede van sekere individue of groepe uitbuit
Sosiale puntetellingstelsels
KI om potensiële kriminele dade te voorspel sonder duidelike bewyse
Onbeheerde skraap van gesigbeelde van die internet vir biometriese identifikasie
Emosieherkenningstelsels in die werkplek of in opvoedkundige instellings
Biometriese intydse identifikasiestelsels in openbare ruimtes (met 'n paar uitsonderings vir wetstoepassingsagentskappe)

Hierdie verbodsbepalings is bedoel om te verseker dat KI-tegnologieë eties en verantwoordelik gebruik word en nie fundamentele regte skend nie.

Praktiese toepassing van die riglyne

Die Europese Kommissie se 140-bladsy riglyne bevat talle praktiese gevallestudies om maatskappye en owerhede te help om hul KI-stelsels korrek te klassifiseer. Alhoewel hierdie riglyne nie wetlik bindend is nie, dien hulle as 'n verwysing vir toesighoudende owerhede wanneer hulle regulasies monitor en afdwing.

Belangrikheid vir maatskappye en owerhede

Maatskappye en owerhede moet aktief met die riglyne omgaan om:

om u bestaande KI-stelsels te hersien vir moontlike oortredings
Om die nodige aanpassings vroegtydig te maak
Om interne nakomingsstrukture te bou om strawwe te vermy

Versuim om aan die regulasies te voldoen, kan ernstige gevolge hê. Sanksies kan tot €35 miljoen of 7% van 'n maatskappy se wêreldwye jaarlikse omset beloop, wat ook al die hoogste is.

Volgende Stappe

Voordat die riglyne ten volle geïmplementeer kan word, moet hulle nog in alle amptelike EU-tale vertaal en formeel aangeneem word. Nietemin moet besighede en openbare owerhede proaktief stappe doen om voor te berei vir die gefaseerde invoering van die KI-wet. Die volle toepassing van die wet is geskeduleer vir 2 Augustus 2026.

Risikokategorisering van KI-stelsels

Die EU-KI-wet verdeel KI-stelsels in vier risikoklasse, elk met verskillende regulatoriese vereistes:

1. Onaanvaarbare Risiko – Verbode KI-stelsels

Hierdie stelsels is heeltemal verbode in die EU omdat hulle 'n beduidende bedreiging vir die regte en vryhede van burgers inhou. Voorbeelde sluit in:

KI-stelsels vir sosiale telling
Manipulerende KI wat gebruikersgedrag onbewustelik beïnvloed
Biometriese identifikasie intyds in openbare ruimtes vir wetstoepassingsdoeleindes (met 'n paar uitsonderings)
KI-stelsels wat kwesbaarhede weens ouderdom, gestremdheid of sosio-ekonomiese status uitbuit

2. Hoë risiko – streng regulasie vereis

Hierdie stelsels moet aan streng vereistes voldoen en ooreenstemmingstoetse ondergaan voordat hulle op die mark geplaas kan word. Dit sluit in:

KI as 'n veiligheidskomponent in kritieke produkte soos mediese toestelle, voertuie of masjiene
Losstaande KI-stelsels met implikasies vir fundamentele regte (bv. kredietwaardigheidstoetse, aansoekkeuring, wetstoepassing, geregtelike administrasie)

Hierdie toepassings is onderhewig aan uitgebreide vereistes rakende deursigtigheid, risikobestuur, datakwaliteit en menslike toesig.

3. Beperkte risiko – deursigtigheidsverpligtinge

Hierdie stelsels moet gebruikers inlig dat hulle met KI interaksie het. Voorbeelde sluit in:

Kletsbotte
Diepvals word gebruik om media-inhoud te skep of te manipuleer

4. Minimale of geen risiko – Gratis gebruik

Sulke stelsels is nie onderhewig aan enige spesifieke wetlike verpligtinge nie; 'n vrywillige gedragskode word egter aanbeveel. Voorbeelde sluit in:

KI-aangedrewe videospeletjies
Spamfilter

Hoërisiko-KI-stelsels en hul regulering

Die KI-wet definieer hoërisiko-KI-stelsels as dié wat 'n beduidende impak op die veiligheid, gesondheid of fundamentele regte van mense het. Hierdie kan in twee hoofkategorieë verdeel word:

1. KI as 'n sekuriteitskomponent of losstaande produk

'n KI-stelsel word as hoërisiko geklassifiseer indien dit óf:

Dit funksioneer as 'n veiligheidskomponent van 'n produk wat onder EU-harmoniseringsregulasies val, of
Dit is onderhewig aan 'n ooreenstemmingsbeoordeling omdat dit potensiële gevare inhou.

Voorbeelde van sulke produkte sluit in:

KI in mediese toestelle (bv. diagnostiese stelsels)
KI-ondersteunde bestuurdershulpstelsels
KI in industriële produksie vir risikobepaling en gehalteversekering

2. Losstaande hoërisiko-KI-stelsels met maatskaplike relevansie

Hierdie stelsels word in Aanhangsel III van die KI-wet gelys en raak kritieke areas van die samelewing soos:

a) Kritieke infrastruktuur

KI vir die beheer en monitering van kragnetwerke of vervoernetwerke

b) Onderwys en werk

KI vir outomatiese eksamenassessering
KI vir die seleksie van aansoekers of die evaluering van werknemersprestasie

c) Toegang tot finansiële en sosiale voordele

KI-aangedrewe kredietwaardigheidstoetse
Stelsels vir die beoordeling van geskiktheid vir maatskaplike voordele

d) Wetstoepassing en geregtigheid

KI vir bewysanalise en ondersoekondersteuning
KI-ondersteunde stelsels vir grensbeheer en migrasiebestuur

e) Biometriese identifikasie

Stelsels vir biometriese afstandidentifikasie
Emosieherkenningstelsels in veiligheidskritieke omgewings

Al hierdie hoërisiko-KI-toepassings is onderhewig aan streng vereistes rakende risikobestuur, deursigtigheid, dataverwerking, tegniese dokumentasie en menslike toesig.

EU KI-wet: Hoe maatskappye kan voorberei vir die streng KI-regulasies

Die EU se KI-wet stel 'n duidelike raamwerk vir die gebruik van KI-tegnologieë en plaas besondere klem op die beskerming van fundamentele regte. Maatskappye en owerhede moet hulself deeglik vertroud maak met die nuwe regulasies en hul KI-toepassings dienooreenkomstig aanpas om sanksies te vermy. Besonder streng vereistes geld vir hoërisiko-stelsels, wat vroegtydig in die ontwikkelings- en implementeringsprosesse geïntegreer moet word.

Deurlopende monitering van wetgewing en proaktiewe nakomingsmaatreëls is noodsaaklik om die verantwoordelike gebruik van KI te verseker terwyl innovasie binne die wetlike raamwerk terselfdertyd bevorder word. Die komende jare sal openbaar hoe die KI-wet in die praktyk presteer en watter verdere aanpassings nodig mag wees.

Verwant hieraan:

Jou wêreldwye bemarkings- en sake-ontwikkelingsvennoot

☑️ Ons besigheidstaal is Engels of Duits

☑️ NUUT: Korrespondensie in jou moedertaal!