Системи вештачке интелигенције, системи високог ризика и Закон о вештачкој интелигенцији за практичну примену у компанијама и јавним органима

Konrad Wolfenstein

Пре 1 године

Системи вештачке интелигенције, системи високог ризика и Закон о вештачкој интелигенцији за практичну примену у компанијама и јавним органима – Слика: Xpert.Digital

Закон ЕУ о вештачкој интелигенцији: Нове смернице Европске комисије – Шта компаније треба да знају сада

Системи вештачке интелигенције, апликације високог ризика и Закон о вештачкој интелигенцији у компанијама и јавним органима

Европска комисија је 11. фебруара 2025. године објавила свеобухватне смернице о практичној примени Закона ЕУ о вештачкој интелигенцији. Ове смернице имају за циљ да помогну компанијама и јавним органима да боље разумеју и поштују захтеве Закона. Посебан нагласак је стављен на забрањене праксе вештачке интелигенције, системе високог ризика и мере за обезбеђивање усклађености.

Кључни аспекти смерница

Забрањене праксе вештачке интелигенције

Закон о вештачкој интелигенцији експлицитно забрањује одређене апликације вештачке интелигенције за које се сматра да представљају неприхватљиво висок ризик. Ове забране су на снази од 2. фебруара 2025. године. Оне, између осталог, укључују:

Системи вештачке интелигенције који користе манипулативне или обмањујуће технике
Системи који посебно искоришћавају рањивости одређених појединаца или група
Системи друштвеног бодовања
Вештачка интелигенција предвиђа потенцијална криминална дела без јасних доказа
Неконтролисано преузимање слика лица са интернета ради биометријске идентификације
Системи за препознавање емоција на радном месту или у образовним институцијама
Биометријски системи за идентификацију у реалном времену у јавним просторима (уз неколико изузетака за агенције за спровођење закона)

Ове забране имају за циљ да осигурају да се технологије вештачке интелигенције користе етички и одговорно и да не крше основна права.

Практична примена смерница

Смернице Европске комисије од 140 страница садрже бројне практичне студије случаја које помажу компанијама и јавним органима да правилно класификују своје системе вештачке интелигенције. Иако ове смернице нису правно обавезујуће, оне служе као референца за надзорне органе приликом праћења и спровођења прописа.

Значај за компаније и власти

Компаније и власти морају активно да се ангажују у вези са смерницама како би:

да прегледате своје постојеће системе вештачке интелигенције због потенцијалних кршења
Да бисте извршили потребна прилагођавања на почетку
Изградити интерне структуре за усклађеност како би се избегле казне

Непоштовање прописа може имати озбиљне последице. Санкције могу достићи и до 35 милиона евра или 7% глобалног годишњег промета компаније, шта год је веће.

Следећи кораци

Пре него што се смернице могу у потпуности применити, оне и даље морају бити преведене на све званичне језике ЕУ и формално усвојене. Ипак, предузећа и јавне власти требало би проактивно да предузму кораке како би се припремили за постепено увођење Закона о вештачкој интелигенцији. Пуна примена закона је заказана за 2. август 2026. године.

Категоризација ризика система вештачке интелигенције

Закон ЕУ о вештачкој интелигенцији дели системе вештачке интелигенције у четири класе ризика, свака са различитим регулаторним захтевима:

1. Неприхватљив ризик – Забрањени системи вештачке интелигенције

Ови системи су потпуно забрањени у ЕУ јер представљају значајну претњу правима и слободама грађана. Примери укључују:

Системи вештачке интелигенције за друштвено бодовање
Манипулативна вештачка интелигенција која несвесно утиче на понашање корисника
Биометријска идентификација у реалном времену у јавним просторима за потребе спровођења закона (уз неколико изузетака)
Системи вештачке интелигенције који искоришћавају рањивости због старости, инвалидитета или социоекономског статуса

2. Висок ризик – потребна је строга регулација

Ови системи морају да испуњавају строге захтеве и да прођу тестирање усаглашености пре него што буду пласирани на тржиште. Они укључују:

Вештачка интелигенција као безбедносна компонента у критичним производима као што су медицински уређаји, возила или машине
Самостални системи вештачке интелигенције са импликацијама на основна права (нпр. провере кредитне способности, провера пријава, спровођење закона, судска администрација)

Ове апликације подлежу опсежним захтевима у погледу транспарентности, управљања ризицима, квалитета података и људског надзора.

3. Ограничени ризик – обавезе транспарентности

Ови системи морају да обавесте кориснике да интерагују са вештачком интелигенцијом. Примери укључују:

Четботови
Дипфејкови се користе за креирање или манипулацију медијским садржајем

4. Минималан или никакав ризик – Бесплатна употреба

Такви системи нису подложни никаквим специфичним законским обавезама; међутим, препоручује се добровољни кодекс понашања. Примери укључују:

Видео игре са вештачком интелигенцијом
Филтер за нежељену пошту

Високоризични системи вештачке интелигенције и њихова регулација

Закон о вештачкој интелигенцији дефинише високоризичне системе вештачке интелигенције као оне који имају значајан утицај на безбедност, здравље или основна права људи. Они се могу поделити у две главне категорије:

1. Вештачка интелигенција као безбедносна компонента или самостални производ

Систем вештачке интелигенције се класификује као високоризичан ако:

Функционише као безбедносна компонента производа који потпада под хармонизационе прописе ЕУ, или
Подлеже процени усаглашености јер представља потенцијалне опасности.

Примери таквих производа укључују:

Вештачка интелигенција у медицинским уређајима (нпр. дијагностички системи)
Системи помоћи возачу подржани вештачком интелигенцијом
Вештачка интелигенција у индустријској производњи за процену ризика и осигурање квалитета

2. Самостални системи вештачке интелигенције високог ризика са друштвеним значајем

Ови системи су наведени у Анексу III Закона о вештачкој интелигенцији и утичу на критичне области друштва као што су:

а) Критична инфраструктура

Вештачка интелигенција за контролу и праћење електроенергетских мрежа или транспортних мрежа

б) Образовање и запослење

Вештачка интелигенција за аутоматизовано оцењивање испита
Вештачка интелигенција за одабир кандидата или процену учинка запослених

ц) Приступ финансијским и социјалним бенефицијама

Провере кредитне способности засноване на вештачкој интелигенцији
Системи за процену подобности за социјалне давања

d) Спровођење закона и правосуђе

Вештачка интелигенција за анализу доказа и подршку истрази
Системи подржани вештачком интелигенцијом за контролу граница и управљање миграцијама

е) Биометријска идентификација

Системи за биометријску даљинску идентификацију
Системи за препознавање емоција у безбедносно критичним окружењима

Све ове високоризичне вештачке интелигенције подлежу строгим захтевима у вези са управљањем ризицима, транспарентношћу, обрадом података, техничком документацијом и људским надзором.

Закон ЕУ о вештачкој интелигенцији: Како се компаније могу припремити за строге прописе о вештачкој интелигенцији

Закон ЕУ о вештачкој интелигенцији поставља јасан оквир за коришћење технологија вештачке интелигенције и ставља посебан нагласак на заштиту основних права. Компаније и јавне власти морају се темељно упознати са новим прописима и у складу са тим прилагодити своје апликације вештачке интелигенције како би избегле санкције. Посебно строги захтеви примењују се на системе високог ризика, које треба интегрисати у процесе развоја и имплементације у раној фази.

Континуирано праћење законодавства и проактивне мере усклађености су неопходни како би се осигурала одговорна употреба вештачке интелигенције, а истовремено подстакле иновације у оквиру законског оквира. Наредне године ће показати како Закон о вештачкој интелигенцији функционише у пракси и која даља прилагођавања би могла бити потребна.

У вези са овим:

Ваш глобални партнер за маркетинг и развој пословања

☑️ Наш пословни језик је енглески или немачки

☑️ НОВО: Преписка на вашем матерњем језику!