Системи с изкуствен интелект, системи с висок риск и Законът за изкуствения интелект за практическо приложение в компании и публични органи

Konrad Wolfenstein

преди 1 година

Системи с изкуствен интелект, системи с висок риск и Законът за изкуствения интелект за практическо приложение в компании и публични органи – Изображение: Xpert.Digital

Законодателство на ЕС за изкуствения интелект: Нови насоки от Европейската комисия – Какво трябва да знаят компаниите сега

Системи с изкуствен интелект, приложения с висок риск и Законът за изкуствения интелект в компаниите и публичните органи

На 11 февруари 2025 г. Европейската комисия публикува подробни насоки за практическото прилагане на Закона на ЕС за изкуствения интелект. Тези насоки са предназначени да помогнат на компаниите и публичните органи да разберат по-добре и да спазват изискванията на закона. Особен акцент е поставен върху забранените практики с изкуствен интелект, високорисковите системи и мерките за осигуряване на съответствие.

Ключови аспекти на насоките

Забранени практики с изкуствен интелект

Законът за изкуствения интелект изрично забранява определени приложения с изкуствен интелект, считани за представляващи неприемливо високи рискове. Тези забрани са в сила от 2 февруари 2025 г. Те включват, наред с други:

Системи с изкуствен интелект, които използват манипулативни или подвеждащи техники
Системи, които целенасочено експлоатират уязвимостите на определени лица или групи
Системи за социално оценяване
Изкуствен интелект ще предсказва потенциални престъпни деяния без ясни доказателства
Неконтролирано извличане на лицеви изображения от интернет за биометрична идентификация
Системи за разпознаване на емоции на работното място или в образователните институции
Биометрични системи за идентификация в реално време в обществени пространства (с малки изключения за правоприлагащите органи)

Тези забрани имат за цел да гарантират, че технологиите с изкуствен интелект се използват етично и отговорно и не нарушават основните права.

Практическо приложение на насоките

140-страничните насоки на Европейската комисия съдържат множество практически казуси, които да помогнат на компаниите и публичните органи правилно да класифицират своите системи с изкуствен интелект. Въпреки че тези насоки не са правно обвързващи, те служат като ориентир за надзорните органи при наблюдение и прилагане на разпоредбите.

Значение за компаниите и властите

Компаниите и властите трябва активно да се ангажират с насоките, за да:

да прегледате съществуващите си системи с изкуствен интелект за потенциални нарушения
За да направите необходимите корекции в началото
Да се изградят вътрешни структури за съответствие, за да се избегнат санкции

Неспазването на разпоредбите може да има сериозни последици. Санкциите могат да достигнат до 35 милиона евро или 7% от годишния оборот на компанията в световен мащаб, което от двете е по-високо.

Следващи стъпки

Преди насоките да могат да бъдат напълно приложени, те все още трябва да бъдат преведени на всички официални езици на ЕС и официално приети. Въпреки това, предприятията и публичните органи трябва проактивно да предприемат стъпки, за да се подготвят за поетапното въвеждане на Закона за изкуствения интелект. Пълното прилагане на закона е планирано за 2 август 2026 г.

Категоризация на риска на системите с изкуствен интелект

Законът на ЕС за изкуствения интелект разделя системите с изкуствен интелект на четири рискови класа, всеки с различни регулаторни изисквания:

1. Неприемлив риск – Забранени системи с изкуствен интелект

Тези системи са напълно забранени в ЕС, тъй като представляват сериозна заплаха за правата и свободите на гражданите. Примерите включват:

Системи с изкуствен интелект за социално оценяване
Манипулативен изкуствен интелект, който несъзнателно влияе върху поведението на потребителите
Биометрична идентификация в реално време на обществени места за целите на правоприлагането (с малки изключения)
Системи с изкуствен интелект, които експлоатират уязвимости, дължащи се на възраст, увреждане или социално-икономически статус

2. Висок риск – необходима е строга регулация

Тези системи трябва да отговарят на строги изисквания и да преминат през тестове за съответствие, преди да могат да бъдат пуснати на пазара. Те включват:

Изкуствен интелект като компонент за безопасност в критични продукти, като медицински изделия, превозни средства или машини
Самостоятелни системи с изкуствен интелект с последици за основните права (напр. проверки на кредитоспособността, преглед на заявления, правоприлагане, съдебна администрация)

Тези приложения са предмет на обширни изисквания относно прозрачност, управление на риска, качество на данните и човешки надзор.

3. Ограничен риск – задължения за прозрачност

Тези системи трябва да информират потребителите, че взаимодействат с изкуствен интелект. Примерите включват:

Чатботове
Дийпфейковете се използват за създаване или манипулиране на медийно съдържание

4. Минимален или никакъв риск – Безплатна употреба

Такива системи не са предмет на никакви специфични правни задължения; въпреки това се препоръчва доброволен кодекс за поведение. Примери за това са:

Видеоигри, задвижвани от изкуствен интелект
Филтър за спам

Високорискови системи с изкуствен интелект и тяхното регулиране

Законът за изкуствения интелект определя високорисковите системи с изкуствен интелект като тези, които имат значително въздействие върху безопасността, здравето или основните права на хората. Те могат да бъдат разделени на две основни категории:

1. Изкуственият интелект като компонент за сигурност или самостоятелен продукт

Система с изкуствен интелект се класифицира като високорискова, ако тя:

Той функционира като компонент за безопасност на продукт, който попада под хармонизираните регламенти на ЕС, или
Подлежи на оценка на съответствието, тъй като представлява потенциални опасности.

Примери за такива продукти включват:

Изкуствен интелект в медицинските устройства (напр. диагностични системи)
Системи за подпомагане на водача, поддържани от изкуствен интелект
Изкуствен интелект в промишленото производство за оценка на риска и осигуряване на качеството

2. Самостоятелни високорискови системи с изкуствен интелект, които имат обществено значение

Тези системи са изброени в Приложение III към Закона за изкуствения интелект и засягат критични области на обществото, като например:

а) Критични инфраструктури

Изкуствен интелект за контрол и наблюдение на електрически мрежи или транспортни мрежи

б) Образование и заетост

Изкуствен интелект за автоматизирана оценка на изпити
Изкуствен интелект за подбор на кандидати или оценка на представянето на служителите

в) Достъп до финансови и социални помощи

Проверки на кредитоспособността, задвижвани от изкуствен интелект
Системи за оценка на допустимостта за социални помощи

г) Правоприлагане и правосъдие

Изкуствен интелект за анализ на доказателства и подкрепа на разследванията
Системи, поддържани от изкуствен интелект, за граничен контрол и управление на миграцията

д) Биометрична идентификация

Системи за биометрична дистанционна идентификация
Системи за разпознаване на емоции в критични за безопасността среди

Всички тези високорискови приложения с изкуствен интелект са предмет на строги изисквания относно управлението на риска, прозрачността, обработката на данни, техническата документация и човешкия надзор.

Закон на ЕС за изкуствения интелект: Как компаниите могат да се подготвят за строгите разпоредби за изкуствения интелект

Законът на ЕС за изкуствения интелект определя ясна рамка за използването на технологии с изкуствен интелект и поставя особен акцент върху защитата на основните права. Компаниите и публичните органи трябва да се запознаят подробно с новите разпоредби и да адаптират своите приложения с изкуствен интелект съответно, за да избегнат санкции. Особено строги изисквания се прилагат за системи с висок риск, които следва да бъдат интегрирани в процесите на разработване и внедряване на ранен етап.

Непрекъснатото наблюдение на законодателството и проактивните мерки за съответствие са от съществено значение, за да се гарантира отговорното използване на ИИ, като същевременно се насърчават иновациите в правната рамка. Следващите години ще покажат как Законът за ИИ функционира на практика и какви допълнителни корекции може да са необходими.

Свързано с това:

Вашият глобален партньор по маркетинг и бизнес развитие

☑️ Нашият бизнес език е английски или немски

☑️ НОВО: Кореспонденция на родния ви език!