Системи с изкуствен интелект, системи с висок риск и Законът за изкуствения интелект за практическо приложение в компании и публични органи

Системи с изкуствен интелект, приложения с висок риск и Законът за изкуствения интелект в компаниите и публичните органи

На 11 февруари 2025 г. Европейската комисия публикува подробни насоки за практическото прилагане на Закона на ЕС за изкуствения интелект. Тези насоки са предназначени да помогнат на компаниите и публичните органи да разберат по-добре и да спазват изискванията на закона. Особен акцент е поставен върху забранените практики с изкуствен интелект, високорисковите системи и мерките за осигуряване на съответствие.

Ключови аспекти на насоките

Забранени практики с изкуствен интелект

Законът за изкуствения интелект изрично забранява определени приложения с изкуствен интелект, считани за представляващи неприемливо високи рискове. Тези забрани са в сила от 2 февруари 2025 г. Те включват, наред с други:

• Системи с изкуствен интелект, които използват манипулативни или подвеждащи техники
• Системи, които целенасочено експлоатират уязвимостите на определени лица или групи
• Системи за социално оценяване
• Изкуствен интелект ще предсказва потенциални престъпни деяния без ясни доказателства
• Неконтролирано извличане на лицеви изображения от интернет за биометрична идентификация
• Системи за разпознаване на емоции на работното място или в образователните институции
• Биометрични системи за идентификация в реално време в обществени пространства (с малки изключения за правоприлагащите органи)

Тези забрани имат за цел да гарантират, че технологиите с изкуствен интелект се използват етично и отговорно и не нарушават основните права.

Практическо приложение на насоките

140-страничните насоки на Европейската комисия съдържат множество практически казуси, които да помогнат на компаниите и публичните органи правилно да класифицират своите системи с изкуствен интелект. Въпреки че тези насоки не са правно обвързващи, те служат като ориентир за надзорните органи при наблюдение и прилагане на разпоредбите.

Значение за компаниите и властите

Компаниите и властите трябва активно да се ангажират с насоките, за да:

1. да прегледате съществуващите си системи с изкуствен интелект за потенциални нарушения
2. За да направите необходимите корекции в началото
3. Да се ​​изградят вътрешни структури за съответствие, за да се избегнат санкции

Неспазването на разпоредбите може да има сериозни последици. Санкциите могат да достигнат до 35 милиона евро или 7% от годишния оборот на компанията в световен мащаб, което от двете е по-високо.

Следващи стъпки

Преди насоките да могат да бъдат напълно приложени, те все още трябва да бъдат преведени на всички официални езици на ЕС и официално приети. Въпреки това, предприятията и публичните органи трябва проактивно да предприемат стъпки, за да се подготвят за поетапното въвеждане на Закона за изкуствения интелект. Пълното прилагане на закона е планирано за 2 август 2026 г.

Категоризация на риска на системите с изкуствен интелект

Законът на ЕС за изкуствения интелект разделя системите с изкуствен интелект на четири рискови класа, всеки с различни регулаторни изисквания:

1. Неприемлив риск – Забранени системи с изкуствен интелект

Тези системи са напълно забранени в ЕС, тъй като представляват сериозна заплаха за правата и свободите на гражданите. Примерите включват:

• Системи с изкуствен интелект за социално оценяване
• Манипулативен изкуствен интелект, който несъзнателно влияе върху поведението на потребителите
• Биометрична идентификация в реално време на обществени места за целите на правоприлагането (с малки изключения)
• Системи с изкуствен интелект, които експлоатират уязвимости, дължащи се на възраст, увреждане или социално-икономически статус

2. Висок риск – необходима е строга регулация

Тези системи трябва да отговарят на строги изисквания и да преминат през тестове за съответствие, преди да могат да бъдат пуснати на пазара. Те включват:

• Изкуствен интелект като компонент за безопасност в критични продукти, като медицински изделия, превозни средства или машини
• Самостоятелни системи с изкуствен интелект с последици за основните права (напр. проверки на кредитоспособността, преглед на заявления, правоприлагане, съдебна администрация)

Тези приложения са предмет на обширни изисквания относно прозрачност, управление на риска, качество на данните и човешки надзор.

3. Ограничен риск – задължения за прозрачност

Тези системи трябва да информират потребителите, че взаимодействат с изкуствен интелект. Примерите включват:

• Чатботове
• Дийпфейковете се използват за създаване или манипулиране на медийно съдържание

4. Минимален или никакъв риск – Безплатна употреба

Такива системи не са предмет на никакви специфични правни задължения; въпреки това се препоръчва доброволен кодекс за поведение. Примери за това са:

• Видеоигри, задвижвани от изкуствен интелект
• Филтър за спам

Високорискови системи с изкуствен интелект и тяхното регулиране

Законът за изкуствения интелект определя високорисковите системи с изкуствен интелект като тези, които имат значително въздействие върху безопасността, здравето или основните права на хората. Те могат да бъдат разделени на две основни категории:

1. Изкуственият интелект като компонент за сигурност или самостоятелен продукт

Система с изкуствен интелект се класифицира като високорискова, ако тя:

• Той функционира като компонент за безопасност на продукт, който попада под хармонизираните регламенти на ЕС, или
• Подлежи на оценка на съответствието, тъй като представлява потенциални опасности.

Примери за такива продукти включват:

• Изкуствен интелект в медицинските устройства (напр. диагностични системи)
• Системи за подпомагане на водача, поддържани от изкуствен интелект
• Изкуствен интелект в промишленото производство за оценка на риска и осигуряване на качеството

2. Самостоятелни високорискови системи с изкуствен интелект, които имат обществено значение

Тези системи са изброени в Приложение III към Закона за изкуствения интелект и засягат критични области на обществото, като например:

а) Критични инфраструктури

• Изкуствен интелект за контрол и наблюдение на електрически мрежи или транспортни мрежи

б) Образование и заетост

• Изкуствен интелект за автоматизирана оценка на изпити
• Изкуствен интелект за подбор на кандидати или оценка на представянето на служителите

в) Достъп до финансови и социални помощи

• Проверки на кредитоспособността, задвижвани от изкуствен интелект
• Системи за оценка на допустимостта за социални помощи

г) Правоприлагане и правосъдие

• Изкуствен интелект за анализ на доказателства и подкрепа на разследванията
• Системи, поддържани от изкуствен интелект, за граничен контрол и управление на миграцията

д) Биометрична идентификация

• Системи за биометрична дистанционна идентификация
• Системи за разпознаване на емоции в критични за безопасността среди

Всички тези високорискови приложения с изкуствен интелект са предмет на строги изисквания относно управлението на риска, прозрачността, обработката на данни, техническата документация и човешкия надзор.

Закон на ЕС за изкуствения интелект: Как компаниите могат да се подготвят за строгите разпоредби за изкуствения интелект

Законът на ЕС за изкуствения интелект определя ясна рамка за използването на технологии с изкуствен интелект и поставя особен акцент върху защитата на основните права. Компаниите и публичните органи трябва да се запознаят подробно с новите разпоредби и да адаптират своите приложения с изкуствен интелект съответно, за да избегнат санкции. Особено строги изисквания се прилагат за системи с висок риск, които следва да бъдат интегрирани в процесите на разработване и внедряване на ранен етап.

Непрекъснатото наблюдение на законодателството и проактивните мерки за съответствие са от съществено значение, за да се гарантира отговорното използване на ИИ, като същевременно се насърчават иновациите в правната рамка. Следващите години ще покажат как Законът за ИИ функционира на практика и какви допълнителни корекции може да са необходими.

Свързано с това:

• Забрани за изкуствен интелект и задължителна компетентност: Законът на ЕС за изкуствения интелект – Нова ера в работата с изкуствения интелект
• Среща на върха за действие по въпросите на изкуствения интелект в Париж: Пробуждането на европейската стратегия за изкуствен интелект – „Stargate AI Europe“ и за стартиращи компании?

☑️ Нашият бизнес език е английски или немски

☑️ НОВО: Кореспонденция на родния ви език!

Konrad Wolfenstein

Аз и моят екип с удоволствие ще бъдем на ваше разположение като ваш личен съветник.

Можете да се свържете с мен, като попълните формата за контакт тук или просто ми се обадите на +49 89 89 674 804 ( Мюнхен) . Моят имейл адрес е: [email protected]

Очаквам с нетърпение нашия съвместен проект.

☑️ Подкрепа за МСП в стратегията, консултирането, планирането и внедряването

☑️ Създаване или пренасочване на дигиталната стратегия и дигитализация

☑️ Разширяване и оптимизиране на международните процеси на продажби

☑️ Глобални и дигитални B2B търговски платформи

☑️ Pioneer Развитие на бизнеса / Маркетинг / PR / Търговски панаири