Системи штучного інтелекту, системи високого ризику та Закон про штучний інтелект для практичного застосування в компаніях та органах державної влади

Системи штучного інтелекту, програми високого ризику та Закон про штучний інтелект у компаніях та органах державної влади

11 лютого 2025 року Європейська Комісія опублікувала комплексні рекомендації щодо практичного впровадження Закону ЄС про штучний інтелект. Ці рекомендації покликані допомогти компаніям та органам державної влади краще зрозуміти та дотримуватися вимог Закону. Особливий акцент робиться на заборонених практиках використання штучного інтелекту, системах високого ризику та заходах щодо забезпечення дотримання вимог.

Ключові аспекти керівних принципів

Заборонені практики штучного інтелекту

Закон про штучний інтелект прямо забороняє певні програми штучного інтелекту, які вважаються такими, що становлять неприйнятно високі ризики. Ці заборони діють з 2 лютого 2025 року. Вони включають, серед іншого:

• Системи штучного інтелекту, що використовують маніпулятивні або обманливі методи
• Системи, які спеціально використовують вразливості певних осіб або груп
• Системи соціального скорингу
• Штучний інтелект може передбачати потенційні злочини без чітких доказів
• Неконтрольоване вилучення зображень обличчя з інтернету для біометричної ідентифікації
• Системи розпізнавання емоцій на робочому місці або в навчальних закладах
• Біометричні системи ідентифікації в режимі реального часу в громадських місцях (за деякими винятками для правоохоронних органів)

Ці заборони мають на меті забезпечити етичне та відповідальне використання технологій штучного інтелекту, а також відсутність порушення ними основних прав.

Практичне застосування рекомендацій

140-сторінкові рекомендації Європейської Комісії містять численні практичні приклади, які допоможуть компаніям та органам державної влади правильно класифікувати свої системи штучного інтелекту. Хоча ці рекомендації не є юридично обов'язковими, вони слугують орієнтиром для наглядових органів під час моніторингу та забезпечення дотримання нормативних актів.

Важливість для компаній та органів влади

Компанії та органи влади повинні активно взаємодіяти з цими рекомендаціями, щоб:

1. перевірити ваші існуючі системи штучного інтелекту на наявність потенційних порушень
2. Щоб внести необхідні корективи на ранній стадії
3. Створити внутрішні структури комплаєнсу, щоб уникнути штрафів

Недотримання правил може мати серйозні наслідки. Санкції можуть сягати до 35 мільйонів євро або 7% від світового річного обороту компанії, залежно від того, що більше.

Наступні кроки

Перш ніж ці рекомендації можна буде повністю впровадити, їх все ще потрібно перекласти всіма офіційними мовами ЄС та офіційно прийняти. Тим не менш, підприємства та органи державної влади повинні вживати проактивних заходів для підготовки до поетапного впровадження Закону про штучний інтелект. Повне застосування закону заплановано на 2 серпня 2026 року.

Категоризація ризиків систем штучного інтелекту

Закон ЄС про штучний інтелект поділяє системи штучного інтелекту на чотири класи ризику, кожен з яких має різні регуляторні вимоги:

1. Неприйнятний ризик – заборонені системи штучного інтелекту

Ці системи повністю заборонені в ЄС, оскільки вони становлять значну загрозу правам і свободам громадян. Приклади включають:

• Системи штучного інтелекту для соціального скорингу
• Маніпулятивний штучний інтелект, який несвідомо впливає на поведінку користувачів
• Біометрична ідентифікація в режимі реального часу в громадських місцях для цілей правоохоронних органів (за деякими винятками)
• Системи штучного інтелекту, що використовують вразливості, пов'язані з віком, інвалідністю або соціально-економічним статусом

2. Високий ризик – потрібне суворе регулювання

Ці системи повинні відповідати суворим вимогам та проходити випробування на відповідність, перш ніж їх можна буде розмістити на ринку. Вони включають:

• Штучний інтелект як компонент безпеки в критично важливих продуктах, таких як медичні пристрої, транспортні засоби чи машини
• Автономні системи штучного інтелекту, що впливають на фундаментальні права (наприклад, перевірка кредитоспроможності, скринінг заявок, правоохоронна діяльність, судове управління)

Ці програми підлягають численним вимогам щодо прозорості, управління ризиками, якості даних та людського контролю.

3. Обмежений ризик – зобов’язання щодо прозорості

Ці системи повинні інформувати користувачів про те, що вони взаємодіють зі штучним інтелектом. Приклади включають:

• Чат-боти
• Діпфейки використовуються для створення або маніпулювання медіаконтентом

4. Мінімальний ризик або його відсутність – безкоштовне використання

Такі системи не підлягають жодним конкретним юридичним зобов'язанням; проте рекомендується добровільний кодекс поведінки. Приклади включають:

• Відеоігри на базі штучного інтелекту
• Фільтр спаму

Системи штучного інтелекту високого ризику та їх регулювання

Закон про штучний інтелект визначає системи штучного інтелекту високого ризику як ті, що мають значний вплив на безпеку, здоров'я або основні права людей. Їх можна розділити на дві основні категорії:

1. Штучний інтелект як компонент безпеки або окремий продукт

Система штучного інтелекту класифікується як високоризикова, якщо вона:

• Він функціонує як компонент безпеки продукту, що підпадає під дію гармонізованих правил ЄС, або
• Він підлягає оцінці відповідності, оскільки становить потенційну небезпеку.

Прикладами таких продуктів є:

• Штучний інтелект у медичних пристроях (наприклад, діагностичних системах)
• Системи допомоги водієві на основі штучного інтелекту
• Штучний інтелект у промисловому виробництві для оцінки ризиків та забезпечення якості

2. Автономні системи штучного інтелекту високого ризику, що мають суспільне значення

Ці системи перелічені у Додатку III до Закону про штучний інтелект і впливають на такі критичні сфери суспільства, як:

a) Критична інфраструктура

• Штучний інтелект для керування та моніторингу енергетичних мереж або транспортних мереж

б) Освіта та працевлаштування

• Штучний інтелект для автоматизованого оцінювання іспитів
• Штучний інтелект для відбору кандидатів або оцінки ефективності роботи співробітників

c) Доступ до фінансових та соціальних виплат

• Перевірки кредитоспроможності на основі штучного інтелекту
• Системи оцінки права на отримання соціальних виплат

г) Правоохоронна діяльність та правосуддя

• Штучний інтелект для аналізу доказів та підтримки розслідувань
• Системи на основі штучного інтелекту для прикордонного контролю та управління міграцією

e) Біометрична ідентифікація

• Системи для біометричної дистанційної ідентифікації
• Системи розпізнавання емоцій у критично важливих для безпеки середовищах

Усі ці високоризикові програми штучного інтелекту підлягають суворим вимогам щодо управління ризиками, прозорості, обробки даних, технічної документації та людського нагляду.

Закон ЄС про штучний інтелект: як компанії можуть підготуватися до суворих правил щодо штучного інтелекту

Закон ЄС про штучний інтелект встановлює чіткі рамки для використання технологій штучного інтелекту та робить особливий акцент на захисті основних прав. Компанії та органи державної влади повинні ретельно ознайомитися з новими правилами та відповідно адаптувати свої програми штучного інтелекту, щоб уникнути санкцій. Особливо суворі вимоги застосовуються до систем високого ризику, які слід інтегрувати в процеси розробки та впровадження на ранній стадії.

Постійний моніторинг законодавства та проактивні заходи щодо дотримання вимог є важливими для забезпечення відповідального використання штучного інтелекту, одночасно сприяючи інноваціям у правовому полі. Найближчі роки покажуть, як Закон про штучний інтелект працює на практиці та які подальші коригування можуть знадобитися.

Пов'язано з цим:

• Заборони штучного інтелекту та обов'язкова компетенція: Закон ЄС про штучний інтелект – нова ера у роботі зі штучним інтелектом
• Саміт дій ШІ в Парижі: Пробудження європейської стратегії для ШІ – «Зоряна брама ШІ Європи» також для стартапів?

☑️ Наша ділова мова – англійська або німецька

☑️ НОВИНКА: Листування вашою рідною мовою!

Konrad Wolfenstein

Я та моя команда раді бути вашим особистим консультантом.

Ви можете зв'язатися зі мною, заповнивши контактну форму тут [email protected]:, або просто зателефонувавши мені за номером +49 7348 4088 965. Моя адреса електронної пошти

Я з нетерпінням чекаю нашого спільного проєкту.

☑️ Підтримка МСП у стратегії, консалтингу, плануванні та впровадженні

☑️ Створення або переорієнтація цифрової стратегії та діджиталізації

☑️ Розширення та оптимізація процесів міжнародних продажів

☑️ Глобальні та цифрові торгові платформи B2B

☑️ Розвиток бізнесу Pioneer / Маркетинг / PR / Виставки