Опубликовано: 13 февраля 2025 г. / Обновлено: 13 февраля 2025 г. – Автор: Konrad Wolfenstein
Системы искусственного интеллекта, системы высокого риска и Закон об ИИ для практического применения в компаниях и государственных органах – Изображение: Xpert.Digital
Законодательство ЕС в области ИИ: новые рекомендации Европейской комиссии – что компаниям необходимо знать прямо сейчас
Системы искусственного интеллекта, приложения с высоким риском и Закон об ИИ в компаниях и государственных органах
11 февраля 2025 года Европейская комиссия опубликовала всеобъемлющие руководства по практическому применению Закона ЕС об искусственном интеллекте. Эти руководства призваны помочь компаниям и государственным органам лучше понимать и соблюдать требования Закона. Особое внимание уделяется запрещенным методам использования ИИ, системам высокого риска и мерам по обеспечению соответствия.
Ключевые аспекты руководящих принципов
Запрещенные методы использования ИИ
Закон об искусственном интеллекте прямо запрещает определенные приложения ИИ, которые считаются представляющими неприемлемо высокий риск. Эти запреты действуют с 2 февраля 2025 года. К ним относятся, среди прочего:
- Системы искусственного интеллекта, использующие манипулятивные или обманные методы
- Системы, которые целенаправленно используют уязвимости отдельных лиц или групп
- Системы социального рейтинга
- Искусственный интеллект для прогнозирования потенциальных преступных действий без четких доказательств
- Неконтролируемый сбор изображений лиц из интернета для биометрической идентификации
- Системы распознавания эмоций на рабочем месте или в образовательных учреждениях
- Биометрические системы идентификации в режиме реального времени в общественных местах (за исключением некоторых правоохранительных органов)
Эти запреты призваны обеспечить этичное и ответственное использование технологий искусственного интеллекта и предотвратить нарушение основных прав человека.
Практическое применение рекомендаций
В 140-страничных рекомендациях Европейской комиссии содержится множество практических примеров, призванных помочь компаниям и государственным органам правильно классифицировать свои системы искусственного интеллекта. Хотя эти рекомендации не имеют обязательной юридической силы, они служат ориентиром для надзорных органов при мониторинге и обеспечении соблюдения нормативных требований.
Важность для компаний и властей
Компании и органы власти должны активно участвовать в реализации этих рекомендаций, чтобы:
- проверить ваши существующие системы искусственного интеллекта на предмет потенциальных нарушений
- Внести необходимые корректировки на раннем этапе
- Создание внутренних структур обеспечения соответствия требованиям во избежание штрафных санкций
Несоблюдение правил может иметь серьезные последствия. Санкции могут достигать 35 миллионов евро или 7% от годового глобального оборота компании, в зависимости от того, какая сумма больше.
Следующие шаги
Прежде чем эти руководящие принципы будут полностью внедрены, их необходимо перевести на все официальные языки ЕС и официально утвердить. Тем не менее, предприятиям и государственным органам следует заблаговременно предпринять шаги по подготовке к поэтапному внедрению Закона об искусственном интеллекте. Полное применение закона запланировано на 2 августа 2026 года.
Классификация рисков систем искусственного интеллекта
Закон ЕС об искусственном интеллекте делит системы ИИ на четыре класса риска, для каждого из которых действуют различные нормативные требования:
1. Неприемлемый риск – Запрещенные системы искусственного интеллекта
Эти системы полностью запрещены в ЕС, поскольку представляют собой серьезную угрозу правам и свободам граждан. Примеры включают:
- Системы искусственного интеллекта для социального рейтинга
- Манипулятивный ИИ, который бессознательно влияет на поведение пользователя
- Идентификация биометрических данных в режиме реального времени в общественных местах для целей правоохранительных органов (с некоторыми исключениями)
- Системы искусственного интеллекта, использующие уязвимости, обусловленные возрастом, инвалидностью или социально-экономическим статусом
2. Высокий риск – требуется строгое регулирование
Эти системы должны соответствовать строгим требованиям и пройти проверку на соответствие стандартам, прежде чем их можно будет вывести на рынок. К ним относятся:
- Искусственный интеллект как компонент безопасности в критически важных продуктах, таких как медицинские приборы, транспортные средства или машины
- Автономные системы искусственного интеллекта, имеющие последствия для основных прав человека (например, проверка кредитоспособности, отбор заявок, правоохранительная деятельность, судебное администрирование)
К этим приложениям предъявляются обширные требования в отношении прозрачности, управления рисками, качества данных и человеческого контроля.
3. Ограниченный риск – обязательства по обеспечению прозрачности
Эти системы должны информировать пользователей о том, что они взаимодействуют с искусственным интеллектом. Примеры включают:
- Чат-боты
- Дипфейки используются для создания или манипулирования медиаконтентом
4. Минимальный или нулевой риск – Бесплатное использование
На подобные системы не распространяются какие-либо конкретные юридические обязательства; однако рекомендуется добровольный кодекс поведения. Примеры включают:
- Видеоигры с использованием искусственного интеллекта
- Спам-фильтр
Системы искусственного интеллекта высокого риска и их регулирование
Закон об искусственном интеллекте определяет системы ИИ высокого риска как системы, оказывающие существенное влияние на безопасность, здоровье или основные права людей. Их можно разделить на две основные категории:
1. Искусственный интеллект как компонент безопасности или самостоятельный продукт
Система искусственного интеллекта классифицируется как система высокого риска, если она выполняет хотя бы одно из следующих условий:
- Он выполняет функцию защитного компонента продукта, подпадающего под действие правил гармонизации ЕС, или
- Данный продукт подлежит оценке соответствия, поскольку представляет потенциальную опасность.
Примерами таких товаров являются:
- Искусственный интеллект в медицинских устройствах (например, в диагностических системах)
- Системы помощи водителю с поддержкой искусственного интеллекта
- Использование ИИ в промышленном производстве для оценки рисков и обеспечения качества
2. Автономные высокорисковые системы искусственного интеллекта, имеющие социальное значение
Эти системы перечислены в Приложении III к Закону об искусственном интеллекте и затрагивают такие важные области общества, как:
а) Критическая инфраструктура
- Искусственный интеллект для управления и мониторинга электросетей или транспортных сетей
б) Образование и трудоустройство
- Искусственный интеллект для автоматизированной оценки экзаменов
- Искусственный интеллект для отбора кандидатов или оценки эффективности работы сотрудников
c) Доступ к финансовым и социальным льготам
- Проверка кредитоспособности с помощью искусственного интеллекта
- Системы оценки права на получение социальных пособий
d) Правоохранительные органы и правосудие
- Искусственный интеллект для анализа доказательств и поддержки расследований
- Системы с поддержкой искусственного интеллекта для пограничного контроля и управления миграцией
e) Биометрическая идентификация
- Системы для дистанционной биометрической идентификации
- Системы распознавания эмоций в критически важных с точки зрения безопасности средах
Все эти высокорискованные приложения ИИ подлежат строгим требованиям в отношении управления рисками, прозрачности, обработки данных, технической документации и человеческого контроля.
Закон ЕС об искусственном интеллекте: как компании могут подготовиться к строгим правилам регулирования в сфере ИИ
Закон ЕС об искусственном интеллекте устанавливает четкие рамки для использования технологий ИИ и уделяет особое внимание защите основных прав. Компании и государственные органы должны тщательно ознакомиться с новыми правилами и соответствующим образом адаптировать свои приложения ИИ, чтобы избежать санкций. Особенно строгие требования предъявляются к системам высокого риска, которые должны быть интегрированы в процессы разработки и внедрения на ранней стадии.
Постоянный мониторинг законодательства и активные меры по обеспечению соблюдения требований имеют важное значение для обеспечения ответственного использования ИИ и одновременно для стимулирования инноваций в рамках правовой системы. В ближайшие годы станет ясно, как Закон об ИИ будет работать на практике и какие дальнейшие корректировки могут потребоваться.
В связи с этим:
Ваш глобальный партнер по маркетингу и развитию бизнеса
☑️ Язык ведения нашего бизнеса — английский или немецкий
☑️ НОВИНКА: Переписка на вашем родном языке!
Konrad Wolfenstein
Я и моя команда будем рады быть вашими личными консультантами.
Вы можете связаться со мной, заполнив контактную форму здесь [email protected]:или просто позвонив по номеру +49 7348 4088 965. Мой адрес электронной почты
Я с нетерпением жду начала нашего совместного проекта.