ЕС ужесточает регулирование ИИ: самые важные вопросы и ответы о регулировании с августа 2025 года – Изображение: Xpert.Digital
Создано представительство ЕС по вопросам искусственного интеллекта: как ЕС осуществляет мониторинг искусственного интеллекта
Что представляет собой Регламент ЕС об искусственном интеллекте и зачем он был введен?
Регламент ЕС об искусственном интеллекте, также известный как Закон ЕС об искусственном интеллекте (Регламент (ЕС) 2024/1689), является первым в мире всеобъемлющим законом, регулирующим искусственный интеллект. Регламент был принят Европейским парламентом 13 марта 2024 года и вступил в силу 1 августа 2024 года.
Основная цель регламента — создание гармонизированной правовой базы для использования ИИ в Европейском Союзе. С одной стороны, он направлен на содействие инновациям и укрепление доверия к ИИ, а с другой — гарантирует, что ИИ используется только таким образом, чтобы обеспечить защиту основных прав и безопасности граждан ЕС. ЕС придерживается риск-ориентированного подхода: чем выше риск, создаваемый системой ИИ, тем более всеобъемлющими являются обязательства.
Данный регламент является прямым ответом на стремительное развитие технологий искусственного интеллекта и их далеко идущие социальные последствия. Приняв его, ЕС стремится как защититься от потенциальных рисков, так и утвердить Европу в качестве ведущего центра в области надежного ИИ.
В связи с этим:
Что представляют собой модели искусственного интеллекта общего назначения и почему они находятся в центре внимания регулирования?
Модели искусственного интеллекта общего назначения (GPAI), как определено в Регламенте ЕС об искусственном интеллекте, — это модели ИИ, обладающие значительной универсальностью и способные компетентно выполнять широкий спектр разнообразных задач. Эти модели могут быть интегрированы в различные системы или приложения.
Характерной особенностью моделей GPAI является их универсальность: они не предназначены для конкретного применения, а обладают широкими функциональными возможностями. В отличие от специализированных моделей ИИ, модель GPAI в процессе обучения не обучается только одной конкретной, узко определенной задаче.
К числу известных моделей GPAI относятся GPT-4 от OpenAI (используемая в Microsoft Copilot и ChatGPT), Gemini от Google DeepMind, Claude от Anthropic и LLaMA от Meta. Благодаря своему техническому масштабу и архитектуре обучения эти системы соответствуют критериям модели GPAI согласно правилам ЕС.
Особое внимание регулирующих органов к моделям GPAI обусловлено их высоким потенциальным риском: поскольку они могут использоваться во многих областях, существует особый риск того, что ИИ может привести к приложениям, имеющим серьезные социальные последствия, — например, в здравоохранении, кредитовании или управлении персоналом.
Какие обязательства вступят в силу 2 августа 2025 года?
Обязательные требования к поставщикам моделей GPAI вступят в силу 2 августа 2025 года. Эти новые правила знаменуют собой важную веху в Регламенте ЕС об искусственном интеллекте и затрагивают различные области:
Обязательства по обеспечению прозрачности
Поставщики обязаны предоставлять техническую документацию и раскрывать информацию о методах обучения, обучающих данных и архитектуре модели. Эта документация должна включать общее описание модели ИИ, в том числе задачи, которые модель призвана выполнять, и типы систем ИИ, в которые она может быть интегрирована.
соблюдение авторских прав
Поставщики услуг должны обеспечить соответствие своих моделей законодательству ЕС об авторском праве. Это включает в себя учет веб-сайтов с возможностью отказа от участия и создание механизмов подачи жалоб для правообладателей.
Обязательства по управлению
Для обеспечения соблюдения нормативных требований необходимо внедрить соответствующие структуры управления. Это включает в себя усиление требований к аудиту и отчетности для моделей GPAI, представляющих особый риск.
Требования к документации
Необходимо подготовить и опубликовать достаточно подробное резюме содержания обучения. Это резюме должно способствовать осуществлению и защите прав сторонами, имеющими законный интерес, включая правообладателей.
Как Европейское бюро по искусственному интеллекту осуществляет надзор за развитием ИИ?
Европейское бюро по искусственному интеллекту было создано Европейской комиссией 24 января 2024 года и играет центральную роль в реализации Регламента об искусственном интеллекте. Организационно оно входит в состав Генерального директората Европейской комиссии по сетям связи, контенту и технологиям (DG Connect).
Управление по искусственному интеллекту обладает широкими полномочиями по контролю за соблюдением правил GPAI. Оно может запрашивать информацию у компаний, оценивать их модели и требовать устранения недостатков и проблем. В случаях нарушений или отказа предоставить информацию, должностные лица могут изъять модели ИИ с рынка или наложить штрафы.
Учреждение выполняет ряд ключевых задач: оно занимается дальнейшим развитием обязательного кодекса поведения в сфере ИИ, координирует работу европейской надзорной сети и отслеживает развитие рынка ИИ. Кроме того, в задачи управления входит разработка инструментов и методов для оценки рисков, в частности, крупных генеративных моделей ИИ.
Управление по искусственному интеллекту состоит из пяти специализированных подразделений: регулирование и соблюдение нормативных требований, безопасность ИИ, совершенствование ИИ и робототехники, ИИ на благо общества, а также инновации в области ИИ и координация политики в этой сфере. Такая структура обеспечивает всестороннюю поддержку всех аспектов регулирования ИИ.
Какие санкции предусмотрены за нарушения правил GPAI?
Регламент ЕС об искусственном интеллекте предусматривает существенные штрафы за нарушения рекомендаций GPAI. Штрафы могут составлять до 15 миллионов евро или 3% от годового глобального оборота — в зависимости от того, какая сумма больше.
За особо серьезные нарушения, такие как несоблюдение запрета на определенные виды использования ИИ в соответствии со статьей 5, могут быть наложены штрафы в размере до 35 миллионов евро или 7 процентов от годового глобального оборота. Это подчеркивает решимость ЕС обеспечить соблюдение новых правил.
Помимо штрафов, существуют и другие юридические последствия: предоставление ложной или неполной информации властям может караться штрафами в размере до 7,5 миллионов евро или 1,5 процента от годового глобального оборота. Недостаточная документация и отсутствие сотрудничества с регулирующими органами могут повлечь за собой штрафы в той же сумме.
Размер штрафов подчеркивает серьезность, с которой ЕС применяет свои правила регулирования ИИ. Недавний пример — штраф в размере 15 миллионов евро, наложенный на OpenAI итальянским органом по защите данных, хотя это произошло в соответствии с GDPR, а не с регламентом по ИИ.
В связи с этим:
Что представляет собой кодекс поведения в сфере искусственного интеллекта и почему он вызывает споры?
Кодекс практики в области искусственного интеллекта — это добровольный документ, разработанный 13 независимыми экспертами с учетом мнений более 1000 заинтересованных сторон. Опубликованный Европейской комиссией 10 июля 2025 года, он призван помочь поставщикам моделей GPAI соблюдать требования Регламента об искусственном интеллекте.
Кодекс разделен на три основные главы: прозрачность, авторское право и безопасность и защита. Главы о прозрачности и авторском праве предназначены для всех поставщиков моделей GPAI, в то время как глава о безопасности и защите актуальна только для поставщиков наиболее сложных моделей, сопряженных с системными рисками.
Компании, добровольно подписавшие кодекс, получают выгоду от сокращения бюрократии и повышения правовой определенности. Те, кто не подписал кодекс, могут ожидать больше запросов от Комиссии. Это создает косвенное давление на участие, даже несмотря на то, что кодекс официально является добровольным.
Конфликт возник из-за различной реакции компаний: в то время как OpenAI выразила готовность к сотрудничеству и подписанию кодекса, Meta отказалась от участия. Джоэл Каплан, директор по глобальным вопросам Meta, раскритиковал кодекс как юридически неопределенный и заявил, что он выходит далеко за рамки закона об искусственном интеллекте.
Почему компания Meta отказывается подписать кодекс поведения?
Компания Meta решила не подписывать Кодекс поведения ЕС для моделей GPAI, что является заметным шагом против европейского регулирования. Джоэл Каплан, директор по глобальным вопросам Meta, объяснил это решение в публикации на LinkedIn, указав на несколько важных моментов.
Основная критика связана с правовой неопределенностью: компания Meta утверждает, что кодекс «создает ряд правовых неопределенностей для разработчиков моделей и включает меры, выходящие далеко за рамки закона об ИИ». Компания опасается, что нечеткие формулировки могут привести к неправильным толкованиям и ненужным бюрократическим препятствиям.
Ещё один аспект — опасения по поводу подавления инноваций: компания Meta предупреждает, что этот кодекс может замедлить развитие передовых моделей ИИ в Европе и помешать европейским компаниям. Компания особенно критически относится к влиянию на стартапы и малые предприятия, которые могут оказаться в невыгодном положении в конкуренции из-за этих правил.
Этот отказ примечателен, поскольку Meta одновременно намерена все больше полагаться на собственные сервисы искусственного интеллекта, такие как языковая модель Llama 3, в рамках ЕС. Компания планирует внедрять свой ИИ как через собственные платформы, так и в сотрудничестве с поставщиками облачных и аппаратных решений, например, в смартфонах Qualcomm и очках Ray-Ban.
Какие компании поддерживают кодекс этики, а какие его отвергают?
Реакция технологических компаний на кодекс поведения ЕС сильно различается и отражает разногласия внутри отрасли по поводу европейского регулирования в области искусственного интеллекта.
Сторонники Кодекса
Компания OpenAI объявила о своем намерении подписать кодекс, назвав его работоспособной основой для реализации законодательства ЕС в области ИИ. Компания рассматривает кодекс как фундамент для расширения собственной инфраструктуры и партнерских отношений в Европе. Microsoft также выразила готовность к сотрудничеству: президент Брэд Смит заявил, что «вероятно, мы подпишем» и отметил позитивное сотрудничество офиса по ИИ с отраслью.
Критики и диссиденты
Компания Meta является самым ярым критиком и категорически отказывается подписывать закон. Таким образом, компания присоединяется к рядам критиков, которые считают европейские планы регулирования ИИ подавляющими инновации. Более 40 генеральных директоров европейских компаний, включая ASML, Philips, Siemens и стартап в области ИИ Mistral, в открытом письме призвали к двухлетней отсрочке принятия закона об ИИ.
Не определился
Google и Anthropic пока публично не прокомментировали свою позицию, что говорит о проведении внутренних процессов оценки. Такая нерешительность может быть стратегической, поскольку обе компании должны взвесить преимущества правовой определенности и недостатки дополнительных затрат на соблюдение нормативных требований.
Несмотря на давление со стороны отрасли, Европейская комиссия остается непреклонной и придерживается графика: запрошенная отсрочка принятия правил GPAI исключена.
Интеграция независимой платформы искусственного интеллекта, использующей данные из разных источников, для удовлетворения всех бизнес-потребностей
Интеграция независимой платформы искусственного интеллекта, использующей данные из разных источников, для удовлетворения всех бизнес-потребностей. — Изображение: Xpert.Digital
Искусственный интеллект меняет правила игры: самая гибкая платформа ИИ — индивидуальные решения, которые снижают затраты, улучшают качество принимаемых решений и повышают эффективность
Независимая платформа искусственного интеллекта: интегрирует все соответствующие источники данных компании
- Эта платформа искусственного интеллекта взаимодействует со всеми конкретными источниками данных
- От SAP, Microsoft, Jira, Confluence, Salesforce, Zoom, Dropbox и многих других систем управления данными
- Быстрая интеграция ИИ: индивидуальные решения на основе ИИ для бизнеса, разрабатываемые за считанные часы или дни, а не месяцы
- Гибкая инфраструктура: облачные решения или размещение в собственном центре обработки данных (Германия, Европа, свободный выбор местоположения)
- Максимальная защита данных: неопровержимое доказательство ее эффективности в юридических фирмах
- Развертывание в самых разнообразных корпоративных источниках данных
- Выбор собственной или различных моделей ИИ (Германия, ЕС, США, Китай)
Задачи, которые решает наша платформа искусственного интеллекта
- Несоответствие традиционных решений в области искусственного интеллекта требованиям рынка
- Защита данных и безопасное управление конфиденциальными данными
- Высокие затраты и сложность разработки отдельных систем искусственного интеллекта
- Нехватка квалифицированных специалистов в области искусственного интеллекта
- Интеграция ИИ в существующие ИТ-системы
Более подробная информация здесь:
Создано представительство ЕС по вопросам искусственного интеллекта: как ЕС осуществляет мониторинг искусственного интеллекта
Чем стандартные модели GPAI отличаются от моделей, учитывающих системные риски?
Регламент ЕС об искусственном интеллекте предусматривает многоуровневую классификацию рисков для моделей GPAI, различая стандартные модели GPAI и модели с системными рисками. Это различие имеет решающее значение для определения применимых обязательств.
Стандартные модели GPAI
Они должны соответствовать основным требованиям: подробная техническая документация модели, информация об используемых для обучения данных и соблюдение авторских прав. На эти модели распространяются стандартные обязательства, предусмотренные статьей 53 Регламента об искусственном интеллекте.
Модели GPAI с учетом системных рисков
Они классифицируются в соответствии со статьей 51 Регламента об искусственном интеллекте. Модель считается представляющей системный риск, если она обладает «высокой способностью оказывать влияние». В качестве критерия, модель GPAI представляет системный риск, если «суммарное количество вычислений, используемых для ее обучения, измеренное в операциях с плавающей запятой, превышает 10^25».
Для моделей, сопряженных с системными рисками, действуют дополнительные обязательства: проведение оценки моделей, включая тестирование в условиях противодействия, оценка и смягчение потенциальных системных рисков, отслеживание и сообщение о серьезных инцидентах в Бюро по искусственному интеллекту и соответствующим национальным органам, а также обеспечение надлежащей защиты в сфере кибербезопасности.
Данная классификация учитывает, что особенно мощные модели могут также представлять особо высокие риски и, следовательно, требовать более строгого мониторинга и контроля.
В связи с этим:
Какую конкретную информацию компании должны документировать и раскрывать?
Обязательства по документации и прозрачности для поставщиков услуг в области искусственного интеллекта регулируются всесторонне и тщательно. Техническая документация в соответствии со статьей 53 и приложением XI Регламента об искусственном интеллекте должна охватывать различные ключевые области.
Общее описание модели
Документация должна включать исчерпывающее описание модели GPAI, в том числе задачи, которые модель призвана выполнять, типы систем искусственного интеллекта, в которые она может быть интегрирована, применимые принципы допустимого использования, дату публикации и способы распространения.
Технические характеристики
Подробная информация об архитектуре и количестве параметров, способе и формате ввода и вывода данных, используемой лицензии, а также о технических средствах, необходимых для интеграции в системы искусственного интеллекта.
Процесс разработки и данные для обучения
Технические характеристики модели и процесса обучения, методы и приемы обучения, ключевые проектные решения и сделанные предположения, информация об используемых наборах данных, включая тип, происхождение и методы обработки.
Публичное краткое изложение содержания обучения
Офис по искусственному интеллекту предоставил стандартизированный шаблон, содержащий обзор данных, использованных для обучения моделей. Он включает в себя источники, из которых были получены данные, большие наборы данных и доменные имена верхнего уровня.
Документация должна быть доступна по запросу как для поставщиков услуг, так и для Управления по искусственному интеллекту, и должна регулярно обновляться.
Какова роль авторских прав в новых правилах?
Авторское право играет центральную роль в Регламенте ЕС об искусственном интеллекте, поскольку многие модели GPAI были обучены на контенте, защищенном авторским правом. Кодексу поведения посвящена отдельная глава по этой теме.
Обязательства по соблюдению требований
Поставщики должны реализовать практические решения для соблюдения закона о консультировании ЕС. Это включает в себя наблюдение за протоколом исключения робота (robots.txt), а также выявление и поддержание резервах прав для ползания в Интернете.
Технические защитные меры
Компаниям необходимо внедрить технические средства защиты, чтобы предотвратить создание их моделями контента, нарушающего авторские права. Это может стать серьезным препятствием, особенно для генераторов изображений, таких как Midjourney.
Механизмы рассмотрения жалоб
Поставщики услуг должны назначить контактных лиц для правообладателей и разработать процедуру рассмотрения жалоб. Если правообладатели требуют, чтобы их произведения не использовались, компании обязаны выполнить это требование.
Прозрачность в отношении обучающих данных
Новый шаблон для публичного описания содержания обучающих материалов разработан, чтобы упростить правообладателям осуществление и защиту своих прав. Он позволяет им лучше отслеживать, были ли использованы их защищенные авторским правом произведения в обучающих материалах.
Эти правила направлены на поддержание баланса между инновациями в области искусственного интеллекта и защитой интеллектуальной собственности.
Как регулирование влияет на малые предприятия и стартапы?
Влияние регламента ЕС по искусственному интеллекту на малые предприятия и стартапы является критически важным аспектом дискуссии вокруг новых правил. Со всех сторон высказываются опасения по поводу потенциальных недостатков для небольших компаний.
Бюрократическое бремя
Компания Meta утверждает, что строгие требования кодекса этики могут особенно ограничивать возможности стартапов. Обширные требования к документации и соблюдению норм могут налагать непропорционально высокие издержки на небольшие компании.
Меры поддержки для малых и средних предприятий
Однако регулирование в сфере ИИ также предусматривает упрощения: малые и средние предприятия (МСП), включая стартапы, могут подавать техническую документацию в упрощенной форме. Комиссия разрабатывает упрощенную форму, адаптированную к потребностям микро- и малых предприятий.
Исключения открытого исходного кода
Поставщики моделей GPAI с открытой лицензией — то есть, моделей с открытой и свободной лицензией, не представляющих системных рисков, — не обязаны соблюдать подробные стандарты документации. Это регулирование может быть особенно полезно для стартапов и небольших разработчиков.
Равная конкуренция
Кодекс этики был разработан при участии более 1000 заинтересованных сторон, включая малые и средние предприятия. Это призвано обеспечить учет потребностей компаний различного размера.
Поэтому ЕС стремится ограничить нагрузку на малые предприятия, сохраняя при этом высокие стандарты безопасности и прозрачности.
В связи с этим:
Какое значение имеет 2 августа 2025 года для существующих моделей искусственного интеллекта?
2 августа 2025 года знаменует собой важный поворотный момент в европейском регулировании ИИ, разграничивая новые и существующие модели. Это разграничение имеет решающее значение для практической реализации регулирования.
Новые модели GPAI
Для новых моделей GPAI, запущенных после 2 августа 2025 года, все обязательства Регламента об искусственном интеллекте вступают в силу немедленно. Это означает, что все обязательства по обеспечению прозрачности, документации и управлению становятся обязательными с этой даты.
Существующие модели
Для систем, уже представленных на рынке, таких как ChatGPT-4, правила будут применяться только с августа 2026 года. Этот двухлетний переходный период призван дать поставщикам время для соответствующей адаптации существующих систем и внедрения новых требований.
Контроль со стороны Управления по искусственному интеллекту
Европейское бюро по искусственному интеллекту будет обеспечивать соблюдение правил через год после их вступления в силу (т.е. с августа 2026 года) для новых моделей и через два года для существующих моделей. Это даст властям время нарастить свой потенциал и разработать последовательные методы обеспечения соблюдения правил.
Переходный мост через кодекс поведения
В качестве переходной меры компании уже сейчас могут подписать добровольный кодекс поведения в сфере ИИ. В этом случае они получают преимущества от меньшей бюрократии и большей правовой определенности по сравнению с компаниями, которые выбирают другие методы соблюдения нормативных требований.
Каковы долгосрочные последствия для европейского рынка искусственного интеллекта?
Ожидается, что Регламент ЕС об искусственном интеллекте окажет далеко идущее и долгосрочное влияние на европейский рынок ИИ. Эти изменения затронут как конкурентные позиции Европы, так и развитие индустрии ИИ в целом.
Правовая определенность как конкурентное преимущество
Компании, которые с самого начала уделяют приоритетное внимание прозрачности, корпоративному управлению и соблюдению нормативных требований, останутся конкурентоспособными на европейском рынке. Единые правила могут сделать Европу привлекательным местом для развития надежного ИИ и укрепить доверие инвесторов и клиентов.
Глобальный разработчик стандартов
Подобно GDPR, Регламент ЕС об ИИ может иметь международные последствия. Эксперты ожидают, что Закон ЕС об ИИ будет стимулировать развитие управления ИИ и этических стандартов во всем мире. Европа может стать мировым эталоном ответственного развития ИИ.
Инновационная экосистема
ЕС финансирует ряд мер по поддержке исследований в области искусственного интеллекта и содействию внедрению результатов исследований на рынок. Сеть, объединяющая более 200 европейских центров цифровых инноваций (EDIH), призвана способствовать широкому внедрению ИИ.
Консолидация рынка
Ужесточение нормативных требований может привести к консолидации рынка, поскольку более мелким поставщикам может быть сложно покрыть расходы на соблюдение нормативных требований. В то же время вокруг решений в области обеспечения соответствия нормативным требованиям могут появиться новые бизнес-модели.
Риски конкуренции
Компании, которые не принимают своевременных мер, рискуют столкнуться с правовой неопределенностью и конкурентными недостатками. Высокие штрафы и строгие меры принуждения могут оказать существенное влияние на бизнес-модели.
Долгосрочные последствия зависят от того, удастся ли Европе сбалансировать инновации и регулирование и утвердиться в качестве ведущего центра развития надежного искусственного интеллекта.
Ваш эксперт в области трансформации с помощью ИИ, интеграции ИИ и создания платформ искусственного интеллекта
☑️ Язык ведения нашего бизнеса — английский или немецкий
☑️ НОВИНКА: Переписка на вашем родном языке!
Konrad Wolfenstein
Я и моя команда будем рады быть вашими личными консультантами.
Вы можете связаться со мной, заполнив контактную форму здесь wolfenstein@xpert.digital:или просто позвонив по номеру +49 7348 4088 965. Мой адрес электронной почты
Я с нетерпением жду начала нашего совместного проекта.
