Суверенитет данных, самоопределение и реальность модерации платформ с помощью искусственного интеллекта

### Один щелчок, и всё пропало: тихий хаос модерации платформ с помощью ИИ ### Дело всей жизни, уничтоженное ИИ: почему ваш аккаунт в социальных сетях может просто исчезнуть завтра ### Великая иллюзия суверенитета данных: как алгоритмы тайно правят нами ### Несмотря на новые законы ЕС: почему технологическим компаниям по-прежнему разрешено произвольно удалять данные ###

Судья Алгоритм: Когда ИИ прерывает вашу цифровую жизнь — и никто не несет ответственности

Мы живём во времена, когда такие термины, как «информационный суверенитет» и «цифровое самоопределение», — не просто политические лозунги, а отражение стремлений всего общества. С помощью таких законов, как Закон о цифровых услугах, Европа пытается создать защиту от произвола глобальных технологических компаний и защитить основные права своих граждан в цифровой сфере. Но пока мы обсуждаем правовые нормы и правила, прямо на наших глазах разворачивается реальность, превращающая эти высокие цели в посмешище. Реальность, в которой цифровое существование людей уничтожается одним нажатием кнопки — не человеком, а непрозрачным алгоритмом.

Каждый день на таких платформах, как YouTube, TikTok и Instagram, блокируются аккаунты и удаляются каналы — каналы, которые пользователи кропотливо создавали годами. Их цифровое дело исчезает, часто без внятных обоснований, без справедливого слушания и без эффективного способа обжаловать решение. Всё чаще это происходит из-за модерации на основе искусственного интеллекта, которая подвержена ошибкам, непрозрачна, но при этом обладает абсолютной властью судить о видимости и цифровом существовании. Случай с технологичным YouTube-блогером Enderman, чьи каналы с сотнями тысяч подписчиков были удалены на основании абсурдной связи, якобы установленной искусственным интеллектом, — лишь вершина айсберга. В этой статье исследуется глубокая пропасть между нашим стремлением к контролю и бесконтрольной властью алгоритмов, которые давно стали судьями и палачами в нашей цифровой публичной сфере.

Где противоречие между нашими стремлениями и нашей реальностью?

Мы постоянно говорим о суверенитете данных и цифровом самоопределении. Эти термины стали отличительными чертами уверенной в себе и независимой культуры, которая призвана представлять обращение с искусственным интеллектом как признак своей зрелости. Европейский союз поставил перед собой задачу защитить своих граждан от произвола глобальных технологических корпораций, приняв такие законы, как Закон о цифровых услугах и Закон о цифровых рынках. Были приняты нормативные акты, обеспечивающие прозрачность и защиту основных прав. Но за всем этим наращиванием нормативного регулирования мы упускаем из виду нечто фундаментальное: мы не реагируем на экзистенциальную угрозу, которая ежедневно разворачивается на наших глазах и подрывает доверие ко всем этим усилиям.

Реальность, которую нам ежедневно представляют основные социальные сети, совершенно отличается от истории о суверенитете данных и самоопределении. Люди ежедневно теряют плоды своего цифрового труда без каких-либо оправданий и механизмов противодействия. Каналы, кропотливо создававшиеся годами, удаляются. Не после тщательного анализа, не после прозрачных процедур, не после возможности справедливого разбирательства. Просто удаляются. И это происходит способом, недостойным демократии, поскольку отсутствуют эффективные механизмы обжалования, а пострадавшие даже не понимают, почему их время и творческий потенциал были потрачены впустую.

Какие конкретные примеры демонстрируют этот произвол?

Самый недавний и яркий пример — случай с ютубером Enderman, пишущим о технологиях. Российский создатель контента создал основной канал на YouTube с более чем 350 000 подписчиков, где он освещал технологические темы. Его контент был ценен с точки зрения документального кино: он разбирал старые версии Windows и другие технические проблемы. Этот канал был удалён без предупреждения. Незадолго до этого исчез его дополнительный канал Andrew, также с сотнями тысяч подписчиков. Заявленная причина этой радикальной меры была странной: YouTube заявил, что каналы Enderman связаны с японским каналом, получившим третье предупреждение о нарушении авторских прав. Канал, который Enderman не знает, на языке которого он не общается и с которым у него нет никакой связи.

Примечательно в этом деле не только несправедливость самого решения, но и то, как оно было принято. Эндерман предположил, что за этим стоит искусственный интеллект, установивший ошибочное соединение между его каналами и неизвестным японским аккаунтом. Надежды ютубера на то, что его жалобу рассмотрит живой сотрудник YouTube, не оправдались. Прошли месяцы, а ответа так и не последовало. Похоже, Эндерман смирился с тем, что его время на YouTube закончилось. Другой ютубер сообщил о схожих проблемах в той же теме в Твиттере – его канал также был удалён со ссылкой на тот же японский канал. Это указывает на системный сбой, а не на единичный случай человеческой ошибки, а скорее на недостатки бесконтрольно работающей автоматизированной системы.

YouTube — не единичный случай. Аналогичные тенденции наблюдаются на разных платформах. TikTok, Instagram, Facebook и другие сервисы ежедневно удаляют контент и блокируют аккаунты, часто без достаточных оснований. Организация по обеспечению прозрачности Freiheitsrechte.org зафиксировала, что платформы социальных сетей часто не предоставляют пострадавшим лицам недостаточных объяснений своих решений о модерации. В некоторых случаях обоснования ссылаются лишь на общее нарушение условий обслуживания, без указания конкретного нарушения, приведшего к принятию мер.

Выполняют ли технологические компании свою социальную ответственность?

Это критический момент, когда нам необходимо исправить наши когнитивные предубеждения. Крупнейшие технологические компании явно извлекают прибыль из наших данных, нашей экономической деятельности и нашего общества. Они используют наш общий интернет как основу своего бизнеса. Они зарабатывают миллиарды на рекламе, генерируемой нашим вниманием и нашими персональными данными. В то же время эти корпорации фактически берут на себя общественную и общественную ответственность.

YouTube — это не просто технический сервис, вроде хостинг-провайдера. Платформа стала инфраструктурой публичного общения. Она определяет видимость, охват и доступ для миллионов людей. Она закрепила за собой роль хранителя информации и знаний. Facebook и Instagram похожи: эти сервисы стали центрами социального дискурса. Для многих людей эти платформы — основная площадка для выражения своего мнения, создания сообществ и распространения своих идей.

Но хотя эти технологические компании получают экономическую прибыль от своей роли посредников в социальных коммуникациях, они уклоняются от ответственности, присущей этой роли. Благотворительная организация, уполномоченная государством выполнять задачи за плату, не может просто так исключать инакомыслящих, потому что им кто-то не нравится. Общественный вещатель не может просто заставить людей замолчать, не выслушав их версию событий. Суд не может просто осудить кого-то, не предоставив ему возможности защитить себя.

Однако именно это и происходит на этих платформах каждый день. Людей исключают без каких-либо реальных оснований. Их работы удаляют. Их средства к существованию уничтожаются в интернете. А единственным ответом платформ является ссылка на их условия предоставления услуг и, в лучшем случае, автоматизированная система подачи жалоб, которая практически не решает никаких проблем. Это не только несправедливо, но и структурно опасно для открытого общества.

Управляемая платформа ИИ — Изображение: Xpert.Digital

Здесь вы узнаете, как ваша компания может быстро, безопасно и без высоких барьеров для входа внедрять индивидуальные решения на основе ИИ.

Управляемая платформа ИИ — это ваш комплексный и простой в использовании пакет решений для искусственного интеллекта. Вместо того, чтобы разбираться со сложными технологиями, дорогостоящей инфраструктурой и длительными процессами разработки, вы получаете готовое решение, адаптированное под ваши потребности, от специализированного партнера — часто в течение нескольких дней.

Краткий обзор основных преимуществ:

⚡ Быстрое внедрение: от идеи до внедрения в эксплуатацию — всего за несколько дней, а не месяцев. Мы предлагаем практичные решения, которые приносят мгновенную пользу.

🔒 Максимальная безопасность данных: Ваши конфиденциальные данные остаются у вас. Мы гарантируем безопасную и соответствующую требованиям обработку данных без передачи третьим лицам.

💸 Отсутствие финансового риска: вы платите только за результат. Высокие первоначальные вложения в оборудование, программное обеспечение или персонал полностью исключены.

🎯 Сосредоточьтесь на своей основной деятельности: сосредоточьтесь на том, что у вас получается лучше всего. Мы возьмём на себя всю техническую реализацию, эксплуатацию и обслуживание вашего ИИ-решения.

📈 Перспективность и масштабируемость: ваш ИИ растёт вместе с вами. Мы обеспечиваем постоянную оптимизацию и масштабируемость, а также гибко адаптируем модели к новым требованиям.

Подробнее об этом здесь:

• Управляемая платформа ИИ

Как использование ИИ меняет проблему?

Здесь ситуация резко ухудшается. Технологические компании всё чаще используют автоматизированные системы для модерации контента и принятия решений. Эти системы ИИ непрозрачны. Они не проходят регулярную проверку. И, что самое главное, они допускают ошибки с серьёзными последствиями. Дело Эндермена — лишь один из множества примеров того, как модерация с помощью ИИ приводит к абсурдным или даже вредоносным результатам.

Это стало особенно очевидно во время пандемии COVID-19. В отсутствие людей-рецензентов социальные сети массово переложили модерацию контента на автоматизированные системы. Результатом стала волна неудачных решений. Видеоролики, не нарушающие правила, были удалены. Полезный контент исчез. Пользователи были разочарованы тем, что платформы не смогли выполнить свои обещания.

Ограничения модерации контента на основе ИИ фундаментальны. Искусственный интеллект работает надёжно только при наличии достаточного количества обучающих данных. Многие ситуации имеют нюансы и не поддаются простой классификации. Фраза вроде «Я ел пасту сегодня вечером» имела в TikTok двойной смысл: буквально она относилась к потреблению пищи, но в контексте тренда сигнализировала о суицидальных мыслях. Алгоритм TikTok не уловил этот нюанс и, вместо этого, подпитывал тренд.

Более того, уровень ошибок носит систематический характер. Исследование Европейского вещательного союза показало, что в 45% ответов на вопросы о текущих событиях у чат-ботов на основе искусственного интеллекта наблюдалась как минимум одна серьёзная ошибка, которая могла ввести читателей в заблуждение. В 81% результатов была обнаружена какая-либо ошибка. Это не исключение, а правило.

Однако эти крайне подверженные ошибкам и непрозрачные системы используются для решения судьбы миллионов цифровых жизней. Видео удаляется. Канал деактивируется. Компания удаляется с платформы. И решение было принято системой, которую пользователи не понимают, которая не несёт ответственности и которая может безнаказанно принимать неверные решения.

В чем заключается ответственность государства?

Государство не просто закрывает глаза. Хуже того, государство, которое имеет полномочия исправить эту ситуацию, вместо этого бюрократизирует и увязает в мелочах. Есть правила, это правда. Закон Европейского союза о цифровых услугах предусматривает прозрачность платформ. Он требует от пользователей права на подачу жалоб. Он также обязывает очень крупные платформы раскрывать свои системы и принимаемые решения. Всё это звучит хорошо и правильно на бумаге.

Однако обеспечение соблюдения этих правил носит фрагментарный характер. Федеральное сетевое агентство Германии взяло на себя функции координатора цифровых услуг и теперь отвечает за обеспечение соблюдения этих правил. Но есть ли у этого агентства достаточные ресурсы? Есть ли у него достаточно полномочий? Могут ли отдельные национальные органы власти действительно принимать меры против глобальных технологических компаний, уклоняющихся от выполнения своих обязательств с помощью юристов и лоббирования?

Более того, существует и более глубокая проблема. Слишком долго государство позволяло частным корпорациям одновременно играть роли посредника, судьи и присяжных. Эти корпорации решают, что правильно, а что нет на своих платформах. Они выносят вердикты. Они приводят приговоры в исполнение. И они никому не подотчётны. Это не просто недостаток регулирования. Это фундаментальный провал демократии.

Долгое время предполагалось, что рынки регулируются сами собой, что платформы будут действовать, исходя из своей репутации и личных интересов. Это предположение оказалось в корне неверным. Платформы оптимизируют свою работу ради вовлеченности и доходов от рекламы, а не ради справедливости. Они используют системы искусственного интеллекта, которые обходятся дешевле, чем человеческая модерация, хотя эти системы подвержены ошибкам. И когда происходит ошибка, они могут переложить вину на алгоритм, который якобы принял автономное решение.

Что необходимо для изменения этой ситуации?

Во-первых, необходимо прояснить, что крупные платформы — это не просто частные компании, на которые государство не имеет никакого влияния. Эти компании выполняют общественные функции. Они являются посредниками в публичном дискурсе. Они взяли на себя общественную задачу, безусловно, с экономической выгодой, но, тем не менее, с социальной ответственностью.

Это означает, что основополагающие принципы верховенства права должны применяться к решениям о модерации, особенно к таким радикальным мерам, как блокировка или удаление. Это подразумевает полную прозрачность причин принятия решения. Это означает право на справедливое судебное разбирательство до принятия радикальных мер. Это означает реальное право на апелляцию, а не автоматизированную систему подачи жалоб, которая на практике неэффективна. Это означает человеческий фактор, особенно в случаях, связанных с алгоритмом.

Более того, необходимо установить ограничения для модерации, осуществляемой с помощью ИИ. Если система подвержена ошибкам и может повлиять на миллионы людей, человек всегда должен быть в ней задействован. Правила ЕС указывают на это, но их соблюдение не обеспечивается. Платформы постоянно находят способы обойти или подорвать эти правила.

Также необходимы структурные изменения в системе ответственности. Платформы должны нести ответственность за решения своих систем. Не метафорическую, а юридическую. Если канал неправомерно удалён, платформа должна быть обязана возместить ущерб. Это изменит систему стимулов. Внезапно использование неисправной автоматизированной системы станет невыгодным. Внезапно появится цена за несправедливое причинение вреда людям.

Для Эндермана это означало бы, что YouTube не мог просто удалить его канал из-за того, что система искусственного интеллекта ошибочно связалась с японским аккаунтом. Должна была быть проведена проверка. Должна была быть возможность отреагировать. И если бы ошибка осталась незамеченной, YouTube мог бы быть привлечён к ответственности.

Что произойдет, если эти проблемы не будут решены?

Ответ сокрушителен. Если мы позволим системам искусственного интеллекта произвольно решать, каково цифровое существование людей, то хаос не придёт вместе с ИИ — он уже здесь. Он будет только усиливаться. Ведь чем умнее становятся эти системы, тем меньше мы их понимаем. А чем меньше мы их понимаем, тем меньше мы можем их контролировать.

Хуже того: проблема будет расти экспоненциально. Использование ИИ для модерации контента усилится. Системы станут сложнее. Количество ошибок может уменьшиться или увеличиться — никто точно не знает. Но гарантированно, что миллионы, а вскоре и миллиарды людей пострадают от решений, которые они не понимают, не могут оспорить и за которые никто не несёт ответственности.

И пока это происходит, государство смотрит в сторону. Федеральное сетевое агентство определяет свои обязанности. ЕС принимает законы. Но правоприменение осуществляется вяло. Власти испытывают нехватку ресурсов. Платформы платят штрафы, которые для них — мелочь, и фактически не меняют их практику. Статус-кво сохраняется: технологические компании действуют как бесконтрольные властители цифрового общественного пространства.

Примечательно в этой ситуации то, что её можно избежать. Решения существуют. Существуют способы сделать суверенитет данных и цифровое самоопределение реальностью, а не просто нормативными целями. Но для этого государству придётся отказаться от безразличия. Ему придётся признать, что это не просто проблема регулирования, а дисбаланс сил. У технологических компаний есть власть. Они должны использовать эту власть на благо общества, иначе её у них отнимут.

До тех пор случаи, подобные делу Эндермана, остаются симптомом неэффективной системы. Человек теряет дело своей жизни. Никто не может ему помочь. А машина, разрушившая дело его жизни, продолжает работать без сбоев, рассматривая новые дела, вынося новые решения, а государство документирует всё это в административных документах, пока дым не поднимается.

Konrad Wolfenstein

Буду рад стать вашим личным консультантом.

связаться со мной под Wolfenstein ∂ xpert.Digital

позвоните мне под +49 89 674 804 (Мюнхен)

LinkedIn