Суверенитет данных, самоопределение и реальность модерации платформ с помощью ИИ

### Один клик — и всё исчезло: Тихий хаос модерации платформ с помощью ИИ ### Вся жизнь разрушена ИИ: Почему ваш аккаунт в социальных сетях может просто исчезнуть завтра ### Великая иллюзия суверенитета данных: Как алгоритмы тайно управляют нами ### Несмотря на новые законы ЕС: Почему технологическим компаниям по-прежнему разрешено удалять контент произвольно ###

Алгоритм судьи: Когда ИИ разрушает вашу цифровую жизнь – и никто не несёт за это ответственности

Мы живем во времена, когда такие термины, как «суверенитет данных» и «цифровое самоопределение», — это не просто политические лозунги, а отражение стремлений всего общества. С помощью таких законов, как Закон о цифровых услугах, Европа пытается создать барьер против произвольных действий глобальных технологических компаний и защитить основные права своих граждан в цифровой сфере. Но пока мы обсуждаем правовые положения и правила, прямо на наших глазах разворачивается реальность, которая делает эти высокие цели посмешищем. Реальность, в которой цифровое существование людей уничтожается одним нажатием кнопки — не человеком, а непрозрачным алгоритмом.

Ежедневно на таких платформах, как YouTube, TikTok и Instagram, блокируются аккаунты и удаляются каналы — каналы, которые пользователи кропотливо создавали годами. Вся их цифровая жизнь исчезает, часто без веских причин, без справедливого разбирательства и без эффективного способа обжаловать решение. Всё чаще это происходит из-за модерации, управляемой искусственным интеллектом, которая подвержена ошибкам, непрозрачна и при этом обладает абсолютной властью оценивать видимость и цифровое существование. Случай с технологическим ютубером Эндерманом, чьи каналы с сотнями тысяч подписчиков были удалены на основании абсурдной связи, якобы установленной ИИ, — лишь верхушка айсберга. Эта статья исследует глубокую пропасть между нашим стремлением к контролю и бесконтрольной властью алгоритмов, которые давно стали судьями и палачами в нашем цифровом общественном пространстве.

В чём заключается противоречие между нашими стремлениями и нашей реальностью?

Мы постоянно говорим о суверенитете данных и цифровом самоопределении. Эти термины стали отличительными чертами уверенной в себе и независимой культуры, которая, как предполагается, демонстрирует свою зрелость в отношении искусственного интеллекта. Европейский союз поставил перед собой цель защитить своих граждан от произвольных действий глобальных технологических корпораций с помощью таких законов, как Закон о цифровых услугах и Закон о цифровых рынках. Были приняты нормативные акты для обеспечения прозрачности и защиты основных прав. Но при всей этой нормативной нагрузке мы упускаем из виду нечто фундаментальное: мы не решаем экзистенциальную угрозу, которая ежедневно разворачивается на наших глазах и подрывает доверие ко всем этим усилиям.

Реальность, которую ежедневно демонстрируют нам основные социальные сети, говорит совсем не о суверенитете данных и самоопределении. Люди ежедневно теряют результаты своей цифровой жизни, без всякого оправдания и без каких-либо механизмов противодействия. Каналы, кропотливо создававшиеся годами, удаляются. Не после тщательной проверки, не после прозрачных процедур, не после возможности справедливого разбирательства. Просто удаляются. И это происходит способом, недостойным демократии, потому что нет эффективных механизмов обжалования, и пострадавшие даже не знают, почему их время и творчество были потрачены впустую.

Какие конкретные примеры демонстрируют эту произвольность?

Самый недавний и яркий пример — случай с технологическим ютубером Эндерменом. Российский создатель контента создал основной канал на YouTube с более чем 350 000 подписчиков, где он исследовал технологические темы. Его контент был ценен с точки зрения документального кино — он рассказывал о старых версиях Windows и других технических проблемах. Этот канал был удален без предупреждения. Незадолго до этого исчез и его второй канал, «Эндрю», также с сотнями тысяч подписчиков. Заявленная причина этой радикальной меры была странной: YouTube утверждал, что каналы Эндермена связаны с японским каналом, который получил уже третье предупреждение о нарушении авторских прав. Канал, который Эндермен не знает, на языке которого он не общается и с которым у него нет никакой связи.

В этом случае примечательна не только несправедливость самого решения, но и способ его принятия. Эндерман предположил, что за этим стоит система искусственного интеллекта, установившая ошибочную связь между его каналами и неизвестным японским аккаунтом. Надежда технического ютубера на то, что сотрудник YouTube рассмотрит его жалобу, рухнула. Прошли месяцы без ответа. Теперь Эндерман, похоже, смирился с тем, что его время на YouTube закончилось. Другой ютубер сообщил об идентичных проблемах в той же ветке в Твиттере — его канал также был удален со ссылкой на тот же японский канал. Это указывает на системный сбой, а не на единичный случай человеческой ошибки, а скорее на недостатки автоматизированной системы, работающей без контроля.

YouTube — не единичный случай. Различные платформы демонстрируют схожие тенденции. TikTok, Instagram, Facebook и другие сервисы ежедневно удаляют контент и блокируют аккаунты, часто без достаточного обоснования. Организация по обеспечению прозрачности Freiheitsrechte.org задокументировала, что платформы социальных сетей часто предоставляют пострадавшим неадекватные объяснения своих решений о модерации. В некоторых случаях обоснования лишь в общих чертах ссылаются на нарушение условий предоставления услуг, не объясняя, какое именно нарушение привело к таким действиям.

Выполняют ли технологические компании свои социальные обязательства?

Это ключевой момент, когда нам необходимо скорректировать наши когнитивные искажения. Крупнейшие технологические компании, как видно, получают прибыль от наших данных, нашей экономической активности и нашего общества. Они используют наш общий интернет в качестве основы для своего бизнеса. Они зарабатывают миллиарды на рекламных доходах, генерируемых нашим вниманием и нашими личными данными. В то же время эти корпорации фактически берут на себя общественную и социальную ответственность.

YouTube — это не просто технический сервис, вроде хостинг-провайдера. Платформа стала инфраструктурой публичной коммуникации. Она определяет видимость, охват и доступ для миллионов людей. Она прочно закрепилась в роли привратника информации и знаний. Facebook и Instagram похожи — эти сервисы стали центральными площадками для социальных дискуссий. Для многих людей эти платформы являются основным местом, где они могут выразить свое мнение, создать свои сообщества и распространить свои сообщения.

Но, получая экономическую выгоду от своей роли посредников в социальной коммуникации, эти технологические компании уклоняются от ответственности, присущей этой роли. Благотворительная организация, нанятая государством для выполнения задач за плату, не может просто исключить несогласных только потому, что им кто-то не нравится. Общественная телерадиокомпания не может просто заставить замолчать отдельных лиц, не выслушав их версию событий. Суд не может просто осудить кого-либо, не предоставив ему возможности защитить себя.

Однако именно это и происходит на этих платформах каждый день. Людей исключают без всякого реального оправдания. Их работы удаляют. Их средства к существованию разрушаются в интернете. А единственная реакция платформ — это ссылка на их условия предоставления услуг и, в лучшем случае, автоматизированная система жалоб, которая практически не решает никаких проблем. Это не только несправедливо; это структурно опасно для открытого общества.

Платформа управляемого ИИ — Изображение: Xpert.Digital

Здесь вы узнаете, как ваша компания может быстро, безопасно и без высоких барьеров для входа внедрить индивидуальные решения на основе искусственного интеллекта.

Управляемая платформа искусственного интеллекта — это комплексное и беззаботное решение для вашего бизнеса в сфере искусственного интеллекта. Вместо того чтобы возиться со сложными технологиями, дорогостоящей инфраструктурой и длительными процессами разработки, вы получаете готовое решение, адаптированное под ваши потребности, от специализированного партнера — зачастую всего за несколько дней.

Основные преимущества с первого взгляда:

⚡ Быстрая реализация: от идеи до готового к использованию приложения за считанные дни, а не месяцы. Мы предлагаем практические решения, которые создают немедленную добавленную стоимость.

🔒 Максимальная безопасность данных: Ваши конфиденциальные данные остаются с вами. Мы гарантируем безопасную и соответствующую законодательству обработку данных без их передачи третьим лицам.

💸 Отсутствие финансового риска: вы платите только за результат. Полностью исключаются высокие первоначальные инвестиции в оборудование, программное обеспечение или персонал.

🎯 Сосредоточьтесь на своем основном бизнесе: сконцентрируйтесь на том, что у вас получается лучше всего. Мы берем на себя всю техническую реализацию, эксплуатацию и обслуживание вашего решения на основе ИИ.

📈 Перспективность и масштабируемость: ваш ИИ растет вместе с вами. Мы обеспечиваем непрерывную оптимизацию и масштабируемость, а также гибко адаптируем модели к новым требованиям.

Более подробная информация здесь:

• Платформа управляемого искусственного интеллекта

Как использование ИИ меняет решение проблемы?

В данном случае ситуация резко ухудшается. Технологические компании все чаще используют автоматизированные системы для модерации контента и принятия решений. Эти системы на основе ИИ непрозрачны. Они не проходят регулярную проверку. И самое главное: они также совершают ошибки с огромными последствиями. Дело Эндермана — лишь один из многих примеров того, как модерация с помощью ИИ приводит к абсурдным или вредным результатам.

Это стало особенно очевидным во время пандемии COVID-19. Когда стало невозможно контролировать контент вручную, социальные сети массово перевели модерацию на автоматизированные системы. Результатом стала волна ошибочных решений. Видео, не нарушавшие правила, были удалены. Законный контент исчез. Пользователи были разочарованы, потому что платформы не смогли сдержать свои обещания.

Ограничения модерации контента на основе ИИ носят фундаментальный характер. Искусственный интеллект работает надежно только при наличии достаточного количества обучающих данных. Многие ситуации многогранны и не поддаются простой классификации. Фраза вроде «Сегодня вечером я ел пасту» имела в TikTok двойное значение — в буквальном смысле она относилась к потреблению пищи, но в контексте тренда сигнализировала о суицидальных мыслях. Алгоритм TikTok не смог уловить этот нюанс и вместо этого подпитывал тренд.

Кроме того, частота ошибок носит систематический характер. Исследование Европейского вещательного союза показало, что в 45 процентах ответов на вопросы о текущих событиях у чат-ботов с искусственным интеллектом была обнаружена как минимум одна существенная ошибка, которая могла ввести читателей в заблуждение. В 81 проценте результатов были обнаружены ошибки различного рода. Это не исключение, а правило.

Однако эти крайне подверженные ошибкам и непрозрачные системы используются для решения судьбы цифровой жизни миллионов людей. Видео удаляется. Канал деактивируется. Компания удаляется с платформы. И решение принимается системой, которую пользователи не понимают, которая не несет ответственности и которой позволено безнаказанно принимать неверные решения.

На ком лежит ответственность государства?

Государство не просто закрывает глаза. Хуже того, государство, обладающее полномочиями исправить эту ситуацию, вместо этого бюрократизируется и увязает в мельчайших деталях. Правила существуют – это правда. Закон Европейского союза о цифровых услугах предусматривает, что платформы должны быть прозрачными. Он требует, чтобы пользователи имели право подавать жалобы. Он предусматривает, что очень крупные платформы должны раскрывать свои системы и принимаемые решения. Все это звучит хорошо и правильно на бумаге.

Однако обеспечение соблюдения этих правил носит фрагментарный характер. Федеральное сетевое агентство Германии взяло на себя роль координатора цифровых услуг и теперь отвечает за соблюдение этих правил. Но достаточно ли у этого агентства ресурсов? Достаточно ли у него полномочий? Могут ли отдельные национальные органы власти действительно принимать меры против глобальных технологических компаний, которые уклоняются от своих обязанностей с помощью юристов и лоббирования?

Кроме того, существует более глубокая проблема. Слишком долго государство позволяло частным корпорациям одновременно играть роли привратника, судьи и присяжных. Эти корпорации решают, что правильно, а что неправильно, на своих платформах. Они выносят вердикты. Они приводят приговоры в исполнение. И они никому не подотчетны. Это не просто недостаток регулирования. Это фундаментальный провал демократии.

Долгое время считалось, что рынки регулируются сами собой, а платформы действуют, руководствуясь репутацией и собственными интересами. Это предположение оказалось в корне неверным. Платформы оптимизируют свою деятельность для вовлечения аудитории и получения дохода от рекламы, а не для обеспечения справедливости. Они используют системы искусственного интеллекта, которые обходятся дешевле, чем человеческая модерация, хотя эти системы подвержены ошибкам. А когда происходит ошибка, они могут переложить вину на алгоритм, который якобы принял автономное решение.

Что потребуется для изменения этой ситуации?

Во-первых, необходимо уточнить, что основные платформы — это не просто частные компании, на которые государство не имеет влияния. Эти компании выполняют общественные функции. Они являются посредниками в общественном дискурсе. Они взяли на себя общественную задачу, безусловно, приносящую экономическую выгоду, но тем не менее несущую социальную ответственность.

Это означает, что к решениям модерации, особенно к радикальным мерам, таким как блокировка или удаление, должны применяться основополагающие принципы верховенства права. Это означает полную прозрачность в отношении причин принятия решения. Это означает право на справедливое слушание до принятия радикальных мер. Это означает подлинное право на обжалование, а не автоматизированную систему подачи жалоб, которая неэффективна на практике. Это означает проверку человеком, особенно в случаях, когда используется алгоритм.

Кроме того, необходимо установить ограничения на модерацию с помощью ИИ. Если система несовершенна и может повлиять на миллионы людей, человек всегда должен участвовать в процессе. Регламент ЕС указывает в этом направлении, но его соблюдение недостаточно эффективно. Платформы постоянно находят способы обойти или подорвать эти правила.

Необходимы также структурные изменения в системе подотчетности. Платформы должны нести ответственность за решения, принимаемые их системами. Не в переносном смысле, а в юридическом. Если канал удален неправомерно, платформа должна быть обязана выплатить компенсацию. Это изменило бы стимулы. Внезапно использование неисправной автоматизированной системы перестало бы быть дешевле. Внезапно появилась бы цена за несправедливый вред, причиненный людям.

Для Эндермана это означало бы, что YouTube не мог просто удалить его канал из-за того, что система искусственного интеллекта ошибочно связалась с японским аккаунтом. Должна была быть проведена проверка. Должна была быть возможность ответить. И если бы ошибка осталась незамеченной, YouTube мог бы быть привлечен к ответственности.

Что произойдет, если эти проблемы не будут решены?

Ответ ужасающий. Если мы позволим системам искусственного интеллекта произвольно решать, как люди будут существовать в цифровом пространстве, то хаос не придет вместе с ИИ — хаос уже здесь. Он будет только усиливаться. Потому что чем умнее становятся эти системы, тем меньше мы их понимаем. А чем меньше мы их понимаем, тем меньше мы можем ими управлять.

Хуже того: проблема будет расти в геометрической прогрессии. Использование ИИ в модерации контента будет усиливаться. Системы станут сложнее. Количество ошибок может уменьшиться или увеличиться — никто не знает наверняка. Но гарантировано то, что миллионы, а вскоре и миллиарды людей пострадают от решений, которые они не понимают, не могут оспорить и за которые не несут ответственности.

И пока это происходит, государство закрывает на это глаза. Федеральное сетевое агентство определяет свои обязанности. ЕС принимает законы. Но их исполнение носит половинчатый характер. Власти испытывают нехватку ресурсов. Платформы платят штрафы, которые для них — сущие копейки и которые на самом деле не меняют их практики. Статус-кво сохраняется: технологические компании выступают в роли бесконтрольных правителей цифровой общественной сферы.

Примечательно в этой ситуации то, что её можно было избежать. Решения существуют. Есть способы сделать суверенитет данных и цифровое самоопределение реальностью, а не просто нормативными целями. Но для этого государству придётся отказаться от своего безразличия. Ему придётся признать, что это не просто вопрос регулирования, а дисбаланс власти. Технологические компании обладают властью. Они должны использовать эту власть на благо общества, или же её нужно у них отнять.

До тех пор подобные случаи, как в случае с Эндерманом, остаются симптомом неработающей системы. Человек теряет дело всей своей жизни. Никто не может ему помочь. А машина, уничтожившая дело всей его жизни, продолжает работать беспрепятственно, рассматривая новые дела, вынося новые решения, а государство документирует все это в административных файлах, в то время как дым поднимается вверх.

Konrad Wolfenstein

Я с удовольствием стану вашим личным консультантом.

связаться со мной по адресу wolfenstein ∂ xpert.digital

Просто позвоните мне по номеру +49 89 89 674 804 (Мюнхен) .

LinkedIn