データ主権、自己決定、そしてAI主導のプラットフォームモデレーションの現実

### ワンクリックですべてが消える：AI主導のプラットフォームモデレーションの静かな混沌 ### AIによって破壊された人生の仕事：ソーシャルメディアアカウントが明日消えてしまうかもしれない理由 ### データ主権という大きな幻想：アルゴリズムが密かに私たちを支配する方法 ### EUの新法にもかかわらず：テクノロジー企業が恣意的に削除することが依然として許可されている理由 ###

アルゴリズムを裁く：AIがあなたのデジタルライフを終わらせる時、誰も責任を負わない

「データ主権」や「デジタル自己決定」といった言葉が単なる政治スローガンではなく、社会全体の願望を象徴する時代に、私たちは生きています。欧州はデジタルサービス法などの法律によって、グローバルなテクノロジー企業の恣意的な行動に対する防壁を築き、デジタル領域における市民の基本的権利を守ろうとしています。しかし、私たちが法的な条項や規制について議論している間、これらの崇高な目標を嘲笑する現実が目の前に広がっています。人々のデジタル上の存在が、ボタン一つで破壊される現実です。しかも、人間ではなく、不透明なアルゴリズムによって。

YouTube、TikTok、Instagramといったプラットフォームでは、毎日のようにアカウントが凍結され、チャンネルが削除されています。ユーザーが長年かけて築き上げてきたチャンネルです。彼らのデジタルライフの成果は、多くの場合、明確な理由もなく、公正な審理も、決定に対する効果的な異議申し立ての方法もないまま、消え去っていきます。こうした状況は、AIによるモデレーションがますます深刻化しています。AIはエラーが発生しやすく、不透明でありながら、可視性とデジタル上の存在を判断する究極の力を持っています。数十万人の登録者を抱えるテック系YouTuberのエンダーマンのチャンネルが、AIが作り出したとされる不合理な接続に基づいて削除されたケースは、氷山の一角に過ぎません。この記事は、私たちのコントロール欲求と、デジタル公共圏において長らく裁判官と死刑執行人となってきたアルゴリズムの抑制されない力との間の深い溝を探ります。

私たちの願望と現実の矛盾はどこにあるのでしょうか?

私たちは常にデータ主権とデジタル自己決定について語っています。これらの言葉は、自信に満ちた自立した文化の象徴となり、人工知能への対応を成熟の証として示すことを意図しています。欧州連合（EU）は、デジタルサービス法やデジタル市場法といった法律を制定し、グローバルテクノロジー企業の恣意的な行動から市民を守ることを目指しています。透明性を強化し、基本的人権を守るための規制も制定されています。しかし、こうした規制の積み重ねによって、私たちは根本的な問題を見落としています。それは、日々私たちの目の前で展開し、こうした取り組みの信頼性を損なっている、実存的な脅威に対処できていないということです。

主要なソーシャルメディアが日々私たちに突きつける現実は、データ主権や自己決定権とは全く異なる物語を物語っています。人々は毎日、正当な理由もなく、対抗するメカニズムも整備されていないまま、デジタルライフの成果を失っています。何年もかけて苦労して築き上げたチャンネルが削除されるのです。綿密な検討も、透明なプロセスも、公正な審理の機会も与えられず、ただ削除されるのです。そして、これは民主主義とは到底言えない形で起こっています。なぜなら、効果的な異議申し立てのメカニズムがなく、影響を受けた人々は、なぜ自分の時間と創造性が無駄になったのかさえ理解していないからです。

この恣意性を示す具体的な例は何ですか?

最も最近かつ最も顕著な例は、テクノロジー系YouTuberのエンダーマン氏の事例です。このロシア人コンテンツクリエイターは、35万人以上の登録者数を誇るYouTubeのメインチャンネルを構築し、そこでテクノロジー関連のトピックを取り上げていました。彼のコンテンツはドキュメンタリーとしての価値があり、Windowsの旧バージョンやその他の技術的な問題を取り上げていました。しかし、このチャンネルは予告なく削除されました。その少し前には、同じく数十万人の登録者数を抱えていたサブチャンネル「アンドリュー」も姿を消していました。この思い切った措置の理由は奇妙でした。YouTubeは、エンダーマン氏のチャンネルが、3度目の著作権侵害警告を受けた日本のチャンネルと関連していると主張したのです。エンダーマン氏はそのチャンネルを知らず、その言語も話せず、何のつながりもありませんでした。

この件で注目すべきは、判決そのものの不当さだけでなく、その裁定方法にある。エンダーマン氏は、自身のチャンネルと未知の日本のアカウントとの間に不完全な接続を確立したAIシステムが、この件の背後にいると示唆した。このテック系YouTuberは、人間のYouTube担当者が自分の苦情を確認してくれるという希望を抱きながらも、その希望は打ち砕かれた。何ヶ月も返答がないまま時間が経過した。エンダーマン氏は今、YouTubeでの自分の時間は終わったと諦めているようだ。別のYouTuberも同じTwitterスレッドで同様の問題を報告しており、彼のチャンネルも同じ日本のチャンネルへの言及により削除された。これは、人為的なミスによる単発的な事象ではなく、システム全体の欠陥を示唆しており、自動化されたシステムが監視なしに運用されたことによる欠陥である。

YouTubeは孤立した事例ではありません。様々なプラットフォームで同様の傾向が見られます。TikTok、Instagram、Facebookなどのサービスは、十分な理由もなく、毎日のようにコンテンツを削除したりアカウントを停止したりしています。透明性機関Freiheitsrechte.orgは、ソーシャルメディアプラットフォームが、影響を受けるユーザーに対して、モデレーションの決定について十分な説明を提供していないケースが多いことを明らかにしています。場合によっては、具体的な違反行為の理由が利用規約違反のみに言及され、具体的な違反行為がどのようなものなのかが説明されていないこともあります。

テクノロジー企業は社会的責任を果たしているだろうか?

ここが、私たちが認知バイアスを正さなければならない重要な点です。大手テクノロジー企業は、私たちのデータ、経済活動、そして社会から明らかに利益を得ています。彼らは私たちが共有するインターネットを事業基盤として利用しています。私たちの注意力と個人データから生み出される広告収入で、数十億ドルもの利益を上げています。同時に、これらの企業は事実上、公共的かつ社会的な責任を担っているのです。

YouTubeは、単なるホスティングプロバイダーのような技術的なサービスではありません。このプラットフォームは、公共コミュニケーションのインフラとなっています。何百万人もの人々にとって、可視性、リーチ、そしてアクセスを決定づける存在であり、情報と知識の門番としての地位を確固たるものにしています。FacebookやInstagramも同様で、これらのサービスは社会的な議論の中心的ハブとなっています。多くの人にとって、これらのプラットフォームは声を上げ、コミュニティを築き、メッセージを広めるための主要な場所となっています。

しかし、これらのテクノロジー企業は社会的なコミュニケーションの仲介役としての役割から経済的利益を得ている一方で、その役割に内在する責任を放棄しています。国から委託を受けて報酬を得て業務を行う慈善団体は、気に入らない人がいるというだけで、反対意見を単純に排除することはできません。公共放送局は、個人の言い分を聞くこともなく、簡単に声を封じることはできません。裁判所は、弁明の機会を与えることなく、簡単に有罪判決を下すことはできません。

しかし、まさにこれがこれらのプラットフォーム上で日々起こっていることです。人々は正当な理由もなく排除され、作品は削除され、オンライン上での生活は破壊されます。そして、プラットフォーム側の対応は利用規約への言及と、せいぜい問題解決にほとんど役立たない自動苦情処理システムだけです。これは不当なだけでなく、開かれた社会にとって構造的に危険なものです。

マネージドAIプラットフォーム - 画像: Xpert.Digital

ここでは、企業がカスタマイズされた AI ソリューションを迅速かつ安全に、高い参入障壁なしに実装する方法を学びます。

マネージドAIプラットフォームは、人工知能（AI）のための包括的な安心パッケージです。複雑なテクノロジー、高価なインフラストラクチャ、長期にわたる開発プロセスに煩わされることなく、専門パートナーからお客様のニーズに合わせたターンキーソリューションを、多くの場合数日以内にご提供いたします。

主なメリットを一目で:

⚡ 迅速な実装：アイデアから運用開始まで、数ヶ月ではなく数日で完了します。私たちは、すぐに価値を生み出す実用的なソリューションを提供します。

🔒 最大限のデータセキュリティ：お客様の機密データはお客様のもとで厳重に管理されます。当社は、第三者とデータを共有することなく、安全かつコンプライアンスに準拠した処理を保証します。

💸 金銭的なリスクなし：成果に対してのみお支払いいただきます。ハードウェア、ソフトウェア、人員への高額な初期投資は一切不要です。

🎯 コアビジネスに集中：得意分野に集中できます。AIソリューションの技術的な実装、運用、保守はすべて当社が担当します。

📈 将来性＆拡張性：AIはお客様と共に成長します。継続的な最適化と拡張性を確保し、モデルを新たな要件に柔軟に適応させます。

詳細については、こちらをご覧ください:

• マネージドAIプラットフォーム

AIの活用によって問題はどのように変化するのでしょうか?

ここでは状況が劇的に悪化しています。テクノロジー企業は、コンテンツのモデレーションや意思決定に自動化システムを活用するケースが増えています。これらのAIシステムは透明性に欠け、定期的なレビューも行われていません。そして何よりも、甚大な影響を及ぼすミスも犯します。エンダーマン氏の事件は、AIによるモデレーションがいかに不合理な、あるいは有害な結果をもたらすかを示す、数ある例の一つに過ぎません。

これはCOVID-19パンデミックの際に特に顕著になりました。人間のレビュー担当者が不在となったため、ソーシャルメディアプラットフォームはコンテンツモデレーションを自動化システムに大規模に移行しました。その結果、誤った判断が相次ぎました。ガイドラインに違反していない動画が削除され、正当なコンテンツが消え去りました。プラットフォームが約束を守れないため、ユーザーは不満を募らせました。

AIベースのコンテンツモデレーションには根本的な限界があります。人工知能は十分な学習データがある場合のみ、確実に機能します。多くの状況は微妙なニュアンスがあり、簡単に分類することはできません。「今夜はパスタを食べた」のようなフレーズは、TikTokでは二重の意味を持っていました。文字通りには食べ物の消費を指していましたが、トレンドの文脈では自殺願望を示唆していました。TikTokのアルゴリズムはこのニュアンスを理解できず、むしろトレンドを助長してしまったのです。

さらに、エラー率は体系的です。欧州放送連合の調査によると、AIチャットボットは時事問題に関する質問に対する回答の45%に少なくとも1つの重大な問題を抱えており、読者を誤解させる可能性があることが明らかになりました。回答結果の81%に何らかのエラーが見つかりました。これは例外ではなく、常態です。

しかし、こうした非常にエラーが発生しやすく不透明なシステムが、何百万人もの人々のデジタルライフの運命を決めるために使われているのです。動画は削除され、チャンネルは非アクティブ化され、企業はプラットフォームから排除されます。そして、その決定は、ユーザーが理解できず、説明責任を負わず、何の罰も受けずに誤った決定を下すことを許されているシステムによってなされたのです。

国家の責任はどこにあるのでしょうか？

政府は単に見て見ぬふりをしているわけではない。さらに悪いことに、この状況を是正する権限を持つはずの政府が、官僚主義化し、細部にこだわりすぎている。確かにルールは存在する。欧州連合（EU）のデジタルサービス法は、プラットフォームは透明性を保たなければならないと規定している。ユーザーには苦情を申し立てる権利が与えられている。また、大規模プラットフォームはシステムとその決定事項を公開しなければならないと規定している。これらはすべて、書面上では正しく、良さそうに聞こえる。

しかし、これらの規則の執行は断片化されています。ドイツ連邦ネットワーク庁がデジタルサービスコーディネーターの役割を担い、これらの規則の執行を担っています。しかし、この機関には十分なリソースと権限があるのでしょうか？各国当局は、弁護士やロビー活動を通じて責任を回避するグローバルテクノロジー企業に対して、本当に行動を起こすことができるのでしょうか？

さらに、より深刻な問題があります。あまりにも長い間、政府は民間企業が門番、裁判官、陪審員の役割を同時に担うことを許してきました。これらの企業は、自らのプラットフォーム上で何が正しくて何が間違っているかを判断し、判決を下し、刑を執行します。そして、誰に対しても説明責任を負っていません。これは単なる規制上の欠陥ではなく、民主主義の根本的な欠陥です。

長い間、市場は自己規制し、プラットフォームは評判と自己利益に基づいて行動するという前提がありました。しかし、この前提は根本的に間違っていたことが証明されました。プラットフォームはエンゲージメントと広告収入を最適化しており、公平性は考慮していません。人間によるモデレーションよりも安価なAIシステムを運用していますが、これらのシステムはエラーが発生しやすいのです。そして、エラーが発生した場合、自律的に判断したはずのアルゴリズムに責任を転嫁できるのです。

この状況を変えるには何が必要でしょうか?

まず、主要プラットフォームは、国家が何の発言権も持たない単なる民間企業ではないことを明確にしなければなりません。これらの企業は公的な機能を担い、公共の言説を仲介する存在です。彼らは社会的な使命を担っており、経済的利益はもちろんのこと、社会的な責任も負っています。

これは、モデレーションの決定、特にアカウント停止や削除といった抜本的な措置には、法の支配の基本原則が適用されなければならないことを意味します。これは、決定理由に関する完全な透明性を意味します。これは、抜本的な措置を講じる前に公正な審理を受ける権利を意味します。これは、実際には効果のない自動化された苦情処理システムではなく、真の異議申し立て権を意味します。これは、特にアルゴリズムが関与する場合には、人間による審査を意味します。

さらに、AIによるモデレーションには限界が必要です。システムに誤りがあり、数百万人に影響を与える可能性がある場合、常に人間が関与する必要があります。EUの規制はこの方向を示していますが、施行は不十分です。プラットフォームはこれらのルールを回避または弱体化する方法を見つけ続けています。

説明責任の構造的変化も必要です。プラットフォームは、自社システムの決定に対して責任を負う必要があります。比喩的な責任ではなく、法的責任です。チャンネルが不当に削除された場合、プラットフォームは損害賠償を支払う義務を負うべきです。これによりインセンティブが変わります。欠陥のある自動化システムを使う方が安上がりではなくなるでしょう。人々に不当な損害を与えるには、突然、代償を払うことになるでしょう。

エンダーマン氏にとって、これはYouTubeがAIシステムが日本のアカウントに誤った接続をしたという理由で彼のチャンネルを単純に削除することはできないことを意味していたでしょう。審査が行われるべきでした。対応する機会が与えられるべきでした。そして、もしこのエラーが見過ごされていたら、YouTubeは責任を問われる可能性がありました。

これらの問題が解決されなければどうなるでしょうか?

答えは壊滅的です。AIシステムが人々のデジタル上の存在を恣意的に決定することを許せば、AIによって混沌がもたらされるのではなく、混沌はすでにそこに存在しています。そして、混沌は激化するばかりです。なぜなら、これらのシステムがより賢くなればなるほど、私たちはそれらを理解できなくなります。そして、理解できなければ、制御することも難しくなるからです。

さらに悪いことに、問題は指数関数的に拡大するでしょう。コンテンツモデレーションにおけるAIの活用は拡大し、システムはより複雑になります。エラー率は下がるかもしれませんし、上がるかもしれません。確かなことは誰にも分かりません。しかし、確かなのは、何百万人、そして近い将来には何十億人もの人々が、理解できず、異議を唱えることもできず、説明責任も果たされない決定によって影響を受けるということです。

こうした事態が起こっている間、政府は見て見ぬふりをしている。連邦ネットワーク庁は責任範囲を定め、EUは法律を制定する。しかし、執行は中途半端だ。当局は資源不足に陥っている。プラットフォーム側はわずかな罰金を科すだけで、実際には慣行を変えようとしない。現状は変わらず、テクノロジー企業はデジタル公共圏の統制されない支配者として振る舞っている。

この状況で注目すべき点は、回避可能であるということです。解決策は存在します。データ主権とデジタル自己決定を、規範的な目標だけでなく、現実のものとする方法は存在します。しかし、そのためには、国家が無関心を捨てなければなりません。これは単なる規制の問題ではなく、力の不均衡の問題であることを認識しなければなりません。テクノロジー企業には力があります。彼らはその力を社会の利益のために活用しなければなりません。そうでなければ、その力は奪われなければなりません。

それまでは、エンダーマンのような事例は、機能不全のシステムの象徴であり続けるだろう。ある男は生涯の仕事を失う。誰も彼を助けることはできない。そして、彼の生涯の仕事が破壊された機械は、何の妨害もなく動き続け、新たな事件を審査し、新たな判決を下し、州はそれをすべて行政ファイルに記録していく。その間、煙は立ち上る。

Konrad Wolfenstein

あなたの個人的なアドバイザーとして喜んでお手伝いさせていただきます。

wolfenstein∂xpert.digitalの下で私に連絡でき

+49 89 674 804 （ミュンヘン）の下で私に電話してください

リンクトイン