Suwerenność danych, samostanowienie i rzeczywistość moderacji platform opartej na sztucznej inteligencji

### Jedno kliknięcie i wszystko znika: Cichy chaos moderacji platform sterowanej przez sztuczną inteligencję ### Dorobek życia zniszczony przez sztuczną inteligencję: Dlaczego Twoje konto w mediach społecznościowych może po prostu zniknąć jutro ### Wielka iluzja suwerenności danych: Jak algorytmy potajemnie nami rządzą ### Pomimo nowych przepisów UE: Dlaczego firmy technologiczne nadal mogą usuwać treści w sposób arbitralny ###

Algorytm sędziowski: Kiedy sztuczna inteligencja kończy twoje cyfrowe życie – i nikt nie ponosi za to odpowiedzialności

Żyjemy w czasach, w których terminy takie jak „suwerenność danych” i „cyfrowe samostanowienie” nie są jedynie politycznymi sloganami, lecz odzwierciedlają aspiracje całego społeczeństwa. Dzięki przepisom takim jak ustawa o usługach cyfrowych (Digital Services Act), Europa próbuje zbudować bastion przeciwko arbitralnym działaniom globalnych firm technologicznych i chronić podstawowe prawa swoich obywateli w sferze cyfrowej. Jednak podczas gdy debatujemy nad klauzulami prawnymi i regulacjami, na naszych oczach kształtuje się rzeczywistość, która kpi z tych wzniosłych celów. Rzeczywistość, w której cyfrowa egzystencja ludzi zostaje zniszczona jednym naciśnięciem przycisku – nie przez człowieka, ale przez nieprzejrzysty algorytm.

Każdego dnia konta są zawieszane, a kanały usuwane na platformach takich jak YouTube, TikTok i Instagram – kanałach, które użytkownicy mozolnie budowali przez lata. Ich cyfrowe życie znika, często bez jasnego uzasadnienia, bez sprawiedliwego przesłuchania i bez skutecznego sposobu odwołania się od decyzji. Coraz częściej dzieje się tak z powodu moderacji sterowanej przez sztuczną inteligencję, która jest podatna na błędy, nieprzejrzysta, a jednak posiada najwyższą moc oceny widoczności i cyfrowego istnienia. Przypadek technologicznego YouTubera Endermana, którego kanały z setkami tysięcy subskrybentów zostały usunięte na podstawie absurdalnego połączenia rzekomo stworzonego przez sztuczną inteligencję, to zaledwie wierzchołek góry lodowej. Niniejszy artykuł bada głęboką przepaść między naszym pragnieniem kontroli a niekontrolowaną mocą algorytmów, które już dawno stały się sędziami i katami w naszej cyfrowej sferze publicznej.

Gdzie jest sprzeczność pomiędzy naszymi aspiracjami i rzeczywistością?

Ciągle mówimy o suwerenności danych i cyfrowym samostanowieniu. Terminy te stały się znakiem rozpoznawczym kultury pewnej siebie i niezależnej, kultury, która ma przedstawiać sposób, w jaki posługuje się sztuczną inteligencją, jako oznakę swojej dojrzałości. Unia Europejska postawiła sobie za cel ochronę swoich obywateli przed arbitralnymi działaniami globalnych korporacji technologicznych, wprowadzając przepisy takie jak ustawa o usługach cyfrowych (Digital Services Act) i ustawa o rynkach cyfrowych (Digital Markets Act). Ustanowiono przepisy mające na celu zapewnienie przejrzystości i ochronę praw podstawowych. Jednak w obliczu całego tego natłoku regulacji pomijamy coś fundamentalnego: nie zajęliśmy się egzystencjalnym zagrożeniem, które codziennie ujawnia się na naszych oczach i podważa wiarygodność wszystkich tych wysiłków.

Rzeczywistość, którą codziennie prezentują nam główne kanały mediów społecznościowych, przedstawia zupełnie inną historię niż suwerenność danych i samostanowienie. Ludzie tracą swoją pracę w cyfrowym życiu każdego dnia, bez uzasadnienia ani żadnych mechanizmów przeciwdziałających. Kanały mozolnie budowane latami są usuwane. Nie po wnikliwej analizie, nie po przejrzystych procesach, nie po zapewnieniu możliwości sprawiedliwego wysłuchania. Po prostu usuwane. I dzieje się to w sposób niegodny demokracji, ponieważ nie ma skutecznych mechanizmów odwoławczych, a osoby dotknięte tym problemem nie wiedzą nawet, dlaczego ich czas i kreatywność zostały zmarnowane.

Jakie konkretne przykłady pokazują tę arbitralność?

Najnowszym i najbardziej uderzającym przykładem jest przypadek YouTubera technologicznego Endermana. Rosyjski twórca treści zbudował główny kanał YouTube z ponad 350 000 subskrybentów, gdzie zgłębiał tematykę technologiczną. Jego treści były wartościowe pod względem dokumentalnym – poruszał tematy starszych wersji systemu Windows i innych problemów technicznych. Kanał ten został usunięty bez ostrzeżenia. Krótko przedtem zniknął jego drugi kanał, Andrew, również z setkami tysięcy subskrybentów. Powód tej drastycznej decyzji był kuriozalny: YouTube twierdził, że kanały Endermana były powiązane z japońskim kanałem, który otrzymał trzecie ostrzeżenie o naruszeniu praw autorskich. Kanałem, którego Enderman nie zna, w którego języku się nie komunikuje i z którym nie ma żadnego związku.

W tej sprawie godna uwagi jest nie tylko niesprawiedliwość samej decyzji, ale także sposób jej podjęcia. Enderman zasugerował, że stoi za nią sztuczna inteligencja, która nawiązała wadliwe połączenie między jego kanałami a nieznanym japońskim kontem. Nadzieja YouTubera, że ​​pracownik YouTube'a rozpatrzy jego skargę, rozwiała się. Mijały miesiące bez odpowiedzi. Wygląda na to, że Enderman pogodził się już z faktem, że jego czas na YouTube dobiegł końca. Inny YouTuber zgłosił identyczne problemy w tym samym wątku na Twitterze – jego kanał również został usunięty, w nawiązaniu do tego samego japońskiego kanału. Wskazuje to na awarię systemu, a nie na odosobniony przypadek błędu ludzkiego, a raczej na niedociągnięcia zautomatyzowanego systemu działającego bez kontroli.

YouTube nie jest odosobnionym przypadkiem. Różne platformy wykazują podobne wzorce. TikTok, Instagram, Facebook i inne serwisy codziennie usuwają treści i zawieszają konta, często bez wystarczającego uzasadnienia. Organizacja zajmująca się transparentnością Freiheitsrechte.org udokumentowała, że ​​platformy mediów społecznościowych często udzielają osobom, których dotyczą, niewystarczających wyjaśnień dotyczących decyzji moderacyjnych. W niektórych przypadkach uzasadnienia odnoszą się jedynie do ogólnego naruszenia warunków korzystania z usługi, bez wyjaśnienia, które konkretnie naruszenie doprowadziło do podjęcia działania.

Czy firmy technologiczne wywiązują się ze swojej odpowiedzialności społecznej?

To kluczowy moment, w którym musimy skorygować nasze błędy poznawcze. Wielkie firmy technologiczne czerpią ewidentne zyski z naszych danych, naszej działalności gospodarczej i naszego społeczeństwa. Wykorzystują nasz wspólny internet jako fundament swojego biznesu. Zarabiają miliardy dolarów na przychodach z reklam generowanych przez naszą uwagę i nasze dane osobowe. Jednocześnie te korporacje de facto biorą na siebie odpowiedzialność publiczną i społeczną.

YouTube to nie tylko usługa techniczna, jak zwykły dostawca hostingu. Platforma stała się infrastrukturą komunikacji publicznej. Decyduje o widoczności, zasięgu i dostępie milionów ludzi. Ugruntowała swoją pozycję strażnika informacji i wiedzy. Facebook i Instagram są podobne – te serwisy stały się centralnymi ośrodkami dyskursu społecznego. Dla wielu osób platformy te są głównym miejscem, gdzie mogą wyrażać swoje zdanie, budować społeczności i szerzyć swoje przesłanie.

Choć firmy technologiczne czerpią korzyści ekonomiczne z roli pośredników w komunikacji społecznej, uchylają się od odpowiedzialności wynikającej z tej roli. Organizacja charytatywna, której państwo zleciło wykonywanie zadań za opłatą, nie może po prostu wykluczać głosów sprzeciwu tylko dlatego, że kogoś nie lubi. Nadawca publiczny nie może po prostu uciszyć osób, nie wysłuchawszy ich wersji wydarzeń. Sąd nie może po prostu skazać kogoś, nie dając mu możliwości obrony.

A jednak właśnie to dzieje się na tych platformach każdego dnia. Ludzie są wykluczani bez żadnego uzasadnienia. Ich praca jest usuwana. Ich źródła utrzymania są niszczone w internecie. A jedyną reakcją platform jest odwołanie się do regulaminu i, w najlepszym razie, zautomatyzowany system składania skarg, który praktycznie nie rozwiązuje żadnych problemów. To nie tylko niesprawiedliwe, ale i strukturalnie niebezpieczne dla otwartego społeczeństwa.

Tutaj dowiesz się, jak Twoja firma może szybko, bezpiecznie i bez wysokich barier wejścia wdrażać dostosowane rozwiązania z zakresu sztucznej inteligencji.

Zarządzana platforma AI to kompleksowy, bezproblemowy pakiet rozwiązań dla sztucznej inteligencji. Zamiast zmagać się ze skomplikowaną technologią, kosztowną infrastrukturą i długotrwałymi procesami rozwoju, otrzymujesz gotowe rozwiązanie dopasowane do Twoich potrzeb od wyspecjalizowanego partnera – często w ciągu kilku dni.

Najważniejsze korzyści w skrócie:

⚡ Szybka implementacja: Od pomysłu do wdrożenia w ciągu kilku dni, a nie miesięcy. Dostarczamy praktyczne rozwiązania, które generują natychmiastową wartość.

🔒 Maksymalne bezpieczeństwo danych: Twoje wrażliwe dane pozostają u Ciebie. Gwarantujemy bezpieczne i zgodne z przepisami przetwarzanie bez udostępniania danych osobom trzecim.

💸 Brak ryzyka finansowego: Płacisz tylko za rezultaty. Wysokie początkowe inwestycje w sprzęt, oprogramowanie lub personel są całkowicie wyeliminowane.

🎯 Skoncentruj się na swojej podstawowej działalności: Skoncentruj się na tym, co robisz najlepiej. Zajmujemy się całościową implementacją techniczną, obsługą i utrzymaniem Twojego rozwiązania AI.

📈 Przyszłościowa i skalowalna: Twoja sztuczna inteligencja rośnie razem z Tobą. Dbamy o ciągłą optymalizację i skalowalność oraz elastycznie dostosowujemy modele do nowych wymagań.

Więcej na ten temat tutaj:

• Zarządzana platforma AI

W jaki sposób wykorzystanie sztucznej inteligencji rozwiązuje problem?

Tutaj sytuacja dramatycznie się pogarsza. Firmy technologiczne coraz częściej korzystają z automatycznych systemów do moderowania treści i podejmowania decyzji. Te systemy sztucznej inteligencji nie są transparentne. Nie są regularnie weryfikowane. A co najważniejsze: popełniają błędy o poważnych konsekwencjach. Sprawa Endermana to tylko jeden z wielu przykładów, jak moderacja oparta na sztucznej inteligencji prowadzi do absurdalnych lub szkodliwych rezultatów.

Stało się to szczególnie widoczne podczas pandemii COVID-19. W obliczu braku dostępu do ludzkich recenzentów, platformy mediów społecznościowych masowo przeniosły moderację treści do systemów automatycznych. W rezultacie nastąpiła fala błędnych decyzji. Filmy, które nie naruszały wytycznych, zostały usunięte. Treści zgodne z prawem zniknęły. Użytkownicy byli sfrustrowani, ponieważ platformy nie były w stanie dotrzymać obietnic.

Ograniczenia moderacji treści opartej na sztucznej inteligencji są fundamentalne. Sztuczna inteligencja działa niezawodnie tylko wtedy, gdy dostępne są wystarczające dane treningowe. Wiele sytuacji jest zniuansowanych i niełatwo je kategoryzować. Fraza taka jak „Jadłem dziś makaron” miała na TikToku podwójne znaczenie – dosłownie odnosiła się do konsumpcji jedzenia, ale w kontekście trendu sygnalizowała myśli samobójcze. Algorytm TikToka nie uchwycił tego niuansu i zamiast tego napędzał ten trend.

Co więcej, wskaźnik błędów ma charakter systematyczny. Badanie przeprowadzone przez Europejską Unię Nadawców wykazało, że chatboty oparte na sztucznej inteligencji miały co najmniej jeden istotny problem w 45% odpowiedzi na pytania dotyczące bieżących wydarzeń, co mogło wprowadzać czytelników w błąd. W 81% wyników znaleziono jakiś rodzaj błędu. To nie wyjątek, to reguła.

A jednak te niezwykle podatne na błędy i nieprzejrzyste systemy są wykorzystywane do decydowania o losie cyfrowego życia milionów ludzi. Film zostaje usunięty. Kanał zostaje dezaktywowany. Firma zostaje usunięta z platformy. A decyzję podjął system, którego użytkownicy nie rozumieją, który nie ponosi odpowiedzialności i któremu pozwala się na bezkarne podejmowanie błędnych decyzji.

Gdzie leży odpowiedzialność państwa?

Państwo nie tylko przymyka oko. Co gorsza, państwo, które ma władzę, by naprawić tę sytuację, biurokratyzuje i grzęźnie w drobnych szczegółach. Istnieją przepisy – to prawda. Unijny akt prawny o usługach cyfrowych stanowi, że platformy muszą być przejrzyste. Wymaga od użytkowników prawa do składania skarg. Stanowi, że bardzo duże platformy muszą ujawniać swoje systemy i decyzje. Wszystko to brzmi dobrze i słusznie na papierze.

Jednak egzekwowanie tych przepisów jest fragmentaryczne. Federalna Agencja Sieciowa w Niemczech objęła funkcję Koordynatora Usług Cyfrowych i jest obecnie odpowiedzialna za egzekwowanie tych przepisów. Ale czy ta agencja dysponuje wystarczającymi zasobami? Czy ma wystarczającą władzę? Czy poszczególne organy krajowe mogą rzeczywiście podejmować działania przeciwko globalnym firmom technologicznym, które unikają swoich obowiązków, wykorzystując prawników i lobbing?

Co więcej, istnieje głębszy problem. Zbyt długo państwo pozwalało prywatnym korporacjom pełnić jednocześnie rolę strażnika, sędziego i ławy przysięgłych. Te korporacje decydują, co jest dobre, a co złe w ich systemie prawnym. Wydają wyroki. Wykonują wyroki. I nie ponoszą odpowiedzialności przed nikim. To nie tylko wada regulacyjna. To fundamentalna wada demokracji.

Przez długi czas zakładano, że rynki regulują się same, a platformy będą działać w oparciu o reputację i własny interes. To założenie okazało się fundamentalnie błędne. Platformy optymalizują się pod kątem zaangażowania i przychodów z reklam, a nie uczciwości. Korzystają z systemów sztucznej inteligencji, które są tańsze niż moderacja ludzka, mimo że systemy te są podatne na błędy. A gdy wystąpi błąd, mogą zrzucić winę na algorytm, który rzekomo podjął autonomiczną decyzję.

Co byłoby potrzebne, aby zmienić tę sytuację?

Po pierwsze, należy wyjaśnić, że główne platformy to nie tylko prywatne firmy, nad którymi państwo nie ma kontroli. Firmy te pełnią funkcje publiczne. Są pośrednikami w dyskursie publicznym. Podjęły się zadania społecznego, co prawda z zyskiem ekonomicznym, ale jednak z odpowiedzialnością społeczną.

Oznacza to, że fundamentalne zasady praworządności muszą mieć zastosowanie do decyzji o moderacji, zwłaszcza drastycznych środków, takich jak zawieszenia lub usunięcia. Oznacza to pełną transparentność w zakresie uzasadnienia decyzji. Oznacza to prawo do rzetelnego procesu przed podjęciem drastycznych środków. Oznacza to rzeczywiste prawo do odwołania, a nie zautomatyzowany system składania skarg, który w praktyce okazuje się nieskuteczny. Oznacza to kontrolę ze strony człowieka, zwłaszcza w przypadkach, w których wykorzystywany jest algorytm.

Co więcej, moderacja oparta na sztucznej inteligencji musi mieć pewne granice. Jeśli system jest zawodny i może wpływać na miliony ludzi, zawsze musi być zaangażowany człowiek. Przepisy UE wskazują na ten kierunek, ale brakuje ich egzekwowania. Platformy stale znajdują sposoby na obejście lub podważenie tych przepisów.

Potrzebna jest również strukturalna zmiana w odpowiedzialności. Platformy muszą ponosić odpowiedzialność za decyzje podejmowane przez ich systemy. Nie metaforyczną, ale prawną. Jeśli kanał zostanie niesłusznie usunięty, platforma powinna być zobowiązana do zapłaty odszkodowania. To zmieniłoby system motywacyjny. Nagle korzystanie z wadliwego, zautomatyzowanego systemu przestałoby być tańsze. Nagle pojawiłaby się cena za niesłuszne krzywdzenie ludzi.

Dla Endermana oznaczałoby to, że YouTube nie mógłby po prostu usunąć jego kanału, ponieważ system sztucznej inteligencji nawiązał błędne połączenie z japońskim kontem. Powinna zostać przeprowadzona kontrola. Powinna być możliwość reakcji. A gdyby błąd pozostał niezauważony, YouTube mógłby zostać pociągnięty do odpowiedzialności.

Co się stanie, jeśli te problemy nie zostaną rozwiązane?

Odpowiedź jest druzgocąca. Jeśli pozwolimy systemom sztucznej inteligencji arbitralnie decydować o cyfrowym życiu ludzi, chaos nie nadejdzie wraz ze sztuczną inteligencją – chaos już istnieje. Będzie się tylko nasilał. Bo im inteligentniejsze stają się te systemy, tym mniej je rozumiemy. A im mniej je rozumiemy, tym mniej możemy nad nimi panować.

Co gorsza: problem będzie narastał wykładniczo. Wykorzystanie sztucznej inteligencji w moderacji treści będzie się nasilać. Systemy staną się bardziej złożone. Wskaźniki błędów mogą spadać lub rosnąć – nikt nie wie tego na pewno. Ale pewne jest, że miliony, a wkrótce miliardy ludzi, będą dotknięte decyzjami, których nie rozumieją, nie mogą zakwestionować i za które nie ponoszą odpowiedzialności.

A podczas gdy to się dzieje, państwo przymyka oczy. Federalna Agencja Sieciowa określa swoje obowiązki. UE uchwala prawo. Ale egzekwowanie go jest nieudolne. Władze są niedofinansowane. Platformy płacą grzywny, które są dla nich zaledwie drobnymi wydatkami i tak naprawdę nie zmieniają ich praktyk. Status quo się utrzymuje: firmy technologiczne działają jak niekontrolowani władcy cyfrowej sfery publicznej.

Niezwykłe w tej sytuacji jest to, że można jej uniknąć. Rozwiązania istnieją. Istnieją sposoby, aby suwerenność danych i cyfrowe samostanowienie stały się rzeczywistością, a nie tylko celami normatywnymi. Aby to jednak nastąpiło, państwo musiałoby porzucić swoją obojętność. Musiałoby uznać, że to nie tylko kwestia regulacji, ale także nierównowaga sił. Firmy technologiczne mają władzę. Muszą ją wykorzystać dla dobra społeczeństwa, w przeciwnym razie zostanie im ona odebrana.

Do tego czasu przypadki takie jak Endermana pozostają symptomem niedziałającego systemu. Mężczyzna traci dzieło swojego życia. Nikt nie może mu pomóc. A maszyna, która zniszczyła dzieło jego życia, działa nadal bez przeszkód, analizując nowe sprawy, wydając nowe orzeczenia, a państwo dokumentuje to wszystko w aktach administracyjnych, podczas gdy dym się unosi.

Chętnie będę Twoim osobistym doradcą.

skontaktować się ze mną pod Wolfenstein ∂ xpert.digital

zadzwonić pod +49 89 674 804 (Monachium)

LinkedIn