Datasoevereiniteit, zelfbeschikking en de realiteit van AI-gestuurde platformmoderatie

### Eén klik, alles weg: De stille chaos van AI-gestuurde platformmoderatie ### Levenswerk vernietigd door AI: Waarom je social media-account morgen zomaar kan verdwijnen ### De grote illusie van datasoevereiniteit: Hoe algoritmes ons stiekem beheersen ### Ondanks nieuwe EU-wetgeving: Waarom techbedrijven nog steeds willekeurig mogen verwijderen ###

Judge Algorithm: Wanneer een AI een einde maakt aan je digitale leven – en niemand verantwoordelijk is

We leven in een tijd waarin termen als 'datasoevereiniteit' en 'digitale zelfbeschikking' niet langer louter politieke slogans zijn, maar de aspiraties van een hele samenleving vertegenwoordigen. Met wetten zoals de Digital Services Act probeert Europa een bolwerk op te werpen tegen de willekeurige acties van wereldwijde techbedrijven en de fundamentele rechten van haar burgers in de digitale wereld te beschermen. Maar terwijl we debatteren over juridische bepalingen en regelgeving, ontvouwt zich recht voor onze ogen een realiteit die deze verheven doelen belachelijk maakt. Een realiteit waarin iemands digitale bestaan ​​met één druk op de knop wordt vernietigd – niet door een persoon, maar door een ondoorzichtig algoritme.

Dagelijks worden accounts opgeschort en kanalen verwijderd op platforms zoals YouTube, TikTok en Instagram – kanalen die gebruikers jarenlang met veel zorg hebben opgebouwd. Hun digitale levenswerk verdwijnt, vaak zonder duidelijke rechtvaardiging, zonder een eerlijke behandeling en zonder een effectieve manier om in beroep te gaan. Dit komt steeds vaker door AI-gestuurde moderatie, die foutgevoelig en ondoorzichtig is, maar toch de ultieme macht heeft om zichtbaarheid en digitale aanwezigheid te beoordelen. Het geval van tech-YouTuber Enderman, wiens kanalen met honderdduizenden abonnees werden verwijderd op basis van een absurde connectie die zogenaamd door AI werd gelegd, is slechts het topje van de ijsberg. Dit artikel onderzoekt de diepe kloof tussen ons verlangen naar controle en de ongecontroleerde macht van algoritmes, die al lang rechters en beulen zijn geworden in onze digitale publieke ruimte.

Waar zit de tegenstelling tussen onze aspiraties en onze realiteit?

We praten voortdurend over datasoevereiniteit en digitale zelfbeschikking. Deze termen zijn kenmerkend geworden voor een zelfverzekerde en onafhankelijke cultuur, een cultuur die haar omgang met kunstmatige intelligentie wil presenteren als een teken van volwassenheid. De Europese Unie heeft zich ten doel gesteld haar burgers te beschermen tegen de willekeurige acties van wereldwijde technologiebedrijven met wetten zoals de Digital Services Act en de Digital Markets Act. Er zijn regels aangenomen om transparantie af te dwingen en fundamentele rechten te waarborgen. Maar te midden van al deze regelgeving zien we iets fundamenteels over het hoofd: we hebben de existentiële dreiging die zich dagelijks voor onze ogen ontvouwt en de geloofwaardigheid van al deze inspanningen ondermijnt, niet aangepakt.

De realiteit die de grote sociale mediakanalen ons dagelijks voorschotelen, vertelt een heel ander verhaal dan dat van datasoevereiniteit en zelfbeschikking. Mensen verliezen dagelijks hun digitale levenswerk, zonder rechtvaardiging of mechanismen om dit tegen te gaan. Kanalen die met zorg in de loop der jaren zijn opgebouwd, worden verwijderd. Niet na een zorgvuldige beoordeling, niet na transparante procedures, niet na de mogelijkheid van een eerlijke hoorzitting. Gewoonweg verwijderd. En dit gebeurt op een manier die een democratie onwaardig is, omdat er geen effectieve beroepsprocedures zijn en de betrokkenen niet eens weten waarom hun tijd en creativiteit verloren zijn gegaan.

Welke concrete voorbeelden illustreren deze willekeurigheid?

Het meest recente en opvallende voorbeeld is de zaak van tech-YouTuber Enderman. De Russische contentmaker had een hoofdkanaal op YouTube opgebouwd met meer dan 350.000 abonnees, waar hij technologische onderwerpen behandelde. Zijn content was waardevol in documentairevorm – hij besprak oudere versies van Windows en andere technische kwesties. Dit kanaal werd zonder waarschuwing verwijderd. Kort daarvoor was ook zijn tweede kanaal, Andrew, met honderdduizenden abonnees, verdwenen. De opgegeven reden voor deze drastische maatregel was bizar: YouTube beweerde dat Endermans kanalen verbonden waren met een Japans kanaal dat voor de derde keer een copyrightschending had begaan. Een kanaal dat Enderman niet kent, waarvan hij de taal niet spreekt en waarmee hij geen enkele connectie heeft.

Wat opmerkelijk is aan deze zaak, is niet alleen de onrechtvaardigheid van de beslissing zelf, maar ook de manier waarop deze tot stand is gekomen. Enderman suggereerde dat een AI-systeem erachter zat, dat een foutieve koppeling had gelegd tussen zijn kanalen en een onbekend Japans account. De hoop van de tech-Youtuber dat een menselijke YouTube-medewerker zijn klacht zou bekijken, werd de grond ingeboord. Maanden gingen voorbij zonder reactie. Enderman lijkt zich er nu bij neergelegd te hebben dat zijn tijd op YouTube voorbij is. Een andere YouTuber meldde identieke problemen in dezelfde Twitter-thread – ook zijn kanaal werd verwijderd met een verwijzing naar hetzelfde Japanse kanaal. Dit wijst op een systeemfout, niet op een geïsoleerde menselijke fout, maar eerder op de tekortkomingen van een geautomatiseerd systeem dat ongecontroleerd opereert.

YouTube is geen uitzondering. Diverse platforms vertonen vergelijkbare patronen. TikTok, Instagram, Facebook en andere diensten verwijderen dagelijks content en schorsen accounts, vaak zonder voldoende rechtvaardiging. De transparantieorganisatie Freiheitsrechte.org heeft gedocumenteerd dat socialemediaplatforms vaak onvoldoende uitleg geven over hun moderatiebeslissingen aan de betrokkenen. In sommige gevallen wordt er slechts in algemene termen verwezen naar een schending van de gebruiksvoorwaarden, zonder uit te leggen welke specifieke schending tot de actie heeft geleid.

Nemen technologiebedrijven hun maatschappelijke verantwoordelijkheid wel serieus?

Dit is het cruciale punt waarop we onze cognitieve vooroordelen moeten corrigeren. De grote technologiebedrijven profiteren aantoonbaar van onze data, onze economische activiteiten en onze samenleving. Ze gebruiken ons gedeelde internet als basis voor hun bedrijfsvoering. Ze verdienen miljarden aan advertentie-inkomsten die gegenereerd worden door onze aandacht en onze persoonlijke gegevens. Tegelijkertijd nemen deze bedrijven de facto publieke en maatschappelijke verantwoordelijkheden op zich.

YouTube is niet zomaar een technische dienst zoals een hostingprovider. Het platform is uitgegroeid tot de infrastructuur van publieke communicatie. Het bepaalt de zichtbaarheid, het bereik en de toegang voor miljoenen mensen. Het heeft zich stevig gevestigd als poortwachter van informatie en kennis. Facebook en Instagram zijn vergelijkbaar – deze diensten zijn centrale knooppunten geworden voor sociale discussie. Voor veel mensen zijn deze platforms de belangrijkste plek om hun stem te laten horen, hun gemeenschappen op te bouwen en hun boodschappen te verspreiden.

Maar terwijl deze technologiebedrijven economisch profiteren van hun rol als intermediairs in sociale communicatie, ontlopen ze de verantwoordelijkheden die inherent zijn aan deze rol. Een liefdadigheidsinstelling die in opdracht van de staat taken uitvoert tegen betaling, kan afwijkende meningen niet zomaar uitsluiten omdat ze iemand niet mogen. Een publieke omroep kan mensen niet zomaar het zwijgen opleggen zonder hun kant van het verhaal te hebben gehoord. Een rechtbank kan iemand niet zomaar veroordelen zonder hem of haar de kans te geven zich te verdedigen.

Toch is dit precies wat er dagelijks op deze platforms gebeurt. Mensen worden zonder enige gegronde reden buitengesloten. Hun werk wordt verwijderd. Hun bestaansmiddelen worden online vernietigd. En het enige antwoord van de platforms is een verwijzing naar hun gebruiksvoorwaarden en, in het beste geval, een geautomatiseerd klachtensysteem dat nauwelijks problemen oplost. Dit is niet alleen onrechtvaardig; het is ook structureel gevaarlijk voor een open samenleving.

Beheerd AI-platform - Afbeelding: Xpert.Digital

Hier leert u hoe uw bedrijf snel, veilig en zonder hoge drempels AI-oplossingen op maat kan implementeren.

Een beheerd AI-platform is uw allesomvattende, zorgeloze oplossing voor kunstmatige intelligentie. In plaats van te worstelen met complexe technologie, dure infrastructuur en langdurige ontwikkelprocessen, ontvangt u een kant-en-klare oplossing op maat van een gespecialiseerde partner – vaak al binnen enkele dagen.

De belangrijkste voordelen in één oogopslag:

⚡ Snelle implementatie: Van idee tot gebruiksklare applicatie in dagen, niet maanden. Wij leveren praktische oplossingen die direct toegevoegde waarde creëren.

🔒 Maximale gegevensbeveiliging: Uw gevoelige gegevens blijven bij u. Wij garanderen een veilige en conforme verwerking zonder gegevens met derden te delen.

💸 Geen financieel risico: u betaalt alleen voor de resultaten. Hoge investeringen vooraf in hardware, software of personeel zijn volledig uitgesloten.

🎯 Focus op uw kernactiviteiten: concentreer u op waar u het beste in bent. Wij zorgen voor de volledige technische implementatie, werking en het onderhoud van uw AI-oplossing.

📈 Toekomstbestendig en schaalbaar: Uw AI groeit met u mee. Wij garanderen continue optimalisatie en schaalbaarheid en passen de modellen flexibel aan nieuwe eisen aan.

Meer informatie vindt u hier:

• Beheerd AI-platform

Hoe verandert het gebruik van AI het probleem?

De situatie verslechtert hier dramatisch. Technologiebedrijven gebruiken steeds vaker geautomatiseerde systemen om content te modereren en beslissingen te nemen. Deze AI-systemen zijn niet transparant. Ze worden niet regelmatig gecontroleerd. En bovenal: ze maken ook fouten met enorme gevolgen. De Enderman-zaak is slechts één van de vele voorbeelden van hoe AI-gestuurde moderatie tot absurde of schadelijke resultaten leidt.

Dit werd met name duidelijk tijdens de COVID-19-pandemie. Toen menselijke beoordelaars niet beschikbaar waren, schakelden socialemediaplatforms massaal over op geautomatiseerde systemen voor contentmoderatie. Het resultaat was een golf van slechte beslissingen. Video's die de richtlijnen niet overtraden, werden verwijderd. Legitieme content verdween. Gebruikers raakten gefrustreerd omdat de platforms hun beloftes niet konden nakomen.

De beperkingen van AI-gebaseerde contentmoderatie zijn fundamenteel. Kunstmatige intelligentie werkt alleen betrouwbaar als er voldoende trainingsdata beschikbaar zijn. Veel situaties zijn genuanceerd en laten zich niet gemakkelijk categoriseren. Een zin als "Ik heb vanavond pasta gegeten" had een dubbele betekenis op TikTok: letterlijk verwees het naar het eten, maar in de context van een trend duidde het op suïcidale gedachten. Het TikTok-algoritme begreep deze nuance niet en wakkerde de trend juist verder aan.

Bovendien is het foutenpercentage systematisch. Een onderzoek van de European Broadcasting Union toonde aan dat AI-chatbots in 45 procent van alle antwoorden op vragen over actuele gebeurtenissen minstens één significant probleem vertoonden, een probleem dat lezers op het verkeerde spoor zou kunnen zetten. In 81 procent van de resultaten werd een of andere fout gevonden. Dit is geen uitzondering, maar de regel.

Toch worden juist deze foutgevoelige en ondoorzichtige systemen gebruikt om het lot van miljoenen mensen in hun digitale leven te bepalen. Een video wordt verwijderd. Een kanaal wordt gedeactiveerd. Een bedrijf wordt van het platform verwijderd. En die beslissing is genomen door een systeem dat gebruikers niet begrijpen, dat niet ter verantwoording wordt geroepen en dat ongestraft verkeerde beslissingen mag nemen.

Waar ligt de verantwoordelijkheid van de staat?

De overheid kijkt niet zomaar de andere kant op. Erger nog, de overheid, die de macht heeft om deze situatie te corrigeren, bureaucratiseert de boel en raakt verstrikt in details. Er zijn regels – dat klopt. De Digital Services Act van de Europese Unie bepaalt dat platforms transparant moeten zijn. Gebruikers hebben het recht om een ​​klacht in te dienen. Zeer grote platforms moeten hun systemen en beslissingen openbaar maken. Dit klinkt allemaal goed en juist op papier.

De handhaving van deze regels is echter gefragmenteerd. Het Duitse federale netwerkagentschap heeft de rol van coördinator digitale diensten op zich genomen en is nu belast met de handhaving ervan. Maar beschikt dit agentschap wel over voldoende middelen? Heeft het wel genoeg bevoegdheden? Kunnen individuele nationale autoriteiten wel echt optreden tegen wereldwijde technologiebedrijven die hun verantwoordelijkheden ontlopen door middel van advocaten en lobbywerk?

Bovendien schuilt er een dieperliggend probleem. De staat heeft te lang toegestaan ​​dat private bedrijven tegelijkertijd de rollen van poortwachter, rechter en jury vervullen. Deze bedrijven bepalen op hun platforms wat goed en fout is. Ze vellen oordelen. Ze voeren straffen uit. En ze zijn aan niemand verantwoording verschuldigd. Dit is niet zomaar een tekortkoming in de regelgeving. Het is een fundamenteel falen van de democratie.

Lange tijd werd aangenomen dat markten zichzelf reguleren en dat platforms handelen vanuit reputatie en eigenbelang. Deze aanname is fundamenteel onjuist gebleken. De platforms optimaliseren voor betrokkenheid en advertentie-inkomsten, niet voor eerlijkheid. Ze gebruiken AI-systemen die goedkoper zijn dan menselijke moderatie, ook al zijn deze systemen foutgevoelig. En wanneer er een fout optreedt, kunnen ze de schuld afschuiven op een algoritme dat zogenaamd een autonome beslissing heeft genomen.

Wat zou er nodig zijn om deze situatie te veranderen?

Allereerst moet worden verduidelijkt dat de grote platformen niet zomaar particuliere bedrijven zijn waar de staat geen zeggenschap over heeft. Deze bedrijven vervullen publieke functies. Ze fungeren als intermediairs in het publieke debat. Ze hebben een maatschappelijke taak op zich genomen, weliswaar met economisch gewin als doel, maar desalniettemin met maatschappelijke verantwoordelijkheid.

Dit betekent dat fundamentele beginselen van de rechtsstaat van toepassing moeten zijn op moderatiebeslissingen, met name op drastische maatregelen zoals schorsingen of verwijderingen. Dit betekent volledige transparantie over de redenen voor een beslissing. Dit betekent het recht op een eerlijke hoorzitting voordat drastische maatregelen worden genomen. Dit betekent een echt recht op beroep, geen geautomatiseerd klachtensysteem dat in de praktijk niet effectief is. Dit betekent menselijke beoordeling, vooral in gevallen waarbij een algoritme betrokken is.

Bovendien moeten er grenzen worden gesteld aan AI-gestuurde moderatie. Als een systeem feilbaar is en miljoenen mensen kan beïnvloeden, moet er altijd een mens bij betrokken zijn. EU-regelgeving wijst in deze richting, maar de handhaving laat te wensen over. Platforms vinden voortdurend manieren om deze regels te omzeilen of te ondermijnen.

Er is ook een structurele verandering in de verantwoordingsplicht nodig. Platforms moeten aansprakelijk worden gesteld voor de beslissingen van hun systemen. Niet figuurlijk aansprakelijk, maar wettelijk aansprakelijk. Als een kanaal onterecht wordt verwijderd, moet het platform verplicht worden een schadevergoeding te betalen. Dit zou de prikkels veranderen. Plotseling zou het niet langer goedkoper zijn om een ​​gebrekkig geautomatiseerd systeem te gebruiken. Plotseling zou er een prijs betaald moeten worden voor het onrechtmatig benadelen van mensen.

Voor Enderman betekende dit dat YouTube zijn kanaal niet zomaar kon verwijderen omdat een AI-systeem een ​​foutieve koppeling met een Japans account had gemaakt. Er had een onderzoek moeten plaatsvinden. Er had een mogelijkheid tot reactie moeten zijn. En als de fout onopgemerkt was gebleven, had YouTube aansprakelijk kunnen worden gesteld.

Wat gebeurt er als deze problemen niet worden opgelost?

Het antwoord is verwoestend. Als we AI-systemen toestaan ​​willekeurig te beslissen over het digitale bestaan ​​van mensen, dan zal de chaos niet met AI komen – de chaos is er al. Ze zal alleen maar verergeren. Want hoe intelligenter deze systemen worden, hoe minder we ze begrijpen. En hoe minder we ze begrijpen, hoe minder we ze kunnen controleren.

Erger nog: het probleem zal exponentieel groeien. Het gebruik van AI bij contentmoderatie zal toenemen. De systemen zullen complexer worden. Foutpercentages kunnen dalen of stijgen – niemand weet het zeker. Maar wat wel zeker is, is dat miljoenen, en binnenkort miljarden, mensen getroffen zullen worden door beslissingen die ze niet begrijpen, niet kunnen aanvechten en waarvoor geen verantwoording wordt afgelegd.

En terwijl dit gebeurt, kijkt de overheid de andere kant op. Het Federaal Agentschap voor Netwerken schetst zijn verantwoordelijkheden. De EU stelt wetten vast. Maar de handhaving is halfslachtig. De autoriteiten hebben te weinig middelen. De platformen betalen boetes die voor hen slechts een schijntje zijn en die hun werkwijze niet echt veranderen. De status quo blijft bestaan: techbedrijven gedragen zich als ongecontroleerde heersers van de digitale publieke ruimte.

Het opmerkelijke aan deze situatie is dat ze te voorkomen is. Er bestaan ​​oplossingen. Er zijn manieren om datasoevereiniteit en digitale zelfbeschikking werkelijkheid te laten worden, en niet slechts normatieve doelen. Maar daarvoor zou de staat zijn onverschilligheid moeten laten varen. De staat zou moeten erkennen dat dit niet alleen een regelgevingskwestie is, maar een machtsongelijkheid. Technologiebedrijven hebben macht. Ze moeten die macht inzetten ten behoeve van de samenleving, anders moet die hen worden afgenomen.

Tot die tijd blijven gevallen zoals dat van Enderman symptomatisch voor een systeem dat niet werkt. Een man verliest zijn levenswerk. Niemand kan hem helpen. En de machine die zijn levenswerk heeft vernietigd, blijft ongestoord doordraaien, nieuwe zaken beoordelen, nieuwe oordelen vellen, en de staat documenteert dit alles in administratieve dossiers terwijl de rook opstijgt.

Konrad Wolfenstein

Ik sta graag tot uw beschikking als uw persoonlijke adviseur.

contact met mij opnemen via wolfenstein ∂ xpert.digital

U kunt me bereiken op +49 89 89 674 804 (München) .

LinkedIn