Adatszuverenitás, önrendelkezés és a mesterséges intelligencia által vezérelt platformmoderálás valósága

### Egy kattintás, minden eltűnt: A mesterséges intelligencia által vezérelt platformmoderálás csendes káosza ### Az élet munkáját tette tönkre a mesterséges intelligencia: Miért tűnhet el egyszerűen holnap a közösségi média fiókod ### Az adatszuverenitás nagy illúziója: Hogyan uralkodnak titokban az algoritmusok felettünk ### Az új EU-törvények ellenére: Miért törölhetnek továbbra is önkényesen a technológiai vállalatok ###

Bírói algoritmus: Amikor egy mesterséges intelligencia véget vet a digitális életednek – és senki sem felelős érte

Olyan korban élünk, ahol az olyan kifejezések, mint az „adatszuverenitás” és a „digitális önrendelkezés”, nem csupán politikai szlogenek, hanem egy egész társadalom törekvéseit képviselik. Az olyan törvényekkel, mint a digitális szolgáltatási törvény, Európa megpróbál védőbástyát építeni a globális technológiai vállalatok önkényes cselekedeteivel szemben, és megvédeni polgárai alapvető jogait a digitális szférában. De miközben jogi záradékokról és szabályozásokról vitatkozunk, a szemünk láttára bontakozik ki egy olyan valóság, amely gúnyt űz ezekből a magasztos célokból. Egy olyan valóság, amelyben az emberek digitális létét egyetlen gombnyomással elpusztítják – nem egy személy, hanem egy átlátszatlan algoritmus.

Nap mint nap felfüggesztenek fiókokat és törölnek csatornákat olyan platformokon, mint a YouTube, a TikTok és az Instagram – olyan csatornákon, amelyeket a felhasználók évek alatt, fáradságos munkával építettek fel. Digitális életük során elért munkájuk eltűnik, gyakran egyértelmű indoklás, tisztességes meghallgatás és a döntés elleni hatékony fellebbezési lehetőség nélkül. Ez egyre inkább a mesterséges intelligencia által vezérelt moderálásnak köszönhető, amely hibára hajlamos, átláthatatlan, mégis rendelkezik a láthatóság és a digitális létezés megítélésének végső hatalmával. Enderman, a tech YouTuber esete, akinek több százezer feliratkozóval rendelkező csatornáit törölték egy állítólag a mesterséges intelligencia által létrehozott abszurd kapcsolat alapján, csak a jéghegy csúcsa. Ez a cikk a kontroll utáni vágyunk és az algoritmusok ellenőrizetlen hatalma közötti mély szakadékot vizsgálja, amelyek már régóta bírákká és végrehajtókká váltak a digitális nyilvános szféránkban.

Hol van az ellentmondás a vágyaink és a valóságunk között?

Állandóan az adatszuverenitásról és a digitális önrendelkezésről beszélünk. Ezek a kifejezések egy magabiztos és független kultúra védjegyévé váltak, amely a mesterséges intelligencia kezelését az érettségének jeleként hivatott bemutatni. Az Európai Unió olyan törvényekkel tűzte ki célul, hogy megvédje polgárait a globális technológiai vállalatok önkényes cselekedeteitől, mint a digitális szolgáltatásokról szóló törvény és a digitális piacokról szóló törvény. Rendeleteket fogadtak el az átláthatóság érvényesítése és az alapvető jogok védelme érdekében. De ezzel a szabályozási felhalmozódással valami alapvető dolgot figyelmen kívül hagyunk: nem foglalkoztunk azzal az egzisztenciális fenyegetéssel, amely nap mint nap a szemünk előtt bontakozik ki, és aláássa mindezen erőfeszítések hitelességét.

A főbb közösségi médiacsatornák által nap mint nap elénk tárt valóság egészen mást mutat, mint az adatszuverenitás és az önrendelkezés története. Az emberek nap mint nap elveszítik digitális életük munkáját, indoklás vagy bármilyen mechanizmus nélkül, amely ezt ellensúlyozhatná. Az évek során fáradságosan felépített csatornákat törlik. Nem alapos felülvizsgálat, nem átlátható folyamatok, nem a tisztességes meghallgatás lehetősége után. Egyszerűen törlik. És ez egy demokráciához méltatlan módon történik, mert nincsenek hatékony fellebbezési mechanizmusok, és az érintettek azt sem tudják, miért pazarolták el az idejüket és a kreativitásukat.

Milyen konkrét példák bizonyítják ezt az önkényességet?

A legfrissebb és legszembetűnőbb példa a tech YouTuber, Enderman esete. Az orosz tartalomkészítő egy több mint 350 000 feliratkozóval rendelkező fő YouTube-csatornát hozott létre, ahol technológiai témákat vizsgált. Tartalmai értékes dokumentumfilmes tartalmak voltak – a Windows régebbi verzióival és más technikai problémákkal foglalkozott. Ezt a csatornát figyelmeztetés nélkül törölték. Röviddel azelőtt eltűnt másodlagos csatornája, az Andrew, amely szintén több százezer feliratkozóval rendelkezett. A drasztikus intézkedésre hivatkozva bizarr indoklást adtak ki: a YouTube azt állította, hogy Enderman csatornái egy japán csatornához kapcsolódnak, amely a harmadik szerzői jogi figyelmeztetését kapta. Egy olyan csatornához, amelyet Enderman nem ismer, amelynek a nyelvén nem kommunikál, és amellyel nincs kapcsolata.

Az ügyben nem csupán a döntés igazságtalansága a figyelemre méltó, hanem az is, ahogyan meghozták. Enderman azt sugallta, hogy egy mesterséges intelligencia állhat a dolog mögött, amely hibás kapcsolatot hozott létre a csatornái és egy ismeretlen japán fiók között. A tech YouTuber reménye, hogy egy emberi YouTube-alkalmazott kivizsgálja a panaszát, szertefoszlott. Hónapok teltek el válasz nélkül. Úgy tűnik, Enderman most beletörődött abba, hogy vége a YouTube-os ideje. Egy másik YouTuber ugyanilyen problémákról számolt be ugyanebben a Twitter-szálban – az ő csatornáját is törölték ugyanarra a japán csatornára hivatkozva. Ez rendszerszintű hibára utal, nem pedig egy elszigetelt emberi hiba esetére, hanem egy ellenőrizetlenül működő automatizált rendszer hiányosságaira.

A YouTube nem elszigetelt eset. Több platform is hasonló mintákat mutatott. A TikTok, az Instagram, a Facebook és más szolgáltatások naponta törölnek tartalmakat és függesztenek fel fiókokat, gyakran kellő indoklás nélkül. A Freiheitsrechte.org átláthatósági szervezet dokumentálta, hogy a közösségi média platformok gyakran nem adnak megfelelő magyarázatot a moderálási döntéseikre az érintetteknek. Bizonyos esetekben az indoklások csak általánosságban utalnak a szolgáltatási feltételek megsértésére, anélkül, hogy kifejtenék, hogy konkrétan melyik jogsértés vezetett a cselekvéshez.

Vajon a tech cégek eleget tesznek-e társadalmi felelősségvállalásuknak?

Ez az a döntő pont, ahol korrigálnunk kell kognitív torzításainkat. A nagy technológiai vállalatok bizonyítottan profitálnak az adatainkból, gazdasági tevékenységünkből és társadalmunkból. A megosztott internetünket használják üzleti alapjukként. Milliárdokat keresnek a figyelmünk és személyes adataink által generált reklámbevételekből. Ugyanakkor ezek a vállalatok de facto köz- és társadalmi felelősséget vállalnak.

A YouTube nem pusztán egy technikai szolgáltatás, mint egy egyszerű tárhelyszolgáltató. A platform a nyilvános kommunikáció infrastruktúrájává vált. Meghatározza a láthatóságot, az elérést és a hozzáférést emberek milliói számára. Az információ és a tudás kapuőrének pozíciójába került. A Facebook és az Instagram hasonló – ezek a szolgáltatások a társadalmi diskurzus központi csomópontjaivá váltak. Sok ember számára ezek a platformok az elsődleges helyszínek, ahol felemelhetik a hangjukat, építhetik közösségeiket és terjeszthetik üzeneteiket.

De miközben ezek a technológiai vállalatok gazdasági hasznot húznak a társadalmi kommunikáció közvetítői szerepükből, kibújnak az ezzel a szereppel járó felelősség alól. Egy állam által díjazás ellenében feladatok elvégzésére megbízott jótékonysági szervezet nem zárhatja ki egyszerűen az ellenvéleményt megfogalmazókat azért, mert nem kedvel valakit. Egy közszolgálati műsorszolgáltató nem hallgattathatja el egyszerűen az egyéneket anélkül, hogy meghallgatná az ő verziójukat. Egy bíróság nem ítélhet el egyszerűen valakit anélkül, hogy lehetőséget adna neki a védekezésre.

Mégis pontosan ez történik nap mint nap ezeken a platformokon. Embereket zárnak ki mindenféle valódi indok nélkül. A munkájukat törlik. Megélhetésüket online tönkreteszik. A platformok egyetlen válasza pedig a szolgáltatási feltételeikre való hivatkozás, és legjobb esetben is egy automatizált panaszrendszer, amely alig old meg problémákat. Ez nemcsak igazságtalan, de strukturálisan veszélyes is egy nyílt társadalomra nézve.

Felügyelt mesterséges intelligencia platform - Kép: Xpert.Digital

Itt megtudhatja, hogyan valósíthat meg vállalata testreszabott mesterséges intelligencia megoldásokat gyorsan, biztonságosan és magas belépési korlátok nélkül.

Egy menedzselt MI platform egy átfogó, gondtalan csomag a mesterséges intelligencia területén. Ahelyett, hogy komplex technológiával, drága infrastruktúrával és hosszadalmas fejlesztési folyamatokkal kellene bajlódnia, egy specializált partnertől kap egy az Ön igényeire szabott, kulcsrakész megoldást – gyakran néhány napon belül.

A legfontosabb előnyök áttekintése:

⚡ Gyors megvalósítás: Az ötlettől a gyakorlati alkalmazásig napok, nem hónapok alatt. Gyakorlati megoldásokat szállítunk, amelyek azonnal értéket teremtenek.

🔒 Maximális adatbiztonság: Érzékeny adatai Önnél maradnak. Garantáljuk a biztonságos és megfelelő feldolgozást anélkül, hogy megosztanánk az adatokat harmadik felekkel.

💸 Nincs pénzügyi kockázat: Csak az eredményekért fizet. A hardverbe, szoftverbe vagy személyzetbe történő magas előzetes beruházások teljesen elmaradnak.

🎯 Koncentráljon a fő üzleti tevékenységére: Koncentráljon arra, amiben a legjobb. Mi kezeljük AI-megoldásának teljes technikai megvalósítását, üzemeltetését és karbantartását.

📈 Jövőálló és skálázható: A mesterséges intelligencia veled együtt növekszik. Biztosítjuk a folyamatos optimalizálást és skálázhatóságot, és rugalmasan igazítjuk a modelleket az új követelményekhez.

Bővebben itt:

• Felügyelt AI platform

Hogyan változtatja meg a problémát a mesterséges intelligencia használata?

Itt a helyzet drámaian romlik. A tech cégek egyre inkább automatizált rendszereket használnak a tartalmak moderálására és a döntések meghozatalára. Ezek a mesterséges intelligencia által vezérelt rendszerek nem átláthatóak. Nem vizsgálják felül őket rendszeresen. És mindenekelőtt: hibákat is követnek el, amelyeknek súlyos következményei vannak. Az Enderman-eset csak egy a sok példa közül arra, hogy a mesterséges intelligencia által vezérelt moderálás hogyan vezet abszurd vagy káros eredményekhez.

Ez különösen a COVID-19 világjárvány idején vált nyilvánvalóvá. Amikor az emberi ellenőrök nem voltak elérhetők, a közösségi média platformok nagymértékben automatizált rendszerekre állították át a tartalommoderálást. Az eredmény rossz döntések hulláma lett. Az irányelveket nem sértő videókat törölték. A jogos tartalom eltűnt. A felhasználók frusztráltak lettek, mert a platformok nem tudták betartani az ígéreteiket.

A mesterséges intelligencia alapú tartalommoderálás korlátai alapvetőek. A mesterséges intelligencia csak akkor működik megbízhatóan, ha elegendő betanítási adat áll rendelkezésre. Sok helyzet árnyalt, és nem könnyű kategorizálni. Egy olyan kifejezés, mint a „Ma este tésztát ettem”, kettős jelentéssel bírt a TikTokon – szó szerint az ételfogyasztásra utalt, de egy trend kontextusában öngyilkossági gondolatokat jelzett. A TikTok algoritmusa nem tudta megérteni ezt az árnyalatnyi különbséget, és ehelyett táplálta a trendet.

Továbbá a hibaszázalék szisztematikus. Az Európai Műsorszórók Uniójának tanulmánya kimutatta, hogy a mesterséges intelligenciával működő chatbotoknál az aktuális eseményekkel kapcsolatos kérdésekre adott válaszok 45 százalékában legalább egy jelentős probléma volt, ami félrevezethette az olvasókat. Az eredmények 81 százalékában valamilyen hibát találtak. Ez nem kivétel, hanem a szabály.

Mégis ezeket a nagyon hibalehetőségű és átláthatatlan rendszereket arra használják, hogy emberek millióinak digitális életéről döntsenek. Egy videót törölnek. Egy csatornát deaktiválnak. Egy céget eltávolítanak a platformról. És a döntést egy olyan rendszer hozta meg, amelyet a felhasználók nem értenek, amely nem felelős, és amelynek megengedik, hogy büntetlenül rossz döntéseket hozzon.

Hol van az állam felelőssége?

Az állam nem egyszerűen szemet huny a dolog felett. Ami még rosszabb, az állam, amelynek hatalmában állna orvosolni ezt a helyzetet, ehelyett bürokratizál és apró részletekbe bonyolódik. Vannak szabályok – ez igaz. Az Európai Unió digitális szolgáltatásokról szóló törvénye előírja, hogy a platformoknak átláthatónak kell lenniük. Megköveteli a felhasználóktól a panasztételi jogot. Kiköti, hogy a nagyon nagy platformoknak nyilvánosságra kell hozniuk rendszereiket és döntéseiket. Mindez papíron jól és helyesen hangzik.

Ezen szabályok betartatása azonban széttagolt. A német Szövetségi Hálózati Ügynökség átvette a digitális szolgáltatások koordinátorának szerepét, és mostantól feladata a szabályok betartatása. De vajon rendelkezik-e ez az ügynökség elegendő erőforrással? Van-e elég hatalma? Valóban fel tudnak-e lépni az egyes nemzeti hatóságok a globális technológiai vállalatokkal szemben, amelyek ügyvédek és lobbitevékenység révén kikerülik a felelősségüket?

Továbbá van egy mélyebb probléma. Az állam túl sokáig engedte meg, hogy a magánvállalatok egyszerre játsszák a kapuőr, a bíró és az esküdtszék szerepét. Ezek a vállalatok a saját platformjukon döntenek arról, hogy mi a helyes és mi a helytelen. Ítéleteket hoznak. Végrehajtják a büntetéseket. És senkinek sem tartoznak elszámolással. Ez nem csupán szabályozási hiba. Ez a demokrácia alapvető kudarca.

Sokáig az volt a feltételezés, hogy a piacok önmagukat szabályozzák, és hogy a platformok hírnév és önérdek vezérli őket. Ez a feltételezés alapvetően tévesnek bizonyult. A platformok az elköteleződésre és a hirdetési bevételekre optimalizálnak, nem pedig a tisztességre. Olyan mesterséges intelligencia alapú rendszereket üzemeltetnek, amelyek olcsóbbak, mint az emberi moderálás, annak ellenére, hogy ezek a rendszerek hajlamosak a hibákra. És amikor hiba történik, a felelősséget egy olyan algoritmusra háríthatják, amely állítólag autonóm döntést hozott.

Mire lenne szükség ahhoz, hogy ez a helyzet megváltozzon?

Először is tisztázni kell, hogy a főbb platformok nem egyszerűen magánvállalatok, amelyekbe az államnak nincs beleszólása. Ezek a vállalatok közfeladatokat látnak el. A nyilvános diskurzus közvetítői. Társadalmi feladatot vállaltak, minden bizonnyal gazdasági haszonnal, de mindazonáltal társadalmi felelősséggel is.

Ez azt jelenti, hogy a jogállamiság alapelveit kell alkalmazni a moderálási döntésekre, különösen az olyan drasztikus intézkedésekre, mint a felfüggesztés vagy a törlés. Ez teljes átláthatóságot jelent a döntés indokaival kapcsolatban. Ez a tisztességes meghallgatáshoz való jogot jelenti, mielőtt drasztikus intézkedéseket hoznának. Ez a fellebbezéshez való valódi jogot jelenti, nem pedig egy automatizált panaszrendszert, amely a gyakorlatban hatástalan. Ez emberi felülvizsgálatot jelent, különösen az algoritmust érintő esetekben.

Továbbá korlátokat kell szabni a mesterséges intelligencia által vezérelt moderálásnak. Ha egy rendszer hibás és emberek millióit érintheti, akkor mindig részt kell vennie egy embernek. Az uniós szabályozások ebbe az irányba mutatnak, de a végrehajtásuk hiányzik. A platformok folyamatosan találnak módokat ezen szabályok megkerülésére vagy aláásására.

Strukturális változásra van szükség az elszámoltathatóságban is. A platformoknak felelősségre kell vonni a rendszereik döntéseiért. Nem átvitt értelemben, hanem jogilag. Ha egy csatornát jogellenesen törölnek, a platformot kártérítés megfizetésére kellene kötelezni. Ez megváltoztatná az ösztönzőket. Hirtelen már nem lenne olcsóbb egy hibás automatizált rendszert használni. Hirtelen ára lenne annak, ha igazságtalanul bántanánk az emberekkel.

Enderman számára ez azt jelentette volna, hogy a YouTube nem törölhette volna egyszerűen a csatornáját azért, mert egy mesterséges intelligencia rendszer hibás kapcsolatot létesített egy japán fiókkal. Felülvizsgálatnak kellett volna lennie. Lehetőségnek kellett volna lennie a válaszadásra. És ha a hiba észrevétlen maradt volna, a YouTube-ot felelősségre lehetett volna vonni.

Mi fog történni, ha ezeket a problémákat nem oldják meg?

A válasz katasztrofális. Ha hagyjuk, hogy a mesterséges intelligencia rendszerei önkényesen döntsenek az emberek digitális létezéséről, akkor a káosz nem fog bekövetkezni a mesterséges intelligenciával – a káosz már itt van. Csak fokozódni fog. Mert minél intelligensebbekké válnak ezek a rendszerek, annál kevésbé értjük őket. És minél kevésbé értjük őket, annál kevésbé tudjuk irányítani őket.

Ami még rosszabb: a probléma exponenciálisan fog növekedni. A mesterséges intelligencia használata a tartalommoderálásban intenzívebbé válik. A rendszerek bonyolultabbá válnak. A hibaszázalék csökkenhet vagy növekedhet – senki sem tudja biztosan. De ami garantált, az az, hogy emberek millióit, sőt hamarosan milliárdjait fogják érinteni olyan döntések, amelyeket nem értenek, nem tudnak megkérdőjelezni, és amelyekért nincs elszámoltathatóság.

És miközben ez történik, az állam szemet huny. A Szövetségi Hálózati Ügynökség felvázolja a felelősségi körét. Az EU törvényeket hoz. De a végrehajtás félszívű. A hatóságok alulfinanszírozottak. A platformok olyan bírságokat fizetnek, amelyek csupán zsebpénznek számítanak számukra, és valójában nem változtatnak a gyakorlatukon. A status quo továbbra is fennáll: a technológiai vállalatok a digitális nyilvános szféra ellenőrizetlen uraiként működnek.

Ami figyelemre méltó ebben a helyzetben, az az, hogy elkerülhető. Léteznek megoldások. Vannak módok arra, hogy az adatszuverenitás és a digitális önrendelkezés valósággá váljon, nem csak normatív célok. De ahhoz, hogy ez megtörténjen, az államnak fel kellene hagynia a közönyével. Fel kellene ismernie, hogy ez nem csupán szabályozási kérdés, hanem hatalmi egyensúlyhiány. A technológiai vállalatoknak hatalmuk van. Ezt a hatalmat a társadalom javára kell felhasználniuk, különben el kell venni tőlük.

Addig az Endermanéhez hasonló esetek továbbra is egy működőképtelen rendszer tünetei. Egy férfi elveszíti élete munkáját. Senki sem segíthet rajta. És a gépezet, amely tönkretette élete munkáját, zavartalanul működik tovább, új ügyeket vizsgál felül, új ítéleteket hoz, és az állam mindezt közigazgatási aktákban dokumentálja, miközben a füst felszáll.

Konrad Wolfenstein

Szívesen szolgálok személyes tanácsadójaként.

a kapcsolatot velem Wolfenstein ∂ Xpert.Digital

hívj +49 89 674 804 (München) alatt

LinkedIn