Andmete suveräänsus, enesemääramine ja tehisintellektil põhineva platvormide modereerimise reaalsus

### Üks klõps, kõik kadunud: tehisintellektil põhineva platvormide modereerimise vaikne kaos ### Elutöö hävitatud tehisintellekti poolt: miks teie sotsiaalmeedia konto võib homme lihtsalt kaduda ### Suur illusioon andmete suveräänsusest: kuidas algoritmid salaja meie üle valitsevad ### Vaatamata uutele EL-i seadustele: miks tehnoloogiaettevõtetel on endiselt lubatud suvaliselt kustutada ###

Kohtuniku algoritm: kui tehisintellekt lõpetab teie digitaalse elu – ja keegi pole selle eest vastutav

Me elame ajal, kus terminid nagu "andmevabadus" ja "digitaalne enesemääramine" ei ole pelgalt poliitilised loosungid, vaid esindavad terve ühiskonna püüdlusi. Selliste seadustega nagu digiteenuste seadus püüab Euroopa ehitada kaitsevalli globaalsete tehnoloogiaettevõtete meelevaldse tegevuse vastu ja kaitsta oma kodanike põhiõigusi digitaalsfääris. Kuid samal ajal, kui me arutame juriidilisi klausleid ja regulatsioone, hakkab meie silme all lahti rulluma reaalsus, mis teeb neist üllatest eesmärkidest nalja. Reaalsus, kus inimeste digitaalne eksistents hävitatakse nupuvajutusega – mitte inimese, vaid läbipaistmatu algoritmi poolt.

Iga päev peatatakse kontosid ja kustutatakse kanaleid platvormidel nagu YouTube, TikTok ja Instagram – kanalid, mida kasutajad on aastate jooksul vaevarikkalt üles ehitanud. Nende digitaalse elu töö kaob, sageli ilma selge põhjenduseta, ilma õiglase ärakuulamiseta ja ilma tõhusa viisita otsuse edasikaebamiseks. Üha enam on see tingitud tehisintellekti juhitud modereerimisest, mis on veaaldis, läbipaistmatu, kuid millel on ometi lõplik võim hinnata nähtavust ja digitaalset eksistentsi. Tehnoloogia-YouTube'i kasutaja Endermani juhtum, kelle sadade tuhandete tellijatega kanalid kustutati tehisintellekti poolt väidetavalt loodud absurdse seose tõttu, on vaid jäämäe tipp. See artikkel uurib sügavat lõhet meie kontrollihimu ja algoritmide kontrollimatu võimu vahel, millest on ammu saanud meie digitaalse avaliku sfääri kohtunikud ja täideviijad.

Kus on vastuolu meie püüdluste ja reaalsuse vahel?

Me räägime pidevalt andmesuveräänsusest ja digitaalsest enesemääramisest. Need terminid on saanud enesekindla ja iseseisva kultuuri tunnusjoonteks, mille eesmärk on kujutada tehisintellekti käsitlemist oma küpsuse märgina. Euroopa Liit on seadnud eesmärgiks kaitsta oma kodanikke globaalsete tehnoloogiakorporatsioonide meelevaldse tegevuse eest selliste seadustega nagu digiteenuste seadus ja digitaalturgude seadus. Läbipaistvuse tagamiseks ja põhiõiguste kaitsmiseks on kehtestatud eeskirju. Kuid kogu selle regulatiivse kuhjumise juures jätame tähelepanuta midagi olulist: me ei ole tegelenud eksistentsiaalse ohuga, mis meie silme all iga päev lahti rullub ja õõnestab kõigi nende pingutuste usaldusväärsust.

Reaalsus, mida suured sotsiaalmeediakanalid meile iga päev esitlevad, räägib hoopis teistsugust lugu kui andmete suveräänsus ja enesemääramine. Inimesed kaotavad iga päev oma digitaalse elu töö ilma põhjenduseta või igasuguste mehhanismideta selle vastu võitlemiseks. Aastate jooksul vaevarikkalt üles ehitatud kanalid kustutatakse. Mitte pärast hoolikat ülevaatamist, mitte pärast läbipaistvaid protsesse, mitte pärast õiglase kohtuistungi võimalust. Lihtsalt kustutatakse. Ja see toimub demokraatiale vääritul viisil, sest puuduvad tõhusad apellatsioonimehhanismid ja mõjutatud ei tea isegi, miks nende aeg ja loovus on raisatud.

Millised konkreetsed näited seda meelevaldsust demonstreerivad?

Kõige värskem ja silmatorkavam näide on tehnoloogiaYouTube'i kasutaja Endermani juhtum. Vene sisulooja oli loonud YouTube'i põhikanali, millel oli üle 350 000 tellija ja kus ta uuris tehnoloogilisi teemasid. Tema sisu oli väärtuslik dokumentaalsel tasandil – see käsitles Windowsi vanemaid versioone ja muid tehnilisi probleeme. See kanal kustutati ette hoiatamata. Vahetult enne seda oli kadunud tema teisejärguline kanal Andrew, millel oli samuti sadu tuhandeid tellijaid. Selle drastilise meetme väidetav põhjus oli veider: YouTube väitis, et Endermani kanalid olid seotud Jaapani kanaliga, mis oli saanud oma kolmanda autoriõiguse rikkumise hoiatuse. Kanaliga, mida Enderman ei tunne, mille keeles ta ei suhtle ja millega tal pole mingit sidet.

Selle juhtumi puhul pole tähelepanuväärne mitte ainult otsuse enda ebaõiglus, vaid ka selle langetamise viis. Enderman oletas, et selle taga oli tehisintellekti süsteem, mis oli loonud vigase ühenduse tema kanalite ja tundmatu Jaapani konto vahel. Tehnilisest YouTube'ist pärit lootus, et inimlik YouTube'i töötaja tema kaebust vaatab, purunes. Möödus kuid vastuseta. Nüüd näib Enderman olevat leppinud tõsiasjaga, et tema aeg YouTube'is on läbi. Teine YouTuber teatas samas Twitteri teemas identsetest probleemidest – ka tema kanal kustutati viidates samale Jaapani kanalile. See viitab süsteemsele rikkele, mitte üksikjuhtumile inimlikust veast, vaid pigem kontrollimatult toimiva automatiseeritud süsteemi puudustele.

YouTube ei ole üksikjuhtum. Erinevad platvormid on näidanud sarnaseid mustreid. TikTok, Instagram, Facebook ja teised teenused kustutavad sisu ja peatavad kontosid iga päev, sageli ilma piisava põhjenduseta. Läbipaistvusorganisatsioon Freiheitsrechte.org on dokumenteerinud, et sotsiaalmeedia platvormid annavad oma modereerimisotsuste kohta sageli asjaosalistele ebapiisavaid selgitusi. Mõnel juhul viitavad põhjendused üldiselt ainult teenuse osutamise tingimuste rikkumisele, selgitamata, milline konkreetne rikkumine tegevusele viis.

Kas tehnoloogiaettevõtted täidavad oma sotsiaalset vastutust?

See on oluline punkt, kus peame oma kognitiivsed eelarvamused korrigeerima. Suured tehnoloogiaettevõtted teenivad meie andmetest, meie majandustegevusest ja meie ühiskonnast selgelt kasu. Nad kasutavad meie jagatud internetti oma äri alusena. Nad teenivad miljardeid reklaamituludest, mis tulenevad meie tähelepanust ja isikuandmetest. Samal ajal võtavad need ettevõtted sisuliselt enda kanda avaliku ja ühiskondliku vastutuse.

YouTube ei ole lihtsalt tehniline teenus nagu tavaline majutusteenuse pakkuja. Platvormist on saanud avaliku suhtluse infrastruktuur. See määrab nähtavuse, ulatuse ja juurdepääsu miljonite inimeste jaoks. See on kinnistanud end teabe ja teadmiste väravavahi positsioonil. Facebook ja Instagram on sarnased – neist teenustest on saanud sotsiaalse diskursuse keskpunktid. Paljude inimeste jaoks on need platvormid peamine koht oma hääle tõstmiseks, kogukondade loomiseks ja sõnumite levitamiseks.

Kuigi need tehnoloogiaettevõtted saavad sotsiaalse suhtluse vahendajate rollist majanduslikku kasu, väldivad nad selle rolliga kaasnevat vastutust. Heategevusorganisatsioon, kellele riik on tasu eest ülesandeid täitnud, ei saa lihtsalt teisitimõtlevaid hääli kõrvale jätta seetõttu, et neile keegi ei meeldi. Avalik-õiguslik ringhääling ei saa inimesi lihtsalt vaigistada ilma nende versiooni ära kuulamata. Kohus ei saa kedagi lihtsalt süüdi mõista ilma talle võimalust ennast kaitsta andmata.

Ometi toimub just see nendel platvormidel iga päev. Inimesi tõrjutakse ilma igasuguse tegeliku põhjenduseta. Nende töö kustutatakse. Nende elatusvahendid hävitatakse veebis. Ja platvormide ainus vastus on viide nende teenusetingimustele ning parimal juhul automatiseeritud kaebuste esitamise süsteem, mis vaevalt mingeid probleeme lahendab. See pole mitte ainult ebaõiglane, vaid ka avatud ühiskonna jaoks struktuurilt ohtlik.

Siit saate teada, kuidas teie ettevõte saab kiiresti, turvaliselt ja ilma kõrgete sisenemisbarjäärideta rakendada kohandatud tehisintellekti lahendusi.

Hallatud tehisintellekti platvorm on teie igakülgne ja muretu tehisintellekti pakett. Keerulise tehnoloogia, kalli infrastruktuuri ja pikkade arendusprotsesside asemel saate spetsialiseerunud partnerilt teie vajadustele vastava võtmed kätte lahenduse – sageli juba mõne päeva jooksul.

Peamised eelised lühidalt:

⚡ Kiire teostus: Ideest rakenduseni päevade, mitte kuude jooksul. Pakume praktilisi lahendusi, mis loovad kohest väärtust.

🔒 Maksimaalne andmeturve: Teie tundlikud andmed jäävad teie kätte. Garanteerime turvalise ja nõuetele vastava töötlemise ilma andmeid kolmandate osapooltega jagamata.

💸 Finantsriski pole: maksate ainult tulemuste eest. Suured esialgsed investeeringud riist- ja tarkvarasse või personali jäävad täielikult ära.

🎯 Keskendu oma põhitegevusele: Keskendu sellele, mida sa kõige paremini oskad. Meie tegeleme sinu tehisintellekti lahenduse kogu tehnilise juurutamise, käitamise ja hooldusega.

📈 Tulevikukindel ja skaleeritav: teie tehisintellekt kasvab koos teiega. Tagame pideva optimeerimise ja skaleeritavuse ning kohandame mudeleid paindlikult uutele nõuetele.

Lisateavet selle kohta siin:

• Hallatud tehisintellekti platvorm

Kuidas tehisintellekti kasutamine probleemi muudab?

Siin halveneb olukord dramaatiliselt. Tehnoloogiaettevõtted kasutavad sisu modereerimiseks ja otsuste langetamiseks üha enam automatiseeritud süsteeme. Need tehisintellekti süsteemid ei ole läbipaistvad. Neid ei vaadata regulaarselt üle. Ja ennekõike: nad teevad ka vigu, millel on tohutud tagajärjed. Endermani juhtum on vaid üks paljudest näidetest, kuidas tehisintellektil põhinev modereerimine viib absurdsete või kahjulike tulemusteni.

See muutus eriti ilmseks COVID-19 pandeemia ajal. Kui inimredaktorid polnud kättesaadavad, viisid sotsiaalmeedia platvormid sisu modereerimise massiliselt automatiseeritud süsteemide poole. Tulemuseks oli halbade otsuste laine. Videod, mis ei rikkunud suuniseid, kustutati. Õiguslik sisu kadus. Kasutajad olid pettunud, sest platvormid ei suutnud oma lubadusi pidada.

Tehisintellektil põhineva sisu modereerimise piirangud on põhimõttelised. Tehisintellekt toimib usaldusväärselt ainult siis, kui on olemas piisavalt treeningandmeid. Paljud olukorrad on nüansirikkad ja neid ei ole lihtne kategoriseerida. Fraasil nagu "Mul oli täna õhtul pasta" oli TikTokis topelttähendus – sõna-sõnalt viitas see toidu tarbimisele, kuid trendi kontekstis andis see märku enesetapumõtetest. TikToki algoritm ei suutnud seda nüanssi haarata ja hoopis õhutas trendi.

Lisaks on veamäär süstemaatiline. Euroopa Ringhäälingute Liidu uuring näitas, et tehisintellektil põhinevatel vestlusrobotitel oli 45 protsendil kõigist vastustest päevakajaliste sündmuste kohta käivatele küsimustele vähemalt üks oluline probleem, mis võis lugejaid eksitada. 81 protsendil tulemustest leiti mingisugune viga. See pole erand, see on reegel.

Ometi kasutatakse neid väga veaalteid ja läbipaistmatuid süsteeme miljonite inimeste digitaalse elu saatuse otsustamiseks. Video kustutatakse. Kanal deaktiveeritakse. Ettevõte eemaldatakse platvormilt. Ja otsuse tegi süsteem, millest kasutajad aru ei saa, mis ei ole vastutustundlik ja millel lubatakse karistamatult valesid otsuseid langetada.

Kus peitub riigi vastutus?

Riik ei pigista lihtsalt silmi kinni. Veelgi hullem on see, et riik, kellel on võim seda olukorda parandada, hoopis bürokratiseerib ja takerdub pisiasjadesse. Reeglid on olemas – see on tõsi. Euroopa Liidu digiteenuste seadus sätestab, et platvormid peavad olema läbipaistvad. See nõuab kasutajatelt õigust kaebusi esitada. See sätestab, et väga suured platvormid peavad avalikustama oma süsteemid ja otsused. Kõik see kõlab paberil hästi ja õigesti.

Nende eeskirjade jõustamine on aga killustatud. Saksamaa föderaalne võrguagentuur on võtnud digitaalteenuste koordinaatori rolli ja tema ülesandeks on nüüd nende eeskirjade jõustamine. Aga kas sellel ametil on piisavalt ressursse? Kas tal on piisavalt võimu? Kas üksikud riiklikud asutused saavad tegelikult võtta meetmeid ülemaailmsete tehnoloogiaettevõtete vastu, kes juristide ja lobitöö abil oma kohustustest kõrvale hiilivad?

Lisaks on olemas sügavam probleem. Riik on liiga kaua lubanud erakorporatsioonidel samaaegselt täita väravavahi, kohtuniku ja vandekohtu rolli. Need korporatsioonid otsustavad oma platvormidel, mis on õige ja mis vale. Nad langetavad kohtuotsuseid. Nad viivad karistusi täide. Ja nad ei vastuta kellegi ees. See ei ole ainult regulatiivne viga. See on demokraatia põhimõtteline läbikukkumine.

Pikka aega eeldati, et turud reguleerivad ennast ise ning platvormid tegutsevad maine ja omakasu ajel. See eeldus on osutunud põhimõtteliselt valeks. Platvormid optimeerivad kaasatuse ja reklaamitulu, mitte õigluse nimel. Nad käitavad tehisintellekti süsteeme, mis on odavamad kui inimeste modereerimine, kuigi need süsteemid on altid vigadele. Ja kui viga ilmneb, saavad nad süü nihutada algoritmile, mis väidetavalt tegi autonoomse otsuse.

Mida oleks vaja selle olukorra muutmiseks?

Esiteks tuleb selgitada, et suured platvormid ei ole lihtsalt eraettevõtted, mille üle riigil pole sõnaõigust. Need ettevõtted täidavad avalikke ülesandeid. Nad on avaliku diskursuse vahendajad. Nad on võtnud endale ühiskondliku ülesande, kindlasti majandusliku kasumiga, aga siiski sotsiaalse vastutusega.

See tähendab, et modereerimisotsuste, eriti drastiliste meetmete, näiteks peatamise või kustutamise puhul tuleb kohaldada õigusriigi aluspõhimõtteid. See tähendab täielikku läbipaistvust otsuse põhjuste osas. See tähendab õigust õiglasele ärakuulamisele enne drastiliste meetmete võtmist. See tähendab tegelikku edasikaebamisõigust, mitte automatiseeritud kaebuste esitamise süsteemi, mis praktikas on ebaefektiivne. See tähendab inimese poolt läbivaatamist, eriti algoritmiga seotud juhtudel.

Lisaks peavad tehisintellektil põhinevale modereerimisele olema piirid. Kui süsteem on ekslik ja võib mõjutada miljoneid inimesi, peab inimene alati kaasatud olema. ELi määrused viitavad sellele, kuid nende jõustamine on puudulik. Platvormid leiavad pidevalt viise nendest reeglitest mööda hiilimiseks või nende õõnestamiseks.

Samuti on vaja struktuurilist muutust vastutuses. Platvormid peavad vastutama oma süsteemide otsuste eest. Mitte metafoorselt, vaid juriidiliselt. Kui kanal kustutatakse valesti, peaks platvorm olema kohustatud kahjutasu maksma. See muudaks stiimuleid. Järsku ei oleks vigase automatiseeritud süsteemi kasutamine enam odavam. Järsku oleks inimestele ebaõiglaselt kahju tekitamine hind.

Endermani jaoks oleks see tähendanud, et YouTube ei oleks saanud tema kanalit lihtsalt kustutada põhjusel, et tehisintellekti süsteem lõi vigase ühenduse Jaapani kontoga. Oleks pidanud toimuma ülevaatus. Oleks pidanud olema võimalus reageerida. Ja kui viga oleks jäänud märkamata, oleks YouTube'i võinud vastutusele võtta.

Mis juhtub, kui neid probleeme ei lahendata?

Vastus on laastav. Kui lubame tehisintellekti süsteemidel meelevaldselt inimeste digitaalse eksistentsi üle otsustada, siis tehisintellektiga kaost ei tule – kaos on juba siin. See ainult süveneb. Sest mida intelligentsemaks need süsteemid muutuvad, seda vähem me neist aru saame. Ja mida vähem me neist aru saame, seda vähem suudame neid kontrollida.

Veelgi hullem: probleem kasvab eksponentsiaalselt. Tehisintellekti kasutamine sisu modereerimisel intensiivistub. Süsteemid muutuvad keerukamaks. Veamäärad võivad väheneda või suureneda – keegi ei tea kindlalt. Kuid on kindel, et miljoneid ja peagi miljardeid inimesi mõjutavad otsused, millest nad aru ei saa, mida nad ei saa vaidlustada ja mille eest puudub vastutus.

Ja samal ajal vaatab riik teisele poole. Föderaalne Võrguagentuur kirjeldab oma kohustusi. EL võtab vastu seadusi. Kuid nende jõustamine on poolik. Võimudel on alarahastatud ressursse. Platvormid maksavad trahve, mis on nende jaoks pelgalt taskuraha ega muuda tegelikult nende tavasid. Status quo püsib: tehnoloogiaettevõtted tegutsevad digitaalse avaliku sfääri kontrollimatute valitsejatena.

Selle olukorra juures on tähelepanuväärne see, et seda on võimalik vältida. Lahendused on olemas. Andmete suveräänsuse ja digitaalse enesemääramise reaalsuseks muutmiseks on olemas viise, mitte ainult normatiivseid eesmärke. Kuid selleks peaks riik loobuma oma ükskõiksusest. See peaks tunnistama, et see pole ainult regulatiivne küsimus, vaid võimu tasakaalustamatus. Tehnoloogiaettevõtetel on võim. Nad peavad seda võimu ühiskonna hüvanguks rakendama või see tuleb neilt ära võtta.

Seni jäävad sellised juhtumid nagu Endermani oma mittetoimiva süsteemi sümptomiteks. Mees kaotab oma elutöö. Keegi ei saa teda aidata. Ja masin, mis hävitas tema elutöö, töötab häirimatult edasi, vaadates läbi uusi juhtumeid, langetades uusi otsuseid ning riik dokumenteerib seda kõike haldustoimikutes, samal ajal kui suits tõuseb.

Aitan teid hea meelega isikliku konsultandina.

minuga ühendust võtta Wolfenstein ∂ xpert.digital

Helistage mulle lihtsalt alla +49 89 674 804 (München)

Linkedin