Suveranitatea datelor, autodeterminarea și realitatea moderării platformelor bazate pe inteligență artificială

### Un singur clic, totul dispare: Haosul tăcut al moderării platformelor conduse de inteligență artificială ### Munca vieții distrusă de inteligența artificială: De ce contul tău de socializare ar putea pur și simplu să dispară mâine ### Marea iluzie a suveranității datelor: Cum ne domnesc algoritmii în secret ### În ciuda noilor legi ale UE: De ce companiile de tehnologie au încă voie să șteargă în mod arbitrar ###

Algoritmul Judge: Când o inteligență artificială îți pune capăt vieții digitale – și nimeni nu este responsabil

Trăim într-o epocă în care termeni precum „suveranitate a datelor” și „autodeterminare digitală” nu sunt doar sloganuri politice, ci reprezintă aspirațiile unei întregi societăți. Cu legi precum Legea serviciilor digitale, Europa încearcă să construiască un bastion împotriva acțiunilor arbitrare ale companiilor tehnologice globale și să protejeze drepturile fundamentale ale cetățenilor săi în sfera digitală. Dar, în timp ce dezbatem clauze legale și reglementări, o realitate se desfășoară chiar sub ochii noștri care ridiculizează aceste obiective nobile. O realitate în care existența digitală a oamenilor este distrusă prin simpla apăsare a unui buton – nu de către o persoană, ci de un algoritm opac.

În fiecare zi, conturi sunt suspendate și canale șterse pe platforme precum YouTube, TikTok și Instagram - canale pe care utilizatorii le-au construit cu migală de-a lungul anilor. Munca lor digitală dispare, adesea fără o justificare clară, fără o audiere echitabilă și fără o modalitate eficientă de a contesta decizia. Din ce în ce mai mult, acest lucru se datorează moderării bazate pe inteligență artificială, care este predispusă la erori, opacă și totuși posedă puterea supremă de a judeca vizibilitatea și existența digitală. Cazul YouTuberului tehnologic Enderman, ale cărui canale cu sute de mii de abonați au fost șterse pe baza unei conexiuni absurde despre care se presupune că ar fi fost făcută de inteligența artificială, este doar vârful aisbergului. Acest articol explorează prăpastia profundă dintre dorința noastră de control și puterea necontrolată a algoritmilor, care au devenit de mult judecători și călăi în sfera noastră publică digitală.

Unde este contradicția dintre aspirația noastră și realitatea noastră?

Vorbim constant despre suveranitatea datelor și autodeterminarea digitală. Acești termeni au devenit semne distinctive ale unei culturi încrezătoare în sine și independente, menită să prezinte modul în care gestionează inteligența artificială ca un semn al maturității sale. Uniunea Europeană și-a propus să-și protejeze cetățenii de acțiunile arbitrare ale corporațiilor tehnologice globale prin legi precum Legea serviciilor digitale și Legea piețelor digitale. Au fost adoptate reglementări pentru a impune transparența și a proteja drepturile fundamentale. Dar, cu toată această acumulare de reglementări, trecem cu vederea ceva fundamental: nu am abordat amenințarea existențială care se desfășoară zilnic sub ochii noștri și subminează credibilitatea tuturor acestor eforturi.

Realitatea pe care ne-o prezintă zilnic principalele canale de socializare spune o poveste cu totul diferită de cea a suveranității datelor și a autodeterminării. Oamenii își pierd zilnic munca din viața digitală, fără justificare sau fără mecanisme care să le contracareze acest lucru. Canalele construite cu migală de-a lungul anilor sunt șterse. Nu după o analiză atentă, nu după procese transparente, nu după posibilitatea unei audieri echitabile. Pur și simplu șterse. Și acest lucru se întâmplă într-un mod nedemn de o democrație, deoarece nu există mecanisme eficiente de contestare, iar cei afectați nici măcar nu știu de ce timpul și creativitatea lor au fost irosite.

Ce exemple concrete demonstrează acest arbitrar?

Cel mai recent și frapant exemplu este cazul YouTuberului Enderman, specializat în tehnologie. Creatorul de conținut rus își construise un canal principal de YouTube cu peste 350.000 de abonați, unde explora subiecte tehnologice. Conținutul său era valoros din punct de vedere documentar - aborda versiuni mai vechi de Windows și alte probleme tehnice. Acest canal a fost șters fără avertisment. Cu puțin timp înainte, canalul său secundar, Andrew, de asemenea cu sute de mii de abonați, dispăruse. Motivul invocat pentru această măsură drastică a fost bizar: YouTube susținea că canalele lui Enderman erau conectate la un canal japonez care primise a treia avertisment privind drepturile de autor. Un canal pe care Enderman nu îl cunoaște, în a cărui limbă nu comunică și cu care nu are nicio legătură.

Ceea ce este remarcabil în acest caz nu este doar nedreptatea deciziei în sine, ci modul în care a fost luată. Enderman a sugerat că în spatele acesteia s-ar afla un sistem de inteligență artificială, stabilind o conexiune defectuoasă între canalele sale și un cont japonez necunoscut. Speranța YouTuberului tehnic că un angajat YouTube uman îi va analiza plângerea a fost spulberată. Au trecut luni fără un răspuns. Enderman pare acum să se fi resemnat cu faptul că perioada sa pe YouTube s-a terminat. Un alt YouTuber a raportat probleme identice în același fir de discuție de pe Twitter - și canalul său a fost șters cu referire la același canal japonez. Acest lucru indică o defecțiune sistemică, nu un incident izolat de eroare umană, ci mai degrabă deficiențele unui sistem automat care funcționează necontrolat.

YouTube nu este un caz izolat. Diverse platforme au prezentat tipare similare. TikTok, Instagram, Facebook și alte servicii șterg conținut și suspendă conturi zilnic, adesea fără o justificare suficientă. Organizația pentru transparență Freiheitsrechte.org a documentat faptul că platformele de socializare oferă adesea explicații inadecvate pentru deciziile lor de moderare celor afectați. În unele cazuri, justificările se referă, în general, doar la o încălcare a termenilor și condițiilor de utilizare, fără a explica ce încălcare specifică a dus la acțiune.

Își respectă companiile de tehnologie responsabilitatea socială?

Acesta este punctul crucial în care trebuie să ne corectăm prejudecățile cognitive. Marile companii de tehnologie profită în mod demonstrabil de pe urma datelor noastre, a activității noastre economice și a societății noastre. Ele folosesc internetul nostru comun ca fundament al afacerii lor. Câștigă miliarde din veniturile din publicitate generate de atenția noastră și de datele noastre personale. În același timp, aceste corporații își asumă de facto responsabilități publice și societale.

YouTube nu este pur și simplu un serviciu tehnic, precum un simplu furnizor de găzduire. Platforma a devenit infrastructura comunicării publice. Ea determină vizibilitatea, acoperirea și accesul pentru milioane de oameni. Și-a consolidat poziția de paznic al informațiilor și cunoștințelor. Facebook și Instagram sunt similare - aceste servicii au devenit centre centrale pentru discursul social. Pentru mulți oameni, aceste platforme sunt principalul loc pentru a-și ridica vocile, a-și construi comunități și a-și răspândi mesajele.

Însă, deși aceste companii de tehnologie profită economic de pe urma rolului lor de intermediari ai comunicării sociale, ele se sustrag de la responsabilitățile inerente acestui rol. O organizație caritabilă însărcinată de stat să îndeplinească sarcini contra cost nu poate pur și simplu să excludă vocile disidente pentru că nu agreează pe cineva. Un post public de radio și televiziune nu poate pur și simplu să reducă la tăcere indivizii fără să le fi auzit versiunea. O instanță nu poate pur și simplu să condamne pe cineva fără să îi ofere posibilitatea de a se apăra.

Totuși, exact asta se întâmplă pe aceste platforme în fiecare zi. Oamenii sunt excluși fără nicio justificare reală. Munca lor este ștearsă. Mijloacele lor de trai sunt distruse online. Iar singurul răspuns al platformelor este o trimitere la termenii și condițiile lor de utilizare și, în cel mai bun caz, un sistem automat de reclamații care rezolvă cu greu problemele. Acest lucru nu este doar nedrept; este, de asemenea, structural periculos pentru o societate deschisă.

Aici veți afla cum poate compania dumneavoastră să implementeze soluții personalizate de inteligență artificială rapid, în siguranță și fără bariere mari de intrare.

O platformă de inteligență artificială gestionată este soluția completă și fără griji pentru inteligența artificială. În loc să vă confruntați cu tehnologii complexe, infrastructură costisitoare și procese de dezvoltare îndelungate, primiți o soluție gata pregătită, adaptată nevoilor dumneavoastră, de la un partener specializat – adesea în doar câteva zile.

Principalele avantaje, pe scurt:

⚡ Implementare rapidă: De la idee la aplicație gata de utilizare în zile, nu luni. Oferim soluții practice care creează valoare adăugată imediată.

🔒 Securitate maximă a datelor: Datele dumneavoastră sensibile rămân la dumneavoastră. Garantăm procesare sigură și conformă, fără a partaja date cu terțe părți.

💸 Fără risc financiar: Plătești doar pentru rezultate. Investițiile inițiale mari în hardware, software sau personal sunt complet eliminate.

🎯 Concentrează-te pe afacerea ta principală: Concentrează-te pe ceea ce faci cel mai bine. Noi ne ocupăm de întreaga implementare tehnică, operare și mentenanță a soluției tale de inteligență artificială.

📈 Pregătit pentru viitor și scalabil: Inteligența artificială crește odată cu tine. Asigurăm optimizare și scalabilitate continuă și adaptăm flexibil modelele la noile cerințe.

Mai multe informații aici:

• Platformă de inteligență artificială gestionată

Cum schimbă utilizarea inteligenței artificiale problema?

Aici, situația se înrăutățește dramatic. Companiile de tehnologie utilizează din ce în ce mai mult sisteme automate pentru a modera conținutul și a lua decizii. Aceste sisteme de inteligență artificială nu sunt transparente. Nu sunt revizuite în mod regulat. Și mai presus de toate: fac și greșeli cu consecințe masive. Cazul Enderman este doar unul dintre multele exemple despre cum moderarea bazată pe inteligență artificială duce la rezultate absurde sau dăunătoare.

Acest lucru a devenit evident în special în timpul pandemiei de COVID-19. Când evaluatorii umani nu au fost disponibili, platformele de socializare și-au mutat masiv moderarea conținutului către sisteme automate. Rezultatul a fost un val de decizii proaste. Videoclipurile care nu încălcau regulile au fost șterse. Conținutul legitim a dispărut. Utilizatorii au devenit frustrați pentru că platformele nu își puteau respecta promisiunile.

Limitările moderării conținutului bazate pe inteligență artificială sunt fundamentale. Inteligența artificială funcționează fiabil doar atunci când sunt disponibile suficiente date de antrenament. Multe situații sunt nuanțate și nu pot fi ușor clasificate. O expresie precum „Am mâncat paste în seara asta” avea un dublu sens pe TikTok - literalmente, se referea la consumul de alimente, dar în contextul unui trend, semnala gânduri suicidare. Algoritmul TikTok nu a reușit să înțeleagă această nuanță și, în schimb, a alimentat trendul.

În plus, rata de eroare este sistematică. Un studiu realizat de Uniunea Europeană de Radiodifuziune a arătat că chatboții cu inteligență artificială au avut cel puțin o problemă semnificativă în 45% din toate răspunsurile la întrebări despre evenimente curente, o problemă care ar putea induce în eroare cititorii. În 81% din rezultate, a fost găsit un anumit tip de eroare. Aceasta nu este o excepție; este regula.

Totuși, aceste sisteme foarte predispuse la erori și opace sunt folosite pentru a decide soarta vieții digitale a milioane de oameni. Un videoclip este șters. Un canal este dezactivat. O companie este eliminată de pe platformă. Iar decizia a fost luată de un sistem pe care utilizatorii nu îl pot înțelege, care nu este responsabil și căruia i se permite să ia decizii greșite cu impunitate.

Unde se află responsabilitatea statului?

Statul nu se mulțumește pur și simplu să ignore. Mai rău, statul, care are puterea de a corecta această situație, se birocratizează și se împotmolește în detalii minuscule. Există reguli – este adevărat. Legea privind serviciile digitale a Uniunii Europene prevede că platformele trebuie să fie transparente. Aceasta impune utilizatorilor dreptul de a depune plângeri. Aceasta stipulează că platformele foarte mari trebuie să își dezvăluie sistemele și deciziile. Toate acestea sună bine și corect pe hârtie.

Cu toate acestea, aplicarea acestor reguli este fragmentată. Agenția Federală pentru Rețele din Germania a preluat rolul de Coordonator pentru Servicii Digitale și este acum însărcinată cu aplicarea acestor reguli. Dar are această agenție suficiente resurse? Are suficientă putere? Pot autoritățile naționale individuale să ia cu adevărat măsuri împotriva companiilor tehnologice globale care își evită responsabilitățile prin intermediul avocaților și al lobby-ului?

În plus, există o problemă mai profundă. Prea mult timp, statul a permis corporațiilor private să joace simultan rolurile de paznic, judecător și juriu. Aceste corporații decid ce este bine și ce este rău pe platformele lor. Ele dau verdicte. Ele pun în aplicare sentințele. Și nu sunt responsabile față de nimeni. Aceasta nu este doar o problemă de reglementare. Este un eșec fundamental al democrației.

Multă vreme, s-a presupus că piețele se autoreglementează, că platformele ar acționa din reputație și interes propriu. Această presupunere s-a dovedit fundamental greșită. Platformele optimizează pentru implicare și venituri din publicitate, nu pentru corectitudine. Ele utilizează sisteme de inteligență artificială care sunt mai ieftine decât moderarea umană, chiar dacă aceste sisteme sunt predispuse la erori. Și când apare o eroare, pot da vina pe un algoritm care se presupune că a luat o decizie autonomă.

Ce ar fi necesar pentru a schimba această situație?

În primul rând, trebuie clarificat faptul că marile platforme nu sunt simple companii private asupra cărora statul nu are niciun cuvânt de spus. Aceste companii îndeplinesc funcții publice. Sunt intermediari ai discursului public. Și-au asumat o sarcină societală, cu siguranță cu profit economic, dar totuși cu responsabilitate socială.

Aceasta înseamnă că principiile fundamentale ale statului de drept trebuie să se aplice deciziilor de moderare, în special măsurilor drastice precum suspendările sau ștergerile. Aceasta înseamnă transparență deplină în ceea ce privește motivele unei decizii. Aceasta înseamnă dreptul la o audiere echitabilă înainte de a fi luate măsuri drastice. Aceasta înseamnă un drept real la apel, nu un sistem automat de reclamații care este ineficient în practică. Aceasta înseamnă o revizuire umană, în special în cazurile care implică un algoritm.

În plus, trebuie să existe limite pentru moderarea bazată pe inteligență artificială. Dacă un sistem este falibil și poate afecta milioane de oameni, o ființă umană trebuie să fie întotdeauna implicată. Reglementările UE indică în această direcție, dar aplicarea lor lipsește. Platformele găsesc constant modalități de a eluda sau submina aceste reguli.

Este necesară și o schimbare structurală în ceea ce privește responsabilitatea. Platformele trebuie să fie trase la răspundere pentru deciziile sistemelor lor. Nu metaforic, ci legal. Dacă un canal este șters în mod abuziv, platforma ar trebui să fie obligată să plătească daune. Acest lucru ar schimba stimulentele. Dintr-o dată, nu ar mai fi mai ieftin să folosești un sistem automat defect. Dintr-o dată, ar exista un preț pentru a prejudicia pe nedrept oamenii.

Pentru Enderman, asta ar fi însemnat că YouTube nu i-ar fi putut pur și simplu șterge canalul pentru că un sistem de inteligență artificială a stabilit o conexiune defectuoasă la un cont japonez. Ar fi trebuit să existe o revizuire. Ar fi trebuit să existe o oportunitate de a răspunde. Și dacă eroarea ar fi trecut neobservată, YouTube ar fi putut fi tras la răspundere.

Ce se va întâmpla dacă aceste probleme nu sunt rezolvate?

Răspunsul este devastator. Dacă permitem sistemelor de inteligență artificială să decidă arbitrar asupra existenței digitale a oamenilor, atunci haosul nu va veni odată cu inteligența artificială - haosul este deja aici. El se va intensifica. Pentru că, cu cât aceste sisteme devin mai inteligente, cu atât le înțelegem mai puțin. Și cu cât le înțelegem mai puțin, cu atât le putem controla mai puțin.

Și mai rău: problema va crește exponențial. Utilizarea inteligenței artificiale în moderarea conținutului se va intensifica. Sistemele vor deveni mai complexe. Ratele de eroare pot scădea sau crește - nimeni nu știe cu siguranță. Dar ceea ce este garantat este că milioane, și în curând miliarde, de oameni vor fi afectați de decizii pe care nu le înțeleg, nu le pot contesta și pentru care nu există nicio responsabilitate.

Și în timp ce se întâmplă acest lucru, statul privește în altă parte. Agenția Federală pentru Rețele își prezintă responsabilitățile. UE adoptă legi. Dar aplicarea legii este neînfricată. Autoritățile nu dispun de suficiente resurse. Platformele plătesc amenzi care sunt doar bani de buzunar pentru ele și nu își schimbă cu adevărat practicile. Status quo-ul persistă: companiile de tehnologie acționează ca niște conducători necontrolați ai sferei publice digitale.

Ceea ce este remarcabil în această situație este că este evitabilă. Soluții există. Există modalități de a face din suveranitatea datelor și autodeterminarea digitală o realitate, nu doar obiective normative. Dar pentru ca acest lucru să se întâmple, statul ar trebui să renunțe la indiferența sa. Ar trebui să recunoască faptul că aceasta nu este doar o problemă de reglementare, ci un dezechilibru de putere. Companiile de tehnologie au putere. Trebuie să valorifice această putere în beneficiul societății, altfel trebuie să le fie luată.

Până atunci, cazuri precum cel al lui Enderman rămân simptomatice ale unui sistem care nu funcționează. Un om își pierde munca de o viață. Nimeni nu-l poate ajuta. Iar mașina care i-a distrus munca de o viață continuă să funcționeze netulburată, analizând noi cazuri, pronunțând noi hotărâri judecătorești, iar statul documentează totul în dosare administrative, în timp ce fumul se ridică.

Aș fi bucuros să vă servesc drept consilier personal.

contacta la wolfenstein ∂ xpert.digital

Sunați-mă la +49 89 89 674 804 (München) .

LinkedIn