Sovranità dei dati, autodeterminazione e la realtà della moderazione della piattaforma basata sull'intelligenza artificiale

### Un clic e tutto sparisce: il caos silenzioso della moderazione delle piattaforme basata sull'intelligenza artificiale ### Il lavoro di una vita distrutto dall'intelligenza artificiale: perché il tuo account sui social media potrebbe semplicemente scomparire domani ### La grande illusione della sovranità dei dati: come gli algoritmi ci governano segretamente ### Nonostante le nuove leggi dell'UE: perché alle aziende tecnologiche è ancora consentito eliminare arbitrariamente ###

Judge Algorithm: quando un'IA mette fine alla tua vita digitale e nessuno ne è responsabile

Viviamo in un'epoca in cui termini come "sovranità dei dati" e "autodeterminazione digitale" non sono solo slogan politici, ma rappresentano le aspirazioni di un'intera società. Con leggi come il Digital Services Act, l'Europa sta cercando di costruire un baluardo contro le azioni arbitrarie delle aziende tecnologiche globali e di proteggere i diritti fondamentali dei suoi cittadini nella sfera digitale. Ma mentre discutiamo di clausole e regolamenti legali, una realtà si sta dispiegando davanti ai nostri occhi che mette in ridicolo questi nobili obiettivi. Una realtà in cui l'esistenza digitale delle persone viene distrutta con la semplice pressione di un pulsante – non da una persona, ma da un opaco algoritmo.

Ogni giorno, account vengono sospesi e canali eliminati su piattaforme come YouTube, TikTok e Instagram, canali che gli utenti hanno costruito con fatica nel corso degli anni. Il lavoro della loro vita digitale svanisce, spesso senza una chiara giustificazione, senza un giusto processo e senza un modo efficace per presentare ricorso contro la decisione. Sempre più spesso, ciò è dovuto alla moderazione guidata dall'intelligenza artificiale, che è soggetta a errori, opaca e tuttavia possiede il potere ultimo di giudicare la visibilità e l'esistenza digitale. Il caso dello YouTuber tecnologico Enderman, i cui canali con centinaia di migliaia di iscritti sono stati eliminati sulla base di una connessione assurda presumibilmente creata dall'intelligenza artificiale, è solo la punta dell'iceberg. Questo articolo esplora il profondo abisso tra il nostro desiderio di controllo e il potere incontrollato degli algoritmi, che da tempo sono diventati giudici e carnefici nella nostra sfera pubblica digitale.

Dov'è la contraddizione tra le nostre aspirazioni e la nostra realtà?

Parliamo costantemente di sovranità dei dati e autodeterminazione digitale. Questi termini sono diventati tratti distintivi di una cultura sicura di sé e indipendente, che intende presentare la gestione dell'intelligenza artificiale come un segno di maturità. L'Unione Europea si è prefissata di proteggere i propri cittadini dalle azioni arbitrarie delle multinazionali tecnologiche con leggi come il Digital Services Act e il Digital Markets Act. Sono state emanate normative per garantire la trasparenza e tutelare i diritti fondamentali. Ma con tutto questo accumulo di normative, stiamo trascurando un aspetto fondamentale: non abbiamo affrontato la minaccia esistenziale che si manifesta quotidianamente sotto i nostri occhi e mina la credibilità di tutti questi sforzi.

La realtà che i principali canali di social media ci presentano quotidianamente racconta una storia molto diversa da quella della sovranità dei dati e dell'autodeterminazione. Le persone perdono il lavoro della loro vita digitale ogni giorno, senza giustificazione o meccanismi in atto per contrastarlo. Canali costruiti con fatica nel corso degli anni vengono cancellati. Non dopo un'attenta revisione, non dopo processi trasparenti, non dopo la possibilità di un giusto processo. Semplicemente cancellati. E questo avviene in un modo indegno di una democrazia, perché non esistono meccanismi di ricorso efficaci e le persone colpite non sanno nemmeno perché il loro tempo e la loro creatività siano stati sprecati.

Quali esempi specifici dimostrano questa arbitrarietà?

L'esempio più recente e lampante è il caso dello YouTuber tecnologico Enderman. Il creatore di contenuti russo aveva creato un canale YouTube principale con oltre 350.000 iscritti, dove esplorava argomenti tecnologici. I suoi contenuti erano preziosi in termini documentaristici: trattava vecchie versioni di Windows e altri problemi tecnici. Questo canale è stato cancellato senza preavviso. Poco prima, il suo canale secondario, Andrew, anch'esso con centinaia di migliaia di iscritti, era scomparso. Il motivo dichiarato di questa misura drastica era bizzarro: YouTube sosteneva che i canali di Enderman fossero collegati a un canale giapponese che aveva ricevuto il suo terzo avvertimento per violazione del copyright. Un canale che Enderman non conosce, nella cui lingua non comunica e con il quale non ha alcun collegamento.

Ciò che è notevole in questo caso non è solo l'ingiustizia della decisione in sé, ma il modo in cui è stata presa. Enderman ha ipotizzato che dietro ci fosse un sistema di intelligenza artificiale, che aveva stabilito una connessione difettosa tra i suoi canali e un account giapponese sconosciuto. La speranza dello YouTuber esperto di tecnologia che un dipendente YouTube umano esaminasse il suo reclamo è andata in fumo. Sono passati mesi senza una risposta. Enderman ora sembra essersi rassegnato al fatto che il suo tempo su YouTube sia finito. Un altro YouTuber ha segnalato problemi identici nello stesso thread di Twitter: anche il suo canale è stato cancellato con riferimento allo stesso canale giapponese. Questo indica un fallimento sistemico, non un caso isolato di errore umano, ma piuttosto le carenze di un sistema automatizzato che opera senza controllo.

YouTube non è un caso isolato. Diverse piattaforme hanno mostrato modelli simili. TikTok, Instagram, Facebook e altri servizi eliminano contenuti e sospendono account quotidianamente, spesso senza una giustificazione sufficiente. L'organizzazione per la trasparenza Freiheitsrechte.org ha documentato che le piattaforme di social media spesso forniscono spiegazioni inadeguate per le loro decisioni di moderazione ai soggetti interessati. In alcuni casi, le giustificazioni si riferiscono solo in generale a una violazione dei termini di servizio, senza spiegare quale specifica violazione abbia portato all'azione.

Le aziende tecnologiche stanno rispettando la loro responsabilità sociale?

Questo è il punto cruciale in cui dobbiamo correggere i nostri pregiudizi cognitivi. Le principali aziende tecnologiche traggono profitto dai nostri dati, dalla nostra attività economica e dalla nostra società. Utilizzano la nostra rete Internet condivisa come base per il loro business. Guadagnano miliardi di dollari dai ricavi pubblicitari generati dalla nostra attenzione e dai nostri dati personali. Allo stesso tempo, queste aziende si stanno di fatto assumendo responsabilità pubbliche e sociali.

YouTube non è semplicemente un servizio tecnico, come un semplice provider di hosting. La piattaforma è diventata l'infrastruttura della comunicazione pubblica. Determina visibilità, portata e accesso per milioni di persone. Si è affermata come custode di informazioni e conoscenze. Facebook e Instagram sono simili: questi servizi sono diventati snodi centrali del dialogo sociale. Per molte persone, queste piattaforme rappresentano il luogo principale in cui far sentire la propria voce, costruire le proprie community e diffondere i propri messaggi.

Ma mentre queste aziende tecnologiche traggono profitto economico dal loro ruolo di intermediari della comunicazione sociale, si sottraggono alle responsabilità insite in questo ruolo. Un'organizzazione benefica incaricata dallo Stato di svolgere compiti a pagamento non può semplicemente escludere le voci dissenzienti perché non le piacciono. Un'emittente pubblica non può semplicemente mettere a tacere le persone senza aver ascoltato la loro versione dei fatti. Un tribunale non può semplicemente condannare qualcuno senza dargli l'opportunità di difendersi.

Eppure questo è esattamente ciò che accade ogni giorno su queste piattaforme. Le persone vengono escluse senza alcuna reale giustificazione. Il loro lavoro viene cancellato. I loro mezzi di sussistenza vengono distrutti online. E l'unica risposta delle piattaforme è un riferimento ai loro termini di servizio e, nella migliore delle ipotesi, un sistema di reclamo automatizzato che difficilmente risolve i problemi. Questo non è solo ingiusto; è strutturalmente pericoloso per una società aperta.

Qui scoprirai come la tua azienda può implementare soluzioni di intelligenza artificiale personalizzate in modo rapido, sicuro e senza elevate barriere all'ingresso.

Una piattaforma di intelligenza artificiale gestita è il pacchetto completo e senza pensieri per l'intelligenza artificiale. Invece di dover gestire tecnologie complesse, infrastrutture costose e lunghi processi di sviluppo, riceverai una soluzione chiavi in ​​mano su misura per le tue esigenze da un partner specializzato, spesso entro pochi giorni.

I principali vantaggi in sintesi:

⚡ Implementazione rapida: dall'idea all'applicazione operativa in pochi giorni, non mesi. Forniamo soluzioni pratiche che creano valore immediato.

🔒 Massima sicurezza dei dati: i tuoi dati sensibili rimangono con te. Garantiamo un trattamento sicuro e conforme alle normative, senza condividere i dati con terze parti.

💸 Nessun rischio finanziario: paghi solo per i risultati. Gli elevati investimenti iniziali in hardware, software o personale vengono completamente eliminati.

🎯 Concentrati sul tuo core business: concentrati su ciò che sai fare meglio. Ci occupiamo dell'intera implementazione tecnica, del funzionamento e della manutenzione della tua soluzione di intelligenza artificiale.

📈 A prova di futuro e scalabile: la tua intelligenza artificiale cresce con te. Garantiamo ottimizzazione e scalabilità continue e adattiamo i modelli in modo flessibile alle nuove esigenze.

Maggiori informazioni qui:

• Piattaforma di intelligenza artificiale gestita

In che modo l'uso dell'intelligenza artificiale cambia il problema?

Qui, la situazione sta peggiorando drasticamente. Le aziende tecnologiche utilizzano sempre più sistemi automatizzati per moderare i contenuti e prendere decisioni. Questi sistemi di intelligenza artificiale non sono trasparenti. Non vengono sottoposti a revisioni regolari. E soprattutto: commettono errori con conseguenze enormi. Il caso Enderman è solo uno dei tanti esempi di come la moderazione basata sull'intelligenza artificiale porti a risultati assurdi o dannosi.

Ciò è diventato particolarmente evidente durante la pandemia di COVID-19. Quando i revisori umani non erano disponibili, le piattaforme di social media hanno trasferito massicciamente la moderazione dei contenuti a sistemi automatizzati. Il risultato è stata un'ondata di decisioni sbagliate. I video che non violavano le linee guida sono stati eliminati. I contenuti legittimi sono scomparsi. Gli utenti si sono frustrati perché le piattaforme non sono riuscite a mantenere le promesse.

I limiti della moderazione dei contenuti basata sull'intelligenza artificiale sono fondamentali. L'intelligenza artificiale funziona in modo affidabile solo quando sono disponibili dati di addestramento sufficienti. Molte situazioni sono sfumate e non possono essere facilmente categorizzate. Una frase come "Ho mangiato pasta stasera" aveva un doppio significato su TikTok: letteralmente, si riferiva al consumo di cibo, ma nel contesto di un trend, segnalava pensieri suicidi. L'algoritmo di TikTok non è riuscito a cogliere questa sfumatura e ha invece alimentato il trend.

Inoltre, il tasso di errore è sistematico. Uno studio dell'Unione Europea di Radiodiffusione ha dimostrato che i chatbot basati sull'intelligenza artificiale presentavano almeno un problema significativo nel 45% di tutte le risposte a domande su eventi di attualità, un problema che poteva fuorviare i lettori. Nell'81% dei risultati è stato riscontrato un errore di qualche tipo. Questa non è un'eccezione, è la regola.

Eppure, questi sistemi opachi e soggetti a errori vengono utilizzati per decidere il destino della vita digitale di milioni di persone. Un video viene eliminato. Un canale viene disattivato. Un'azienda viene rimossa dalla piattaforma. E la decisione è stata presa da un sistema che gli utenti non possono comprendere, che non è responsabile e che può prendere decisioni sbagliate impunemente.

Dove risiede la responsabilità dello Stato?

Lo Stato non sta semplicemente chiudendo un occhio. Peggio ancora, lo Stato, che ha il potere di correggere questa situazione, sta invece burocratizzando e impantanandosi nei minimi dettagli. Ci sono delle regole, è vero. Il Digital Services Act dell'Unione Europea stabilisce che le piattaforme devono essere trasparenti. Richiede agli utenti il ​​diritto di presentare reclami. Stabilisce che le piattaforme di grandi dimensioni debbano rendere pubblici i propri sistemi e le proprie decisioni. Tutto questo sembra buono e corretto sulla carta.

Tuttavia, l'applicazione di queste norme è frammentata. L'Agenzia Federale per le Reti in Germania ha assunto il ruolo di Coordinatrice dei Servizi Digitali e ora ha il compito di far rispettare queste norme. Ma questa agenzia dispone di risorse sufficienti? Ha abbastanza potere? Le singole autorità nazionali possono davvero agire contro le aziende tecnologiche globali che si sottraggono alle proprie responsabilità ricorrendo ad avvocati e lobbying?

Inoltre, c'è un problema più profondo. Per troppo tempo, lo Stato ha permesso alle aziende private di svolgere contemporaneamente i ruoli di controllori, giudici e giuria. Queste aziende decidono cosa è giusto e cosa è sbagliato sulle loro piattaforme. Emettono verdetti. Eseguono le sentenze. E non sono responsabili nei confronti di nessuno. Questa non è solo una lacuna normativa. È un fallimento fondamentale della democrazia.

Per molto tempo, si è pensato che i mercati si regolassero da soli, che le piattaforme agissero per reputazione e interesse personale. Questa supposizione si è rivelata fondamentalmente errata. Le piattaforme ottimizzano i contenuti in base all'engagement e ai ricavi pubblicitari, non in base all'equità. Utilizzano sistemi di intelligenza artificiale più economici della moderazione umana, sebbene questi sistemi siano soggetti a errori. E quando si verifica un errore, possono attribuire la colpa a un algoritmo che presumibilmente ha preso una decisione autonoma.

Cosa sarebbe necessario per cambiare questa situazione?

In primo luogo, è necessario chiarire che le principali piattaforme non sono semplicemente aziende private su cui lo Stato non ha voce in capitolo. Queste aziende svolgono funzioni pubbliche. Sono intermediari del discorso pubblico. Hanno assunto un compito sociale, certamente con profitto economico, ma comunque con responsabilità sociale.

Ciò significa che i principi fondamentali dello stato di diritto devono applicarsi alle decisioni di moderazione, in particolare a misure drastiche come sospensioni o cancellazioni. Ciò significa piena trasparenza sulle motivazioni di una decisione. Ciò significa il diritto a un'equa udienza prima che vengano adottate misure drastiche. Ciò significa un autentico diritto di ricorso, non un sistema di reclamo automatizzato che nella pratica risulta inefficace. Ciò significa revisione umana, soprattutto nei casi che coinvolgono un algoritmo.

Inoltre, è necessario porre dei limiti alla moderazione basata sull'intelligenza artificiale. Se un sistema è fallibile e può avere effetti su milioni di persone, è sempre necessario il coinvolgimento di un essere umano. Le normative dell'UE puntano in questa direzione, ma l'applicazione delle stesse è carente. Le piattaforme trovano costantemente modi per aggirare o indebolire queste regole.

È necessario anche un cambiamento strutturale in termini di responsabilità. Le piattaforme devono essere ritenute responsabili delle decisioni dei loro sistemi. Non metaforicamente, ma legalmente. Se un canale viene cancellato ingiustamente, la piattaforma dovrebbe essere obbligata a risarcire i danni. Questo cambierebbe gli incentivi. Improvvisamente, non sarebbe più conveniente utilizzare un sistema automatizzato difettoso. Improvvisamente, danneggiare ingiustamente le persone avrebbe un prezzo da pagare.

Per Enderman, questo avrebbe significato che YouTube non avrebbe potuto semplicemente cancellare il suo canale perché un sistema di intelligenza artificiale aveva effettuato una connessione errata a un account giapponese. Avrebbe dovuto esserci una revisione. Avrebbe dovuto esserci l'opportunità di rispondere. E se l'errore fosse passato inosservato, YouTube avrebbe potuto essere ritenuto responsabile.

Cosa succederà se questi problemi non verranno risolti?

La risposta è devastante. Se permettiamo ai sistemi di intelligenza artificiale di decidere arbitrariamente dell'esistenza digitale delle persone, allora il caos non arriverà con l'intelligenza artificiale: il caos è già qui. Non farà che intensificarsi. Perché più questi sistemi diventano intelligenti, meno li comprendiamo. E meno li comprendiamo, meno possiamo controllarli.

Peggio ancora: il problema aumenterà esponenzialmente. L'uso dell'intelligenza artificiale nella moderazione dei contenuti si intensificherà. I sistemi diventeranno più complessi. I tassi di errore potrebbero diminuire o aumentare, nessuno lo sa con certezza. Ma ciò che è certo è che milioni, e presto miliardi, di persone saranno colpite da decisioni che non comprendono, non possono contestare e per le quali non esiste alcuna responsabilità.

E mentre questo accade, lo Stato guarda dall'altra parte. L'Agenzia Federale per le Reti delinea le sue responsabilità. L'UE emana leggi. Ma l'applicazione è tiepida. Le autorità sono a corto di risorse. Le piattaforme pagano multe che per loro sono solo spiccioli e non cambiano realmente le loro pratiche. Lo status quo persiste: le aziende tecnologiche agiscono come dominatrici incontrollate della sfera pubblica digitale.

Ciò che è straordinario di questa situazione è che è evitabile. Le soluzioni esistono. Esistono modi per rendere la sovranità dei dati e l'autodeterminazione digitale una realtà, non solo obiettivi normativi. Ma affinché ciò accada, lo Stato dovrebbe abbandonare la sua indifferenza. Dovrebbe riconoscere che non si tratta solo di una questione normativa, ma di uno squilibrio di potere. Le aziende tecnologiche hanno potere. Devono sfruttare quel potere a beneficio della società, altrimenti deve essergli tolto.

Fino ad allora, casi come quello di Enderman rimangono il sintomo di un sistema che non funziona. Un uomo perde il lavoro di una vita. Nessuno può aiutarlo. E la macchina che ha distrutto il lavoro di una vita continua a funzionare indisturbata, esaminando nuovi casi, emettendo nuovi giudizi, e lo Stato documenta tutto in fascicoli amministrativi mentre il fumo sale.

Sarei felice di fungere da tuo consulente personale.

contattarmi sotto Wolfenstein ∂ xpert.digital

Chiamami sotto +49 89 674 804 (Monaco)

LinkedIn