Суверенитет података, самоопредељење и стварност модерирања платформи вођеног вештачком интелигенцијом

### Један клик, све је нестало: Тихи хаос модерирања платформи вођених вештачком интелигенцијом ### Животно дело уништено од стране вештачке интелигенције: Зашто би ваш налог на друштвеним мрежама могао једноставно да нестане сутра ### Велика илузија суверенитета података: Како алгоритми тајно владају нама ### Упркос новим законима ЕУ: Зашто је технолошким компанијама и даље дозвољено произвољно брисање ###

Алгоритам судије: Када вештачка интелигенција оконча ваш дигитални живот – и нико није одговоран

Живимо у времену када термини попут „суверенитета података“ и „дигиталног самоопредељења“ нису само политички слогани, већ представљају тежње целог друштва. Законима попут Закона о дигиталним услугама, Европа покушава да изгради бедем против произвољних поступака глобалних технолошких компанија и да заштити основна права својих грађана у дигиталној сфери. Али док расправљамо о правним клаузулама и прописима, пред нашим очима се одвија стварност која исмева ове узвишене циљеве. Стварност у којој се дигитално постојање људи уништава притиском на дугме – не од стране особе, већ од стране непрозирног алгоритма.

Свакодневно се суспендују налози и бришу канали на платформама попут Јутјуба, ТикТока и Инстаграма – каналима које су корисници мукотрпно градили годинама. Њихово дигитално животно дело нестаје, често без јасног образложења, без праведног саслушања и без ефикасног начина жалбе на одлуку. Све чешће је то због модерирања вођеног вештачком интелигенцијом, које је склоно грешкама, непрозирно, а ипак поседује крајњу моћ да процени видљивост и дигитално постојање. Случај технолошког јутјубера Ендермана, чији су канали са стотинама хиљада претплатника обрисани на основу апсурдне везе коју је наводно успоставила вештачка интелигенција, само је врх леденог брега. Овај чланак истражује дубоки понор између наше жеље за контролом и неконтролисане моћи алгоритама, који су одавно постали судије и извршитељи у нашој дигиталној јавној сфери.

Где је контрадикција између наших тежњи и наше стварности?

Стално говоримо о суверенитету података и дигиталном самоопредељењу. Ови термини су постали обележја самоуверене и независне културе, оне која треба да прикаже њено руковање вештачком интелигенцијом као знак њене зрелости. Европска унија је кренула да заштити своје грађане од произвољних поступака глобалних технолошких корпорација законима као што су Закон о дигиталним услугама и Закон о дигиталним тржиштима. Донети су прописи ради спровођења транспарентности и заштите основних права. Али са свим овим регулаторним гомилањем, превиђамо нешто фундаментално: нисмо се позабавили егзистенцијалном претњом која се свакодневно одвија пред нашим очима и поткопава кредибилитет свих ових напора.

Реалност коју нам главни канали друштвених медија свакодневно представљају говори сасвим другачију причу од оне о суверенитету података и самоопредељењу. Људи свакодневно губе свој дигитални животни посао, без оправдања или било каквих механизама који би се томе супротставили. Канали мукотрпно градили годинама се бришу. Не након пажљивог прегледа, не након транспарентних процеса, не након могућности правичног саслушања. Једноставно се бришу. И то се дешава на начин недостојан демократије, јер не постоје ефикасни механизми за жалбу, а они који су погођени чак ни не знају зашто су им време и креативност потрошени узалуд.

Који конкретни примери показују ову произвољност?

Најновији и најзначајнији пример је случај технолошког јутјубера Ендермана. Руски креатор садржаја је изградио главни Јутјуб канал са преко 350.000 претплатника, где је истраживао технолошке теме. Његов садржај је био вредан у документарном смислу – бавио се старијим верзијама Виндоуса и другим техничким проблемима. Овај канал је обрисан без упозорења. Недуго пре тога, његов секундарни канал, Ендру, такође са стотинама хиљада претплатника, је нестао. Наведени разлог за ову драстичну меру био је бизаран: Јутјуб је тврдио да су Ендерманови канали повезани са јапанским каналом који је добио трећу опомену за ауторска права. Каналом који Ендерман не зна, на чијем језику не комуницира и са којим нема никакве везе.

Оно што је изванредно у овом случају није само неправда саме одлуке, већ начин на који је донета. Ендерман је сугерисао да иза ње стоји систем вештачке интелигенције, који је успоставио неисправну везу између његових канала и непознатог јапанског налога. Нада технолошког јутјубера да ће људски запослени на Јутјубу прегледати његову жалбу била је угашена. Месеци су пролазили без одговора. Ендерман се сада, чини се, помирио са чињеницом да је његово време на Јутјубу завршено. Још један јутјубер је пријавио идентичне проблеме у истој Твитер теми – и његов канал је обрисан са позивањем на исти јапански канал. Ово указује на системски квар, а не на изоловани инцидент људске грешке, већ на недостатке аутоматизованог система који ради неконтролисано.

Јутјуб није изолован случај. Различите платформе су показале сличне обрасце. ТикТок, Инстаграм, Фејсбук и други сервиси свакодневно бришу садржај и суспендују налоге, често без довољног образложења. Организација за транспарентност Freiheitsrechte.org је документовала да платформе друштвених медија често пружају неадекватна објашњења за своје одлуке о модерирању онима који су погођени. У неким случајевима, образложења се само генерално односе на кршење услова коришћења, без објашњења које је конкретно кршење довело до акције.

Да ли технолошке компаније испуњавају своју друштвену одговорност?

Ово је кључна тачка у којој морамо да исправимо своје когнитивне пристрасности. Велике технолошке компаније очигледно профитирају од наших података, наше економске активности и нашег друштва. Користе наш заједнички интернет као своју пословну основу. Зарађују милијарде од прихода од оглашавања генерисаног нашом пажњом и нашим личним подацима. Истовремено, ове корпорације де факто преузимају јавне и друштвене одговорности.

Јутјуб није само техничка услуга попут обичног провајдера хостинга. Платформа је постала инфраструктура јавне комуникације. Она одређује видљивост, досег и приступ милионима људи. Учврстила се у позицији чувара информација и знања. Фејсбук и Инстаграм су слични – ови сервиси су постали централна места за друштвени дискурс. За многе људе, ове платформе су примарно место за подизање гласа, изградњу заједница и ширење порука.

Али док ове технолошке компаније економски профитирају од својих улога посредника у друштвеној комуникацији, оне избегавају одговорности које су својствене овој улози. Добротворна организација коју је држава ангажовала да обавља задатке уз накнаду не може једноставно искључити гласове неистомишљеника зато што јој се неко не свиђа. Јавни емитер не може једноставно ућуткати појединце, а да није чуо њихову страну приче. Суд не може једноставно осудити некога, а да му не пружи прилику да се брани.

Па ипак, управо се то дешава на овим платформама сваког дана. Људи су искључени без икаквог правог оправдања. Њихов рад се брише. Њихова егзистенција се уништава на мрежи. А једини одговор платформи је позивање на њихове услове коришћења услуга и, у најбољем случају, аутоматизовани систем за жалбе који једва решава било какве проблеме. Ово није само неправедно; то је структурно опасно за отворено друштво.

Управљана AI платформа - Слика: Xpert.Digital

Овде ћете сазнати како ваша компанија може брзо, безбедно и без високих баријера за улазак имплементирати прилагођена решења за вештачку интелигенцију.

Управљана AI платформа је ваше свеобухватно и безбрижно решење за вештачку интелигенцију. Уместо да се бавите сложеном технологијом, скупом инфраструктуром и дуготрајним процесима развоја, добијате готово решење прилагођено вашим потребама од специјализованог партнера – често у року од само неколико дана.

Кључне предности на први поглед:

⚡ Брза имплементација: Од идеје до апликације спремне за употребу за дане, а не месеци. Нудимо практична решења која стварају тренутну додату вредност.

🔒 Максимална безбедност података: Ваши осетљиви подаци остају код вас. Гарантујемо безбедну и усклађену обраду без дељења података са трећим лицима.

💸 Без финансијског ризика: Плаћате само за резултате. Велика почетна улагања у хардвер, софтвер или особље су потпуно елиминисана.

🎯 Фокусирајте се на свој основни посао: Концентришите се на оно што најбоље радите. Ми се бринемо о целокупној техничкој имплементацији, раду и одржавању вашег вештачке интелигенције.

📈 Спремно за будућност и скалабилно: Ваша вештачка интелигенција расте са вама. Обезбеђујемо континуирану оптимизацију и скалабилност и флексибилно прилагођавамо моделе новим захтевима.

Више информација овде:

• Управљана AI платформа

Како употреба вештачке интелигенције мења проблем?

Овде се ситуација драматично погоршава. Технолошке компаније све више користе аутоматизоване системе за модерирање садржаја и доношење одлука. Ови системи вештачке интелигенције нису транспарентни. Не преиспитују се редовно. И пре свега: они такође праве грешке са огромним последицама. Случај Ендерман је само један од многих примера како модерирање вођено вештачком интелигенцијом доводи до апсурдних или штетних резултата.

Ово је постало посебно очигледно током пандемије COVID-19. Када људски рецензенти нису били доступни, платформе друштвених медија су масовно пребациле модерирање садржаја на аутоматизоване системе. Резултат је био талас лоших одлука. Видео снимци који нису кршили смернице су обрисани. Легитиман садржај је нестао. Корисници су постали фрустрирани јер платформе нису могле да испуне своја обећања.

Ограничења модерирања садржаја заснованог на вештачкој интелигенцији су фундаментална. Вештачка интелигенција функционише поуздано само када је доступно довољно података за обуку. Многе ситуације су нијансиране и не могу се лако категоризовати. Фраза попут „Јео сам пасту вечерас“ имала је двоструко значење на ТикТоку – буквално се односила на конзумирање хране, али у контексту тренда сигнализирала је самоубилачке мисли. ТикТок алгоритам није успео да схвати ову нијансу и уместо тога је подстицао тренд.

Штавише, стопа грешака је систематска. Студија Европске радиодифузне уније показала је да су четботови са вештачком интелигенцијом имали барем један значајан проблем у 45% свих одговора на питања о актуелним догађајима, проблем који би могао да завара читаоце. У 81% резултата пронађена је нека врста грешке. Ово није изузетак; то је правило.

Па ипак, ови веома склони грешкама и непрозирни системи се користе за одлучивање о судбини дигиталних живота милиона људи. Видео је обрисан. Канал је деактивиран. Компанија је уклоњена са платформе. А одлуку је донео систем који корисници не могу да разумеју, који није одговоран и коме је дозвољено да доноси погрешне одлуке некажњено.

Где је ту одговорност државе?

Држава не само да затвара очи пред тим. Штавише, држава, која има моћ да исправи ову ситуацију, уместо тога бирократизује и заглављује се у ситним детаљима. Постоје правила – то је тачно. Закон о дигиталним услугама Европске уније предвиђа да платформе морају бити транспарентне. Он захтева од корисника да имају право на жалбе. Он предвиђа да веома велике платформе морају открити своје системе и своје одлуке. Све ово звучи добро и исправно на папиру.

Међутим, спровођење ових правила је фрагментирано. Федерална мрежна агенција у Немачкој преузела је улогу координатора дигиталних услуга и сада је задужена за спровођење ових правила. Али да ли ова агенција има довољно ресурса? Да ли има довољно моћи? Да ли појединачне националне власти заиста могу да предузму мере против глобалних технолошких компанија које избегавају своје одговорности путем адвоката и лобирања?

Штавише, постоји и дубљи проблем. Предуго је држава дозвољавала приватним корпорацијама да истовремено играју улогу чувара капије, судије и пороте. Ове корпорације одлучују шта је исправно, а шта погрешно на својим платформама. Оне доносе пресуде. Оне спроводе казне. И нису одговорне никоме. Ово није само регулаторна грешка. То је фундаментални неуспех демократије.

Дуго времена се претпостављало да се тржишта сама регулишу, да ће платформе деловати из угледа и сопственог интереса. Ова претпоставка се показала фундаментално погрешном. Платформе оптимизују за ангажовање и приход од оглашавања, а не за праведност. Оне користе системе вештачке интелигенције који су јефтинији од људске модерације, иако су ти системи склони грешкама. А када дође до грешке, могу да пребаце кривицу на алгоритам који је наводно донео аутономну одлуку.

Шта би било потребно да се ова ситуација промени?

Прво, мора се разјаснити да главне платформе нису само приватне компаније над којима држава нема никакву реч. Ове компаније обављају јавне функције. Оне су посредници јавног дискурса. Оне су преузеле друштвени задатак, свакако са економским профитом, али ипак са друштвеном одговорношћу.

То значи да се основни принципи владавине права морају примењивати на одлуке о модерирању, посебно на драстичне мере као што су суспензије или брисање. То значи потпуну транспарентност у погледу разлога за одлуку. То значи право на правично саслушање пре него што се предузму драстичне мере. То значи истинско право на жалбу, а не аутоматизовани систем за жалбе који је неефикасан у пракси. То значи људски преглед, посебно у случајевима који укључују алгоритам.

Штавише, морају постојати ограничења за модерирање вођено вештачком интелигенцијом. Ако је систем погрешан и може утицати на милионе људи, човек увек мора бити укључен. Прописи ЕУ указују у том правцу, али недостаје спровођење. Платформе стално проналазе начине да заобиђу или поткопају ова правила.

Такође је потребна структурна промена у одговорности. Платформе морају бити одговорне за одлуке својих система. Не метафорички одговорне, већ правно одговорне. Ако је канал погрешно обрисан, платформа би требало да буде обавезна да плати одштету. Ово би променило подстицаје. Одједном, више не би било јефтиније користити неисправан аутоматизовани систем. Одједном би постојала цена за неправедно наношење штете људима.

За Ендермана, ово би значило да Јутјуб није могао једноставно да обрише његов канал зато што је систем вештачке интелигенције направио неисправну везу са јапанским налогом. Требало је да се спроведе преглед. Требало је да постоји могућност за одговор. А ако грешка остане непримећена, Јутјуб би могао да буде позван на одговорност.

Шта ће се десити ако се ови проблеми не реше?

Одговор је поражавајући. Ако дозволимо системима вештачке интелигенције да произвољно одлучују о дигиталном постојању људи, онда хаос неће стићи са вештачком интелигенцијом — хаос је већ овде. Он ће се само појачати. ​​Јер што ови системи постају интелигентнији, то их мање разумемо. А што их мање разумемо, то их мање можемо контролисати.

Још горе: Проблем ће експоненцијално расти. Употреба вештачке интелигенције у модерирању садржаја ће се интензивирати. Системи ће постати сложенији. Стопе грешака могу се смањити или повећати - нико не зна са сигурношћу. Али оно што је загарантовано јесте да ће милиони, а ускоро и милијарде људи бити погођени одлукама које не разумеју, не могу да оспоре и за које не постоји одговорност.

И док се ово дешава, држава гледа на другу страну. Федерална мрежна агенција наводи своје одговорности. ЕУ доноси законе. Али спровођење је неодлучно. Власти немају довољно ресурса. Платформе плаћају казне које су за њих само ситнина и заправо не мењају њихове праксе. Статус кво опстаје: технолошке компаније делују као неконтролисани владари дигиталне јавне сфере.

Оно што је изванредно у вези са овом ситуацијом јесте то што се може избећи. Решења постоје. Постоје начини да се суверенитет података и дигитално самоопредељење остваре, а не само нормативни циљеви. Али да би се то догодило, држава би морала да напусти своју равнодушност. Морала би да препозна да ово није само регулаторно питање, већ неравнотежа моћи. Технолошке компаније имају моћ. Морају да искористе ту моћ за добробит друштва, или им мора бити одузета.

До тада, случајеви попут Ендермановог остају симптоми система који не функционише. Човек губи своје животно дело. Нико му не може помоћи. А машина која је уништила његово животно дело наставља да ради неометано, прегледа нове случајеве, доноси нове пресуде, а држава све то документује у административним досијеима док се дим диже.

Konrad Wolfenstein

Било би ми драго да вам будем лични саветник.

Можете ме контактирати на wolfenstein∂xpert.digital или

Само ме позовите на +49 7348 4088 965 .

ЛинкедИн