Суверенитет на данните, самоопределение и реалността на модерирането на платформи, управлявано от изкуствен интелект

### Едно кликване и всичко е изчезнало: Тихият хаос на модерирането на платформи, задвижвани от изкуствен интелект ### Жизнено дело, унищожено от изкуствен интелект: Защо акаунтът ви в социалните медии може просто да изчезне утре ### Великата илюзия за суверенитет на данните: Как алгоритмите тайно ни управляват ### Въпреки новите закони на ЕС: Защо технологичните компании все още имат право да изтриват произволно ###

Алгоритъм за съдия: Когато изкуствен интелект прекрати дигиталния ви живот – и никой не е отговорен

Живеем във време, в което термини като „суверенитет на данните“ и „цифрово самоопределение“ не са просто политически лозунги, а представляват стремежите на цялото общество. Със закони като Закона за цифровите услуги, Европа се опитва да изгради бастион срещу произволните действия на глобалните технологични компании и да защити основните права на своите граждани в цифровата сфера. Но докато обсъждаме правни клаузи и разпоредби, пред очите ни се разгръща реалност, която се подиграва с тези високи цели. Реалност, в която дигиталното съществуване на хората се унищожава с натискането на един бутон – не от човек, а от непрозрачен алгоритъм.

Всеки ден акаунти биват спирани и канали изтривани в платформи като YouTube, TikTok и Instagram – канали, които потребителите старателно са изграждали през годините. Делото на дигиталния им живот изчезва, често без ясна обосновка, без справедливо изслушване и без ефективен начин за обжалване на решението. Все по-често това се дължи на модерирането, управлявано от изкуствен интелект, което е податливо на грешки, непрозрачно и въпреки това притежава върховната власт да преценява видимостта и дигиталното съществуване. Случаят с технологичния YouTuber Enderman, чиито канали със стотици хиляди абонати бяха изтрити въз основа на абсурдна връзка, за която се твърди, че е направена от изкуствен интелект, е само върхът на айсберга. Тази статия изследва дълбоката пропаст между нашето желание за контрол и неконтролираната сила на алгоритмите, които отдавна са се превърнали в съдии и палачи в нашата дигитална публична сфера.

Къде е противоречието между нашите стремежи и нашата реалност?

Постоянно говорим за суверенитет на данните и цифрово самоопределение. Тези термини са се превърнали в отличителни белези на самоуверена и независима култура, която има за цел да представи начина, по който борави с изкуствения интелект, като знак за нейната зрялост. Европейският съюз си е поставил за цел да защити своите граждани от произволните действия на глобалните технологични корпорации със закони като Закона за цифровите услуги и Закона за цифровите пазари. Приети са разпоредби за осигуряване на прозрачност и защита на основните права. Но с цялото това натрупване на регулаторни мерки ние пренебрегваме нещо фундаментално: не сме се справили с екзистенциалната заплаха, която се разгръща ежедневно пред очите ни и подкопава доверието във всички тези усилия.

Реалността, която основните социални медийни канали ни представят ежедневно, разказва съвсем различна история от тази за суверенитета на данните и самоопределението. Хората губят работата си по дигиталния си живот всеки ден, без оправдание или каквито и да било механизми за противодействие. Каналите, старателно изграждани с години, се изтриват. Не след внимателен преглед, не след прозрачни процеси, не след възможност за справедливо изслушване. Просто се изтриват. И това се случва по начин, недостоен за демокрация, защото няма ефективни механизми за обжалване и засегнатите дори не знаят защо са били пропилени времето и креативността им.

Какви конкретни примери демонстрират този произвол?

Най-скорошният и ярък пример е случаят с технологичния YouTuber Enderman. Руският създател на съдържание е изградил основен YouTube канал с над 350 000 абонати, където е изследвал технологични теми. Съдържанието му е било ценно от документална гледна точка – той е разглеждал по-стари версии на Windows и други технически проблеми. Този канал е бил изтрит без предупреждение. Малко преди това вторичният му канал, Andrew, също със стотици хиляди абонати, е изчезнал. Посочената причина за тази драстична мярка е била странна: YouTube твърди, че каналите на Enderman са свързани с японски канал, получил третото си предупреждение за авторски права. Канал, който Enderman не знае, на чийто език не общува и с който няма връзка.

Забележителното в този случай не е само несправедливостта на самото решение, а начинът, по който е взето. Ендърман предположи, че зад него стои система с изкуствен интелект, която е установила неправилна връзка между неговите канали и неизвестен японски акаунт. Надеждата на технологичния YouTuber, че служител на YouTube ще разгледа жалбата му, се изпари. Минаха месеци без отговор. Ендърман сега изглежда се е примирил с факта, че времето му в YouTube е приключило. Друг YouTuber съобщи за идентични проблеми в същата тема в Twitter – неговият канал също беше изтрит с позоваване на същия японски канал. Това сочи системен провал, а не изолиран случай на човешка грешка, а по-скоро недостатъци на автоматизирана система, работеща безконтролно.

YouTube не е изолиран случай. Различни платформи показват подобни модели. TikTok, Instagram, Facebook и други услуги изтриват съдържание и спират акаунти ежедневно, често без достатъчно основание. Организацията за прозрачност Freiheitsrechte.org е документирала, че платформите на социалните медии често предоставят неадекватни обяснения за решенията си за модериране на засегнатите. В някои случаи обосновките се отнасят само общо до нарушение на условията за ползване, без да се обяснява кое конкретно нарушение е довело до действието.

Технологичните компании изпълняват ли своята социална отговорност?

Това е ключовият момент, в който трябва да коригираме когнитивните си пристрастия. Големите технологични компании демонстративно печелят от нашите данни, нашата икономическа дейност и нашето общество. Те използват нашия споделен интернет като своя бизнес основа. Те печелят милиарди от рекламни приходи, генерирани от нашето внимание и нашите лични данни. В същото време тези корпорации де факто поемат обществени и обществени отговорности.

YouTube не е просто техническа услуга, като обикновен доставчик на хостинг услуги. Платформата се е превърнала в инфраструктура на публичната комуникация. Тя определя видимостта, обхвата и достъпа за милиони хора. Тя се е утвърдила като пазител на информацията и знанията. Facebook и Instagram са подобни – тези услуги са се превърнали в централни центрове за социален дискурс. За много хора тези платформи са основното място, където да изразят мнението си, да изградят общностите си и да разпространяват посланията си.

Но макар тези технологични компании да печелят икономически от ролята си на посредници в социалната комуникация, те избягват отговорностите, присъщи на тази роля. Благотворителна организация, наета от държавата да изпълнява задачи срещу заплащане, не може просто да изключва несъгласните гласове, защото не харесва някого. Общественият радио- и телевизионен оператор не може просто да накара хората да замълчат, без да е чул тяхната версия на историята. Съдът не може просто да осъди някого, без да му даде възможност да се защити.

И все пак точно това се случва на тези платформи всеки ден. Хората са изключвани без никакво реално основание. Работата им се изтрива. Препитанието им се унищожава онлайн. А единственият отговор на платформите е позоваване на условията им за ползване и в най-добрия случай автоматизирана система за жалби, която почти не решава никакви проблеми. Това е не само несправедливо; то е структурно опасно за едно отворено общество.

Управлявана AI платформа - Изображение: Xpert.Digital

Тук ще научите как вашата компания може да внедри персонализирани решения с изкуствен интелект бързо, сигурно и без високи бариери за навлизане.

Управляваната AI платформа е вашето цялостно и безпроблемно решение за изкуствен интелект. Вместо да се занимавате със сложни технологии, скъпа инфраструктура и продължителни процеси на разработка, вие получавате готово решение, съобразено с вашите нужди, от специализиран партньор – често само в рамките на няколко дни.

Ключовите предимства накратко:

⚡ Бързо внедряване: От идея до готово за употреба приложение за дни, а не за месеци. Ние предлагаме практични решения, които създават незабавна добавена стойност.

🔒 Максимална сигурност на данните: Вашите чувствителни данни остават при вас. Гарантираме сигурна и съвместима обработка без споделяне на данни с трети страни.

💸 Без финансов риск: Плащате само за резултати. Високите първоначални инвестиции в хардуер, софтуер или персонал са напълно елиминирани.

🎯 Фокусирайте се върху основния си бизнес: Концентрирайте се върху това, което правите най-добре. Ние се грижим за цялостното техническо внедряване, експлоатация и поддръжка на вашето AI решение.

📈 Готов за бъдещето и мащабируем: Вашият изкуствен интелект расте с вас. Ние гарантираме непрекъсната оптимизация и мащабируемост и гъвкаво адаптираме моделите към новите изисквания.

Повече информация тук:

• Управлявана платформа с изкуствен интелект

Как използването на изкуствен интелект променя проблема?

Тук ситуацията се влошава драстично. Технологичните компании все по-често използват автоматизирани системи за модериране на съдържание и вземане на решения. Тези системи с изкуствен интелект не са прозрачни. Те не се проверяват редовно. И най-вече: те също така допускат грешки с огромни последици. Случаят с Ендърман е само един от многото примери за това как модерирането, водено от изкуствен интелект, води до абсурдни или вредни резултати.

Това стана особено очевидно по време на пандемията от COVID-19. Когато човешките рецензенти не бяха на разположение, платформите на социалните медии масово прехвърлиха модерирането на съдържанието си към автоматизирани системи. Резултатът беше вълна от лоши решения. Видеоклиповете, които не нарушаваха насоките, бяха изтрити. Легитимното съдържание изчезна. Потребителите се разочароваха, защото платформите не можеха да спазят обещанията си.

Ограниченията на модерирането на съдържание, базирано на изкуствен интелект, са фундаментални. Изкуственият интелект функционира надеждно само когато са налични достатъчно данни за обучение. Много ситуации са нюансирани и не могат лесно да бъдат категоризирани. Фраза като „Ядох паста тази вечер“ имаше двойно значение в TikTok – буквално се отнасяше до консумацията на храна, но в контекста на тенденция сигнализираше за суицидни мисли. Алгоритъмът на TikTok не успя да схване този нюанс и вместо това подхрани тенденцията.

Освен това, процентът на грешки е систематичен. Проучване на Европейския съюз за радио и телевизия показа, че чатботовете с изкуствен интелект имат поне един съществен проблем в 45% от всички отговори на въпроси за текущи събития, проблем, който би могъл да подведе читателите. В 81% от резултатите е открита някаква грешка. Това не е изключение; това е правило.

И все пак тези много податливи на грешки и непрозрачни системи се използват, за да се реши съдбата на дигиталния живот на милиони хора. Видеоклип е изтрит. Канал е деактивиран. Компания е премахната от платформата. И решението е взето от система, която потребителите не могат да разберат, която не е отговорна и на която е позволено да взема грешни решения безнаказано.

Къде е отговорността на държавата?

Държавата не просто си затваря очите. Още по-лошо е, че държавата, която има правомощията да коригира тази ситуация, вместо това бюрократизира и се затъва в дребни детайли. Има правила – това е вярно. Законът за цифровите услуги на Европейския съюз постановява, че платформите трябва да бъдат прозрачни. Той изисква потребителите да имат право на оплакване. Той постановява, че много големите платформи трябва да разкриват своите системи и решения. Всичко това звучи добре и правилно на хартия.

Прилагането на тези правила обаче е фрагментирано. Федералната мрежова агенция в Германия пое ролята на координатор на цифровите услуги и сега е натоварена със задачата да прилага тези правила. Но разполага ли тази агенция с достатъчно ресурси? Има ли достатъчно правомощия? Могат ли отделните национални органи наистина да предприемат действия срещу глобалните технологични компании, които избягват отговорностите си чрез адвокати и лобиране?

Освен това има и по-дълбок проблем. Твърде дълго държавата позволяваше на частните корпорации едновременно да играят ролите на пазач на портиер, съдия и жури. Тези корпорации решават кое е правилно и кое грешно на своите платформи. Те произнасят присъди. Те налагат наказания. И не носят отговорност пред никого. Това не е просто регулаторен недостатък. Това е фундаментален провал на демокрацията.

Дълго време се предполагаше, че пазарите се саморегулират, че платформите ще действат, водени от репутация и личен интерес. Това предположение се оказа фундаментално погрешно. Платформите оптимизират за ангажираност и приходи от реклама, а не за справедливост. Те използват системи с изкуствен интелект, които са по-евтини от човешката модерация, въпреки че тези системи са склонни към грешки. И когато възникне грешка, те могат да прехвърлят вината върху алгоритъм, който уж е взел автономно решение.

Какво би било необходимо, за да се промени тази ситуация?

Първо, трябва да се изясни, че основните платформи не са просто частни компании, върху които държавата няма думата. Тези компании изпълняват публични функции. Те са посредници в публичния дискурс. Те са поели обществена задача, разбира се с икономическа печалба, но въпреки това със социална отговорност.

Това означава, че основните принципи на върховенството на закона трябва да се прилагат за решенията за модериране, особено за драстичните мерки като временно отстраняване или заличаване. Това означава пълна прозрачност относно причините за дадено решение. Това означава право на справедливо изслушване, преди да бъдат предприети драстични мерки. Това означава истинско право на обжалване, а не автоматизирана система за жалби, която е неефективна на практика. Това означава човешки преглед, особено в случаи, включващи алгоритъм.

Освен това, трябва да има ограничения за модерирането, управлявано от изкуствен интелект. Ако една система е погрешна и може да засегне милиони хора, винаги трябва да участва човек. Регламентите на ЕС сочат в тази посока, но прилагането им липсва. Платформите постоянно намират начини да заобиколят или подкопаят тези правила.

Необходима е и структурна промяна в отчетността. Платформите трябва да бъдат държани отговорни за решенията на своите системи. Не метафорично, а правно отговорни. Ако даден канал бъде неправомерно изтрит, платформата трябва да бъде задължена да плати обезщетения. Това би променило стимулите. Изведнъж вече няма да е по-евтино да се използва дефектна автоматизирана система. Изведнъж ще има цена за несправедливо нараняване на хората.

За Ендърман това би означавало, че YouTube не може просто да изтрие канала му, защото система с изкуствен интелект е осъществила неправилна връзка с японски акаунт. Трябваше да има преглед. Трябваше да има възможност за отговор. И ако грешката останеше незабелязана, YouTube можеше да бъде подведен под отговорност.

Какво ще се случи, ако тези проблеми не бъдат решени?

Отговорът е опустошителен. Ако позволим на системите с изкуствен интелект произволно да решават за дигиталното съществуване на хората, тогава хаосът няма да дойде с изкуствения интелект – хаосът вече е тук. Той само ще се засили. Защото колкото по-интелигентни стават тези системи, толкова по-малко ги разбираме. А колкото по-малко ги разбираме, толкова по-малко можем да ги контролираме.

Още по-лошо: Проблемът ще нараства експоненциално. Използването на изкуствен интелект при модерирането на съдържание ще се засили. Системите ще станат по-сложни. Процентът на грешки може да намалее или да се увеличи - никой не знае със сигурност. Но това, което е гарантирано, е, че милиони, а скоро и милиарди хора ще бъдат засегнати от решения, които не разбират, не могат да оспорят и за които няма отговорност.

И докато това се случва, държавата си затваря очите. Федералната мрежова агенция очертава своите отговорности. ЕС приема закони. Но прилагането им е половинчато. Властите нямат достатъчно ресурси. Платформите плащат глоби, които са им джобни пари, и всъщност не променят практиките си. Статуквото се запазва: технологичните компании действат като неконтролирани владетели на дигиталната публична сфера.

Забележителното в тази ситуация е, че е предотвратима. Съществуват решения. Има начини да се превърне суверенитетът на данните и цифровото самоопределение в реалност, а не само в нормативни цели. Но за да се случи това, държавата ще трябва да се откаже от безразличието си. Тя ще трябва да признае, че това не е просто регулаторен въпрос, а дисбаланс на силите. Технологичните компании имат власт. Те трябва да използват тази власт в полза на обществото, или тя трябва да им бъде отнета.

Дотогава случаи като този на Ендърман остават симптом на неработеща система. Човек губи делото на живота си. Никой не може да му помогне. И машината, която унищожи делото на живота му, продължава да работи необезпокоявано, преглежда нови дела, взема нови решения, а държавата документира всичко това в административни досиета, докато димът се издига.

Konrad Wolfenstein

С удоволствие бих служел като ваш личен съветник.

Можете да се свържете с мен на wolfenstein∂xpert.digital или

Просто ми се обадете на +49 7348 4088 965 .

LinkedIn