Veri egemenliği, kendi kaderini tayin etme ve yapay zeka destekli platform moderasyonunun gerçekliği

### Tek bir tıklamayla her şey gitti: Yapay zeka destekli platform moderasyonunun sessiz kaosu ### Yapay zeka tarafından mahvedilen hayat işi: Sosyal medya hesabınız neden yarın ortadan kaybolabilir ### Veri egemenliğinin büyük yanılsaması: Algoritmalar gizlice bizi nasıl yönetiyor ### Yeni AB yasalarına rağmen: Teknoloji şirketlerinin neden hâlâ keyfi olarak silmelerine izin veriliyor ###

Yargıç Algoritması: Bir yapay zeka dijital hayatınızı sona erdirdiğinde - ve bundan kimse sorumlu olmadığında

"Veri egemenliği" ve "dijital özyönetim" gibi terimlerin yalnızca siyasi sloganlar değil, aynı zamanda tüm bir toplumun özlemlerini temsil ettiği bir zamanda yaşıyoruz. Avrupa, Dijital Hizmetler Yasası gibi yasalarla küresel teknoloji şirketlerinin keyfi eylemlerine karşı bir siper inşa etmeye ve dijital alanda vatandaşlarının temel haklarını korumaya çalışıyor. Ancak biz yasal hükümleri ve düzenlemeleri tartışırken, gözlerimizin önünde bu yüce hedefleri gülünç duruma düşüren bir gerçeklik ortaya çıkıyor: İnsanların dijital varoluşunun bir düğmeye basılarak yok edildiği bir gerçeklik – bir kişi tarafından değil, anlaşılması güç bir algoritma tarafından.

YouTube, TikTok ve Instagram gibi platformlarda her gün hesaplar askıya alınıyor ve kanallar siliniyor; bu kanallar, kullanıcıların yıllar içinde özenle oluşturdukları kanallar. Dijital yaşam emekleri, çoğu zaman açık bir gerekçe, adil bir duruşma ve karara itiraz etmenin etkili bir yolu olmaksızın yok oluyor. Bu durum, giderek artan bir şekilde, hataya açık, şeffaf olmayan ve yine de görünürlüğü ve dijital varoluşu yargılama konusunda nihai güce sahip olan yapay zekâ destekli moderasyondan kaynaklanıyor. Yüz binlerce abonesi olan kanalları, yapay zekâ tarafından kurulduğu iddia edilen saçma bir bağlantı nedeniyle silinen teknoloji YouTuber'ı Enderman'ın davası, buzdağının sadece görünen kısmı. Bu makale, kontrol arzumuz ile dijital kamusal alanımızda çoktan yargıç ve cellat haline gelmiş algoritmaların kontrolsüz gücü arasındaki derin uçurumu inceliyor.

Arzularımızla gerçekliğimiz arasında çelişki nerede?

Sürekli olarak veri egemenliği ve dijital özyönetimden bahsediyoruz. Bu terimler, yapay zekâyı ele alış biçimini olgunluğunun bir işareti olarak tasvir etmeyi amaçlayan, kendine güvenen ve bağımsız bir kültürün alametifarikası haline geldi. Avrupa Birliği, Dijital Hizmetler Yasası ve Dijital Piyasalar Yasası gibi yasalarla vatandaşlarını küresel teknoloji şirketlerinin keyfi eylemlerinden korumayı amaçladı. Şeffaflığı sağlamak ve temel hakları güvence altına almak için düzenlemeler yürürlüğe kondu. Ancak tüm bu düzenleyici birikimle birlikte temel bir şeyi gözden kaçırıyoruz: Gözlerimizin önünde her gün ortaya çıkan ve tüm bu çabaların güvenilirliğini zedeleyen varoluşsal tehdidi ele almadık.

Başlıca sosyal medya kanallarının bize her gün sunduğu gerçeklik, veri egemenliği ve kendi kaderini tayin etme hikâyesinden çok farklı bir hikâye anlatıyor. İnsanlar, dijital yaşamlarındaki emeklerini her gün, hiçbir gerekçe veya buna karşı koyacak herhangi bir mekanizma olmaksızın kaybediyorlar. Yıllar içinde özenle oluşturulmuş kanallar siliniyor. Dikkatli bir incelemeden, şeffaf süreçlerden, adil bir yargılama olasılığından sonra değil. Sadece siliniyor. Ve bu, demokrasiye yakışmayacak bir şekilde gerçekleşiyor çünkü etkili bir itiraz mekanizması yok ve etkilenenler zamanlarının ve yaratıcılıklarının neden boşa harcandığını bile bilmiyorlar.

Bu keyfiliği gösteren somut örnekler nelerdir?

En son ve çarpıcı örnek, teknoloji YouTuber'ı Enderman'ın durumu. Rus içerik üreticisi, 350.000'den fazla abonesi olan ve teknolojik konuları ele aldığı bir ana YouTube kanalı kurmuştu. İçeriği belgesel açıdan değerliydi; eski Windows sürümleri ve diğer teknik sorunlarla ilgileniyordu. Bu kanal uyarı yapılmadan silindi. Kısa bir süre önce, yine yüz binlerce abonesi olan ikincil kanalı Andrew da ortadan kaybolmuştu. Bu sert önlemin gerekçesi tuhaftı: YouTube, Enderman'ın kanallarının, üçüncü telif hakkı ihtarı alan bir Japon kanalına bağlı olduğunu iddia etti. Enderman'ın bilmediği, dilini bilmediği ve hiçbir bağlantısı olmayan bir kanal.

Bu davada dikkat çekici olan sadece kararın adaletsizliği değil, aynı zamanda veriliş biçimi. Enderman, kanallarıyla bilinmeyen bir Japon hesabı arasında hatalı bir bağlantı kuran bir yapay zeka sisteminin bunda etkili olduğunu öne sürdü. Teknoloji YouTuber'ının şikayetinin bir insan YouTube çalışanı tarafından inceleneceği umudu suya düştü. Aylar geçti ve bir yanıt gelmedi. Enderman artık YouTube'daki zamanının sona erdiği gerçeğini kabullenmiş gibi görünüyor. Başka bir YouTuber da aynı Twitter başlığında aynı sorunları bildirdi; kanalı da aynı Japon kanalına atıfta bulunarak silindi. Bu, münferit bir insan hatası olayından ziyade, kontrolsüz çalışan otomatik bir sistemin eksikliklerini gösteren sistematik bir arızaya işaret ediyor.

YouTube münferit bir vaka değil. Çeşitli platformlar benzer örüntüler sergiliyor. TikTok, Instagram, Facebook ve diğer hizmetler, genellikle yeterli bir gerekçe göstermeden günlük olarak içerikleri siliyor ve hesapları askıya alıyor. Şeffaflık kuruluşu Freiheitsrechte.org, sosyal medya platformlarının, etkilenenlere verdikleri moderasyon kararları için genellikle yetersiz açıklamalar sunduğunu belgeledi. Bazı durumlarda, gerekçeler yalnızca hizmet şartlarının ihlaline atıfta bulunuyor ve hangi ihlalin eyleme yol açtığını açıklamıyor.

Teknoloji şirketleri sosyal sorumluluklarını yerine getiriyor mu?

Bilişsel önyargılarımızı düzeltmemiz gereken kritik nokta burası. Büyük teknoloji şirketlerinin verilerimizden, ekonomik faaliyetlerimizden ve toplumumuzdan açıkça kâr elde ettikleri görülüyor. Ortak internetimizi işlerinin temeli olarak kullanıyorlar. Dikkatimiz ve kişisel verilerimizle elde ettikleri reklam gelirlerinden milyarlarca dolar kazanıyorlar. Aynı zamanda, bu şirketler fiilen kamusal ve toplumsal sorumluluklar üstleniyorlar.

YouTube, sıradan bir barındırma sağlayıcısı gibi basit bir teknik hizmet değildir. Platform, kamusal iletişimin altyapısı haline gelmiştir. Milyonlarca insanın görünürlüğünü, erişimini ve erişimini belirler. Bilgi ve bilginin bekçisi konumuna yerleşmiştir. Facebook ve Instagram da benzer şekildedir; bu hizmetler sosyal söylemin merkezi merkezleri haline gelmiştir. Birçok kişi için bu platformlar, seslerini duyurmak, topluluklarını oluşturmak ve mesajlarını yaymak için birincil yerdir.

Ancak bu teknoloji şirketleri, sosyal iletişim aracıları olarak üstlendikleri rolden ekonomik olarak kâr elde ederken, bu rolün getirdiği sorumluluklardan kaçınıyorlar. Devlet tarafından ücret karşılığında görevlendirilmiş bir hayır kurumu, sırf birinden hoşlanmadıkları için muhalif sesleri dışlayamaz. Bir kamu yayıncısı, hikâyenin kendi tarafını dinlemeden kişileri susturamaz. Bir mahkeme, birine kendini savunma fırsatı vermeden onu mahkum edemez.

Oysa bu platformlarda her gün tam da böyle oluyor. İnsanlar hiçbir geçerli gerekçe olmaksızın dışlanıyor. Çalışmaları siliniyor. Geçim kaynakları internette yok ediliyor. Platformların tek tepkisi ise hizmet şartlarına atıfta bulunmak ve en iyi ihtimalle hiçbir sorunu çözmeyen otomatik bir şikayet sistemi. Bu sadece adaletsiz olmakla kalmıyor, aynı zamanda açık bir toplum için yapısal olarak tehlikeli.

Yönetilen Yapay Zeka Platformu - Görsel: Xpert.Digital

Burada, şirketinizin özelleştirilmiş yapay zeka çözümlerini hızlı, güvenli ve yüksek giriş engelleri olmadan nasıl uygulayabileceğini öğreneceksiniz.

Yönetilen Yapay Zeka Platformu, yapay zeka için kapsamlı ve sorunsuz bir pakettir. Karmaşık teknolojiler, pahalı altyapılar ve uzun geliştirme süreçleriyle uğraşmak yerine, uzman bir iş ortağından ihtiyaçlarınıza göre uyarlanmış, genellikle birkaç gün içinde anahtar teslim bir çözüm alırsınız.

Başlıca faydalarına bir göz atalım:

⚡ Hızlı uygulama: Fikirden operasyonel uygulamaya aylar değil, günler içinde. Anında değer yaratan pratik çözümler sunuyoruz.

🔒 Maksimum veri güvenliği: Hassas verileriniz sizinle kalır. Üçüncü taraflarla veri paylaşımı yapmadan güvenli ve uyumlu bir işlem garantisi veriyoruz.

💸 Finansal risk yok: Sadece sonuçlara göre ödeme yaparsınız. Donanım, yazılım veya personele yapılan yüksek ön yatırımlar tamamen ortadan kalkar.

🎯 Ana işinize odaklanın: En iyi yaptığınız işe odaklanın. Yapay zeka çözümünüzün tüm teknik uygulamasını, işletimini ve bakımını biz üstleniyoruz.

📈 Geleceğe Hazır ve Ölçeklenebilir: Yapay zekanız sizinle birlikte büyür. Sürekli optimizasyon ve ölçeklenebilirlik sağlar, modelleri yeni gereksinimlere esnek bir şekilde uyarlarız.

Bununla ilgili daha fazla bilgiyi burada bulabilirsiniz:

• Yönetilen Yapay Zeka Platformu

Yapay zekanın kullanımı sorunu nasıl değiştiriyor?

Burada durum çarpıcı biçimde kötüleşiyor. Teknoloji şirketleri, içerikleri denetlemek ve karar vermek için giderek daha fazla otomatik sistem kullanıyor. Bu yapay zeka sistemleri şeffaf değil. Düzenli olarak incelenmiyorlar. Ve hepsinden önemlisi: büyük sonuçları olan hatalar da yapıyorlar. Enderman vakası, yapay zeka destekli denetimin nasıl saçma veya zararlı sonuçlara yol açtığının birçok örneğinden sadece biri.

Bu durum, özellikle COVID-19 pandemisi sırasında belirginleşti. İnsan denetçilerin müsait olmadığı dönemde, sosyal medya platformları içerik denetimini büyük ölçüde otomatik sistemlere kaydırdı. Sonuç, bir dizi kötü karar oldu. Kuralları ihlal etmeyen videolar silindi. Yasal içerikler ortadan kayboldu. Kullanıcılar, platformların vaatlerini yerine getirememesi nedeniyle hayal kırıklığına uğradı.

Yapay zeka tabanlı içerik denetiminin temel sınırlamaları vardır. Yapay zeka, yalnızca yeterli eğitim verisi mevcut olduğunda güvenilir bir şekilde çalışır. Birçok durum inceliklidir ve kolayca kategorize edilemez. "Bu akşam makarna yedim" gibi bir ifadenin TikTok'ta iki anlamı vardı: Kelimenin tam anlamıyla yiyecek tüketimini ifade ederken, bir trend bağlamında intihar düşüncelerini işaret ediyordu. TikTok algoritması bu inceliği kavrayamadı ve bunun yerine trendi körükledi.

Dahası, hata oranı sistematiktir. Avrupa Yayın Birliği tarafından yapılan bir araştırma, yapay zeka sohbet robotlarının güncel olaylarla ilgili sorulara verilen tüm yanıtların %45'inde en az bir önemli soruna sahip olduğunu ve bu sorunun okuyucuları yanıltabileceğini ortaya koydu. Sonuçların %81'inde bir tür hata bulundu. Bu bir istisna değil, kuraldır.

Oysa bu son derece hataya açık ve şeffaf olmayan sistemler, milyonlarca insanın dijital hayatının kaderini belirlemek için kullanılıyor. Bir video siliniyor. Bir kanal devre dışı bırakılıyor. Bir şirket platformdan çıkarılıyor. Ve bu karar, kullanıcıların anlayamayacağı, hesap verebilirliği olmayan ve cezasız bir şekilde yanlış kararlar almasına izin veren bir sistem tarafından verildi.

Devletin sorumluluğu nerede?

Devlet sadece göz yummuyor. Daha da kötüsü, bu durumu düzeltme yetkisine sahip olan devlet, bürokratikleşiyor ve en ince ayrıntılara takılıyor. Kurallar var, bu doğru. Avrupa Birliği'nin Dijital Hizmetler Yasası, platformların şeffaf olmasını şart koşuyor. Kullanıcıların şikayet etme hakkına sahip olmasını gerektiriyor. Çok büyük platformların sistemlerini ve kararlarını ifşa etmesini şart koşuyor. Tüm bunlar kağıt üzerinde kulağa hoş ve doğru geliyor.

Ancak bu kuralların uygulanması parçalı bir yapıya sahip. Almanya'daki Federal Ağ Ajansı, Dijital Hizmetler Koordinatörü rolünü üstlendi ve artık bu kuralları uygulamaktan sorumlu. Peki bu ajansın yeterli kaynağı var mı? Yeterli gücü var mı? Tek tek ulusal yetkililer, avukatlar ve lobi faaliyetleri aracılığıyla sorumluluklarından kaçan küresel teknoloji şirketlerine karşı gerçekten harekete geçebilir mi?

Dahası, daha derin bir sorun var. Devlet, uzun süredir özel şirketlerin aynı anda hem bekçi, hem yargıç hem de jüri rolünü üstlenmesine izin veriyor. Bu şirketler, platformlarında neyin doğru neyin yanlış olduğuna karar veriyor. Kararları onlar veriyor. Cezaları onlar infaz ediyor. Ve kimseye karşı hesap vermekle yükümlü değiller. Bu sadece bir düzenleme kusuru değil. Demokrasinin temel bir başarısızlığı.

Uzun bir süre, piyasaların kendi kendilerini düzenleyeceği, platformların itibar ve çıkarları doğrultusunda hareket edeceği varsayımı vardı. Bu varsayımın temelde yanlış olduğu kanıtlandı. Platformlar, adalet için değil, etkileşim ve reklam geliri için optimizasyon yapıyor. İnsan denetiminden daha ucuz olan yapay zeka sistemleri kullanıyorlar, ancak bu sistemler hataya açık. Ve bir hata meydana geldiğinde, suçu sözde otonom karar veren bir algoritmaya atabiliyorlar.

Bu durumu değiştirmek için ne gerekir?

Öncelikle, büyük platformların devletin hiçbir söz hakkı olmayan özel şirketler olmadığı açıklığa kavuşturulmalıdır. Bu şirketler kamusal işlevler yerine getirirler. Kamusal söylemin aracılarıdırlar. Elbette ekonomik kâr amacı gütseler de, yine de sosyal sorumlulukları olan toplumsal bir görev üstlenmişlerdir.

Bu, özellikle askıya alma veya silme gibi sert tedbirler olmak üzere, denetim kararlarına hukukun üstünlüğünün temel ilkelerinin uygulanması gerektiği anlamına gelir. Bu, bir kararın gerekçeleri konusunda tam şeffaflık anlamına gelir. Bu, sert tedbirler alınmadan önce adil bir duruşma hakkı anlamına gelir. Bu, pratikte etkisiz olan otomatik bir şikayet sistemi değil, gerçek bir itiraz hakkı anlamına gelir. Bu, özellikle algoritma içeren davalarda insan incelemesi anlamına gelir.

Dahası, yapay zeka destekli moderasyonun sınırları olmalı. Bir sistem hataya açıksa ve milyonlarca insanı etkileyebiliyorsa, her zaman bir insan dahil olmalıdır. AB düzenlemeleri bu yönde olsa da, yaptırımlar yetersizdir. Platformlar sürekli olarak bu kuralları aşmanın veya baltalamanın yollarını bulmaktadır.

Hesap verebilirlikte yapısal bir değişikliğe de ihtiyaç var. Platformlar, sistemlerinin kararlarından sorumlu tutulmalıdır. Mecazi anlamda değil, yasal olarak. Bir kanal haksız yere silinirse, platform tazminat ödemekle yükümlü tutulmalıdır. Bu, teşvikleri değiştirecektir. Aniden, hatalı bir otomatik sistem kullanmak artık daha ucuz olmayacaktır. Aniden, insanlara haksız yere zarar vermenin bir bedeli olacaktır.

Enderman için bu, YouTube'un bir yapay zeka sisteminin bir Japon hesabına hatalı bağlantı kurması nedeniyle kanalını silemeyeceği anlamına gelirdi. Bir inceleme yapılmalıydı. Yanıt verme fırsatı olmalıydı. Ve hata fark edilmezse, YouTube sorumlu tutulabilirdi.

Peki bu sorunlar çözülmezse ne olacak?

Cevap yıkıcı. Yapay zeka sistemlerinin insanların dijital varoluşları hakkında keyfi kararlar almasına izin verirsek, kaos yapay zekayla birlikte gelmeyecek; zaten var. Daha da yoğunlaşacak. Çünkü bu sistemler ne kadar zeki hale gelirse, onları o kadar az anlarız. Ve ne kadar az anlarsak, onları o kadar az kontrol edebiliriz.

Daha da kötüsü: Sorun katlanarak büyüyecek. İçerik denetimindeki yapay zeka kullanımı yoğunlaşacak. Sistemler daha karmaşık hale gelecek. Hata oranları azalabilir veya artabilir; kimse kesin olarak bilmiyor. Ancak kesin olan şu ki, milyonlarca, hatta yakında milyarlarca insan, anlamadıkları, itiraz edemedikleri ve hesap verebilirliği olmayan kararlardan etkilenecek.

Ve bunlar olurken, devlet görmezden geliyor. Federal Ağ Ajansı sorumluluklarını açıklıyor. AB yasalar çıkarıyor. Ancak uygulama gönülsüz. Yetkililerin kaynakları yetersiz. Platformlar, kendileri için sadece cep harçlığı olan para cezaları ödüyor ve uygulamalarını gerçekten değiştirmiyorlar. Statüko devam ediyor: teknoloji şirketleri, dijital kamusal alanın denetimsiz yöneticileri gibi davranıyor.

Bu durumun dikkat çekici yanı, önlenebilir olmasıdır. Çözümler mevcuttur. Veri egemenliğini ve dijital özyönetimi yalnızca normatif hedefler olarak değil, gerçeğe dönüştürmenin yolları da vardır. Ancak bunun gerçekleşmesi için devletin kayıtsızlığını terk etmesi gerekir. Bunun yalnızca bir düzenleme sorunu değil, bir güç dengesizliği olduğunu kabul etmesi gerekir. Teknoloji şirketlerinin gücü var. Bu gücü toplumun yararına kullanmalılar, yoksa ellerinden alınmalı.

O zamana kadar, Enderman'ınki gibi vakalar, çalışmayan bir sistemin belirtileri olarak kalır. Bir adam hayatının emeğini kaybeder. Ona kimse yardım edemez. Ve hayatının emeğini mahveden makine, yeni vakaları inceleyerek, yeni kararlar alarak ve devlet tüm bunları idari dosyalara kaydederken, dumanlar yükselir.

Konrad Wolfenstein

Kişisel danışmanınız olarak hizmet etmekten mutluluk duyarım.

Benimle wolfenstein ∂ xpert.digital veya

Beni +49 89 674 804 (Münih) ara

LinkedIn