Kedaulatan data, penentuan nasib sendiri, dan realitas moderasi platform yang didorong oleh AI

### Satu klik, semuanya hilang: Kekacauan senyap moderasi platform berbasis AI ### Kerja keras seumur hidup hancur oleh AI: Mengapa akun media sosial Anda bisa hilang begitu saja besok ### Ilusi besar kedaulatan data: Bagaimana algoritma diam-diam menguasai kita ### Terlepas dari hukum Uni Eropa yang baru: Mengapa perusahaan teknologi masih diizinkan untuk menghapus secara sewenang-wenang ###

Judge Algorithm: Ketika AI mengakhiri kehidupan digital Anda – dan tidak ada yang bertanggung jawab

Kita hidup di zaman di mana istilah-istilah seperti "kedaulatan data" dan "penentuan nasib sendiri secara digital" bukan hanya slogan politik, tetapi mewakili aspirasi seluruh masyarakat. Dengan undang-undang seperti Undang-Undang Layanan Digital, Eropa berupaya membangun benteng pertahanan terhadap tindakan sewenang-wenang perusahaan teknologi global dan melindungi hak-hak fundamental warganya di ranah digital. Namun, sementara kita memperdebatkan klausul dan peraturan hukum, realitas yang terjadi di depan mata kita menertawakan tujuan-tujuan mulia tersebut. Realitas di mana keberadaan digital seseorang dihancurkan hanya dengan menekan sebuah tombol – bukan oleh seseorang, tetapi oleh algoritma yang tidak transparan.

Setiap hari, akun ditangguhkan dan saluran dihapus di platform seperti YouTube, TikTok, dan Instagram—saluran yang telah dibangun pengguna dengan susah payah selama bertahun-tahun. Karya hidup digital mereka lenyap, seringkali tanpa alasan yang jelas, tanpa sidang yang adil, dan tanpa cara efektif untuk mengajukan banding atas keputusan tersebut. Semakin sering, hal ini disebabkan oleh moderasi berbasis AI, yang rawan kesalahan, tidak transparan, namun memiliki kekuatan tertinggi untuk menilai visibilitas dan keberadaan digital. Kasus YouTuber teknologi Enderman, yang saluran-salurannya dengan ratusan ribu pelanggan dihapus berdasarkan koneksi absurd yang diduga dibuat oleh AI, hanyalah puncak gunung es. Artikel ini mengeksplorasi jurang yang dalam antara keinginan kita untuk mengontrol dan kekuatan algoritma yang tak terkendali, yang telah lama menjadi hakim dan algojo di ruang publik digital kita.

Di manakah letak kontradiksi antara aspirasi kita dan realitas kita?

Kita terus-menerus membicarakan kedaulatan data dan penentuan nasib sendiri digital. Istilah-istilah ini telah menjadi ciri khas budaya yang percaya diri dan mandiri, yang dimaksudkan untuk menggambarkan penanganannya terhadap kecerdasan buatan sebagai tanda kematangannya. Uni Eropa telah berupaya melindungi warganya dari tindakan sewenang-wenang perusahaan teknologi global dengan undang-undang seperti Undang-Undang Layanan Digital dan Undang-Undang Pasar Digital. Regulasi telah diberlakukan untuk menegakkan transparansi dan melindungi hak-hak fundamental. Tetapi dengan semua peningkatan regulasi ini, kita mengabaikan sesuatu yang mendasar: kita belum mengatasi ancaman eksistensial yang terjadi setiap hari di depan mata kita dan merusak kredibilitas semua upaya ini.

Realitas yang disajikan oleh saluran media sosial utama kepada kita setiap hari menceritakan kisah yang sangat berbeda dari kedaulatan data dan penentuan nasib sendiri. Orang-orang kehilangan hasil kerja digital mereka setiap hari, tanpa pembenaran atau mekanisme apa pun untuk menanggulanginya. Saluran yang dibangun dengan susah payah selama bertahun-tahun dihapus. Bukan setelah peninjauan yang cermat, bukan setelah proses yang transparan, bukan setelah kemungkinan sidang yang adil. Hanya dihapus begitu saja. Dan ini terjadi dengan cara yang tidak pantas bagi demokrasi, karena tidak ada mekanisme banding yang efektif dan mereka yang terkena dampak bahkan tidak tahu mengapa waktu dan kreativitas mereka telah disia-siakan.

Apa contoh spesifik yang menunjukkan kesewenang-wenangan ini?

Contoh terbaru dan paling mencolok adalah kasus YouTuber teknologi Enderman. Pembuat konten asal Rusia ini telah membangun saluran YouTube utama dengan lebih dari 350.000 pelanggan, di mana ia membahas topik-topik teknologi. Kontennya berharga dari segi dokumenter – ia membahas versi Windows yang lebih lama dan masalah teknis lainnya. Saluran ini dihapus tanpa peringatan. Tak lama sebelumnya, saluran keduanya, Andrew, yang juga memiliki ratusan ribu pelanggan, telah menghilang. Alasan yang dikemukakan untuk tindakan drastis ini sangat aneh: YouTube mengklaim bahwa saluran Enderman terhubung dengan saluran Jepang yang telah menerima teguran hak cipta ketiga kalinya. Sebuah saluran yang tidak dikenal Enderman, yang bahasanya tidak ia gunakan untuk berkomunikasi, dan yang tidak memiliki hubungan apa pun dengannya.

Yang luar biasa dari kasus ini bukanlah hanya ketidakadilan dari keputusan itu sendiri, tetapi juga cara keputusan itu dibuat. Enderman menduga bahwa sistem AI berada di baliknya, karena telah membuat koneksi yang salah antara salurannya dan akun Jepang yang tidak dikenal. Harapan YouTuber teknologi itu bahwa seorang karyawan YouTube akan meninjau keluhannya pupus. Berbulan-bulan berlalu tanpa tanggapan. Enderman tampaknya kini telah pasrah menerima kenyataan bahwa waktunya di YouTube telah berakhir. YouTuber lain melaporkan masalah yang sama di utas Twitter yang sama – salurannya juga dihapus dengan merujuk pada saluran Jepang yang sama. Ini menunjukkan kegagalan sistemik, bukan insiden terisolasi dari kesalahan manusia, tetapi lebih kepada kekurangan sistem otomatis yang beroperasi tanpa pengawasan.

YouTube bukanlah kasus terisolasi. Berbagai platform telah menunjukkan pola serupa. TikTok, Instagram, Facebook, dan layanan lainnya menghapus konten dan menangguhkan akun setiap hari, seringkali tanpa alasan yang memadai. Organisasi transparansi Freiheitsrechte.org telah mendokumentasikan bahwa platform media sosial sering memberikan penjelasan yang tidak memadai atas keputusan moderasi mereka kepada pihak yang terkena dampak. Dalam beberapa kasus, pembenaran hanya merujuk secara umum pada pelanggaran ketentuan layanan, tanpa menjelaskan pelanggaran spesifik mana yang menyebabkan tindakan tersebut.

Apakah perusahaan teknologi memenuhi tanggung jawab sosial mereka?

Inilah poin penting di mana kita perlu mengoreksi bias kognitif kita. Perusahaan-perusahaan teknologi besar terbukti meraup keuntungan dari data kita, aktivitas ekonomi kita, dan masyarakat kita. Mereka menggunakan internet yang kita gunakan bersama sebagai fondasi bisnis mereka. Mereka menghasilkan miliaran dolar dari pendapatan iklan yang dihasilkan oleh perhatian dan data pribadi kita. Pada saat yang sama, perusahaan-perusahaan ini secara de facto memikul tanggung jawab publik dan sosial.

YouTube bukan sekadar layanan teknis seperti penyedia hosting biasa. Platform ini telah menjadi infrastruktur komunikasi publik. Ia menentukan visibilitas, jangkauan, dan akses bagi jutaan orang. Ia telah memantapkan posisinya sebagai penjaga gerbang informasi dan pengetahuan. Facebook dan Instagram serupa – layanan-layanan ini telah menjadi pusat utama wacana sosial. Bagi banyak orang, platform-platform ini adalah tempat utama untuk menyuarakan pendapat mereka, membangun komunitas mereka, dan menyebarkan pesan mereka.

Namun, sementara perusahaan-perusahaan teknologi ini memperoleh keuntungan ekonomi dari peran mereka sebagai perantara komunikasi sosial, mereka mengabaikan tanggung jawab yang melekat pada peran tersebut. Sebuah organisasi amal yang ditugaskan oleh negara untuk melakukan tugas-tugas dengan imbalan biaya tidak dapat begitu saja mengecualikan suara-suara yang berbeda pendapat hanya karena mereka tidak menyukai seseorang. Lembaga penyiaran publik tidak dapat begitu saja membungkam individu tanpa mendengarkan sisi cerita mereka. Pengadilan tidak dapat begitu saja menghukum seseorang tanpa memberi mereka kesempatan untuk membela diri.

Namun justru inilah yang terjadi di platform-platform ini setiap hari. Orang-orang dikucilkan tanpa alasan yang jelas. Karya mereka dihapus. Mata pencaharian mereka dihancurkan secara daring. Dan satu-satunya tanggapan platform tersebut adalah merujuk pada ketentuan layanan mereka dan, paling banter, sistem pengaduan otomatis yang hampir tidak menyelesaikan masalah apa pun. Ini bukan hanya tidak adil; ini juga berbahaya secara struktural bagi masyarakat yang terbuka.

Platform AI Terkelola - Gambar: Xpert.Digital

Di sini Anda akan mempelajari bagaimana perusahaan Anda dapat mengimplementasikan solusi AI yang disesuaikan dengan cepat, aman, dan tanpa hambatan masuk yang tinggi.

Platform AI terkelola adalah solusi lengkap dan bebas khawatir Anda untuk kecerdasan buatan. Alih-alih berurusan dengan teknologi yang kompleks, infrastruktur yang mahal, dan proses pengembangan yang panjang, Anda menerima solusi siap pakai yang disesuaikan dengan kebutuhan Anda dari mitra khusus – seringkali hanya dalam beberapa hari.

Keunggulan utama secara sekilas:

⚡ Implementasi cepat: Dari ide hingga aplikasi siap pakai dalam hitungan hari, bukan bulan. Kami menghadirkan solusi praktis yang menciptakan nilai tambah langsung.

🔒 Keamanan data maksimal: Data sensitif Anda tetap aman. Kami menjamin pemrosesan yang aman dan sesuai peraturan tanpa membagikan data dengan pihak ketiga.

💸 Tanpa risiko finansial: Anda hanya membayar untuk hasil. Investasi awal yang tinggi untuk perangkat keras, perangkat lunak, atau personel sepenuhnya dihilangkan.

🎯 Fokus pada bisnis inti Anda: Konsentrasikan pada apa yang Anda kuasai. Kami mengurus seluruh implementasi teknis, pengoperasian, dan pemeliharaan solusi AI Anda.

📈 Tahan masa depan & dapat diskalakan: AI Anda tumbuh bersama Anda. Kami memastikan optimasi dan skalabilitas berkelanjutan, serta secara fleksibel menyesuaikan model dengan kebutuhan baru.

Informasi selengkapnya di sini:

• Platform AI Terkelola

Bagaimana penggunaan AI mengubah masalah?

Di sini, situasinya memburuk secara dramatis. Perusahaan teknologi semakin banyak menggunakan sistem otomatis untuk memoderasi konten dan membuat keputusan. Sistem AI ini tidak transparan. Sistem ini tidak ditinjau secara berkala. Dan yang terpenting: sistem ini juga membuat kesalahan dengan konsekuensi yang sangat besar. Kasus Enderman hanyalah salah satu dari banyak contoh bagaimana moderasi berbasis AI menyebabkan hasil yang absurd atau berbahaya.

Hal ini menjadi sangat jelas selama pandemi COVID-19. Ketika peninjau manusia tidak tersedia, platform media sosial secara besar-besaran mengalihkan moderasi konten mereka ke sistem otomatis. Hasilnya adalah gelombang keputusan yang buruk. Video yang tidak melanggar pedoman dihapus. Konten yang sah menghilang. Pengguna menjadi frustrasi karena platform tidak dapat menepati janji mereka.

Keterbatasan moderasi konten berbasis AI bersifat mendasar. Kecerdasan buatan hanya berfungsi dengan andal jika tersedia data pelatihan yang cukup. Banyak situasi yang rumit dan tidak mudah dikategorikan. Frasa seperti "Saya makan pasta malam ini" memiliki makna ganda di TikTok—secara harfiah, frasa tersebut merujuk pada konsumsi makanan, tetapi dalam konteks tren, frasa tersebut menandakan pikiran untuk bunuh diri. Algoritma TikTok gagal memahami nuansa ini dan malah memicu tren tersebut.

Selain itu, tingkat kesalahan bersifat sistematis. Sebuah studi oleh European Broadcasting Union menunjukkan bahwa chatbot AI memiliki setidaknya satu masalah signifikan dalam 45 persen dari semua jawaban atas pertanyaan tentang peristiwa terkini, masalah yang dapat menyesatkan pembaca. Dalam 81 persen hasil, ditemukan beberapa jenis kesalahan. Ini bukan pengecualian; ini adalah aturan.

Namun, sistem yang sangat rawan kesalahan dan tidak transparan ini digunakan untuk menentukan nasib jutaan kehidupan digital orang. Sebuah video dihapus. Sebuah saluran dinonaktifkan. Sebuah perusahaan dikeluarkan dari platform. Dan keputusan itu dibuat oleh sistem yang tidak dapat dipahami pengguna, yang tidak bertanggung jawab, dan yang diizinkan untuk membuat keputusan yang salah tanpa hukuman.

Di mana letak tanggung jawab negara?

Negara tidak sekadar menutup mata. Lebih buruk lagi, negara, yang memiliki kekuasaan untuk memperbaiki situasi ini, malah melakukan birokratisasi dan terjebak dalam detail-detail kecil. Memang ada aturannya. Undang-Undang Layanan Digital Uni Eropa menetapkan bahwa platform harus transparan. Undang-Undang tersebut mewajibkan pengguna untuk memiliki hak untuk mengajukan keluhan. Undang-Undang tersebut juga menetapkan bahwa platform yang sangat besar harus mengungkapkan sistem dan keputusan mereka. Semua ini terdengar bagus dan benar di atas kertas.

Namun, penegakan aturan-aturan ini masih terfragmentasi. Badan Jaringan Federal di Jerman telah mengambil peran sebagai Koordinator Layanan Digital dan sekarang bertugas untuk menegakkan aturan-aturan ini. Tetapi apakah badan ini memiliki sumber daya yang cukup? Apakah ia memiliki cukup wewenang? Dapatkah otoritas nasional secara individual benar-benar mengambil tindakan terhadap perusahaan teknologi global yang menghindari tanggung jawab mereka melalui pengacara dan lobi?

Lebih jauh lagi, ada masalah yang lebih dalam. Terlalu lama, negara telah membiarkan perusahaan swasta secara bersamaan memainkan peran sebagai penjaga gerbang, hakim, dan juri. Perusahaan-perusahaan ini memutuskan apa yang benar dan salah di platform mereka. Mereka menyampaikan vonis. Mereka menegakkan hukuman. Dan mereka tidak bertanggung jawab kepada siapa pun. Ini bukan hanya kesalahan regulasi. Ini adalah kegagalan mendasar demokrasi.

Untuk waktu yang lama, asumsinya adalah bahwa pasar mengatur dirinya sendiri, bahwa platform akan bertindak berdasarkan reputasi dan kepentingan pribadi. Asumsi ini telah terbukti salah secara fundamental. Platform mengoptimalkan keterlibatan dan pendapatan iklan, bukan keadilan. Mereka menjalankan sistem AI yang lebih murah daripada moderasi manusia, meskipun sistem ini rentan terhadap kesalahan. Dan ketika terjadi kesalahan, mereka dapat mengalihkan kesalahan ke algoritma yang konon membuat keputusan otonom.

Apa yang diperlukan untuk mengubah situasi ini?

Pertama, perlu diklarifikasi bahwa platform-platform utama bukanlah sekadar perusahaan swasta yang tidak dikendalikan oleh negara. Perusahaan-perusahaan ini menjalankan fungsi publik. Mereka adalah perantara wacana publik. Mereka telah mengemban tugas sosial, tentu saja dengan keuntungan ekonomi, tetapi tetap dengan tanggung jawab sosial.

Ini berarti bahwa prinsip-prinsip dasar supremasi hukum harus diterapkan pada keputusan moderasi, terutama tindakan drastis seperti penangguhan atau penghapusan. Ini berarti transparansi penuh mengenai alasan suatu keputusan. Ini berarti hak untuk didengar secara adil sebelum tindakan drastis diambil. Ini berarti hak banding yang nyata, bukan sistem pengaduan otomatis yang tidak efektif dalam praktiknya. Ini berarti peninjauan oleh manusia, terutama dalam kasus yang melibatkan algoritma.

Selain itu, perlu ada batasan untuk moderasi berbasis AI. Jika suatu sistem dapat salah dan memengaruhi jutaan orang, manusia harus selalu terlibat. Regulasi Uni Eropa mengarah ke arah ini, tetapi penegakannya masih kurang. Platform terus-menerus menemukan cara untuk menghindari atau melemahkan aturan-aturan ini.

Perubahan struktural dalam akuntabilitas juga diperlukan. Platform harus bertanggung jawab atas keputusan sistem mereka. Bukan secara metaforis, tetapi secara hukum. Jika sebuah saluran dihapus secara tidak sah, platform tersebut harus diwajibkan untuk membayar ganti rugi. Ini akan mengubah insentif. Tiba-tiba, menggunakan sistem otomatis yang cacat tidak lagi lebih murah. Tiba-tiba, akan ada harga yang harus dibayar untuk merugikan orang secara tidak adil.

Bagi Enderman, ini berarti YouTube tidak bisa begitu saja menghapus salurannya hanya karena sistem AI membuat koneksi yang salah ke akun Jepang. Seharusnya ada peninjauan. Seharusnya ada kesempatan untuk menanggapi. Dan jika kesalahan tersebut tidak terdeteksi, YouTube bisa dimintai pertanggungjawaban.

Apa yang akan terjadi jika masalah-masalah ini tidak diselesaikan?

Jawabannya sangat mengerikan. Jika kita membiarkan sistem AI secara sewenang-wenang memutuskan keberadaan digital seseorang, maka kekacauan tidak akan datang bersama AI—kekacauan sudah ada di sini. Kekacauan hanya akan semakin intensif. Karena semakin cerdas sistem-sistem ini, semakin sedikit kita memahaminya. Dan semakin sedikit kita memahaminya, semakin sedikit kita dapat mengendalikannya.

Lebih buruk lagi: Masalah ini akan tumbuh secara eksponensial. Penggunaan AI dalam moderasi konten akan meningkat. Sistem akan menjadi lebih kompleks. Tingkat kesalahan mungkin menurun atau meningkat—tidak ada yang tahu pasti. Tetapi yang pasti adalah jutaan, dan segera miliaran, orang akan terpengaruh oleh keputusan yang tidak mereka pahami, tidak dapat mereka bantah, dan yang tidak ada pertanggungjawabannya.

Dan sementara ini terjadi, negara berpaling muka. Badan Jaringan Federal menguraikan tanggung jawabnya. Uni Eropa memberlakukan undang-undang. Tetapi penegakannya setengah hati. Pihak berwenang kekurangan sumber daya. Platform-platform tersebut membayar denda yang hanya sedikit bagi mereka dan tidak benar-benar mengubah praktik mereka. Status quo tetap bertahan: perusahaan teknologi bertindak sebagai penguasa tak terkendali di ruang publik digital.

Yang luar biasa dari situasi ini adalah bahwa hal itu dapat dihindari. Solusi ada. Ada cara untuk mewujudkan kedaulatan data dan penentuan nasib sendiri digital, bukan hanya tujuan normatif. Tetapi agar hal itu terjadi, negara harus meninggalkan sikap acuh tak acuhnya. Negara harus menyadari bahwa ini bukan hanya masalah regulasi, tetapi juga ketidakseimbangan kekuasaan. Perusahaan teknologi memiliki kekuasaan. Mereka harus memanfaatkan kekuasaan itu untuk kepentingan masyarakat, atau kekuasaan itu harus diambil dari mereka.

Sampai saat itu, kasus seperti Enderman tetap menjadi gejala dari sistem yang tidak berfungsi. Seorang pria kehilangan hasil kerja seumur hidupnya. Tidak ada yang bisa membantunya. Dan mesin yang menghancurkan hasil kerja seumur hidupnya terus berjalan tanpa gangguan, meninjau kasus-kasus baru, membuat keputusan baru, dan negara mendokumentasikan semuanya dalam berkas administratif sementara asap mengepul.

Konrad Wolfenstein

Saya akan dengan senang hati menjadi penasihat pribadi Anda.

menghubungi saya di wolfenstein ∂ xpert.digital

Hubungi saya di +49 89 89 674 804 (Munich) .

LinkedIn