Kedaulatan data, penentuan nasib sendiri, dan realitas moderasi platform yang digerakkan oleh AI

### Satu klik, semuanya hilang: Kekacauan senyap dari moderasi platform yang digerakkan oleh AI ### Karya hidup dihancurkan oleh AI: Mengapa akun media sosial Anda bisa hilang begitu saja besok ### Ilusi besar kedaulatan data: Bagaimana algoritma diam-diam menguasai kita ### Meskipun ada undang-undang baru Uni Eropa: Mengapa perusahaan teknologi masih diizinkan menghapus data secara sembarangan ###

Algoritma Hakim: Ketika AI mengakhiri kehidupan digital Anda – dan tidak ada yang bertanggung jawab

Kita hidup di era di mana istilah seperti "kedaulatan data" dan "penentuan nasib sendiri digital" bukan sekadar slogan politik, melainkan mewakili aspirasi seluruh masyarakat. Dengan undang-undang seperti Undang-Undang Layanan Digital, Eropa berupaya membangun benteng melawan tindakan sewenang-wenang perusahaan teknologi global dan melindungi hak-hak fundamental warganya di ranah digital. Namun, sementara kita memperdebatkan klausul dan peraturan hukum, sebuah realitas terbentang tepat di depan mata kita yang mengolok-olok tujuan mulia ini. Sebuah realitas di mana eksistensi digital manusia dihancurkan hanya dengan menekan sebuah tombol – bukan oleh manusia, melainkan oleh algoritma yang tidak transparan.

Setiap hari, akun-akun ditangguhkan dan kanal-kanal dihapus di platform seperti YouTube, TikTok, dan Instagram—kanal-kanal yang telah dibangun dengan susah payah oleh pengguna selama bertahun-tahun. Karya kehidupan digital mereka lenyap, seringkali tanpa pembenaran yang jelas, tanpa persidangan yang adil, dan tanpa cara yang efektif untuk mengajukan banding atas keputusan tersebut. Hal ini semakin meningkat karena moderasi yang digerakkan oleh AI, yang rawan kesalahan, tidak transparan, namun memiliki kekuatan tertinggi untuk menilai visibilitas dan eksistensi digital. Kasus YouTuber teknologi Enderman, yang kanal-kanalnya dengan ratusan ribu pelanggan dihapus berdasarkan koneksi absurd yang diduga dibuat oleh AI, hanyalah puncak gunung es. Artikel ini mengeksplorasi jurang yang dalam antara keinginan kita untuk mengendalikan dan kekuatan algoritma yang tak terkendali, yang telah lama menjadi hakim dan algojo di ruang publik digital kita.

Di mana letak pertentangan antara cita-cita dan realita kita?

Kita terus-menerus membicarakan kedaulatan data dan penentuan nasib sendiri secara digital. Istilah-istilah ini telah menjadi ciri khas budaya yang percaya diri dan mandiri, yang dimaksudkan untuk menggambarkan penanganan kecerdasan buatan sebagai tanda kedewasaannya. Uni Eropa telah berupaya melindungi warganya dari tindakan sewenang-wenang perusahaan teknologi global dengan undang-undang seperti Undang-Undang Layanan Digital dan Undang-Undang Pasar Digital. Berbagai peraturan telah ditetapkan untuk menegakkan transparansi dan melindungi hak-hak asasi. Namun dengan semua penumpukan peraturan ini, kita mengabaikan sesuatu yang fundamental: kita belum mengatasi ancaman eksistensial yang terbentang di depan mata kita setiap hari dan merusak kredibilitas semua upaya ini.

Realitas yang disajikan oleh kanal-kanal media sosial utama kepada kita setiap hari menceritakan kisah yang sangat berbeda dengan kisah kedaulatan data dan penentuan nasib sendiri. Orang-orang kehilangan pekerjaan digital mereka setiap hari, tanpa pembenaran atau mekanisme apa pun untuk mengatasinya. Kanal-kanal yang dibangun dengan susah payah selama bertahun-tahun dihapus. Bukan setelah peninjauan yang cermat, bukan setelah proses yang transparan, bukan setelah kemungkinan adanya persidangan yang adil. Dihapus begitu saja. Dan ini terjadi dengan cara yang tidak pantas dalam demokrasi, karena tidak ada mekanisme banding yang efektif dan mereka yang terdampak bahkan tidak tahu mengapa waktu dan kreativitas mereka terbuang sia-sia.

Contoh spesifik apa yang menunjukkan kesewenang-wenangan ini?

Contoh paling baru dan mencolok adalah kasus YouTuber teknologi Enderman. Kreator konten Rusia ini telah membangun kanal YouTube utama dengan lebih dari 350.000 pelanggan, tempat ia mengeksplorasi topik-topik teknologi. Kontennya berharga dalam hal dokumenter – ia membahas versi Windows lama dan masalah teknis lainnya. Kanal ini dihapus tanpa peringatan. Tak lama sebelumnya, kanal sekundernya, Andrew, yang juga memiliki ratusan ribu pelanggan, telah menghilang. Alasan yang dikemukakan untuk tindakan drastis ini aneh: YouTube mengklaim bahwa kanal-kanal Enderman terhubung ke kanal Jepang yang telah menerima teguran hak cipta ketiga. Kanal yang tidak dikenal Enderman, dalam bahasa siapa ia tidak berkomunikasi, dan dengan kanal mana ia tidak memiliki koneksi.

Yang luar biasa dari kasus ini bukan hanya ketidakadilan keputusan itu sendiri, tetapi juga cara pengambilannya. Enderman menduga ada sistem AI di baliknya, yang membuat koneksi yang salah antara kanal-kanalnya dan akun Jepang yang tidak dikenal. Harapan YouTuber teknologi itu agar ada karyawan YouTube yang meninjau keluhannya pupus. Berbulan-bulan berlalu tanpa tanggapan. Enderman kini tampaknya telah pasrah dengan kenyataan bahwa kariernya di YouTube telah berakhir. YouTuber lain melaporkan masalah serupa di utas Twitter yang sama – kanalnya juga dihapus dengan referensi ke kanal Jepang yang sama. Hal ini menunjukkan kegagalan sistemik, bukan insiden kesalahan manusia yang terisolasi, melainkan kekurangan sistem otomatis yang beroperasi tanpa kendali.

YouTube bukanlah kasus yang terisolasi. Berbagai platform telah menunjukkan pola serupa. TikTok, Instagram, Facebook, dan layanan lainnya menghapus konten dan menangguhkan akun setiap hari, seringkali tanpa justifikasi yang memadai. Organisasi transparansi Freiheitsrechte.org telah mendokumentasikan bahwa platform media sosial seringkali memberikan penjelasan yang tidak memadai atas keputusan moderasi mereka kepada mereka yang terdampak. Dalam beberapa kasus, justifikasi hanya merujuk secara umum pada pelanggaran ketentuan layanan, tanpa menjelaskan pelanggaran spesifik mana yang menyebabkan tindakan tersebut.

Apakah perusahaan teknologi menjalankan tanggung jawab sosialnya?

Inilah titik krusial di mana kita perlu mengoreksi bias kognitif kita. Perusahaan-perusahaan teknologi besar terbukti mendapatkan keuntungan dari data kita, aktivitas ekonomi kita, dan masyarakat kita. Mereka menggunakan internet bersama kita sebagai fondasi bisnis mereka. Mereka meraup miliaran dolar dari pendapatan iklan yang dihasilkan oleh perhatian dan data pribadi kita. Di saat yang sama, perusahaan-perusahaan ini secara de facto memikul tanggung jawab publik dan sosial.

YouTube bukan sekadar layanan teknis seperti penyedia hosting biasa. Platform ini telah menjadi infrastruktur komunikasi publik. YouTube menentukan visibilitas, jangkauan, dan akses bagi jutaan orang. YouTube telah memantapkan dirinya sebagai penjaga informasi dan pengetahuan. Facebook dan Instagram serupa – layanan ini telah menjadi pusat wacana sosial. Bagi banyak orang, platform ini adalah tempat utama untuk menyuarakan pendapat, membangun komunitas, dan menyebarkan pesan mereka.

Namun, meskipun perusahaan-perusahaan teknologi ini mendapatkan keuntungan ekonomi dari peran mereka sebagai perantara komunikasi sosial, mereka mengabaikan tanggung jawab yang melekat dalam peran ini. Sebuah organisasi amal yang ditugaskan oleh negara untuk melakukan tugas dengan imbalan tertentu tidak bisa begitu saja mengecualikan suara-suara yang berbeda pendapat hanya karena mereka tidak menyukai seseorang. Sebuah lembaga penyiaran publik tidak bisa begitu saja membungkam seseorang tanpa mendengarkan sisi ceritanya. Pengadilan tidak bisa begitu saja menghukum seseorang tanpa memberinya kesempatan untuk membela diri.

Namun, inilah yang terjadi di platform-platform ini setiap hari. Orang-orang dikucilkan tanpa pembenaran yang nyata. Karya mereka dihapus. Mata pencaharian mereka dihancurkan secara daring. Dan satu-satunya respons platform hanyalah referensi terhadap ketentuan layanan mereka dan, paling banter, sistem pengaduan otomatis yang hampir tidak menyelesaikan masalah apa pun. Ini bukan hanya tidak adil; tetapi juga berbahaya secara struktural bagi masyarakat terbuka.

Di sini Anda akan mempelajari bagaimana perusahaan Anda dapat menerapkan solusi AI yang disesuaikan dengan cepat, aman, dan tanpa hambatan masuk yang tinggi.

Platform AI Terkelola adalah paket lengkap dan bebas repot untuk kecerdasan buatan. Alih-alih berurusan dengan teknologi yang rumit, infrastruktur yang mahal, dan proses pengembangan yang panjang, Anda akan mendapatkan solusi siap pakai yang disesuaikan dengan kebutuhan Anda dari mitra spesialis – seringkali dalam beberapa hari.

Manfaat utama sekilas:

⚡ Implementasi cepat: Dari ide hingga aplikasi operasional dalam hitungan hari, bukan bulan. Kami memberikan solusi praktis yang menciptakan nilai langsung.

Keamanan data maksimal: Data sensitif Anda tetap menjadi milik Anda. Kami menjamin pemrosesan yang aman dan sesuai aturan tanpa membagikan data dengan pihak ketiga.

💸 Tanpa risiko finansial: Anda hanya membayar untuk hasil. Investasi awal yang tinggi untuk perangkat keras, perangkat lunak, atau personel sepenuhnya dihilangkan.

🎯 Fokus pada bisnis inti Anda: Fokuslah pada keahlian Anda. Kami menangani seluruh implementasi teknis, operasional, dan pemeliharaan solusi AI Anda.

📈 Tahan Masa Depan & Skalabel: AI Anda tumbuh bersama Anda. Kami memastikan pengoptimalan dan skalabilitas berkelanjutan, serta menyesuaikan model secara fleksibel dengan kebutuhan baru.

Lebih lanjut tentang itu di sini:

• Platform AI Terkelola

Bagaimana penggunaan AI mengubah masalah?

Di sini, situasinya semakin memburuk secara dramatis. Perusahaan teknologi semakin banyak menggunakan sistem otomatis untuk memoderasi konten dan mengambil keputusan. Sistem AI ini tidak transparan. Sistem ini tidak ditinjau secara berkala. Dan yang terpenting: sistem ini juga membuat kesalahan dengan konsekuensi yang sangat besar. Kasus Enderman hanyalah salah satu dari banyak contoh bagaimana moderasi yang didorong oleh AI menghasilkan hasil yang absurd atau merugikan.

Hal ini menjadi sangat jelas selama pandemi COVID-19. Ketika peninjau manusia tidak tersedia, platform media sosial secara besar-besaran mengalihkan moderasi konten mereka ke sistem otomatis. Hasilnya adalah gelombang keputusan yang buruk. Video yang tidak melanggar pedoman dihapus. Konten yang sah menghilang. Pengguna menjadi frustrasi karena platform tidak dapat menepati janji mereka.

Keterbatasan moderasi konten berbasis AI sangatlah mendasar. Kecerdasan buatan hanya berfungsi dengan andal jika tersedia data pelatihan yang memadai. Banyak situasi yang bernuansa dan tidak dapat dikategorikan dengan mudah. ​​Frasa seperti "Saya makan pasta malam ini" memiliki makna ganda di TikTok—secara harfiah, merujuk pada konsumsi makanan, tetapi dalam konteks tren, frasa tersebut mengisyaratkan pikiran untuk bunuh diri. Algoritma TikTok gagal memahami nuansa ini dan justru memicu tren tersebut.

Lebih lanjut, tingkat kesalahannya sistematis. Sebuah studi oleh European Broadcasting Union menunjukkan bahwa chatbot AI memiliki setidaknya satu masalah signifikan dalam 45 persen dari semua jawaban atas pertanyaan tentang peristiwa terkini, sebuah masalah yang dapat menyesatkan pembaca. Dalam 81 persen hasil, ditemukan beberapa jenis kesalahan. Ini bukan pengecualian; melainkan aturan.

Namun, sistem yang sangat rentan kesalahan dan tidak transparan ini justru digunakan untuk menentukan nasib kehidupan digital jutaan orang. Sebuah video dihapus. Sebuah kanal dinonaktifkan. Sebuah perusahaan dihapus dari platform. Dan keputusan itu dibuat oleh sistem yang tidak dapat dipahami pengguna, yang tidak bertanggung jawab, dan yang dibiarkan membuat keputusan yang salah tanpa hukuman.

Di mana letak tanggung jawab negara?

Negara tidak hanya menutup mata. Lebih buruk lagi, negara, yang memiliki wewenang untuk memperbaiki situasi ini, justru birokratis dan terjebak dalam detail-detail kecil. Ada aturannya – itu benar. Undang-Undang Layanan Digital Uni Eropa menetapkan bahwa platform harus transparan. Undang-undang tersebut mewajibkan pengguna untuk memiliki hak mengajukan keluhan. Undang-undang tersebut menetapkan bahwa platform yang sangat besar harus mengungkapkan sistem dan keputusan mereka. Semua ini terdengar bagus dan tepat di atas kertas.

Namun, penegakan aturan-aturan ini masih terfragmentasi. Badan Jaringan Federal di Jerman telah mengambil peran sebagai Koordinator Layanan Digital dan kini ditugaskan untuk menegakkan aturan-aturan ini. Namun, apakah badan ini memiliki sumber daya yang memadai? Apakah kewenangannya cukup? Dapatkah otoritas nasional masing-masing benar-benar mengambil tindakan terhadap perusahaan teknologi global yang menghindari tanggung jawab mereka melalui pengacara dan lobi?

Lebih jauh lagi, ada masalah yang lebih mendalam. Sudah terlalu lama negara membiarkan perusahaan swasta berperan sebagai penjaga gerbang, hakim, dan juri secara bersamaan. Perusahaan-perusahaan ini memutuskan apa yang benar dan salah di platform mereka. Mereka menjatuhkan vonis. Mereka menegakkan hukuman. Dan mereka tidak bertanggung jawab kepada siapa pun. Ini bukan sekadar cacat regulasi. Ini adalah kegagalan mendasar demokrasi.

Untuk waktu yang lama, asumsinya adalah bahwa pasar mengatur dirinya sendiri, bahwa platform akan bertindak berdasarkan reputasi dan kepentingan pribadi. Asumsi ini terbukti salah secara fundamental. Platform mengoptimalkan interaksi dan pendapatan iklan, bukan keadilan. Mereka menjalankan sistem AI yang lebih murah daripada moderasi manusia, meskipun sistem ini rentan terhadap kesalahan. Dan ketika terjadi kesalahan, mereka dapat mengalihkan kesalahan ke algoritma yang seharusnya membuat keputusan secara otonom.

Apa yang dibutuhkan untuk mengubah situasi ini?

Pertama, perlu diperjelas bahwa platform-platform utama bukan sekadar perusahaan swasta yang tidak memiliki kendali atas negara. Perusahaan-perusahaan ini menjalankan fungsi publik. Mereka adalah perantara wacana publik. Mereka telah mengemban tugas sosial, tentu saja dengan keuntungan ekonomi, tetapi juga dengan tanggung jawab sosial.

Ini berarti prinsip-prinsip dasar supremasi hukum harus diterapkan pada keputusan moderasi, terutama tindakan drastis seperti penangguhan atau penghapusan. Ini berarti transparansi penuh terkait alasan suatu keputusan. Ini berarti hak atas persidangan yang adil sebelum tindakan drastis diambil. Ini berarti hak banding yang sesungguhnya, bukan sistem pengaduan otomatis yang tidak efektif dalam praktiknya. Ini berarti peninjauan manusia, terutama dalam kasus-kasus yang melibatkan algoritma.

Lebih lanjut, perlu ada batasan untuk moderasi yang digerakkan oleh AI. Jika suatu sistem rentan salah dan dapat memengaruhi jutaan orang, manusia harus selalu dilibatkan. Peraturan Uni Eropa mengarah ke arah ini, tetapi penegakannya masih kurang. Platform terus-menerus menemukan cara untuk menghindari atau melemahkan aturan ini.

Perubahan struktural dalam akuntabilitas juga diperlukan. Platform harus bertanggung jawab atas keputusan sistem mereka. Bukan tanggung jawab secara metaforis, tetapi tanggung jawab secara hukum. Jika suatu kanal dihapus secara tidak sah, platform tersebut harus diwajibkan membayar ganti rugi. Ini akan mengubah insentif. Tiba-tiba, menggunakan sistem otomatis yang cacat tidak lagi lebih murah. Tiba-tiba, akan ada harga yang harus dibayar untuk merugikan orang secara tidak adil.

Bagi Enderman, ini berarti YouTube tidak bisa begitu saja menghapus kanalnya hanya karena sistem AI membuat koneksi yang salah ke akun Jepang. Seharusnya ada peninjauan. Seharusnya ada kesempatan untuk merespons. Dan jika kesalahan tersebut tidak diketahui, YouTube bisa dimintai pertanggungjawaban.

Apa yang akan terjadi jika masalah-masalah ini tidak dipecahkan?

Jawabannya sungguh menghancurkan. Jika kita membiarkan sistem AI menentukan keberadaan digital manusia secara sewenang-wenang, maka kekacauan tidak akan datang bersama AI—kekacauan sudah ada di sini. Kekacauan hanya akan semakin parah. Karena semakin cerdas sistem ini, semakin sedikit kita memahaminya. Dan semakin sedikit kita memahaminya, semakin sedikit kita dapat mengendalikannya.

Lebih buruk lagi: Masalah ini akan berkembang secara eksponensial. Penggunaan AI dalam moderasi konten akan semakin intensif. Sistemnya akan menjadi lebih kompleks. Tingkat kesalahan mungkin berkurang atau bertambah—tidak ada yang tahu pasti. Namun, yang pasti adalah jutaan, dan segera miliaran, orang akan terdampak oleh keputusan yang tidak mereka pahami, tidak dapat mereka gugat, dan tidak ada akuntabilitasnya.

Dan sementara ini terjadi, negara hanya diam saja. Badan Jaringan Federal (FNA) menggariskan tanggung jawabnya. Uni Eropa memberlakukan undang-undang. Namun, penegakannya setengah hati. Pihak berwenang kekurangan sumber daya. Platform-platform tersebut membayar denda yang sangat kecil bagi mereka dan tidak benar-benar mengubah praktik mereka. Status quo tetap ada: perusahaan teknologi bertindak sebagai penguasa ruang publik digital yang tak terkendali.

Yang luar biasa dari situasi ini adalah kenyataan bahwa hal itu sebenarnya bisa dihindari. Solusinya ada. Ada cara untuk mewujudkan kedaulatan data dan penentuan nasib sendiri secara digital, bukan sekadar tujuan normatif. Namun, agar hal itu terjadi, negara harus meninggalkan ketidakpeduliannya. Negara harus mengakui bahwa ini bukan sekadar masalah regulasi, melainkan ketidakseimbangan kekuasaan. Perusahaan teknologi memiliki kekuasaan. Mereka harus memanfaatkan kekuasaan itu untuk kepentingan masyarakat, atau kekuasaan itu harus dirampas dari mereka.

Hingga saat itu, kasus-kasus seperti Enderman masih menjadi gejala sistem yang tidak berfungsi. Seorang pria kehilangan pekerjaan seumur hidupnya. Tak seorang pun bisa menolongnya. Dan mesin yang menghancurkan pekerjaan seumur hidupnya terus berjalan tanpa gangguan, meninjau kasus-kasus baru, membuat putusan-putusan baru, dan negara mendokumentasikan semuanya dalam berkas-berkas administratif sementara asap mengepul.

Saya akan dengan senang hati menjadi penasihat pribadi Anda.

menghubungi saya di bawah Wolfenstein ∂ xpert.digital

Hubungi saya di bawah +49 89 674 804 (Munich)

LinkedIn