डेटा संप्रभुता, आत्मनिर्णय और एआई-संचालित प्लेटफ़ॉर्म मॉडरेशन की वास्तविकता

### एक क्लिक, सब कुछ खत्म: AI-संचालित प्लेटफ़ॉर्म मॉडरेशन की खामोश अराजकता ### AI द्वारा नष्ट किया गया जीवन का काम: आपका सोशल मीडिया अकाउंट कल ही क्यों गायब हो सकता है ### डेटा संप्रभुता का महान भ्रम: कैसे एल्गोरिदम गुप्त रूप से हम पर शासन करते हैं ### नए EU कानूनों के बावजूद: तकनीकी कंपनियों को अभी भी मनमाने ढंग से डिलीट करने की अनुमति क्यों है ###

जज एल्गोरिथम: जब एक AI आपके डिजिटल जीवन को समाप्त कर देता है - और कोई भी जिम्मेदार नहीं होता

हम ऐसे समय में जी रहे हैं जहाँ "डेटा संप्रभुता" और "डिजिटल आत्मनिर्णय" जैसे शब्द केवल राजनीतिक नारे नहीं हैं, बल्कि एक पूरे समाज की आकांक्षाओं का प्रतिनिधित्व करते हैं। डिजिटल सेवा अधिनियम जैसे कानूनों के साथ, यूरोप वैश्विक तकनीकी कंपनियों की मनमानी कार्रवाइयों के खिलाफ एक सुरक्षा घेरा बनाने और डिजिटल क्षेत्र में अपने नागरिकों के मौलिक अधिकारों की रक्षा करने का प्रयास कर रहा है। लेकिन जब हम कानूनी धाराओं और नियमों पर बहस कर रहे हैं, हमारी आँखों के सामने एक ऐसी वास्तविकता सामने आ रही है जो इन ऊँचे लक्ष्यों का मज़ाक उड़ाती है। एक ऐसी वास्तविकता जिसमें लोगों का डिजिटल अस्तित्व एक बटन दबाते ही नष्ट हो जाता है - किसी व्यक्ति द्वारा नहीं, बल्कि एक अस्पष्ट एल्गोरिथम द्वारा।

हर दिन, YouTube, TikTok और Instagram जैसे प्लेटफ़ॉर्म पर खाते निलंबित किए जाते हैं और चैनल हटाए जाते हैं—वे चैनल जिन्हें उपयोगकर्ताओं ने वर्षों की मेहनत से बनाया है। उनके डिजिटल जीवन का काम अक्सर स्पष्ट औचित्य के बिना, निष्पक्ष सुनवाई के बिना, और निर्णय के प्रभावी अपील के बिना गायब हो जाता है। तेजी से, यह AI-संचालित मॉडरेशन के कारण होता है, जो त्रुटि-प्रवण, अपारदर्शी है, और फिर भी दृश्यता और डिजिटल अस्तित्व का न्याय करने की अंतिम शक्ति रखता है। टेक YouTuber Enderman का मामला, जिसके सैकड़ों हज़ारों सब्सक्राइबर वाले चैनल को कथित तौर पर AI द्वारा बनाए गए एक बेतुके कनेक्शन के आधार पर हटा दिया गया, यह हिमशैल का सिरा मात्र है। यह लेख नियंत्रण की हमारी इच्छा और एल्गोरिदम की अनियंत्रित शक्ति के बीच गहरी खाई की पड़ताल करता है,

हमारी आकांक्षा और वास्तविकता के बीच विरोधाभास कहां है?

हम लगातार डेटा संप्रभुता और डिजिटल आत्मनिर्णय की बात करते रहते हैं। ये शब्द एक आत्मविश्वासी और स्वतंत्र संस्कृति की पहचान बन गए हैं, जिसका उद्देश्य कृत्रिम बुद्धिमत्ता के उपयोग को उसकी परिपक्वता का प्रतीक बताना है। यूरोपीय संघ ने डिजिटल सेवा अधिनियम और डिजिटल बाज़ार अधिनियम जैसे कानूनों के ज़रिए अपने नागरिकों को वैश्विक प्रौद्योगिकी निगमों की मनमानी कार्रवाइयों से बचाने का बीड़ा उठाया है। पारदर्शिता लागू करने और मौलिक अधिकारों की रक्षा के लिए नियम बनाए गए हैं। लेकिन इस सारे नियामकीय निर्माण के साथ, हम एक बुनियादी बात को नज़रअंदाज़ कर रहे हैं: हमने उस अस्तित्वगत खतरे का समाधान नहीं किया है जो हमारी आँखों के सामने रोज़ाना सामने आता है और इन सभी प्रयासों की विश्वसनीयता को कमज़ोर करता है।

प्रमुख सोशल मीडिया चैनल हमें रोज़ाना जो हक़ीक़त दिखाते हैं, वह डेटा संप्रभुता और आत्मनिर्णय की कहानी से बिल्कुल अलग कहानी बयां करती है। लोग हर रोज़ अपने डिजिटल जीवन की मेहनत को बिना किसी औचित्य या इसके प्रतिकार की किसी व्यवस्था के खो देते हैं। वर्षों की मेहनत से बनाए गए चैनल हटा दिए जाते हैं। न तो सावधानीपूर्वक समीक्षा के बाद, न पारदर्शी प्रक्रियाओं के बाद, न ही निष्पक्ष सुनवाई की संभावना के बाद। बस हटा दिए जाते हैं। और यह एक लोकतंत्र के लिए बिलकुल अनुचित है, क्योंकि अपील के लिए कोई प्रभावी व्यवस्था नहीं है और प्रभावित लोगों को यह भी पता नहीं चलता कि उनका समय और रचनात्मकता क्यों बर्बाद हुई।

कौन से विशिष्ट उदाहरण इस मनमानी को प्रदर्शित करते हैं?

सबसे ताज़ा और ज़बरदस्त उदाहरण टेक यूट्यूबर एंडरमैन का है। इस रूसी कंटेंट क्रिएटर ने 3,50,000 से ज़्यादा सब्सक्राइबर्स वाला एक मुख्य यूट्यूब चैनल बनाया था, जहाँ वह तकनीकी विषयों पर काम करता था। उसकी कंटेंट डॉक्यूमेंट्री के लिहाज़ से भी मूल्यवान थी—वह विंडोज़ के पुराने वर्ज़न और अन्य तकनीकी समस्याओं पर काम करता था। इस चैनल को बिना किसी चेतावनी के हटा दिया गया। कुछ समय पहले ही, उसका दूसरा चैनल, एंड्रयू, जिसके भी लाखों सब्सक्राइबर्स थे, गायब हो गया था। इस कठोर कदम का कारण अजीबोगरीब बताया गया: यूट्यूब ने दावा किया कि एंडरमैन के चैनल एक जापानी चैनल से जुड़े थे, जिस पर तीसरी बार कॉपीराइट का मुकदमा चला था। एक ऐसा चैनल जिसे एंडरमैन नहीं जानता, जिसकी भाषा में वह संवाद नहीं करता, और जिससे उसका कोई संबंध नहीं है।

इस मामले में उल्लेखनीय बात सिर्फ़ फ़ैसले का अन्याय नहीं, बल्कि उसे लेने का तरीक़ा है। एंडरमैन ने कहा कि इसके पीछे एक कृत्रिम बुद्धि (AI) प्रणाली का हाथ था, जिसने उनके चैनलों और एक अज्ञात जापानी अकाउंट के बीच एक दोषपूर्ण कनेक्शन स्थापित कर दिया था। इस तकनीकी YouTuber की यह उम्मीद कि कोई मानव YouTube कर्मचारी उनकी शिकायत की समीक्षा करेगा, धराशायी हो गई। महीनों बीत गए, कोई जवाब नहीं आया। एंडरमैन अब इस बात को स्वीकार कर चुके हैं कि YouTube पर उनका समय समाप्त हो गया है। एक अन्य YouTuber ने भी उसी ट्विटर थ्रेड में ऐसी ही समस्याओं की सूचना दी थी - उसी जापानी चैनल का हवाला देते हुए उनका चैनल भी हटा दिया गया था। यह व्यवस्थागत विफलता की ओर इशारा करता है, मानवीय भूल की एक अकेली घटना नहीं, बल्कि अनियंत्रित रूप से काम कर रहे एक स्वचालित सिस्टम की कमियों की ओर।

यूट्यूब कोई अकेला मामला नहीं है। कई प्लेटफ़ॉर्म ने भी इसी तरह के पैटर्न दिखाए हैं। टिकटॉक, इंस्टाग्राम, फ़ेसबुक और अन्य सेवाएँ रोज़ाना बिना किसी पर्याप्त कारण के, सामग्री हटाती हैं और खाते निलंबित करती हैं। पारदर्शिता संगठन Freiheitsrechte.org ने दस्तावेज़ों में दर्ज किया है कि सोशल मीडिया प्लेटफ़ॉर्म अक्सर प्रभावित लोगों को अपने मॉडरेशन निर्णयों के लिए अपर्याप्त स्पष्टीकरण देते हैं। कुछ मामलों में, स्पष्टीकरण केवल सेवा की शर्तों के उल्लंघन का सामान्य संदर्भ देते हैं, बिना यह बताए कि किस विशिष्ट उल्लंघन के कारण कार्रवाई की गई।

क्या तकनीकी कम्पनियां अपनी सामाजिक जिम्मेदारी निभा रही हैं?

यही वह महत्वपूर्ण बिंदु है जहाँ हमें अपने संज्ञानात्मक पूर्वाग्रहों को सुधारने की आवश्यकता है। प्रमुख तकनीकी कंपनियाँ हमारे डेटा, हमारी आर्थिक गतिविधियों और हमारे समाज से स्पष्ट रूप से लाभ कमाती हैं। वे हमारे साझा इंटरनेट को अपने व्यावसायिक आधार के रूप में उपयोग करती हैं। वे हमारे ध्यान और हमारे व्यक्तिगत डेटा से उत्पन्न विज्ञापन राजस्व से अरबों कमाती हैं। साथ ही, ये कंपनियाँ वास्तव में सार्वजनिक और सामाजिक ज़िम्मेदारियाँ भी उठा रही हैं।

YouTube सिर्फ़ एक होस्टिंग प्रदाता जैसी तकनीकी सेवा नहीं है। यह प्लेटफ़ॉर्म जनसंचार का एक बुनियादी ढाँचा बन गया है। यह लाखों लोगों के लिए दृश्यता, पहुँच और पहुँच का निर्धारण करता है। इसने सूचना और ज्ञान के द्वारपाल के रूप में अपनी स्थिति मज़बूत कर ली है। फ़ेसबुक और इंस्टाग्राम भी इसी तरह के हैं - ये सेवाएँ सामाजिक संवाद के केंद्र बन गए हैं। कई लोगों के लिए, ये प्लेटफ़ॉर्म अपनी आवाज़ उठाने, अपने समुदाय बनाने और अपने संदेश फैलाने का मुख्य माध्यम हैं।

लेकिन ये तकनीकी कंपनियाँ सामाजिक संचार के मध्यस्थ के रूप में अपनी भूमिका से आर्थिक लाभ कमाती हैं, लेकिन इस भूमिका में निहित ज़िम्मेदारियों से बचती हैं। राज्य द्वारा शुल्क लेकर कार्य करने के लिए नियुक्त एक धर्मार्थ संगठन, असहमति की आवाज़ों को सिर्फ़ इसलिए नहीं दबा सकता क्योंकि उसे कोई पसंद नहीं है। एक सार्वजनिक प्रसारक किसी व्यक्ति की बात सुने बिना उसे चुप नहीं करा सकता। कोई अदालत किसी को अपना बचाव करने का अवसर दिए बिना उसे दोषी नहीं ठहरा सकती।

फिर भी, इन प्लेटफ़ॉर्म पर रोज़ाना यही होता है। लोगों को बिना किसी ठोस कारण के बाहर कर दिया जाता है। उनका काम हटा दिया जाता है। उनकी आजीविका ऑनलाइन नष्ट कर दी जाती है। और प्लेटफ़ॉर्म का एकमात्र जवाब उनकी सेवा शर्तों का हवाला देना होता है, और ज़्यादा से ज़्यादा एक स्वचालित शिकायत प्रणाली होती है जो शायद ही किसी समस्या का समाधान करती है। यह न केवल अन्यायपूर्ण है, बल्कि एक खुले समाज के लिए संरचनात्मक रूप से ख़तरनाक भी है।

प्रबंधित AI प्लेटफ़ॉर्म - छवि: Xpert.Digital

यहां आप सीखेंगे कि आपकी कंपनी कैसे अनुकूलित AI समाधानों को शीघ्रता से, सुरक्षित रूप से और बिना किसी उच्च प्रवेश बाधाओं के कार्यान्वित कर सकती है।

एक प्रबंधित AI प्लेटफ़ॉर्म, कृत्रिम बुद्धिमत्ता के लिए आपका सर्वांगीण, चिंतामुक्त पैकेज है। जटिल तकनीक, महंगे बुनियादी ढाँचे और लंबी विकास प्रक्रियाओं से निपटने के बजाय, आपको एक विशेषज्ञ भागीदार से आपकी ज़रूरतों के अनुरूप एक टर्नकी समाधान प्राप्त होता है – अक्सर कुछ ही दिनों में।

एक नज़र में मुख्य लाभ:

⚡ तेज़ क्रियान्वयन: विचार से लेकर कार्यान्वयन तक महीनों नहीं, बल्कि कुछ ही दिनों में। हम ऐसे व्यावहारिक समाधान प्रदान करते हैं जो तत्काल मूल्य प्रदान करते हैं।

🔒 अधिकतम डेटा सुरक्षा: आपका संवेदनशील डेटा आपके पास ही रहता है। हम तृतीय पक्षों के साथ डेटा साझा किए बिना सुरक्षित और अनुपालन प्रसंस्करण की गारंटी देते हैं।

💸 कोई वित्तीय जोखिम नहीं: आप केवल परिणामों के लिए भुगतान करते हैं। हार्डवेयर, सॉफ़्टवेयर या कार्मिकों में उच्च अग्रिम निवेश पूरी तरह से समाप्त हो जाता है।

🎯 अपने मुख्य व्यवसाय पर ध्यान केंद्रित करें: उस पर ध्यान केंद्रित करें जिसमें आप सबसे अच्छे हैं। हम आपके AI समाधान के संपूर्ण तकनीकी कार्यान्वयन, संचालन और रखरखाव का प्रबंधन करते हैं।

📈 भविष्य-सुरक्षित और स्केलेबल: आपका AI आपके साथ बढ़ता है। हम निरंतर अनुकूलन और स्केलेबिलिटी सुनिश्चित करते हैं, और मॉडलों को नई आवश्यकताओं के अनुसार लचीले ढंग से अनुकूलित करते हैं।

इसके बारे में यहां अधिक जानकारी:

• प्रबंधित AI प्लेटफ़ॉर्म

एआई के उपयोग से समस्या किस प्रकार बदलेगी?

यहाँ, स्थिति नाटकीय रूप से बिगड़ती जा रही है। तकनीकी कंपनियाँ सामग्री को मॉडरेट करने और निर्णय लेने के लिए स्वचालित प्रणालियों का उपयोग तेज़ी से कर रही हैं। ये कृत्रिम बुद्धिमत्ता प्रणालियाँ पारदर्शी नहीं हैं। इनकी नियमित समीक्षा नहीं की जाती। और सबसे बढ़कर: ये गलतियाँ भी करती हैं जिनके गंभीर परिणाम होते हैं। एंडरमैन का मामला उन कई उदाहरणों में से एक है जो बताते हैं कि कैसे कृत्रिम बुद्धिमत्ता-संचालित मॉडरेशन बेतुके या हानिकारक परिणामों की ओर ले जाता है।

कोविड-19 महामारी के दौरान यह बात ख़ास तौर पर सामने आई। जब मानव समीक्षक उपलब्ध नहीं थे, तो सोशल मीडिया प्लेटफ़ॉर्म ने अपनी सामग्री मॉडरेशन को बड़े पैमाने पर स्वचालित प्रणालियों पर स्थानांतरित कर दिया। नतीजा ग़लत फ़ैसलों की बाढ़ सी आ गई। दिशानिर्देशों का उल्लंघन न करने वाले वीडियो हटा दिए गए। वैध सामग्री गायब हो गई। प्लेटफ़ॉर्म अपने वादे पूरे न कर पाने से उपयोगकर्ता निराश हो गए।

एआई-आधारित कंटेंट मॉडरेशन की सीमाएँ बुनियादी हैं। आर्टिफिशियल इंटेलिजेंस तभी विश्वसनीय रूप से काम करता है जब पर्याप्त प्रशिक्षण डेटा उपलब्ध हो। कई स्थितियाँ सूक्ष्म होती हैं और उन्हें आसानी से वर्गीकृत नहीं किया जा सकता। "मैंने आज रात पास्ता खाया" जैसे वाक्यांश का TikTok पर दोहरा अर्थ था—शाब्दिक रूप से, यह भोजन के सेवन का संकेत देता था, लेकिन एक चलन के संदर्भ में, यह आत्महत्या के विचारों का संकेत देता था। TikTok एल्गोरिथम इस सूक्ष्मता को समझने में विफल रहा और इसके बजाय इस चलन को और बढ़ावा दिया।

इसके अलावा, त्रुटि दर व्यवस्थित है। यूरोपीय प्रसारण संघ के एक अध्ययन से पता चला है कि एआई चैटबॉट्स में समसामयिक घटनाओं से जुड़े सभी सवालों के 45 प्रतिशत जवाबों में कम से कम एक गंभीर समस्या थी, जो पाठकों को गुमराह कर सकती है। 81 प्रतिशत परिणामों में किसी न किसी प्रकार की त्रुटि पाई गई। यह कोई अपवाद नहीं है; यह एक नियम है।

फिर भी, लाखों लोगों के डिजिटल जीवन का भाग्य तय करने के लिए इन्हीं त्रुटि-प्रवण और अपारदर्शी प्रणालियों का इस्तेमाल किया जाता है। एक वीडियो हटा दिया जाता है। एक चैनल निष्क्रिय कर दिया जाता है। एक कंपनी को प्लेटफ़ॉर्म से हटा दिया जाता है। और यह फ़ैसला एक ऐसी प्रणाली द्वारा लिया जाता है जिसे उपयोगकर्ता समझ नहीं पाते, जो जवाबदेह नहीं है, और जिसे बेख़ौफ़ होकर ग़लत फ़ैसले लेने की इजाज़त है।

राज्य की जिम्मेदारी कहां है?

राज्य केवल आँखें मूंदे नहीं बैठा है। इससे भी बुरी बात यह है कि राज्य, जिसके पास इस स्थिति को सुधारने की शक्ति है, नौकरशाही का सहारा ले रहा है और छोटी-छोटी बातों में उलझा हुआ है। नियम हैं - यह सच है। यूरोपीय संघ का डिजिटल सेवा अधिनियम यह निर्धारित करता है कि प्लेटफ़ॉर्म पारदर्शी होने चाहिए। इसके तहत उपयोगकर्ताओं को शिकायत करने का अधिकार होना चाहिए। इसमें यह भी प्रावधान है कि बहुत बड़े प्लेटफ़ॉर्म को अपने सिस्टम और अपने निर्णयों का खुलासा करना होगा। कागज़ पर तो यह सब अच्छा और सही लगता है।

हालाँकि, इन नियमों का प्रवर्तन बिखरा हुआ है। जर्मनी में संघीय नेटवर्क एजेंसी ने डिजिटल सेवा समन्वयक की भूमिका संभाली है और अब उसे इन नियमों को लागू करने का काम सौंपा गया है। लेकिन क्या इस एजेंसी के पास पर्याप्त संसाधन हैं? क्या इसके पास पर्याप्त शक्ति है? क्या अलग-अलग राष्ट्रीय प्राधिकरण वास्तव में उन वैश्विक तकनीकी कंपनियों के खिलाफ कार्रवाई कर सकते हैं जो वकीलों और लॉबिंग के ज़रिए अपनी ज़िम्मेदारियों से बचती हैं?

इसके अलावा, एक और भी गहरी समस्या है। बहुत लंबे समय से, राज्य ने निजी निगमों को एक साथ द्वारपाल, न्यायाधीश और जूरी की भूमिका निभाने की अनुमति दी है। ये निगम अपने मंचों पर सही और गलत का फैसला करते हैं। वे फैसले सुनाते हैं। वे सज़ाएँ लागू करते हैं। और वे किसी के प्रति जवाबदेह नहीं हैं। यह सिर्फ़ एक नियामकीय खामी नहीं है। यह लोकतंत्र की एक बुनियादी विफलता है।

लंबे समय से यह धारणा रही है कि बाज़ार खुद को नियंत्रित करते हैं, प्लेटफ़ॉर्म प्रतिष्ठा और स्वार्थ के आधार पर काम करते हैं। यह धारणा बुनियादी तौर पर गलत साबित हुई है। प्लेटफ़ॉर्म निष्पक्षता के लिए नहीं, बल्कि जुड़ाव और विज्ञापन राजस्व के लिए अनुकूलन करते हैं। वे ऐसे AI सिस्टम चलाते हैं जो मानवीय नियंत्रण से सस्ते होते हैं, हालाँकि इन सिस्टम में त्रुटियाँ होने की संभावना होती है। और जब कोई त्रुटि होती है, तो वे दोष उस एल्गोरिथम पर डाल सकते हैं जिसने कथित तौर पर एक स्वायत्त निर्णय लिया था।

इस स्थिति को बदलने के लिए क्या करना होगा?

सबसे पहले, यह स्पष्ट करना ज़रूरी है कि प्रमुख मंच केवल निजी कंपनियाँ नहीं हैं जिन पर राज्य का कोई प्रभाव नहीं है। ये कंपनियाँ सार्वजनिक कार्य करती हैं। ये सार्वजनिक संवाद के मध्यस्थ हैं। उन्होंने एक सामाजिक दायित्व संभाला है, आर्थिक लाभ के साथ, लेकिन फिर भी सामाजिक उत्तरदायित्व के साथ।

इसका मतलब है कि मॉडरेशन के फैसलों पर, खासकर निलंबन या निष्कासन जैसे कठोर कदमों पर, कानून के शासन के मूलभूत सिद्धांत लागू होने चाहिए। इसका मतलब है कि किसी फैसले के कारणों के बारे में पूरी पारदर्शिता होनी चाहिए। इसका मतलब है कि कठोर कदम उठाए जाने से पहले निष्पक्ष सुनवाई का अधिकार। इसका मतलब है अपील करने का वास्तविक अधिकार, न कि एक स्वचालित शिकायत प्रणाली जो व्यवहार में अप्रभावी हो। इसका मतलब है मानवीय समीक्षा, खासकर उन मामलों में जिनमें एल्गोरिदम शामिल हो।

इसके अलावा, एआई-संचालित मॉडरेशन की सीमाएँ होनी चाहिए। अगर कोई सिस्टम त्रुटिपूर्ण है और लाखों लोगों को प्रभावित कर सकता है, तो उसमें हमेशा एक इंसान की भागीदारी होनी चाहिए। यूरोपीय संघ के नियम इसी ओर इशारा करते हैं, लेकिन इनका पालन नहीं हो रहा है। प्लेटफ़ॉर्म लगातार इन नियमों को दरकिनार करने या कमज़ोर करने के तरीके खोजते रहते हैं।

जवाबदेही में एक संरचनात्मक बदलाव की भी ज़रूरत है। प्लेटफ़ॉर्म को अपने सिस्टम के फ़ैसलों के लिए ज़िम्मेदार ठहराया जाना चाहिए। लाक्षणिक रूप से नहीं, बल्कि क़ानूनी रूप से। अगर किसी चैनल को ग़लती से हटाया जाता है, तो प्लेटफ़ॉर्म को हर्जाना देने के लिए बाध्य होना चाहिए। इससे प्रोत्साहन बदल जाएँगे। अचानक, एक दोषपूर्ण स्वचालित प्रणाली का इस्तेमाल करना सस्ता नहीं रह जाएगा। अचानक, लोगों को अन्यायपूर्ण तरीके से नुकसान पहुँचाने की कीमत चुकानी पड़ेगी।

एंडरमैन के लिए, इसका मतलब यह होता कि YouTube उनके चैनल को सिर्फ़ इसलिए नहीं हटा सकता था क्योंकि AI सिस्टम ने एक जापानी अकाउंट से ग़लत कनेक्शन बना दिया था। इसकी समीक्षा होनी चाहिए थी। जवाब देने का मौका मिलना चाहिए था। और अगर गलती पर ध्यान नहीं दिया जाता, तो YouTube को ज़िम्मेदार ठहराया जा सकता था।

यदि इन समस्याओं का समाधान नहीं किया गया तो क्या होगा?

जवाब बेहद चौंकाने वाला है। अगर हम एआई सिस्टम को लोगों के डिजिटल अस्तित्व पर मनमाने ढंग से फैसला करने देंगे, तो एआई के साथ अराजकता नहीं आएगी—अराजकता तो पहले से ही मौजूद है। यह और बढ़ेगी। क्योंकि ये सिस्टम जितने ज़्यादा बुद्धिमान होते जाएँगे, हम उन्हें उतना ही कम समझ पाएँगे। और जितना कम हम उन्हें समझ पाएँगे, उतना ही कम हम उन्हें नियंत्रित कर पाएँगे।

इससे भी बदतर: समस्या तेज़ी से बढ़ेगी। कंटेंट मॉडरेशन में एआई का इस्तेमाल बढ़ेगा। सिस्टम और जटिल होते जाएँगे। त्रुटि दर घट सकती है या बढ़ सकती है—कोई भी निश्चित रूप से नहीं जानता। लेकिन यह निश्चित है कि लाखों, और जल्द ही अरबों लोग, ऐसे फैसलों से प्रभावित होंगे जिन्हें वे समझ नहीं पाएँगे, जिन्हें चुनौती नहीं दे पाएँगे, और जिनके लिए कोई जवाबदेही नहीं है।

और जब यह सब हो रहा होता है, तो सरकार मुँह फेर लेती है। संघीय नेटवर्क एजेंसी अपनी ज़िम्मेदारियाँ बताती है। यूरोपीय संघ कानून बनाता है। लेकिन उनका पालन आधे-अधूरे मन से होता है। अधिकारियों के पास संसाधनों की कमी है। प्लेटफ़ॉर्म सिर्फ़ जेब खर्च के लिए जुर्माना भरते हैं, और अपनी कार्यप्रणाली में कोई बदलाव नहीं करते। यथास्थिति बनी रहती है: तकनीकी कंपनियाँ डिजिटल सार्वजनिक क्षेत्र पर अनियंत्रित शासक की तरह काम करती हैं।

इस स्थिति की खास बात यह है कि इसे टाला जा सकता है। समाधान मौजूद हैं। डेटा संप्रभुता और डिजिटल आत्मनिर्णय को सिर्फ़ मानक लक्ष्य ही नहीं, बल्कि वास्तविकता बनाने के तरीके भी मौजूद हैं। लेकिन ऐसा होने के लिए, राज्य को अपनी उदासीनता छोड़नी होगी। उसे यह समझना होगा कि यह सिर्फ़ एक नियामक मुद्दा नहीं है, बल्कि एक शक्ति असंतुलन है। तकनीकी कंपनियों के पास शक्ति है। उन्हें उस शक्ति का उपयोग समाज के हित में करना होगा, वरना यह उनसे छीन ली जाएगी।

तब तक, एंडरमैन जैसे मामले उस व्यवस्था के लक्षण बने रहेंगे जो काम नहीं कर रही है। एक आदमी अपनी ज़िंदगी की मेहनत गँवा देता है। कोई उसकी मदद नहीं कर सकता। और जिस मशीन ने उसकी ज़िंदगी की मेहनत को बर्बाद कर दिया, वह बिना किसी रुकावट के चलती रहती है, नए मामलों की समीक्षा करती है, नए फैसले सुनाती है, और राज्य यह सब प्रशासनिक फाइलों में दर्ज करता रहता है, जबकि धुआँ उठता रहता है।

Konrad Wolfenstein

मुझे आपके निजी सलाहकार के रूप में सेवा करने में खुशी होगी।

मुझे वोल्फेंस्टीन v Xpert.digital संपर्क

मुझे +49 89 674 804 (म्यूनिख) कॉल करें

Linkedin