डेटा संप्रभुता, स्व-निर्धारण और एआई-संचालित प्लेटफ़ॉर्म मॉडरेशन की वास्तविकता

### एक क्लिक, सब कुछ गायब: एआई-संचालित प्लेटफॉर्म मॉडरेशन की खामोश अराजकता ### एआई द्वारा जीवन भर की मेहनत बर्बाद: आपका सोशल मीडिया अकाउंट कल अचानक गायब क्यों हो सकता है ### डेटा संप्रभुता का बड़ा भ्रम: एल्गोरिदम कैसे गुप्त रूप से हम पर शासन करते हैं ### नए यूरोपीय संघ के कानूनों के बावजूद: तकनीकी कंपनियों को अभी भी मनमाने ढंग से डेटा हटाने की अनुमति क्यों है ###

जज एल्गोरिदम: जब एक एआई आपकी डिजिटल जिंदगी खत्म कर देता है - और कोई भी जिम्मेदार नहीं होता।

हम ऐसे दौर में जी रहे हैं जहाँ "डेटा संप्रभुता" और "डिजिटल आत्मनिर्णय" जैसे शब्द महज़ राजनीतिक नारे नहीं हैं, बल्कि पूरे समाज की आकांक्षाओं का प्रतिनिधित्व करते हैं। डिजिटल सेवा अधिनियम जैसे कानूनों के ज़रिए यूरोप वैश्विक तकनीकी कंपनियों की मनमानी कार्रवाइयों के खिलाफ़ एक मज़बूत दीवार खड़ी करने और डिजिटल क्षेत्र में अपने नागरिकों के मौलिक अधिकारों की रक्षा करने का प्रयास कर रहा है। लेकिन जब हम कानूनी प्रावधानों और नियमों पर बहस कर रहे हैं, तब एक ऐसी वास्तविकता हमारी आँखों के सामने घटित हो रही है जो इन ऊँचे लक्ष्यों का मज़ाक उड़ाती है। एक ऐसी वास्तविकता जिसमें लोगों का डिजिटल अस्तित्व एक बटन दबाते ही नष्ट हो जाता है – किसी व्यक्ति द्वारा नहीं, बल्कि एक अस्पष्ट एल्गोरिदम द्वारा।.

हर दिन, YouTube, TikTok और Instagram जैसे प्लेटफॉर्म पर अकाउंट सस्पेंड किए जा रहे हैं और चैनल डिलीट किए जा रहे हैं—वे चैनल जिन्हें यूजर्स ने सालों की मेहनत से बनाया है। उनकी डिजिटल दुनिया की सारी मेहनत गायब हो जाती है, अक्सर बिना किसी स्पष्ट कारण, बिना निष्पक्ष सुनवाई और बिना किसी अपील के। इसका मुख्य कारण AI द्वारा संचालित मॉडरेशन है, जो त्रुटिपूर्ण और अपारदर्शी होने के बावजूद, दृश्यता और डिजिटल अस्तित्व को निर्धारित करने की अंतिम शक्ति रखता है। टेक यूट्यूबर एंडरमैन का मामला, जिनके लाखों सब्सक्राइबर्स वाले चैनल को AI द्वारा कथित तौर पर किए गए एक बेतुके कनेक्शन के आधार पर डिलीट कर दिया गया, तो बस एक छोटा सा उदाहरण है। यह लेख नियंत्रण की हमारी इच्छा और एल्गोरिदम की अनियंत्रित शक्ति के बीच की गहरी खाई को उजागर करता है, जो लंबे समय से हमारे डिजिटल सार्वजनिक क्षेत्र में न्यायाधीश और जल्लाद बन चुके हैं।.

हमारी आकांक्षा और हमारी वास्तविकता के बीच विरोधाभास कहाँ है?

हम लगातार डेटा संप्रभुता और डिजिटल स्व-निर्धारण की बात करते रहते हैं। ये शब्द एक आत्मविश्वासी और स्वतंत्र संस्कृति की पहचान बन गए हैं, जो कृत्रिम बुद्धिमत्ता से निपटने के अपने तरीके को अपनी परिपक्वता के प्रतीक के रूप में प्रस्तुत करती है। यूरोपीय संघ ने डिजिटल सेवा अधिनियम और डिजिटल बाजार अधिनियम जैसे कानूनों के माध्यम से वैश्विक प्रौद्योगिकी निगमों की मनमानी कार्रवाइयों से अपने नागरिकों की रक्षा करने का प्रयास किया है। पारदर्शिता लागू करने और मौलिक अधिकारों की रक्षा के लिए नियम बनाए गए हैं। लेकिन इन सभी नियामक व्यवस्थाओं के बावजूद, हम एक मूलभूत बात को नज़रअंदाज़ कर रहे हैं: हमने उस अस्तित्वगत खतरे का समाधान नहीं किया है जो हमारी आँखों के सामने प्रतिदिन प्रकट हो रहा है और इन सभी प्रयासों की विश्वसनीयता को कमज़ोर कर रहा है।.

प्रमुख सोशल मीडिया चैनल हमें प्रतिदिन जो वास्तविकता दिखाते हैं, वह डेटा संप्रभुता और आत्मनिर्णय की कहानी से बिलकुल अलग है। लोग हर दिन बिना किसी औचित्य या बचाव तंत्र के अपनी डिजिटल जीवन भर की मेहनत खो देते हैं। वर्षों की मेहनत से बनाए गए चैनल हटा दिए जाते हैं। न तो सावधानीपूर्वक समीक्षा के बाद, न ही पारदर्शी प्रक्रियाओं के बाद, न ही निष्पक्ष सुनवाई की संभावना के बाद। बस हटा दिए जाते हैं। और यह एक लोकतंत्र के लिए अशोभनीय तरीके से होता है, क्योंकि अपील के लिए कोई प्रभावी तंत्र नहीं है और प्रभावित लोगों को यह भी नहीं पता कि उनका समय और रचनात्मकता क्यों बर्बाद हुई है।.

इस मनमानी को दर्शाने वाले विशिष्ट उदाहरण क्या हैं?

सबसे हालिया और चौंकाने वाला उदाहरण टेक यूट्यूबर एंडरमैन का मामला है। इस रूसी कंटेंट क्रिएटर ने एक मुख्य यूट्यूब चैनल बनाया था जिसके 350,000 से अधिक सब्सक्राइबर थे और जहां वह तकनीकी विषयों पर वीडियो बनाते थे। उनका कंटेंट डॉक्यूमेंट्री की दृष्टि से काफी उपयोगी था - वे विंडोज के पुराने वर्जन और अन्य तकनीकी समस्याओं पर वीडियो बनाते थे। इस चैनल को बिना किसी चेतावनी के डिलीट कर दिया गया। इससे कुछ समय पहले ही उनका दूसरा चैनल, एंड्रयू, जिसके भी लाखों सब्सक्राइबर थे, गायब हो गया था। इस कठोर कदम का बताया गया कारण अजीब था: यूट्यूब ने दावा किया कि एंडरमैन के चैनल एक जापानी चैनल से जुड़े थे जिसे तीसरी बार कॉपीराइट उल्लंघन का नोटिस मिला था। एक ऐसा चैनल जिसे एंडरमैन नहीं जानते, जिसकी भाषा में वे बात नहीं करते और जिससे उनका कोई संबंध नहीं है।.

इस मामले में सबसे चौंकाने वाली बात सिर्फ फैसले की नाइंसाफी ही नहीं, बल्कि जिस तरीके से यह फैसला लिया गया, वह भी है। एंडरमैन ने आरोप लगाया कि इसके पीछे एक एआई सिस्टम का हाथ था, जिसने उनके चैनल और एक अज्ञात जापानी अकाउंट के बीच गलत कनेक्शन बना लिया था। इस टेक यूट्यूबर की यह उम्मीद कि यूट्यूब का कोई कर्मचारी उनकी शिकायत की समीक्षा करेगा, पूरी तरह टूट गई। कई महीने बीत गए, लेकिन कोई जवाब नहीं आया। अब एंडरमैन ने शायद यह मान लिया है कि यूट्यूब पर उनका समय खत्म हो गया है। एक अन्य यूट्यूबर ने भी इसी तरह की समस्या की शिकायत उसी ट्विटर थ्रेड में की – उनका चैनल भी उसी जापानी चैनल के संदर्भ में डिलीट कर दिया गया। यह किसी मानवीय गलती की घटना नहीं, बल्कि एक अनियंत्रित स्वचालित सिस्टम की खामियों की ओर इशारा करता है।.

यूट्यूब अकेला मामला नहीं है। कई अन्य प्लेटफॉर्म्स में भी इसी तरह के पैटर्न देखने को मिले हैं। टिकटॉक, इंस्टाग्राम, फेसबुक और अन्य सेवाएं अक्सर बिना पर्याप्त कारण बताए ही रोज़ाना कंटेंट डिलीट करती हैं और अकाउंट सस्पेंड करती हैं। पारदर्शिता संगठन Freiheitsrechte.org ने यह दस्तावेज़ किया है कि सोशल मीडिया प्लेटफॉर्म्स अक्सर प्रभावित लोगों को अपने मॉडरेशन निर्णयों के लिए अपर्याप्त स्पष्टीकरण देते हैं। कुछ मामलों में, स्पष्टीकरण में केवल सेवा शर्तों के उल्लंघन का सामान्य रूप से उल्लेख किया जाता है, यह बताए बिना कि किस विशिष्ट उल्लंघन के कारण कार्रवाई की गई।.

क्या प्रौद्योगिकी कंपनियां अपनी सामाजिक जिम्मेदारी को पूरा कर रही हैं?

यही वह महत्वपूर्ण बिंदु है जहाँ हमें अपने संज्ञानात्मक पूर्वाग्रहों को सुधारने की आवश्यकता है। प्रमुख तकनीकी कंपनियाँ स्पष्ट रूप से हमारे डेटा, हमारी आर्थिक गतिविधियों और हमारे समाज से लाभ कमाती हैं। वे हमारे साझा इंटरनेट को अपने व्यवसाय का आधार बनाती हैं। वे हमारे ध्यान और हमारे व्यक्तिगत डेटा से उत्पन्न विज्ञापन राजस्व से अरबों कमाती हैं। साथ ही, ये निगम वास्तव में सार्वजनिक और सामाजिक जिम्मेदारियों को भी निभा रहे हैं।.

यूट्यूब महज एक होस्टिंग प्रदाता जैसी तकनीकी सेवा नहीं है। यह प्लेटफॉर्म सार्वजनिक संचार का आधारभूत ढांचा बन चुका है। यह लाखों लोगों के लिए दृश्यता, पहुंच और उपयोग निर्धारित करता है। इसने सूचना और ज्ञान के संरक्षक के रूप में अपनी भूमिका को मजबूती से स्थापित कर लिया है। फेसबुक और इंस्टाग्राम भी इसी तरह हैं - ये सेवाएं सामाजिक संवाद के प्रमुख केंद्र बन चुकी हैं। कई लोगों के लिए, ये प्लेटफॉर्म अपनी आवाज उठाने, अपने समुदाय बनाने और अपने संदेश फैलाने का प्राथमिक स्थान हैं।.

लेकिन जहाँ एक ओर ये तकनीकी कंपनियाँ सामाजिक संचार के मध्यस्थ के रूप में अपनी भूमिका से आर्थिक लाभ कमाती हैं, वहीं दूसरी ओर वे इस भूमिका से जुड़ी ज़िम्मेदारियों से पल्ला झाड़ती हैं। राज्य द्वारा शुल्क लेकर कार्य करने के लिए नियुक्त कोई धर्मार्थ संस्था किसी को नापसंद करने मात्र से असहमति की आवाज़ों को नज़रअंदाज़ नहीं कर सकती। कोई सार्वजनिक प्रसारक किसी व्यक्ति का पक्ष सुने बिना उसे चुप नहीं करा सकता। कोई अदालत किसी को अपना बचाव करने का अवसर दिए बिना उसे दोषी नहीं ठहरा सकती।.

लेकिन इन प्लेटफॉर्मों पर ठीक यही सब रोज़ाना होता है। लोगों को बिना किसी ठोस कारण के बाहर कर दिया जाता है। उनका काम डिलीट कर दिया जाता है। ऑनलाइन उनकी आजीविका बर्बाद हो जाती है। और प्लेटफॉर्मों की एकमात्र प्रतिक्रिया उनकी सेवा शर्तों का हवाला देना और ज़्यादा से ज़्यादा एक स्वचालित शिकायत प्रणाली का इस्तेमाल करना होता है, जो शायद ही किसी समस्या का समाधान करती है। यह न केवल अन्यायपूर्ण है, बल्कि एक खुले समाज के लिए संरचनात्मक रूप से खतरनाक भी है।.

प्रबंधित एआई प्लेटफॉर्म - छवि: Xpert.Digital

यहां आप जानेंगे कि आपकी कंपनी बिना किसी बड़ी बाधा के, तेजी से, सुरक्षित रूप से और बिना किसी विशेष प्रक्रिया के अनुकूलित एआई समाधानों को कैसे लागू कर सकती है।.

एक प्रबंधित एआई प्लेटफॉर्म कृत्रिम बुद्धिमत्ता के लिए आपका संपूर्ण और चिंतामुक्त समाधान है। जटिल तकनीक, महंगे बुनियादी ढांचे और लंबी विकास प्रक्रियाओं से निपटने के बजाय, आपको एक विशेषज्ञ भागीदार से आपकी आवश्यकताओं के अनुरूप तैयार समाधान मिलता है - अक्सर कुछ ही दिनों के भीतर।.

मुख्य लाभ संक्षेप में:

⚡ त्वरित कार्यान्वयन: विचार से लेकर उपयोग के लिए तैयार एप्लिकेशन तक, महीनों में नहीं, दिनों में। हम ऐसे व्यावहारिक समाधान प्रदान करते हैं जो तत्काल मूल्यवर्धन करते हैं।.

🔒 अधिकतम डेटा सुरक्षा: आपका संवेदनशील डेटा आपके पास ही सुरक्षित रहता है। हम तीसरे पक्षों के साथ डेटा साझा किए बिना सुरक्षित और नियमों के अनुरूप प्रोसेसिंग की गारंटी देते हैं।.

💸 कोई वित्तीय जोखिम नहीं: आपको केवल परिणामों के लिए भुगतान करना होगा। हार्डवेयर, सॉफ्टवेयर या कर्मचारियों में होने वाले भारी प्रारंभिक निवेश की कोई आवश्यकता नहीं है।.

🎯 अपने मुख्य व्यवसाय पर ध्यान केंद्रित करें: आप जिस काम में सबसे अच्छे हैं, उसी पर ध्यान दें। हम आपके एआई समाधान के संपूर्ण तकनीकी कार्यान्वयन, संचालन और रखरखाव का ध्यान रखते हैं।.

📈 भविष्य के लिए तैयार और विस्तार योग्य: आपकी एआई आपके साथ बढ़ती है। हम निरंतर अनुकूलन और विस्तारशीलता सुनिश्चित करते हैं, और नए आवश्यकताओं के अनुसार मॉडलों को लचीले ढंग से अनुकूलित करते हैं।.

अधिक जानकारी यहाँ:

• प्रबंधित एआई प्लेटफ़ॉर्म

कृत्रिम बुद्धिमत्ता का उपयोग इस समस्या को किस प्रकार बदलता है?

यहां स्थिति बेहद खराब होती जा रही है। तकनीकी कंपनियां कंटेंट को नियंत्रित करने और निर्णय लेने के लिए स्वचालित प्रणालियों का तेजी से उपयोग कर रही हैं। ये एआई सिस्टम पारदर्शी नहीं हैं। इनकी नियमित रूप से समीक्षा नहीं की जाती है। और सबसे महत्वपूर्ण बात यह है कि ये ऐसी गलतियां भी करते हैं जिनके गंभीर परिणाम होते हैं। एंडरमैन मामला एआई-आधारित मॉडरेशन के उन अनेक उदाहरणों में से एक है जिनसे बेतुके या हानिकारक परिणाम निकलते हैं।.

कोविड-19 महामारी के दौरान यह बात विशेष रूप से स्पष्ट हो गई। जब मानवीय समीक्षक उपलब्ध नहीं थे, तो सोशल मीडिया प्लेटफॉर्मों ने अपने कंटेंट मॉडरेशन को बड़े पैमाने पर स्वचालित प्रणालियों पर स्थानांतरित कर दिया। इसका परिणाम गलत निर्णयों की एक लहर के रूप में सामने आया। ऐसे वीडियो जो दिशानिर्देशों का उल्लंघन नहीं कर रहे थे, उन्हें हटा दिया गया। वैध कंटेंट गायब हो गया। उपयोगकर्ता निराश हो गए क्योंकि प्लेटफॉर्म अपने वादे पूरे नहीं कर सके।.

कृत्रिम बुद्धिमत्ता (AI) आधारित सामग्री नियंत्रण की सीमाएँ मूलभूत हैं। कृत्रिम बुद्धिमत्ता तभी विश्वसनीय रूप से कार्य करती है जब पर्याप्त प्रशिक्षण डेटा उपलब्ध हो। कई स्थितियाँ जटिल होती हैं और उन्हें आसानी से वर्गीकृत नहीं किया जा सकता। TikTok पर "मैंने आज रात पास्ता खाया" जैसे वाक्यांश का दोहरा अर्थ था—शाब्दिक रूप से, यह भोजन सेवन को संदर्भित करता था, लेकिन एक ट्रेंड के संदर्भ में, यह आत्महत्या के विचारों का संकेत देता था। TikTok एल्गोरिदम इस सूक्ष्म अंतर को समझने में विफल रहा और इसके बजाय ट्रेंड को बढ़ावा दिया।.

इसके अलावा, त्रुटि दर व्यवस्थित है। यूरोपीय प्रसारण संघ द्वारा किए गए एक अध्ययन से पता चला है कि एआई चैटबॉट द्वारा समसामयिक घटनाओं से संबंधित प्रश्नों के 45 प्रतिशत उत्तरों में कम से कम एक महत्वपूर्ण त्रुटि पाई गई, जिससे पाठकों को गुमराह किया जा सकता है। 81 प्रतिशत परिणामों में किसी न किसी प्रकार की त्रुटि पाई गई। यह कोई अपवाद नहीं है; यह एक नियमित प्रक्रिया है।.

फिर भी, इन्हीं त्रुटिपूर्ण और अपारदर्शी प्रणालियों का उपयोग लाखों लोगों के डिजिटल जीवन का भविष्य तय करने के लिए किया जाता है। एक वीडियो डिलीट कर दिया जाता है। एक चैनल निष्क्रिय कर दिया जाता है। एक कंपनी को प्लेटफॉर्म से हटा दिया जाता है। और यह निर्णय एक ऐसी प्रणाली द्वारा लिया जाता है जिसे उपयोगकर्ता समझ नहीं सकते, जो जवाबदेह नहीं है, और जिसे बिना किसी दंड के गलत निर्णय लेने की छूट है।.

राज्य की जिम्मेदारी कहाँ निहित है?

सरकार जानबूझकर अनदेखी नहीं कर रही है। इससे भी बुरी बात यह है कि सरकार, जिसके पास इस स्थिति को सुधारने की शक्ति है, नौकरशाही में उलझकर छोटी-छोटी बातों में फंसी हुई है। नियम तो हैं, यह सच है। यूरोपीय संघ के डिजिटल सेवा अधिनियम में यह प्रावधान है कि प्लेटफॉर्म पारदर्शी होने चाहिए। इसमें उपयोगकर्ताओं को शिकायत करने का अधिकार दिया गया है। इसमें यह भी प्रावधान है कि बहुत बड़े प्लेटफॉर्म को अपने सिस्टम और अपने निर्णयों का खुलासा करना होगा। कागज़ पर तो यह सब अच्छा और सही लगता है।.

हालांकि, इन नियमों का प्रवर्तन खंडित है। जर्मनी में संघीय नेटवर्क एजेंसी ने डिजिटल सेवा समन्वयक की भूमिका संभाली है और अब उसे इन नियमों को लागू करने का दायित्व सौंपा गया है। लेकिन क्या इस एजेंसी के पास पर्याप्त संसाधन हैं? क्या इसके पास पर्याप्त शक्ति है? क्या अलग-अलग राष्ट्रीय प्राधिकरण वास्तव में उन वैश्विक प्रौद्योगिकी कंपनियों के खिलाफ कार्रवाई कर सकते हैं जो वकीलों और पैरवी के माध्यम से अपनी जिम्मेदारियों से बचती हैं?

इसके अलावा, एक और भी गंभीर समस्या है। बहुत लंबे समय से, राज्य ने निजी निगमों को एक साथ संरक्षक, न्यायाधीश और निर्णायक की भूमिका निभाने की अनुमति दी है। ये निगम अपने प्लेटफॉर्म पर सही और गलत का फैसला करते हैं। वे फैसले सुनाते हैं। वे सजाएं लागू करते हैं। और वे किसी के प्रति जवाबदेह नहीं हैं। यह केवल एक नियामक खामी नहीं है। यह लोकतंत्र की एक मूलभूत विफलता है।.

लंबे समय से यह माना जाता रहा है कि बाज़ार स्वतः नियंत्रित होते हैं, और प्लेटफ़ॉर्म अपनी प्रतिष्ठा और स्वार्थ के आधार पर कार्य करते हैं। यह धारणा पूरी तरह गलत साबित हुई है। प्लेटफ़ॉर्म निष्पक्षता के बजाय जुड़ाव और विज्ञापन राजस्व को प्राथमिकता देते हैं। वे ऐसे एआई सिस्टम चलाते हैं जो मानवीय नियंत्रण से सस्ते होते हैं, भले ही ये सिस्टम त्रुटि-प्रवण हों। और जब कोई त्रुटि होती है, तो वे दोष उस एल्गोरिदम पर डाल देते हैं जिसने कथित तौर पर स्वायत्त निर्णय लिया था।.

इस स्थिति को बदलने के लिए क्या आवश्यक होगा?

सर्वप्रथम, यह स्पष्ट करना आवश्यक है कि प्रमुख मंच मात्र निजी कंपनियाँ नहीं हैं जिन पर राज्य का कोई नियंत्रण नहीं है। ये कंपनियाँ सार्वजनिक कार्य करती हैं। ये सार्वजनिक चर्चा के मध्यस्थ हैं। इन्होंने एक सामाजिक दायित्व ग्रहण किया है, निश्चित रूप से आर्थिक लाभ के साथ, लेकिन फिर भी सामाजिक उत्तरदायित्व के साथ।.

इसका अर्थ है कि कानून के शासन के मूलभूत सिद्धांत मॉडरेशन निर्णयों पर लागू होने चाहिए, विशेषकर निलंबन या विलोपन जैसे कठोर उपायों पर। इसका अर्थ है निर्णय के कारणों के संबंध में पूर्ण पारदर्शिता। इसका अर्थ है कठोर उपाय किए जाने से पहले निष्पक्ष सुनवाई का अधिकार। इसका अर्थ है अपील का वास्तविक अधिकार, न कि एक स्वचालित शिकायत प्रणाली जो व्यवहार में अप्रभावी है। इसका अर्थ है मानवीय समीक्षा, विशेषकर एल्गोरिदम से जुड़े मामलों में।.

इसके अलावा, कृत्रिम बुद्धिमत्ता द्वारा संचालित नियंत्रण की सीमाएं तय होनी चाहिए। यदि कोई प्रणाली त्रुटिपूर्ण है और लाखों लोगों को प्रभावित कर सकती है, तो उसमें हमेशा एक मानवीय हस्तक्षेप आवश्यक है। यूरोपीय संघ के नियम इसी ओर इशारा करते हैं, लेकिन उनका क्रियान्वयन अपर्याप्त है। प्लेटफ़ॉर्म लगातार इन नियमों को दरकिनार करने या कमजोर करने के तरीके खोजते रहते हैं।.

जवाबदेही में ढांचागत बदलाव की भी आवश्यकता है। प्लेटफॉर्म को अपने सिस्टम के फैसलों के लिए जवाबदेह ठहराया जाना चाहिए। सिर्फ प्रतीकात्मक रूप से नहीं, बल्कि कानूनी रूप से। अगर कोई चैनल गलत तरीके से डिलीट किया जाता है, तो प्लेटफॉर्म को हर्जाना देना होगा। इससे प्रोत्साहन बदल जाएंगे। अचानक, दोषपूर्ण स्वचालित सिस्टम का उपयोग करना सस्ता नहीं रह जाएगा। अचानक, लोगों को अन्यायपूर्ण तरीके से नुकसान पहुंचाने की कीमत चुकानी पड़ेगी।.

एंडरमैन के लिए, इसका मतलब यह होता कि AI सिस्टम द्वारा जापानी खाते से गलत कनेक्शन होने के कारण YouTube उनके चैनल को यूं ही डिलीट नहीं कर सकता था। समीक्षा होनी चाहिए थी। उन्हें जवाब देने का मौका मिलना चाहिए था। और अगर गलती पर ध्यान नहीं दिया जाता, तो YouTube को ज़िम्मेदार ठहराया जा सकता था।.

यदि इन समस्याओं का समाधान नहीं हुआ तो क्या होगा?

इसका जवाब बेहद भयावह है। अगर हम कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों को लोगों के डिजिटल अस्तित्व के बारे में मनमाने ढंग से निर्णय लेने की अनुमति देते हैं, तो अराजकता एआई के साथ नहीं आएगी - अराजकता तो पहले से ही मौजूद है। यह और भी तीव्र हो जाएगी। क्योंकि ये प्रणालियाँ जितनी अधिक बुद्धिमान होती जाएंगी, हम उन्हें उतना ही कम समझ पाएंगे। और हम उन्हें जितना कम समझेंगे, उतना ही कम उन पर नियंत्रण कर पाएंगे।.

इससे भी बुरी बात यह है कि समस्या तेजी से बढ़ेगी। कंटेंट मॉडरेशन में एआई का उपयोग और भी तीव्र होगा। सिस्टम और भी जटिल हो जाएंगे। त्रुटियों की दर घट सकती है या बढ़ सकती है—कोई निश्चित रूप से नहीं कह सकता। लेकिन यह तय है कि लाखों, और जल्द ही अरबों लोग, ऐसे फैसलों से प्रभावित होंगे जिन्हें वे समझ नहीं पाते, चुनौती नहीं दे सकते, और जिनके लिए कोई जवाबदेही नहीं है।.

और इस सब के बीच, सरकार ने आंखें मूंद ली हैं। फेडरल नेटवर्क एजेंसी अपनी जिम्मेदारियों का ब्यौरा देती है। यूरोपीय संघ कानून बनाता है। लेकिन उनका क्रियान्वयन आधे-अधूरे मन से होता है। अधिकारियों के पास संसाधनों की कमी है। प्लेटफॉर्म मामूली जुर्माने भरते हैं, जो उनके लिए नाममात्र के होते हैं और उनकी कार्यप्रणाली में कोई खास बदलाव नहीं लाते। यथास्थिति बनी रहती है: तकनीकी कंपनियां डिजिटल सार्वजनिक क्षेत्र की बेलगाम शासक बन जाती हैं।.

इस स्थिति की सबसे उल्लेखनीय बात यह है कि इसे टाला जा सकता है। समाधान मौजूद हैं। डेटा संप्रभुता और डिजिटल स्व-निर्धारण को केवल सैद्धांतिक लक्ष्य नहीं, बल्कि वास्तविकता बनाने के तरीके मौजूद हैं। लेकिन इसके लिए सरकार को अपनी उदासीनता छोड़नी होगी। उसे यह समझना होगा कि यह केवल एक नियामक मुद्दा नहीं, बल्कि सत्ता का असंतुलन है। प्रौद्योगिकी कंपनियों के पास शक्ति है। उन्हें उस शक्ति का उपयोग समाज के हित में करना चाहिए, अन्यथा वह शक्ति उनसे छीन ली जानी चाहिए।.

तब तक, एंडरमैन जैसे मामले एक ऐसी व्यवस्था के लक्षण बने रहेंगे जो ठीक से काम नहीं कर रही है। एक व्यक्ति अपनी जीवन भर की मेहनत खो देता है। कोई उसकी मदद नहीं कर सकता। और जिस मशीन ने उसकी जीवन भर की मेहनत को नष्ट किया, वह बिना किसी रुकावट के चलती रहती है, नए मामलों की समीक्षा करती है, नए फैसले सुनाती है, और राज्य इन सब को प्रशासनिक फाइलों में दर्ज करता रहता है जबकि धुआं उठता रहता है।.

Konrad Wolfenstein

मुझे आपके निजी सलाहकार के रूप में सेवा करने में खुशी होगी।.

आप मुझसे wolfenstein∂xpert.digital पर संपर्क कर सकते हैं या

बस मुझे +49 7348 4088 965 ।

Linkedin