अंतिम क्षण में सैन्य हमला रुका: अनियंत्रित कृत्रिम बुद्धिमत्ता का घातक खतरा

दुनिया की सबसे खतरनाक एआई खामी: खुफिया एजेंसियों में एल्गोरिदम बेहद खतरनाक क्यों हैं?

कृत्रिम बुद्धिमत्ता के कारण हुई खुफिया गड़बड़ी: मशीन द्वारा उत्पन्न एक झूठ ने वैश्विक अर्थव्यवस्था को लगभग पंगु बना दिया

यह किसी चर्चित राजनीतिक थ्रिलर की कहानी जैसा लगता है, लेकिन 2026 की वसंत ऋतु में यह लगभग एक भयावह वास्तविकता बन गया: कृत्रिम बुद्धिमत्ता द्वारा तैयार की गई एक त्रुटिपूर्ण अमेरिकी खुफिया रिपोर्ट ने मध्य पूर्व में सैन्य संघर्ष को लगभग भड़का दिया था। एक चैटबॉट द्वारा सार्वजनिक रूप से उपलब्ध जानकारी और गोपनीय सिग्नल डेटा की गलत व्याख्या के कारण, एक चीनी व्यापारी जहाज पर परमाणु हथियारों के पुर्जे ले जाने का गलत आरोप लगाया गया। अमेरिकी सैन्य विमान पहले ही उड़ान भर चुके थे, लेकिन सतर्क अधिकारियों ने अंतिम क्षण में मिशन रद्द कर दिया।.

लेकिन यह घटना महज एक भ्रमित मशीन की कहानी से कहीं अधिक है। यह एक संरचनात्मक और आर्थिक विस्फोटक स्थिति को उजागर करती है: जब सुरक्षा-महत्वपूर्ण संगठन—अधिकतम दक्षता के वादे से अंधे होकर—नियंत्रण एल्गोरिदम को सौंप देते हैं तो क्या होता है? यह लेख निर्णय लेने की उस गहरी खाई का विश्लेषण करता है जिसमें तकनीक विफल नहीं हुई, बल्कि संस्थाएं विफल हुईं जिन्होंने गति को अटल सत्य मान लिया। यह एक चेतावनी भरी कहानी है कि अत्यधिक स्वचालित प्रक्रियाओं के दौर में मानवीय निर्णय हमारे विश्व व्यवस्था में उत्पादन का सबसे महत्वपूर्ण और साथ ही सबसे कमजोर कारक क्यों है।.

नियंत्रण खोने वाली एआई नहीं थी, बल्कि एक संगठन था जिसने गति को सत्य समझ लिया था।

वैश्विक स्तर पर विस्फोटक क्षमता वाली एक घटना बाल-बाल बची।

2026 की वसंत ऋतु में, कृत्रिम बुद्धिमत्ता का उपयोग करके तैयार की गई एक त्रुटिपूर्ण अमेरिकी खुफिया रिपोर्ट के कारण मध्य पूर्व में एक चीनी व्यापारी जहाज को सैन्य रूप से रोकने की नौबत आ गई थी। वर्तमान में उपलब्ध जानकारी के अनुसार, एक विश्लेषक ने जहाज के माल के बारे में जानकारी का मूल्यांकन करने के लिए एक चैटबॉट का उपयोग किया। सिस्टम ने सार्वजनिक रूप से उपलब्ध जानकारी को गोपनीय सिग्नलिंग डेटा के साथ मिलाकर गलत निष्कर्ष निकाला कि जहाज परमाणु हथियार कार्यक्रम के लिए पुर्जे ले जा रहा था। इसके आधार पर, सैन्य अधिकारियों ने हमले की तैयारी शुरू कर दी। सशस्त्र बलों को जहाज पर चढ़ना था, जबकि सैन्य विमान कथित तौर पर पहले ही हवा में थे।.

अधिकारियों द्वारा सूचनाओं की गहन जांच के बाद, कार्रवाई को अंजाम देने से ठीक पहले रोक दिया गया। इससे पता चला कि माल की पहचान से संबंधित महत्वपूर्ण जानकारी अविश्वसनीय थी और सामग्री विश्लेषण तथा परिणामों को खुफिया रिपोर्ट के मानकीकृत प्रारूप में बदलने के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया गया था। वास्तव में कौन सा माल ले जाया गया, किस विशिष्ट मॉडल का उपयोग किया गया, और पहले से कौन सी तकनीकी या संगठनात्मक जांच की गई थी, यह अभी भी जनता के लिए स्पष्ट नहीं है। घटना का पूर्ण पुनर्निर्माण करते हुए कोई आधिकारिक पुष्टि भी नहीं हुई है। इसलिए, घटनाओं के बताए गए मूल तत्व, संभावित निष्कर्षों और शेष अनुत्तरित प्रश्नों के बीच अंतर करना आवश्यक है।.

आर्थिक दृष्टि से, यह मामला अत्यंत महत्वपूर्ण है। यह दर्शाता है कि सुरक्षा-संवेदनशील संगठनों में जनरेटिव एआई (जनरेटिव आर्टिफिशियल इंटेलिजेंस) के उपयोग से उत्पादकता में वृद्धि हो सकती है, जबकि साथ ही व्यक्तिगत त्रुटियों से होने वाले संभावित नुकसान में भी कई गुना वृद्धि हो सकती है। एक सामान्य कार्यालय प्रक्रिया में, एक मनगढ़ंत बयान से गलत प्रस्तुति या अनावश्यक आदेश जारी हो सकता है। सैन्य निर्णय लेने की प्रक्रिया में, इसी प्रकार की त्रुटि मानव जीवन, व्यापार प्रवाह, बीमा प्रीमियम, वस्तुओं की कीमतों, वित्तीय बाजारों और अंतरराष्ट्रीय संबंधों को प्रभावित कर सकती है। तकनीक वही रहती है, लेकिन सही उत्तर का आर्थिक मूल्य और गलत उत्तर की लागत में नाटकीय रूप से परिवर्तन आ जाता है।.

इसलिए यह घटना मुख्य रूप से किसी भ्रमित मशीन की कहानी नहीं है। यह प्रोत्साहन प्रणालियों, नियंत्रण संरचनाओं, सूचना अर्थशास्त्र और संस्थागत जवाबदेही की कहानी है। एक कृत्रिम बुद्धिमत्ता (AI) नियमों को परिभाषित नहीं कर सकती, संगठनात्मक संस्कृति का निर्माण नहीं कर सकती या जिम्मेदारी नहीं ले सकती। यह एक प्रणाली के भीतर आउटपुट उत्पन्न करती है जिसे मनुष्य प्राप्त करते हैं, कॉन्फ़िगर करते हैं, उपयोग करते हैं, परीक्षण करते हैं और निर्णयों में परिवर्तित करते हैं। जब एक अनिश्चित मॉडल प्रतिक्रिया एक विश्वसनीय खुफिया रिपोर्ट प्रतीत होती है, और इससे कोई सैन्य अभियान शुरू होता है, तो मूल समस्या संपूर्ण निर्णय लेने की प्रक्रिया में निहित होती है।.

त्वरित विश्लेषण, त्वरित जोखिम

सैन्य और खुफिया संगठनों को डेटा की गंभीर समस्या का सामना करना पड़ रहा है। सैटेलाइट इमेज, संचार डेटा, जहाजों की आवाजाही, शिपिंग दस्तावेज़, खुले स्रोत, सेंसर डेटा और स्थिति रिपोर्ट इतनी तेज़ी से बढ़ रहे हैं कि मनुष्य मैन्युअल रूप से उनका विश्लेषण नहीं कर पा रहे हैं। एआई विशाल मात्रा में जानकारी को छांटने, सहसंबंधों को उजागर करने और अधिक तेज़ी से रिपोर्ट तैयार करने का वादा करता है। आर्थिक लाभ खोज लागत में कमी, प्रसंस्करण क्षमता में वृद्धि और निर्णय लेने की प्रक्रिया में तेज़ी के रूप में निहित हैं। इन्हीं लाभों के कारण कंपनियां जनरेटिव एआई का उपयोग बाजार विश्लेषण, कानूनी विभागों, लॉजिस्टिक्स, ग्राहक सेवा और अनुसंधान में कर रही हैं।.

हालांकि, गति का मतलब दक्षता नहीं होता। कोई प्रक्रिया तभी आर्थिक रूप से कुशल होती है जब त्वरण का अतिरिक्त लाभ त्रुटियों और उनके परिणामों से होने वाली संभावित अतिरिक्त लागतों से अधिक हो। कम जोखिम वाले प्रशासनिक कार्य में, अपूर्ण कृत्रिम बुद्धिमत्ता का उपयोग करना समझदारी भरा हो सकता है क्योंकि त्रुटियों को कम खर्च में सुधारा जा सकता है। परमाणु हथियारों से लैस जहाज पर संभावित सैन्य हस्तक्षेप के मामले में परिस्थितियाँ भिन्न होती हैं। यहाँ प्रासंगिक कारक प्रणाली की औसत सटीकता नहीं, बल्कि संभावित कुल क्षति है। इसे त्रुटि होने की संभावना को संभावित क्षति की सीमा से गुणा करके सरल बनाया जा सकता है।.

यही कारण है कि दुर्लभ चरम घटनाएं आर्थिक रूप से इतनी महत्वपूर्ण होती हैं। भले ही कोई मॉडल 100 में से 99 मामलों में सही ढंग से काम करे, फिर भी त्रुटि दर अस्वीकार्य हो सकती है क्योंकि एक गलत परिणाम सशस्त्र संघर्ष को जन्म दे सकता है। इसलिए उच्च औसत प्रदर्शन परिचालन तत्परता का पर्याप्त प्रमाण नहीं है। महत्वपूर्ण कारकों में त्रुटि के प्रकार, परिचालन संदर्भ, अनिश्चितता सूचक, डेटा का स्रोत, आक्रमण के तरीके और समय पर किसी परिणाम का खंडन करने की संगठन की क्षमता शामिल हैं।.

इसके अतिरिक्त, निर्णय लेने का समय भी कम हो जाता है। कृत्रिम बुद्धिमत्ता (AI) न केवल विश्लेषण का समय कम करती है, बल्कि तेजी से कार्रवाई करने का दबाव भी बढ़ाती है। जैसे ही कोई संगठन तकनीकी रूप से घंटों के बजाय मिनटों में जानकारी का मूल्यांकन करने में सक्षम हो जाता है, परिचालन गति को लेकर अपेक्षाएं बदल जाती हैं। जो शुरुआत में समय की बचत प्रतीत होती है, वह एक नई जिम्मेदारी बन सकती है। अधिकारी तत्काल स्थिति की जानकारी की अपेक्षा करते हैं, विश्लेषकों को अधिक परिणाम देने होते हैं, और इकाइयां पहले से ही तैयारी शुरू कर देती हैं। इस प्रकार प्राप्त समय का उपयोग अतिरिक्त समीक्षा के लिए नहीं किया जाता, बल्कि त्वरित परिचालन चक्र में समाहित हो जाता है।.

इससे उत्पादकता में विरोधाभास पैदा होता है। यह तकनीक पहले चरण में कार्य समय बचाती है, लेकिन बाद के चरणों में नए परीक्षण, दस्तावेज़ीकरण और सत्यापन लागत उत्पन्न करती है। यदि इन लागतों को ध्यान में नहीं रखा जाता है, तो व्यावसायिक दृष्टिकोण से एआई वास्तव में जितना लागत प्रभावी है, उससे कहीं अधिक लागत प्रभावी प्रतीत होता है। संगठन विश्लेषक के बचे हुए घंटों का हिसाब रखता है, जबकि गलत निर्णयों का जोखिम परियोजना बजट से बाहर एक अस्पष्ट बाहरी बोझ के रूप में बना रहता है। यही अलगाव अत्यधिक तीव्र कार्यान्वयन को प्रोत्साहित करता है।.

असल गलती प्रक्रिया श्रृंखला में थी।

असल खामी सिर्फ शिपमेंट की गलत पहचान नहीं थी। इससे भी बड़ी समस्या यह थी कि गलत निष्कर्ष कई संगठनात्मक चरणों से गुजर गया और समय रहते मशीन द्वारा उत्पन्न और अपर्याप्त रूप से सत्यापित बयान के रूप में पहचाना नहीं गया। इससे सूचना स्रोत, लेबलिंग, क्रॉस-चेकिंग और अनुमोदन प्रक्रियाओं में खामी का पता चलता है। एक मजबूत प्रणाली को कई बिंदुओं पर रुकना चाहिए था: संवेदनशील डेटा इनपुट करते समय, जब विभिन्न प्रकार के स्रोतों को मिलाया जाता था, कार्गो मूल्यांकन के दौरान, रिपोर्ट तैयार करते समय और अंत में परिचालन योजना बनाते समय।.

परिणामों को प्रारूपित करने के लिए एआई का दूसरा उपयोग विशेष रूप से समस्याग्रस्त है। मानकीकृत रिपोर्टें बड़े संगठनों के लिए अपरिहार्य हैं क्योंकि वे पठनीयता, तुलनीयता और त्वरित प्रसार सुनिश्चित करती हैं। साथ ही, एक परिचित प्रारूप किसी कथन को संस्थागत विश्वसनीयता प्रदान करता है। यदि भाषाई रूप से परिष्कृत, औपचारिक रूप से सही रिपोर्ट पारंपरिक रूप से शोधित उत्पाद के समान दिखती है, तो प्राप्तकर्ता उसके निर्माण की अनिश्चितता को पहचान नहीं पाते हैं। प्रारूप गुणवत्ता का संकेत बन जाता है, भले ही वह सामग्री की गुणवत्ता के बारे में कुछ न कहे।.

यह असममित सूचना की एक आर्थिक समस्या को दर्शाता है। आदर्श रूप से, लेखक को दस्तावेज़ के निर्माण का इतिहास पता होता है, लेकिन प्राप्तकर्ता मुख्य रूप से तैयार उत्पाद ही देखते हैं। यदि उत्पत्ति, मॉडल, इनपुट, अनिश्चितताएं और सत्यापन चरण पारदर्शी रूप से प्रकट नहीं किए जाते हैं, तो प्राप्तकर्ता जोखिम का सही आकलन नहीं कर सकता। वे एआई द्वारा उत्पन्न परिणाम को बार-बार सत्यापित मानव विश्लेषण की तरह मान सकते हैं। यह एक ऐसे वित्तीय उत्पाद के समान है जिसकी जोखिम संरचना एक परिचित रेटिंग के पीछे छिपी रहती है।.

दो चरणों में एआई का उपयोग करने से त्रुटि और बढ़ सकती है। पहले चरण में, सिस्टम एक गलत निष्कर्ष निकालता है या उसे अपना लेता है। फिर, एआई समर्थित एक अन्य प्रक्रिया इस निष्कर्ष को विश्वसनीय, सुसंगत और पेशेवर तरीके से पुष्ट करती है। दूसरा चरण पहले चरण की पुष्टि नहीं करता, बल्कि उसकी भाषाई विश्वसनीयता को बढ़ाता है। अनिश्चितता को लहजे में निश्चितता में बदल दिया जाता है। सुरक्षा से जुड़ी महत्वपूर्ण प्रक्रियाओं में यह अर्थपूर्ण संवर्धन खतरनाक है क्योंकि निर्णय लेने वाले अक्सर समय के दबाव में और संक्षिप्त जानकारी के आधार पर निर्णय लेते हैं।.

इसलिए एक प्रभावी नियंत्रण प्रणाली को न केवल व्यक्तिगत मॉडल प्रतिक्रियाओं का मूल्यांकन करना चाहिए, बल्कि पूरी सूचना श्रृंखला का भी मूल्यांकन करना चाहिए। प्रत्येक परिवर्तन से पता लगाने की क्षमता कम हो सकती है, संभाव्यताएँ कम हो सकती हैं और संशय दूर हो सकते हैं। एक कच्चा अवलोकन एक वर्गीकरण बन जाता है, वर्गीकरण एक खतरे की धारणा, धारणा एक रिपोर्ट और रिपोर्ट एक कार्रवाई विकल्प बन जाती है। यदि प्रत्येक चरण बिना सत्यापन के पिछले चरण को अपना लेता है, तो परिणाम स्वतंत्र पुष्टि नहीं, बल्कि सहसंबंधित त्रुटियों की एक श्रृंखला होती है।.

इस प्रक्रिया में मनुष्य की भूमिका पर्याप्त क्यों नहीं है?

सैन्य कृत्रिम बुद्धिमत्ता (एआई) के जोखिमों के प्रति सबसे आम राजनीतिक प्रतिक्रिया यह है कि निर्णय लेने की प्रक्रिया में मानव की भागीदारी अनिवार्य है। यह बात तसल्ली देने वाली लगती है, लेकिन यह अपूर्ण है। एक अत्यधिक स्वचालित प्रक्रिया के अंत में केवल अपनी स्वीकृति देने वाला मानव प्रभावी निगरानीकर्ता नहीं हो सकता। महत्वपूर्ण बात यह है कि इस व्यक्ति के पास पर्याप्त समय, विशेषज्ञता, प्राथमिक डेटा तक पहुंच और मशीन को चुनौती देने की संस्थागत स्वतंत्रता होनी चाहिए। इन पूर्व शर्तों के बिना, मानव केवल पूर्व-निर्धारित निर्णय पर एक औपचारिक हस्ताक्षर बनकर रह जाता है।.

स्वचालन पूर्वाग्रह तब उत्पन्न होता है जब लोग मशीन द्वारा दी गई अनुशंसाओं पर उनकी वास्तविक विश्वसनीयता से अधिक भरोसा करते हैं। हालांकि, यह एक अपरिहार्य प्रतिक्रिया नहीं है और हर स्थिति में समान रूप से नहीं होती। भरोसा अनुभव, कार्यभार, प्रस्तुति, संगठनात्मक संस्कृति और सिस्टम की कथित विश्वसनीयता पर निर्भर करता है। शक्तिशाली उपकरण तब विशेष रूप से समस्याग्रस्त हो सकते हैं जब वे आमतौर पर उपयोगी परिणाम देते हैं। उच्च बुनियादी स्वीकृति वाले वातावरण में दुर्लभ त्रुटियां होती हैं।.

सैन्य संदर्भ में, पदक्रम और समय का दबाव समस्या को और भी गंभीर बना देते हैं। यदि मानकीकृत रिपोर्ट पहले ही कई स्तरों पर प्रसारित हो चुकी है और इकाइयाँ तैयारियाँ शुरू कर चुकी हैं, तो असहमति के मनोवैज्ञानिक और संगठनात्मक परिणाम और भी कठिन हो जाते हैं। प्रक्रिया को रोकने वाले विश्लेषक या अधिकारी को न केवल जानकारी पर सवाल उठाना पड़ता है, बल्कि चल रही संस्थागत तैयारियों को भी धीमा करना पड़ता है। प्रक्रिया जितनी आगे बढ़ चुकी होती है, डूबे हुए निवेश, पुष्टिकरण पूर्वाग्रह और वास्तविक खतरे को कम आंकने के डर का प्रभाव उतना ही अधिक बढ़ जाता है।.

इसलिए, वास्तविक मानवीय निगरानी परिचालन चरण से पहले ही शुरू होनी चाहिए। इसके लिए स्वतंत्र पुष्टि हेतु स्पष्ट सीमाएँ, अनिवार्य अंतर-विश्लेषण और अवलोकन, मशीन द्वारा व्याख्या और मानवीय निर्णय के बीच स्पष्ट विभाजन आवश्यक है। विशेष रूप से महत्वपूर्ण निर्णयों के लिए, एक दूसरी, संगठनात्मक रूप से स्वतंत्र इकाई द्वारा इनपुट डेटा की समीक्षा की जानी चाहिए। इसके अलावा, एआई की अनुशंसा को अस्वीकार करना करियर-निरपेक्ष होना चाहिए। यदि गति को पुरस्कृत किया जाता है और विलंब को दंडित किया जाता है, तो निगरानी केवल कागज़ी रूप में ही मौजूद रहेगी, लेकिन व्यावहारिक रूप से अपनी प्रभावशीलता खो देगी।.

इसलिए, महत्वपूर्ण सूत्र "मानव हस्तक्षेप" नहीं है, बल्कि सत्यापन योग्य निर्णय लेने की प्रक्रिया में प्रभावी मानवीय निर्णय क्षमता है। किसी व्यक्ति में प्रक्रिया को रोकने, स्रोतों से परामर्श करने, विकल्पों की मांग करने और अनिश्चितता की सूचना उच्च अधिकारियों को देने की क्षमता होनी चाहिए। उन्हें यह भी पता होना चाहिए कि कोई मॉडल अपने निर्धारित दायरे से बाहर काम कर रहा है या नहीं। इस क्षमता के बिना, मानवीय भागीदारी केवल दिखावटी शासन बनकर रह जाती है।.

गलत दिशा में बढ़ते तनाव की आर्थिक कीमत

किसी भी जहाज़ को रोकने के अभियान की तात्कालिक सैन्य लागत संभावित नुकसान का एक छोटा सा हिस्सा ही होती। किसी चीनी जहाज़ को ज़बरदस्ती ज़ब्त करने से राजनयिक जवाबी कार्रवाई, सैन्य प्रतिक्रिया, प्रतिबंध या प्रतिशोधात्मक कार्रवाई शुरू हो सकती थी। खुले युद्ध के बिना भी, जहाज़ और हवाई परिवहन में जोखिम प्रीमियम बढ़ने की संभावना थी। जहाज़ कंपनियों को अपने मार्ग बदलने पड़ते, बीमाकर्ता अतिरिक्त शुल्क मांगते और कंपनियां अतिरिक्त माल भंडार जमा करतीं। इनमें से प्रत्येक प्रतिक्रिया पूंजी को रोकती है और लेन-देन लागत को बढ़ाती है।.

मध्य पूर्व ऊर्जा आपूर्ति और वैश्विक व्यापार के लिए अत्यंत महत्वपूर्ण है। इस क्षेत्र में अमेरिका और चीन के बीच टकराव से भू-राजनीतिक जोखिमों की धारणा में अचानक बदलाव आ सकता है। तेल और गैस की कीमतें न केवल वास्तविक आपूर्ति में रुकावटों से प्रभावित होती हैं, बल्कि भविष्य में संभावित कमी की आशंकाओं से भी प्रभावित होती हैं। ऊर्जा की ऊंची कीमतें परिवहन, रसायन, कृषि और ऊर्जा-गहन उद्योगों पर बोझ डालेंगी। साथ ही, सुरक्षित निवेशों का मूल्य बढ़ सकता है, शेयर बाजारों पर दबाव आ सकता है और जोखिम भरी कंपनियों के लिए वित्तपोषण लागत बढ़ सकती है।.

सबसे बड़ा आर्थिक जोखिम अनिश्चितता की एक श्रृंखला प्रतिक्रिया हो सकती थी। बाज़ार ज्ञात नुकसान को अपेक्षाकृत जल्दी समझ लेते हैं, लेकिन अस्पष्ट वृद्धि के रास्ते विशेष रूप से उच्च अस्थिरता पैदा करते हैं। जब शामिल देशों के इरादे और प्रतिक्रिया की सीमाएँ स्पष्ट नहीं होतीं, तो कंपनियाँ एक साथ कई परिदृश्यों का आकलन करती हैं। निवेश स्थगित कर दिए जाते हैं, आपूर्ति अनुबंधों को छोटा कर दिया जाता है और नकदी भंडार बढ़ा दिया जाता है। यह सावधानी व्यक्तिगत कंपनी के लिए तर्कसंगत है, लेकिन व्यापक आर्थिक स्तर पर मांग और उत्पादकता को कमजोर कर सकती है।.

अमेरिका और चीन के बीच व्यापारिक संबंध भी प्रभावित होते। रणनीतिक प्रतिद्वंद्विता के बावजूद, दोनों अर्थव्यवस्थाएं वस्तुओं, मध्यवर्ती उत्पादों, प्रौद्योगिकी, पूंजी और बिक्री बाजारों के माध्यम से परस्पर जुड़ी हुई हैं। सैन्य टकराव से निर्यात नियंत्रण, प्रतिबंध व्यवस्था और निवेश जांच में तेजी आ सकती है। सेमीकंडक्टर, इलेक्ट्रॉनिक्स, मैकेनिकल इंजीनियरिंग, बैटरी, समुद्री रसद और महत्वपूर्ण कच्चे माल विशेष रूप से प्रभावित होंगे। कंपनियों को अपनी आपूर्ति श्रृंखलाओं को न केवल लागत और गुणवत्ता के अनुसार, बल्कि तेजी से राजनीतिक लचीलेपन के अनुसार भी संरचित करना होगा।.

यूरोप और जर्मनी के लिए, ऐसा संघर्ष कोई दूर की सुरक्षा समस्या नहीं होगी। जर्मन उद्योग निर्यात-उन्मुख व्यापार मॉडल, वैश्विक आपूर्ति नेटवर्क और स्थिर समुद्री संपर्कों पर निर्भर है। परिवहन और ऊर्जा की बढ़ती लागत से लाभ पर दबाव पड़ेगा, जबकि अमेरिका और चीन के बीच आर्थिक नीतिगत टकराव से बाज़ार तक पहुंच और भी कठिन हो सकती है। विशेष रूप से छोटे और मध्यम आकार के उद्यमों (एसएमई) के पास अक्सर वित्तीय भंडार कम होते हैं और कई भू-राजनीतिक क्षेत्रों में समानांतर आपूर्ति श्रृंखला स्थापित करने के लिए उनकी सौदेबाजी की शक्ति भी कम होती है।.

यह मामला नकारात्मक बाह्यता का एक चरम उदाहरण है। एआई एप्लिकेशन के उपयोगकर्ता अपने गलत निर्णय की सारी लागत स्वतः वहन नहीं करते। एक विश्लेषक, एक इकाई या एक प्रौद्योगिकी परियोजना को स्थानीय स्तर पर गति से लाभ हो सकता है, जबकि जोखिम का एक बड़ा हिस्सा सैनिकों, व्यापारिक साझेदारों, करदाताओं और वैश्विक अर्थव्यवस्था पर आ जाता है। जहां निजी या संगठनात्मक लाभ और सामाजिक हानि में अंतर होता है, वहां सामान्य सॉफ्टवेयर बाजारों की तुलना में अधिक सख्त नियमों की आवश्यकता होती है।.

सुरक्षा एवं रक्षा का केंद्र - चित्र: Xpert.Digital

सुरक्षा एवं रक्षा केंद्र यूरोपीय सुरक्षा एवं रक्षा नीति में अपनी भूमिका को मजबूत करने के लिए कंपनियों और संगठनों को प्रभावी ढंग से सहयोग देने हेतु विशेषज्ञ सलाह और नवीनतम जानकारी प्रदान करता है। एसएमई कनेक्ट डिफेंस वर्किंग ग्रुप के साथ मिलकर काम करते हुए, यह विशेष रूप से उन लघु एवं मध्यम आकार के उद्यमों (एसएमई) को बढ़ावा देता है जो रक्षा क्षेत्र में अपनी नवाचार क्षमता और प्रतिस्पर्धात्मकता को और विकसित करना चाहते हैं। एक केंद्रीय संपर्क बिंदु के रूप में, यह केंद्र एसएमई और यूरोपीय रक्षा रणनीति के बीच एक महत्वपूर्ण सेतु का निर्माण करता है।.

इससे संबंधित:

• एसएमई कनेक्ट डिफेंस वर्किंग ग्रुप – यूरोपीय रक्षा क्षेत्र में एसएमई को सशक्त बनाना

सुरक्षा एक उपेक्षित उत्पादन कारक के रूप में

आर्थिक विश्लेषण अक्सर सुरक्षा को एक उत्पादक संपत्ति के बजाय एक सरकारी ढाँचे के रूप में देखते हैं। वास्तविकता में, भू-राजनीतिक स्थिरता अंतर्राष्ट्रीय श्रम विभाजन का आधार है। कंपनियाँ दीर्घकालिक निवेश तभी करती हैं जब संपत्ति अधिकार, परिवहन मार्ग, भुगतान प्रणाली और राजनीतिक संबंध पर्याप्त रूप से पूर्वानुमानित हों। तनाव बढ़ने का हर अतिरिक्त जोखिम व्यापार और पूंजी निर्माण पर एक अदृश्य कर की तरह कार्य करता है।.

कृत्रिम बुद्धिमत्ता (AI) उत्पादन कारक को दोनों दिशाओं में प्रभावित कर सकती है। सही उपयोग से यह टोही, रखरखाव, साइबर सुरक्षा, रसद और स्थितिजन्य जागरूकता में सुधार करती है। यह परस्पर विरोधी डेटा की पहचान करने, सीमित कर्मियों पर बोझ कम करने और गलत चेतावनियों की शीघ्रता से जांच करने में सहायक हो सकती है। हालांकि, गलत उपयोग से यह खतरे के आकलन को गति देती है, भ्रामक भविष्यवाणियां उत्पन्न करती है और कूटनीति के लिए उपलब्ध समय को कम कर देती है। इसलिए, सैन्य AI के आर्थिक मूल्य को केवल तैनाती की गति या कर्मियों की बचत के आधार पर नहीं मापा जाना चाहिए।.

एक व्यापक लागत विश्लेषण में टाली गई त्रुटियों, जोखिम बढ़ने और विश्वास की हानि को भी शामिल करना होगा। यह कार्यप्रणाली की दृष्टि से कठिन है क्योंकि रोकी गई घटना प्रत्यक्ष रूप से देखी नहीं जा सकती। फिर भी, संगठन परिदृश्यों का मॉडल बना सकते हैं, तनाव परीक्षण कर सकते हैं और विभिन्न प्रकार की त्रुटियों से होने वाले संभावित नुकसान का आकलन कर सकते हैं। इसलिए, जो प्रणाली नियमित कार्यों के लिए आर्थिक रूप से आकर्षक है, वह जोखिम बढ़ने से संबंधित निर्णयों के लिए अनुपयुक्त हो सकती है। यह अंतर महत्वपूर्ण है क्योंकि कृत्रिम बुद्धिमत्ता शब्द में बहुत अलग-अलग अनुप्रयोग शामिल हैं।.

आर्थिक दृष्टि से देखा जाए तो सैन्य कृत्रिम बुद्धिमत्ता को पूरी तरह से खारिज करना उचित नहीं है। इसे पूरी तरह से त्यागने से भी नुकसान होंगे: विश्लेषण की गति धीमी होगी, कर्मचारियों पर काम का बोझ बढ़ेगा, पैटर्न छूट जाएंगे और ऐसे सिस्टम का बड़े पैमाने पर उपयोग करने वाले दुश्मनों के खिलाफ संभावित रूप से गलत निर्णय लिए जाएंगे। हालांकि, इसके उपयोग को संभावित नुकसान के अनुसार ही निर्धारित किया जाना चाहिए। गलत निर्णय को पलटना जितना कठिन होगा, डेटा की गुणवत्ता, पता लगाने की क्षमता, स्वतंत्र समीक्षा और मानवीय प्राधिकरण की आवश्यकताएं उतनी ही अधिक होनी चाहिए।.

जब दक्षता गलत प्रोत्साहन पैदा करती है

जनरेटिव एआई का तेजी से प्रसार एक सशक्त संस्थागत सोच से प्रेरित है। संगठन तकनीकी रूप से पिछड़ना नहीं चाहते, अधिकारी उत्पादकता में स्पष्ट वृद्धि की उम्मीद करते हैं, और विक्रेता कम समय अंतराल में अधिक शक्तिशाली मॉडल पेश करने का वादा करते हैं। ऐसे माहौल में, सावधानी को आसानी से नौकरशाही समझा जाता है। जो लोग किसी एप्लिकेशन को जल्दी लागू करते हैं, वे सफलता प्रदर्शित कर सकते हैं; दूसरी ओर, जो लोग जोखिम भरे कार्यान्वयन से बचते हैं, वे अक्सर सार्वजनिक रूप से कोई उल्लेखनीय परिणाम नहीं दे पाते।.

यह विषमता निर्णयों को विकृत करती है। त्वरित विश्लेषण के लाभ प्रसंस्करण समय, तैयार की गई रिपोर्टों की संख्या या बचाए गए कार्य घंटों जैसे मापदंडों में तुरंत स्पष्ट हो जाते हैं। किसी दुर्लभ त्रुटि की लागत बाद में और संभवतः किसी अन्य संगठनात्मक इकाई में ही सामने आती है। इसलिए, एआई को लागू करने वाली परियोजना का जोखिम मूल्यांकन सैन्य नेतृत्व, कूटनीति या राष्ट्रीय अर्थव्यवस्था के समान नहीं होता है। केंद्रीकृत शासन के अभाव में, स्थानीय अनुकूलन एक प्रणालीगत जोखिम बन जाते हैं।.

खरीद अनुबंधों से समस्याग्रस्त प्रोत्साहन भी उत्पन्न हो सकते हैं। आपूर्तिकर्ताओं का मूल्यांकन अक्सर कार्यक्षमता, एकीकरण गति और कीमत के आधार पर किया जाता है। अनिश्चितता अंशांकन, पता लगाने की क्षमता, हेरफेर किए गए इनपुट के प्रति मजबूती या असाधारण परिस्थितियों में गुणवत्ता जैसी मापन में कठिन विशेषताओं को कम महत्व दिया जाता है। एक मॉडल प्रभावशाली प्रदर्शन कर सकता है, लेकिन फिर भी दुर्लभ लेकिन महत्वपूर्ण स्थितियों में विफल हो सकता है। इसलिए, विशेष रूप से सार्वजनिक खरीद में, नियंत्रणीय सीमाओं को प्रदर्शित करना, दिखावटी प्रदर्शन के वादों से कहीं अधिक महत्वपूर्ण होना चाहिए।.

इसके साथ ही तकनीकी नेतृत्व के लिए राजनीतिक प्रतिस्पर्धा भी जुड़ी हुई है। जब देशों को सैन्य कृत्रिम बुद्धिमत्ता की दौड़ में पिछड़ने का डर होता है, तो धीमी परीक्षण प्रक्रियाओं का पालन करने की उनकी तत्परता कम हो जाती है। सुरक्षा संबंधी दुविधा स्पष्ट है: दोनों पक्ष इसलिए गति बढ़ाते हैं क्योंकि उन्हें दूसरे पक्ष से भी ऐसी ही उम्मीद होती है। इससे मानक, प्रशिक्षण और परीक्षण प्रक्रियाएं पूरी तरह विकसित होने से पहले ही प्रणालियां तैनात हो सकती हैं। किसी एक देश के दृष्टिकोण से यह रक्षात्मक प्रतीत होता है; हालांकि, सामूहिक रूप से, इससे गलतफहमियों और अनपेक्षित तनाव बढ़ने की संभावना बढ़ जाती है।.

इसलिए एक सुदृढ़ आर्थिक नीति में नवाचार और नियंत्रण को पूरक निवेश के रूप में देखा जाना चाहिए। शासन कोई बाहरी बाधा नहीं, बल्कि प्रौद्योगिकी का अभिन्न अंग है। विश्वसनीय लॉगिंग, स्पष्ट जिम्मेदारियों और बैकअप प्रक्रियाओं के बिना एक एआई प्रणाली एक पूर्ण उत्पाद नहीं, बल्कि एक अपूर्ण उत्पादन प्रक्रिया है। नियंत्रण की लागतों को विनियामक बोझ के रूप में नहीं देखा जाना चाहिए। इन्हें शुरुआत से ही व्यावसायिक योजना में शामिल किया जाना चाहिए।.

सत्यता की गारंटी के बिना डेटा संलयन

रिपोर्ट की गई घटना इसलिए भी महत्वपूर्ण है क्योंकि चैटबॉट ने सूचना के विभिन्न स्रोतों को आपस में मिला दिया है। डेटा फ्यूजन से ज्ञान में वृद्धि होती प्रतीत होती है, लेकिन यह अनिश्चितता को छिपा सकता है। खुले स्रोतों में अफवाहें, पुरानी जानकारी, जानबूझकर फैलाई गई गलत सूचना और एक-दूसरे से नकल किए गए दावे शामिल होते हैं। गुप्त संकेत मूल्यवान हो सकते हैं, लेकिन उनकी भी व्याख्या आवश्यक होती है और वे अपूर्ण हो सकते हैं। दोनों क्षेत्रों को एक ही भाषा मॉडल के साथ मिलाने से स्वतः ही बेहतर सत्य प्राप्त नहीं हो जाता।.

जनरेटिव मॉडल सांख्यिकीय संबंधों और भाषाई तर्कसंगतता के आधार पर काम करते हैं। वे विरोधाभासी साक्ष्यों को एक सुसंगत कथा में बदल सकते हैं, भले ही डेटा किसी निश्चित निष्कर्ष पर पहुंचने की अनुमति न देता हो। यही सुसंगति आकर्षक है: लोगों को अव्यवस्थित टुकड़ों का संग्रह नहीं मिलता, बल्कि एक समझने योग्य उत्तर मिलता है। हालांकि, भाषाई विरोधाभासों को दूर करने को स्पष्ट अनिश्चितता को दूर करने के रूप में गलत समझा जा सकता है। मॉडल दुनिया को व्यवस्थित करता है, भले ही उस समय दुनिया को निश्चित रूप से व्यवस्थित न किया जा सके।.

खुफिया एजेंसियों के लिए, स्रोत का पता लगाना अत्यंत महत्वपूर्ण है। प्रत्येक कथन का उसके मूल स्रोत तक पता लगाया जा सकना चाहिए। यह पहचानना आवश्यक है कि जानकारी अवलोकन, अनुमान, धारणा या मशीन द्वारा उत्पन्न की गई थी। समय-चिह्न, वर्गीकरण स्तर, विश्वसनीयता मूल्यांकन और ज्ञात प्रतिसंकेतक भी समान रूप से महत्वपूर्ण हैं। एक एआई को इन विशेषताओं को एक समान, प्रवाहमय पाठ में विलीन नहीं करना चाहिए, बल्कि उन्हें स्पष्ट रूप से संरक्षित करना चाहिए।.

स्रोतों की स्वतंत्रता आर्थिक और विश्लेषणात्मक दृष्टि से भी महत्वपूर्ण है। यदि सभी दस रिपोर्टें एक ही मूल रिपोर्ट पर आधारित हों, तो वे दस पुष्टिकरण नहीं मानी जाएंगी। एआई सिस्टम ऐसी निर्भरताओं को अनदेखा कर सकते हैं या उन्हें स्पष्ट रूप से प्रस्तुत करने में विफल हो सकते हैं। खुले सूचना मंचों में, एक गलत बहुमत जल्दी उभर सकता है क्योंकि समाचार पोर्टल, सोशल मीडिया और डेटाबेस एक ही दावे को बढ़ा-चढ़ाकर पेश करते हैं। इसलिए, एक सुदृढ़ प्रक्रिया में न केवल स्रोतों की गणना करना आवश्यक है, बल्कि उनके वंशावली संबंधों की भी जांच करना आवश्यक है।.

इसके अलावा, इनपुट डेटा में हेरफेर का खतरा भी है। यदि शत्रुओं को पता चल जाए कि स्वचालित प्रणालियाँ खुले स्रोतों और सिग्नल डेटा को मिलाती हैं, तो वे जानबूझकर भ्रामक सुराग छोड़ सकते हैं। गलत कार्गो लेबल, समन्वित प्रकाशन या हेरफेर किए गए दस्तावेज़ वांछित वर्गीकरण को बढ़ावा दे सकते हैं। इस प्रकार गति के लिए अनुकूलित प्रणाली हमले का लक्ष्य बन जाती है। अतः एआई सुरक्षा में न केवल मॉडल त्रुटियाँ बल्कि रणनीतिक छल भी शामिल है।.

जिम्मेदारी को स्वचालित नहीं किया जा सकता।

किसी गंभीर घटना के बाद, अक्सर एक ही दोषी की तलाश शुरू हो जाती है। हो सकता है विश्लेषक ने बिना सोचे-समझे काम किया हो, प्रबंधक ने जल्दबाजी में कार्रवाई की हो, या विक्रेता ने अपने उत्पाद की कमियों को ठीक से न समझाया हो। हालांकि, केवल कर्मचारियों पर आधारित दृष्टिकोण पर्याप्त नहीं है। यदि एक खराब ढंग से डिज़ाइन किए गए सिस्टम में कई समझदार लोग एक ही गलती कर सकते हैं, तो यह एक संगठनात्मक समस्या है।.

इसलिए, उत्तरदायित्व को कई स्तरों पर निर्धारित किया जाना चाहिए। उपयोगकर्ता उचित अनुप्रयोग और लेबलिंग के लिए जिम्मेदार हैं। पर्यवेक्षक अनुमोदन, संसाधन आवंटन और कार्यभार के लिए जिम्मेदार हैं। खरीद विभागों को सुरक्षा और पता लगाने की क्षमता के लिए आवश्यकताओं को परिभाषित करना होगा। तकनीकी प्रबंधकों को मॉडल का परीक्षण और निगरानी करने और विसंगतियों की स्थिति में उन्हें ब्लॉक करने में सक्षम होना चाहिए। अंत में, राजनीतिक नेतृत्व को यह तय करना होगा कि कौन से कार्य जनरेटिव सिस्टम को सौंपे जा सकते हैं।.

जिम्मेदारी को इतने व्यापक रूप से नहीं बाँटा जाना चाहिए कि अंततः कोई भी जवाबदेह न रह जाए। एक स्पष्ट भूमिका संरचना के लिए, विशेष रूप से, मॉडल, डेटा, उपयोग के मामले और रिलीज़ के लिए विशिष्ट ज़िम्मेदारों का होना आवश्यक है। प्रत्येक महत्वपूर्ण रिपोर्ट के लिए, यह पता लगाना ज़रूरी है कि मशीन लर्निंग को किसने अधिकृत किया, परिणाम की समीक्षा किसने की और इसके परिचालन उपयोग को किसने मंज़ूरी दी। यह पता लगाने की क्षमता न केवल अनुमोदन के लिए, बल्कि सबसे बढ़कर, सीखने के लिए भी उपयोगी है।.

किसी भी सीखने वाले संगठन को ऐसी संस्कृति की आवश्यकता होती है जहाँ संभावित चूक की रिपोर्ट की जा सके। यह विशेष मामला इसलिए महत्वपूर्ण है क्योंकि ऑपरेशन को स्पष्ट रूप से रोक दिया गया था। यदि ध्यान केवल व्यक्तिगत दंड पर केंद्रित होगा, तो भविष्य के उपयोगकर्ता त्रुटियों को छिपाने की अधिक संभावना रखेंगे। इसके विपरीत, यदि उल्लंघन को बिना किसी परिणाम के सहन किया जाता है, तो सतर्कता का प्रोत्साहन समाप्त हो जाता है। आवश्यकता है एक निष्पक्ष सुरक्षा संस्कृति की: जानबूझकर या घोर लापरवाही से किए गए नियम उल्लंघनों के लिए स्पष्ट दंड, साथ ही साथ स्पष्ट रूप से प्रकट की गई त्रुटियों और कमजोरियों के लिए सुरक्षित रिपोर्टिंग तंत्र।.

इस संरचना में, मशीन नैतिक या कानूनी जिम्मेदारी नहीं ले सकती। इसमें न तो कोई इरादा होता है, न कर्तव्य की भावना, और न ही भू-राजनीतिक परिणामों की समझ। भले ही कोई मॉडल कोई सिफारिश तैयार करे, निर्णय संस्थागत रूप से मानवीय ही रहता है। इसलिए, "एआई ने निर्णय लिया" या "एल्गोरिदम दोषी है" जैसे शब्द यह स्पष्ट नहीं करते कि प्रक्रिया को किसने डिजाइन किया और अधिकार किसे सौंपा गया।.

उच्च जोखिम वाली एआई के लिए एक मजबूत नियंत्रण मॉडल

एक प्रभावी नियंत्रण मॉडल की शुरुआत उपयोग के मामलों के सख्त वर्गीकरण से होती है। अनुवाद, शेड्यूलिंग या फ़ॉर्मेटिंग जैसे कम जोखिम वाले कार्यों को सामान्य सुरक्षा नियमों के तहत स्वचालित किया जा सकता है। दूसरी ओर, सैन्य लक्ष्य चयन, परमाणु प्रसार, शत्रु की पहचान या परिचालन हस्तक्षेपों को प्रभावित करने वाले विश्लेषण उच्चतम जोखिम श्रेणी में आते हैं। इनके लिए अलग प्रणालियों, विशेष रूप से प्रशिक्षित उपयोगकर्ताओं और कहीं अधिक सख्त अनुमोदन प्रक्रियाओं की आवश्यकता होती है।.

डेटा के संदर्भ में, स्रोत की पूरी श्रृंखला आवश्यक है। इनपुट, मॉडल संस्करण, सिस्टम निर्देश, प्राप्त दस्तावेज़, मध्यवर्ती चरण, मानवीय संशोधन और अंतिम रिलीज़, इन सभी को लॉग किया जाना चाहिए। इसका उद्देश्य गोपनीय जानकारी को अनावश्यक रूप से प्रसारित करना नहीं है, बल्कि बाद में और आदर्श रूप से निरंतर ऑडिटिंग को सक्षम बनाना है। इस जानकारी के बिना, कोई भी विश्वसनीय रूप से यह पता नहीं लगा सकता कि किसी निष्कर्ष तक कैसे पहुँचा गया।.

विषयवस्तु के संदर्भ में, प्रत्येक महत्वपूर्ण दावे की पुष्टि एआई आउटपुट से स्वतंत्र कम से कम एक विधि द्वारा की जानी चाहिए। यह मूल दस्तावेज़ की मैन्युअल समीक्षा, तकनीकी माप, द्वितीयक डेटा स्रोत या संगठनात्मक रूप से पृथक विश्लेषण इकाई हो सकती है। एक ही मॉडल से प्राप्त दो प्रतिक्रियाएँ, या समान प्रशिक्षण डेटा वाले दो मॉडलों से प्राप्त प्रतिक्रियाएँ, वास्तविक स्वतंत्रता नहीं दर्शाती हैं। वे अलग-अलग शब्दों का प्रयोग करके एक ही त्रुटि को दोहरा सकती हैं।.

इसके अलावा, सिस्टम को अनिश्चितता व्यक्त करने की अनुमति दी जानी चाहिए। एक एआई जिससे हमेशा एक निश्चित उत्तर देने की अपेक्षा की जाती है, वह सटीकता के झूठे बोध में ग्रस्त हो जाता है। अपर्याप्त डेटा के मामलों में, सही आउटपुट यह बताने में सक्षम होना चाहिए कि कोई विश्वसनीय वर्गीकरण संभव नहीं है। इस चूक को प्रदर्शन संकेतकों में विफलता के रूप में स्वतः नहीं समझा जाना चाहिए। उच्च जोखिम वाले वातावरण में, अनिश्चितता की समयबद्ध अभिव्यक्ति अक्सर जल्दबाजी में की गई धारणा से कहीं अधिक मूल्यवान होती है।.

परिचालन सीमाएँ स्पष्ट रूप से परिभाषित होनी चाहिए। केवल एक कृत्रिम बुद्धिमत्ता आधारित विश्लेषण बल प्रयोग का पर्याप्त आधार नहीं होना चाहिए। नुकसान की संभावना जितनी अधिक होगी, उतने ही अधिक स्वतंत्र प्रमाण और पदानुक्रमिक स्तरों की आवश्यकता होगी। साथ ही, आपातकालीन टीम को वैकल्पिक स्पष्टीकरण विकसित करने के लिए बाध्य होना चाहिए। उसका कार्य प्रचलित परिकल्पना में मामूली सुधार करना नहीं, बल्कि उसका सक्रिय रूप से खंडन करना है।.

अंततः, तकनीकी और संगठनात्मक शटडाउन तंत्रों की आवश्यकता है। किसी समस्याग्रस्त मॉडल को पूरी कार्यप्रणाली को बाधित किए बिना, कम समय में महत्वपूर्ण प्रक्रियाओं से हटाया जा सकना चाहिए। इसके लिए मैन्युअल बैकअप प्रक्रियाओं की आवश्यकता होती है। जो संगठन केवल इसलिए अपनी सभी मौजूदा क्षमताओं को समाप्त कर देते हैं क्योंकि AI शुरू में अधिक कुशल प्रतीत होता है, वे निर्भर हो जाते हैं और खराबी की स्थिति में कार्रवाई करने की अपनी क्षमता खो देते हैं।.

व्यवसायों और सार्वजनिक प्रशासन के लिए सबक

हालांकि यह घटना सैन्य क्षेत्र में घटी, लेकिन इसके मूल स्वरूप व्यवसायों पर भी लागू होते हैं। कृत्रिम बुद्धिमत्ता (एआई) द्वारा उत्पन्न गलत निर्णय ऋण निर्णयों, अनुपालन जांचों, कार्मिक कार्रवाइयों, आपूर्तिकर्ता मूल्यांकनों या रणनीतिक निवेशों को प्रभावित कर सकते हैं। आमतौर पर नुकसान की मात्रा सैन्य संघर्ष की तुलना में कम होती है, लेकिन त्रुटियों के पीछे का तर्क तुलनीय होता है। वे प्रक्रियाएं जिनमें मशीन द्वारा उत्पन्न परिणाम को एक परिचित दस्तावेज़ प्रारूप में परिवर्तित किया जाता है और फिर बिना किसी स्पष्ट स्रोत के आगे भेज दिया जाता है, विशेष रूप से जोखिम भरी होती हैं।.

इसलिए कंपनियों को सहायता और निर्णय लेने के बीच अंतर स्पष्ट करना चाहिए। एक सिस्टम जानकारी खोज सकता है, ड्राफ्ट तैयार कर सकता है और संभावित विसंगतियों को उजागर कर सकता है। हालांकि, अनुमोदन की आवश्यकता वाले निर्णय की जिम्मेदारी एक योग्य व्यक्ति की ही रहती है। इस व्यक्ति को स्रोतों तक पहुंच होनी चाहिए और उसे केवल तैयार विवरण ही नहीं देखना चाहिए। जो व्यक्ति केवल पेशेवर रूप से लिखे गए सारांश को अनुमोदित करता है, वह सामग्री की जांच नहीं कर रहा होता है, बल्कि केवल उसकी सतही जांच कर रहा होता है।.

प्रमुख प्रदर्शन संकेतकों (केपीआई) को भी समायोजित करने की आवश्यकता है। किसी एआई परियोजना का मूल्यांकन केवल समय की बचत के आधार पर करना गलत प्रोत्साहन पैदा करता है। उत्पादकता, सुधार दर, त्रुटि की गंभीरता, सत्यापित कथनों का अनुपात और समय पर पहचानी गई अनिश्चितताओं की संख्या जैसे संयुक्त मापदंड अधिक सार्थक होते हैं। उच्च जोखिम वाली प्रक्रियाओं के लिए, यह भी आकलन किया जाना चाहिए कि मनुष्य कितनी बार एआई पर वैध आपत्तियां उठाते हैं। शून्य आपत्ति दर से भले ही तकनीक परिपूर्ण लगे, लेकिन अधिक संभावना है कि यह निगरानी की कमी को दर्शाती है।.

मध्यम आकार के व्यवसायों के लिए, पूरी तरह से आंतरिक तकनीकी समाधान विकसित करना आमतौर पर अव्यावहारिक होता है। इससे सेवा प्रदाताओं के साथ स्पष्ट अनुबंध और भी महत्वपूर्ण हो जाते हैं। कंपनियों को मॉडल परिवर्तनों, भंडारण स्थानों, उपठेकेदारों, लॉगिंग, सुरक्षा घटनाओं और दर्ज किए गए डेटा के उपयोग के बारे में जानकारी चाहिए होती है। संवेदनशील जानकारी लीक होने या निर्णयों का ऑडिट न हो पाने की स्थिति में सस्ती सेवा भी महंगी साबित हो सकती है।.

लोक प्रशासन के सामने एक अतिरिक्त चुनौती है। उसके निर्णय न केवल आर्थिक रूप से कुशल होने चाहिए, बल्कि वैध, पारदर्शी और चुनौती के योग्य भी होने चाहिए। एआई जितना अधिक किसी निर्णय के औचित्य को आकार देता है, स्पष्ट दस्तावेज़ीकरण उतना ही महत्वपूर्ण हो जाता है। नागरिकों और व्यवसायों को केवल यह कहकर टाल नहीं दिया जाना चाहिए कि किसी मॉडल ने जोखिम की पहचान की है। सरकारी कार्रवाई के लिए एक न्यायसंगत, मानवीय रूप से न्यायसंगत स्पष्टीकरण आवश्यक है।.

प्रतिस्पर्धा और सावधानी के बीच नवाचार नीति

राजनीतिक संघर्ष को अक्सर तकनीकी शक्ति और विनियमन के बीच चुनाव के रूप में चित्रित किया जाता है। यह तुलना त्रुटिपूर्ण है। जो राज्य गैर-जिम्मेदाराना तरीके से उच्च जोखिम वाली कृत्रिम बुद्धिमत्ता का उपयोग करते हैं, उन्हें अल्पकालिक लाभ मिल सकता है, लेकिन दीर्घकालिक रूप से, वे विश्वास, गठबंधन बनाने की क्षमता और परिचालन विश्वसनीयता खोने का जोखिम उठाते हैं। एक बड़ी विफलता परियोजनाओं में देरी कर सकती है, बजट रोक सकती है और सार्वजनिक प्रतिरोध बढ़ा सकती है। इसलिए, प्रभावी विनियमन नवाचार की रक्षा भी करता है।.

साथ ही, एहतियाती उपायों के चलते ऐसे व्यापक प्रतिबंध नहीं लगने चाहिए जो नागरिक और कम जोखिम वाले अनुप्रयोगों को अनावश्यक रूप से बाधित करें। जोखिम-आधारित दृष्टिकोण आर्थिक रूप से बेहतर है। यह संसाधनों को उन क्षेत्रों पर केंद्रित करता है जहां गलत निर्णय अपरिवर्तनीय, प्रणालीगत या जीवन-घातक हो सकते हैं। साधारण पाठ तैयार करने के लिए अलग नियम लागू होते हैं, जबकि लक्ष्य चयन, चिकित्सा उपचार या महत्वपूर्ण बुनियादी ढांचे के लिए अलग नियम लागू होते हैं।.

अंतर्राष्ट्रीय मानक स्थापित करना अभी भी कठिन है। सैन्य पारदर्शिता गोपनीयता से टकराती है, और देश अपनी तकनीकी क्षमताओं का खुलासा करने में अनिच्छुक रहते हैं। पूर्ण प्रकटीकरण की तुलना में अधिक व्यावहारिक सामान्य न्यूनतम मानक हैं: बल प्रयोग पर मानवीय अधिकार, अनिवार्य परीक्षण, निष्क्रियकरण तंत्र, स्पष्ट जवाबदेही और घटनाओं के लिए संचार चैनल। ऐसे नियम प्रतिस्पर्धा को समाप्त नहीं करते, लेकिन वे सबसे खतरनाक गलत व्याख्याओं को सीमित कर सकते हैं।.

अमेरिका और चीन के बीच विश्वास बढ़ाने के उपाय विशेष रूप से महत्वपूर्ण होंगे। यदि दोनों पक्ष जासूसी और निर्णय लेने में कृत्रिम बुद्धिमत्ता (AI) को शामिल करते हैं, तो यह जोखिम बढ़ जाता है कि एक झूठी रिपोर्ट को जानबूझकर की गई उकसावे की कार्रवाई के रूप में देखा जाएगा। प्रत्यक्ष सैन्य संचार चैनल, समुद्री घटनाओं को सुलझाने की प्रक्रियाएं और मानवीय निगरानी के लिए राजनीतिक प्रतिबद्धताएं तनाव बढ़ने के जोखिम को कम कर सकती हैं। इनका लाभ बीमा के समान है: सामान्य संचालन में, ये महत्वहीन प्रतीत होते हैं, लेकिन संकट की स्थिति में, ये भारी नुकसान को रोक सकते हैं।.

सहयोगी देशों और प्रौद्योगिकी कंपनियों की भी जिम्मेदारी बनती है। मॉडल, क्लाउड इन्फ्रास्ट्रक्चर और डेटा उपकरण अक्सर निजी प्रदाताओं द्वारा विकसित किए जाते हैं। इससे सैन्य मूल्य सृजन का एक हिस्सा उन कंपनियों के पास चला जाता है जिनके नवाचार चक्र और जवाबदेही संबंधी सिद्धांत भू-राजनीतिक संकटों के लिए डिज़ाइन नहीं किए गए थे। इसलिए, खरीद नीति को यह सुनिश्चित करना चाहिए कि सरकारी एजेंसियों के पास तकनीकी नियंत्रण, लेखापरीक्षा अधिकार और पर्याप्त आंतरिक विशेषज्ञता बनी रहे।.

मामले का रणनीतिक मूल

चीनी जहाज के साथ बाल-बाल बचने की घटना एक असहज सच्चाई को उजागर करती है: अल्पकालिक एआई का सबसे बड़ा खतरा शायद मशीन का मानवता के खिलाफ हो जाना नहीं है। बल्कि, अधिक संभावना यह है कि कोई व्यक्ति आसानी से किसी विश्वसनीय शब्दों वाले झूठे मशीन संदेश पर विश्वास कर ले। यह खतरा तकनीकी अनिश्चितता, समय के दबाव, पदानुक्रम और राजनीतिक गति की लालसा के परस्पर प्रभाव से उत्पन्न होता है।.

सही तरीका न तो तकनीकी घबराहट है और न ही प्रगति के बारे में अंधाधुंध आशावाद। जनरेटिव एआई बड़े संगठनों की कार्यक्षमता में उल्लेखनीय वृद्धि कर सकता है। हालांकि, यह ज्ञान संबंधी सतर्कता का स्थान नहीं ले सकता—अर्थात्, किसी कथन के स्रोत, उसकी विश्वसनीयता और उसके विपरीत मौजूद साक्ष्यों की व्यवस्थित रूप से जांच करना। उपकरण जितना शक्तिशाली होगा, यह सतर्कता उतनी ही महत्वपूर्ण हो जाएगी।.

आर्थिक दृष्टिकोण से, कृत्रिम बुद्धिमत्ता (एआई) के उपयोग में सभी संभावित लाभों पर विचार करना आवश्यक है। इसमें उत्पादकता में वृद्धि के साथ-साथ परीक्षण लागत, निर्णय में त्रुटियां, जवाबदेही, प्रतिष्ठा को होने वाला नुकसान और प्रणालीगत जोखिम शामिल हैं। संभावित रूप से विनाशकारी परिणामों के मामलों में, केवल मॉडल का औसत रूप से उपयोगी होना पर्याप्त नहीं है। संगठन को दुर्लभ, गंभीर त्रुटियों का पता लगाने और उन्हें रोकने की अपनी क्षमता प्रदर्शित करनी होगी।.

इस घटना की सबसे बड़ी सफलता इस तथ्य में निहित है कि लोग ऑपरेशन को रोकने में सक्षम रहे। हालांकि, सुरक्षा व्यवस्था अंतिम क्षण में हस्तक्षेप करने वाले सतर्क व्यक्तियों पर निर्भर नहीं रह सकती। इसे इस तरह से डिज़ाइन किया जाना चाहिए कि संदिग्ध जानकारी ऑपरेशनल प्लानिंग चरण तक बिना किसी रोक-टोक के न पहुंचे। शुरुआती दौर में ही, बार-बार और स्वतंत्र रूप से जांच की जानी चाहिए।.

गलती करना इंसान का स्वभाव है। मशीनें अलग तरह से गलतियाँ करती हैं: तेज़ी से, अधिक व्यापक रूप से, और अक्सर भाषाई रूप से विश्वसनीय तरीके से। गलती तभी विनाशकारी हो जाती है जब संस्थाएँ इन विशेषताओं को ज्ञान समझ बैठती हैं। इसलिए, मूल सबक यह नहीं है कि निर्णय लेने की प्रक्रिया से मनुष्यों को हटा दिया जाए या उन्हें केवल प्रतीकात्मक रूप से वहाँ रखा जाए। बल्कि यह है कि ऐसे संगठन बनाए जाएँ जिनमें संदेह को गति से अधिक महत्व दिया जाए, क्योंकि झूठी निश्चितता युद्ध को जन्म दे सकती है।.

मार्कस बेकर

मुझे आपके निजी सलाहकार के रूप में सेवा करने में खुशी होगी।.

व्यवसाय विकास प्रमुख

एसएमई कनेक्ट डिफेंस वर्किंग ग्रुप के अध्यक्ष

Linkedin

Konrad Wolfenstein

मुझे आपके निजी सलाहकार के रूप में सेवा करने में खुशी होगी।.

आप मुझसे wolfenstein∂xpert.digital पर संपर्क कर सकते हैं या

बस मुझे +49 7348 4088 965 ।

Linkedin