توقف الضربة العسكرية في اللحظة الأخيرة: الخطر المميت للذكاء الاصطناعي الخارج عن السيطرة

أخطر عيب في الذكاء الاصطناعي في العالم: لماذا تُعدّ الخوارزميات خطيرة للغاية في وكالات الاستخبارات

خطأ استخباراتي ناجم عن الذكاء الاصطناعي: كيف كادت كذبة مولدة آلياً أن تشل الاقتصاد العالمي

يبدو الأمر وكأنه سيناريو فيلم إثارة سياسي مثير، لكنه كاد أن يتحول إلى واقع كارثي في ​​ربيع عام 2026: تقرير استخباراتي أمريكي معيب، تم إعداده بواسطة الذكاء الاصطناعي، كاد أن يُشعل فتيل تصعيد عسكري في الشرق الأوسط. فبسبب سوء فهم برنامج دردشة آلي لمعلومات متاحة للعامة وبيانات إشارات سرية، اتُهمت سفينة تجارية صينية زوراً بنقل مكونات أسلحة نووية. وبينما كانت الطائرات العسكرية الأمريكية في الجو، ألغى الضباط اليقظون المهمة في اللحظة الأخيرة.

لكن هذه الحادثة تتجاوز بكثير مجرد قصة آلةٍ تُهلوس. إنها تكشف عن برميل بارود هيكلي واقتصادي: ماذا يحدث عندما تُسلّم المؤسسات ذات الأهمية البالغة للسلامة - التي أعمتها وعود الكفاءة القصوى - زمام الأمور للخوارزميات؟ يحلل النص التالي الهاوية العميقة لسلسلة صنع القرار، حيث لم تكن التكنولوجيا هي التي فشلت، بل المؤسسات التي ظنت أن السرعة حقيقة مطلقة. إنها قصة تحذيرية حول سبب كون الحكم البشري، في زمن العمليات الآلية للغاية، أهم عامل إنتاجي في نظامنا العالمي، وفي الوقت نفسه، أكثرها عرضةً للخطر.

لم يكن الذكاء الاصطناعي هو الذي فقد السيطرة، بل منظمة أخطأت في اعتبار السرعة هي الحقيقة

حادثة وشيكة ذات احتمالية انفجار عالمي

في ربيع عام 2026، كاد تقرير استخباراتي أمريكي معيب، تم إعداده باستخدام الذكاء الاصطناعي، أن يؤدي إلى اعتراض عسكري لسفينة تجارية صينية في الشرق الأوسط. ووفقًا للرواية المتوفرة حاليًا، استخدم محلل برنامجًا آليًا (Chatbot) لتقييم معلومات حول شحنة السفينة. جمع النظام معلومات متاحة للعموم مع بيانات إشارات سرية، وخلص خطأً إلى أن السفينة تحمل مكونات لبرنامج أسلحة نووية. وبناءً على ذلك، بدأت السلطات العسكرية الاستعداد لهجوم. وكان من المقرر أن تصعد القوات المسلحة على متن السفينة، بينما أفادت التقارير أن الطائرات العسكرية كانت قد أقلعت بالفعل.

يبدو أن العملية توقفت قبل تنفيذها بوقت قصير بعد أن فحص الضباط المعلومات بدقة أكبر. وكشف هذا الفحص أن تحديد الشحنة الأساسية كان غير موثوق، وأن الذكاء الاصطناعي استُخدم في تحليل المحتوى وفي ترجمة النتائج إلى الصيغة القياسية لتقرير استخباراتي. ولا يزال الجمهور يجهل ماهية الشحنة التي نُقلت فعليًا، ونوع الطائرة المستخدمة، والفحوصات الفنية أو التنظيمية التي أُجريت مسبقًا. كما لا يوجد أي تأكيد رسمي مع إعادة بناء كاملة للحادث. لذلك، يجب التمييز بين جوهر الأحداث المبلغ عنها، والاستنتاجات المحتملة، والأسئلة المتبقية التي لم تُجب عليها.

من الناحية الاقتصادية، تُعدّ هذه الحالة بالغة الأهمية. فهي تُبيّن كيف يُمكن لإدخال الذكاء الاصطناعي التوليدي في المؤسسات ذات الأهمية البالغة للسلامة أن يزيد الإنتاجية، بينما يُضاعف في الوقت نفسه الضرر المُحتمل الناجم عن الأخطاء الفردية. ففي عملية مكتبية عادية، قد يؤدي بيان مُلفّق إلى عرض تقديمي مُشوّه أو طلب غير ضروري. أما في عملية صنع القرار العسكري، فيُمكن أن يُؤثّر هذا النوع من الأخطاء على حياة البشر، والتدفقات التجارية، وأقساط التأمين، وأسعار السلع، والأسواق المالية، والعلاقات الدولية. تبقى التكنولوجيا كما هي، لكن القيمة الاقتصادية للإجابة الصحيحة وتكلفة الإجابة الخاطئة تتغيران بشكل كبير.

لذا، لا تُعدّ هذه الحادثة في جوهرها قصةً عن آلةٍ تُهلوس، بل هي قصةٌ عن أنظمة الحوافز، وهياكل التحكم، واقتصاديات المعلومات، والمساءلة المؤسسية. لا يستطيع الذكاء الاصطناعي تحديد قواعد الاشتباك، أو بناء ثقافةٍ تنظيمية، أو تحمّل المسؤولية. فهو يُنتج مخرجاتٍ ضمن نظامٍ يقوم البشر بتوفيرها، وتكوينها، واستخدامها، واختبارها، وترجمتها إلى قرارات. عندما يتحوّل ردّ نموذجٍ غير مؤكد إلى تقرير استخباراتي يبدو موثوقًا، ويؤدي ذلك إلى عمليةٍ عسكرية، فإنّ جوهر المشكلة يكمن في سلسلة قيمة صنع القرار بأكملها.

تحليل متسارع، مخاطر متسارعة

تواجه المؤسسات العسكرية والاستخباراتية مشكلة حقيقية في البيانات. تتزايد صور الأقمار الصناعية، وبيانات الاتصالات، وحركة السفن، ووثائق الشحن، والمصادر المفتوحة، وبيانات أجهزة الاستشعار، وتقارير الوضع بوتيرة أسرع من قدرة البشر على تحليلها يدويًا. يعد الذكاء الاصطناعي بفرز كميات هائلة من المعلومات، والكشف عن العلاقات المتبادلة، وإعداد التقارير بسرعة أكبر. تكمن الفوائد الاقتصادية في خفض تكاليف البحث، وزيادة القدرة على المعالجة، وتسريع دورات اتخاذ القرار. هذه المزايا نفسها تفسر سبب استخدام الشركات للذكاء الاصطناعي التوليدي في تحليل السوق، والإدارات القانونية، والخدمات اللوجستية، وخدمة العملاء، والبحوث.

مع ذلك، لا تعني السرعة بالضرورة الكفاءة. فالعملية لا تكون فعّالة اقتصاديًا إلا إذا فاقت الفائدة الإضافية من التسريع التكاليف الإضافية المتوقعة للأخطاء وعواقبها. في مهمة إدارية منخفضة المخاطر، قد يكون من المنطقي استخدام الذكاء الاصطناعي غير الكامل لأن تصحيح الأخطاء فيه سهل ورخيص. أما في حالة التدخل العسكري المحتمل على سفينة نووية، فتختلف الظروف. فالعامل المهم ليس متوسط ​​دقة النظام، بل إجمالي الضرر المتوقع. ويمكن تبسيط ذلك بضرب احتمال وقوع خطأ في حجم الضرر المحتمل.

هذا المنطق تحديدًا هو ما يجعل الأحداث المتطرفة النادرة ذات أهمية اقتصادية بالغة. فحتى لو عمل نموذج ما بشكل صحيح في 99 حالة من أصل 100، فإن نسبة الخطأ المتبقية قد تكون غير مقبولة بمجرد أن يؤدي إنذار خاطئ إلى نشوب نزاع مسلح. لذا، فإن الأداء المتوسط ​​المرتفع ليس دليلًا كافيًا على الجاهزية العملياتية. وتشمل العوامل الحاسمة أنواع الأخطاء، والسياق العملياتي، ومؤشر عدم اليقين، ومصدر البيانات، وأساليب الهجوم، وقدرة المنظمة على دحض أي مخرجات في الوقت المناسب.

يُضاف إلى ذلك ضغط وقت اتخاذ القرار. فالذكاء الاصطناعي لا يُختصر التحليل فحسب، بل يزيد أيضًا من الضغط للتصرف بسرعة أكبر. فبمجرد أن تصبح المؤسسة قادرة تقنيًا على تقييم المعلومات في دقائق بدلًا من ساعات، تتغير التوقعات بشأن وتيرة العمل. وما يبدو في البداية توفيرًا للوقت قد يتحول إلى التزام جديد. يتوقع المديرون التنفيذيون معرفة فورية بالوضع، ويجب على المحللين تقديم المزيد من المخرجات، وتبدأ الوحدات الاستعدادات في وقت أبكر. وبالتالي، لا يُستخدم الوقت المُكتسب في مراجعة إضافية، بل يُستهلك في دورة تشغيلية مُتسارعة.

يُؤدي هذا إلى مفارقة في الإنتاجية. فالتكنولوجيا تُوفّر وقت العمل في المرحلة الأولى، لكنها تُولّد تكاليف جديدة للاختبار والتوثيق والتحقق في المراحل اللاحقة. وإذا لم تُؤخذ هذه التكاليف في الحسبان، يبدو الذكاء الاصطناعي أكثر فعالية من حيث التكلفة من منظور الأعمال مما هو عليه في الواقع. تُسجّل المؤسسة ساعات عمل المحللين المُوفّرة، بينما يبقى خطر اتخاذ قرارات خاطئة عبئًا خارجيًا مُشتّتًا خارج ميزانية المشروع. هذا الفصل تحديدًا يُشجّع على التنفيذ السريع المُفرط.

يكمن الخطأ الحقيقي في سلسلة العمليات

لم يكن الضعف الجوهري يكمن فقط في تحديد الشحنة بشكل خاطئ، بل كان الأمر الأكثر إشكالية هو إمكانية مرور هذا الاستنتاج الخاطئ عبر مراحل تنظيمية متعددة دون اكتشافه في الوقت المناسب كبيان آلي غير موثق بشكل كافٍ. يشير هذا إلى قصور في مصادر المعلومات، وعمليات وضع العلامات، والتحقق المتبادل، والموافقة. كان من المفترض أن يتوقف النظام الفعال عند عدة نقاط: أثناء إدخال البيانات الحساسة، وعند خلط أنواع مختلفة من المصادر، وأثناء تقييم الشحنة، وأثناء إعداد التقارير، وفي نهاية المطاف أثناء التخطيط التشغيلي.

يُعدّ استخدام الذكاء الاصطناعي في تنسيق النتائج، ثانياً، إشكالياً للغاية. فالتقارير الموحدة ضرورية للمؤسسات الكبيرة لأنها تضمن سهولة القراءة والمقارنة وسرعة النشر. وفي الوقت نفسه، يضفي التنسيق المألوف مصداقية مؤسسية على البيان. فإذا كان التقرير المصقول لغوياً والمُدقّق شكلياً يبدو ظاهرياً كمنتج بحثي تقليدي، فلن يتمكن المتلقون من إدراك عدم اليقين الذي اكتنف إعداده. يصبح الشكل مؤشراً على الجودة، مع أنه لا يدلّ على جودة المحتوى.

يوضح هذا مشكلة اقتصادية تتعلق بعدم تماثل المعلومات. ففي الوضع الأمثل، يعرف المؤلف تاريخ إنشاء الوثيقة، بينما يرى المتلقون المنتج النهائي في المقام الأول. إذا لم يتم الكشف بشفافية عن المصدر والنموذج والمدخلات ومواطن عدم اليقين وخطوات التحقق، فلن يتمكن المتلقي من تقييم المخاطر بشكل صحيح. وقد يتعامل مع نتيجة مُولَّدة بواسطة الذكاء الاصطناعي كما لو كانت تحليلاً بشرياً تم التحقق منه مراراً وتكراراً. وهذا يُشبه منتجاً مالياً تبقى هيكلية مخاطره مخفية وراء تصنيف مألوف.

قد يؤدي استخدام الذكاء الاصطناعي في مرحلتين متتاليتين إلى تفاقم الخطأ. ففي المرحلة الأولى، يُولّد النظام استنتاجًا خاطئًا أو يتبناه. ثم تقوم عملية أخرى مدعومة بالذكاء الاصطناعي بصياغة هذا الاستنتاج بشكل مقنع ومتسق ومهني. لا تُؤكد المرحلة الثانية بالضرورة صحة المرحلة الأولى، بل تُعزز مصداقيتها اللغوية. إذ يتحول الغموض إلى يقين في النبرة. يُعد هذا التحسين الدلالي خطيرًا في العمليات الحساسة للسلامة، لأن صانعي القرار غالبًا ما يتخذون قراراتهم تحت ضغط الوقت بناءً على نتائج مختصرة.

لذا، يجب على نظام التحكم الفعال تقييم ليس فقط استجابات النماذج الفردية، بل سلسلة المعلومات بأكملها. فكل عملية تحويل قد تفقد إمكانية التتبع، وتُخفف من حدة الاحتمالات، وتُزيل التحفظات. تتحول الملاحظة الأولية إلى تصنيف، والتصنيف إلى افتراض تهديد، والافتراض إلى تقرير، والتقرير إلى خيار إجراء. إذا اعتمدت كل مرحلة المرحلة السابقة دون تحقق، فلن تكون النتيجة تأكيدًا مستقلًا، بل سلسلة من الأخطاء المترابطة.

لماذا لا يكفي وجود الإنسان في دائرة صنع القرار؟

إنّ أكثر الاستجابات السياسية شيوعًا لمخاطر الذكاء الاصطناعي العسكري هي ضرورة بقاء العنصر البشري مشاركًا في عملية صنع القرار. قد يبدو هذا مطمئنًا، ولكنه غير كافٍ. فالشخص الذي يكتفي بالموافقة في نهاية عملية مؤتمتة للغاية لا يُعدّ رقابة فعّالة. والأهم من ذلك، يجب أن يمتلك هذا الشخص الوقت الكافي والخبرة اللازمة، بالإضافة إلى إمكانية الوصول إلى البيانات الأساسية والحرية المؤسسية اللازمة لمراجعة الآلة. وبدون هذه الشروط، يصبح دور الإنسان مجرد توقيع شكلي على قرار مُعدّ مسبقًا.

ينشأ التحيز نحو الأتمتة عندما يولي الناس ثقة أكبر لتوصيات الآلات مما يبرره موثوقيتها الفعلية. مع ذلك، فهو ليس رد فعل حتميًا، ولا يحدث بنفس القدر في جميع الحالات. تعتمد الثقة على الخبرة، وعبء العمل، وطريقة العرض، والثقافة التنظيمية، والسلطة المتصورة للنظام. قد تصبح الأدوات القوية إشكالية بشكل خاص عندما تُقدم عادةً نتائج مفيدة. حينها، تحدث أخطاء نادرة في بيئة يسودها قبول أساسي واسع.

في السياق العسكري، يُفاقم التسلسل الهرمي وضغط الوقت المشكلة. فإذا تم تعميم تقرير موحد على مستويات متعددة وبدأت الوحدات الاستعدادات، تتزايد التكاليف النفسية والتنظيمية للاعتراض. ولا يقتصر دور المحلل أو الضابط الذي يُوقف العملية على التشكيك في المعلومات فحسب، بل عليه أيضًا إبطاء عملية التعبئة المؤسسية الجارية. وكلما تقدمت العملية، ازداد تأثير التكاليف الغارقة، والتحيز التأكيدي، والخوف من التقليل من شأن تهديد حقيقي.

لذا، يجب أن تبدأ الرقابة البشرية الحقيقية قبل المرحلة التشغيلية. ويتطلب ذلك معايير واضحة للتأكيد المستقل، وتحليلًا متقاطعًا إلزاميًا، وفصلًا واضحًا بين الملاحظة، وتفسير الآلة، والحكم البشري. وبالنسبة للقرارات المصيرية، ينبغي لوحدة ثانية مستقلة تنظيميًا مراجعة بيانات الإدخال. علاوة على ذلك، يجب ألا يؤثر رفض توصية الذكاء الاصطناعي على المسار الوظيفي. فإذا كوفئت السرعة وعوقب التأخير، فقد توجد الرقابة نظريًا فقط، لكنها تفقد فعاليتها العملية.

لذا، فإنّ الصيغة الحاسمة ليست "وجود العنصر البشري في العملية"، بل هي الحكم البشري الفعال ضمن سلسلة صنع قرار قابلة للتحقق. يجب أن يمتلك الشخص القدرة على إيقاف العملية مؤقتًا، والرجوع إلى المصادر، والمطالبة ببدائل، والإبلاغ عن أي غموض. كما يجب أن يكون على دراية بموعد تجاوز النموذج لنطاقه المقصود. وبدون هذه الكفاءة، تصبح المشاركة البشرية مجرد شكلية في الإدارة.

الثمن الاقتصادي للتصعيد الخاطئ

لم تكن التكاليف العسكرية المباشرة لعملية اعتراض السفينة سوى جزء ضئيل من الأضرار المحتملة. فقد كان من الممكن أن يؤدي الاستيلاء القسري على سفينة صينية إلى اتخاذ إجراءات دبلوماسية مضادة، أو ردود عسكرية، أو فرض عقوبات، أو اتخاذ إجراءات انتقامية. وحتى في غياب حرب مفتوحة، كان من المرجح أن ترتفع أقساط التأمين على المخاطر في قطاعي الشحن والنقل الجوي. وكانت شركات الشحن ستعدل مساراتها، وستطالب شركات التأمين برسوم إضافية، وستقوم الشركات بتكوين مخزونات إضافية. كل هذه الإجراءات تُجمّد رأس المال وتزيد من تكاليف المعاملات.

يُعدّ الشرق الأوسط ذا أهمية بالغة لإمدادات الطاقة والتجارة العالمية. وكان من شأن أي مواجهة بين الولايات المتحدة والصين في هذه المنطقة أن تُغيّر جذرياً النظرة إلى المخاطر الجيوسياسية. وتتأثر أسعار النفط والغاز ليس فقط باضطرابات الإمداد الفعلية، بل أيضاً بتوقعات الندرة المستقبلية. ومن شأن ارتفاع أسعار الطاقة أن يُثقل كاهل قطاعات النقل والكيماويات والزراعة والصناعات كثيفة الاستهلاك للطاقة. وفي الوقت نفسه، قد ترتفع قيمة الاستثمارات الآمنة، وقد تتعرض أسواق الأسهم لضغوط، وقد ترتفع تكاليف تمويل الشركات الأكثر مخاطرة.

كان الخطر الاقتصادي الأكبر يتمثل في سلسلة من ردود الفعل غير المؤكدة. تستطيع الأسواق استيعاب الأضرار المعروفة بسرعة نسبية، لكن مسارات التصعيد غير الواضحة تُولّد تقلبات عالية للغاية. عندما لا تكون نوايا الدول المعنية ولا حدود ردود أفعالها واضحة، تُقيّم الشركات عدة سيناريوهات في آن واحد. تُؤجل الاستثمارات، وتُقصر عقود التوريد، وتُزاد الاحتياطيات النقدية. هذا الحذر منطقي بالنسبة للشركة الفردية، ولكنه قد يُضعف الطلب والإنتاجية على المستوى الكلي.

كان من شأن ذلك أن يؤثر على العلاقات التجارية بين الولايات المتحدة والصين. فعلى الرغم من التنافس الاستراتيجي، لا يزال اقتصادا البلدين مترابطين عبر السلع والمنتجات الوسيطة والتكنولوجيا ورأس المال وأسواق البيع. وقد يؤدي أي صدام عسكري إلى تسريع إجراءات مراقبة الصادرات وفرض العقوبات وفحص الاستثمارات. وستكون أشباه الموصلات والإلكترونيات والهندسة الميكانيكية والبطاريات والخدمات اللوجستية البحرية والمواد الخام الحيوية عرضة للخطر بشكل خاص. وسيتعين على الشركات إعادة هيكلة سلاسل التوريد الخاصة بها ليس فقط وفقًا للتكلفة والجودة، بل أيضًا وفقًا لمرونتها السياسية.

بالنسبة لأوروبا وألمانيا، لن يُمثل هذا الصراع مشكلة أمنية بعيدة. فالصناعة الألمانية تعتمد على نماذج أعمال موجهة للتصدير، وشبكات إمداد عالمية، وروابط بحرية مستقرة. ومن شأن ارتفاع تكاليف النقل والطاقة أن يُضغط على هوامش الربح، في حين أن فرض سياسة اقتصادية بين الولايات المتحدة والصين قد يُصعّب الوصول إلى الأسواق. وغالبًا ما تمتلك الشركات الصغيرة والمتوسطة، على وجه الخصوص، احتياطيات مالية أقل وقدرة تفاوضية أضعف لإنشاء سلاسل إمداد موازية في مناطق جغرافية سياسية متعددة.

تُجسّد هذه الحالة شكلاً متطرفاً من أشكال الآثار الخارجية السلبية. فمستخدمو تطبيقات الذكاء الاصطناعي لا يتحملون تلقائياً كامل تكاليف قراراتهم الخاطئة. قد يستفيد محلل أو وحدة أو مشروع تقني محلياً من السرعة، بينما ينتقل جزء كبير من المخاطر إلى الجنود والشركاء التجاريين ودافعي الضرائب والاقتصاد العالمي. وعندما تتعارض المنافع الخاصة أو التنظيمية مع الأضرار المجتمعية، تبرز الحاجة إلى لوائح أكثر صرامة مما هو عليه الحال في أسواق البرمجيات العادية.

يقدم مركز الأمن والدفاع مشورة الخبراء ومعلومات حديثة لدعم الشركات والمؤسسات بفعالية في تعزيز دورها في سياسة الأمن والدفاع الأوروبية. وبالتعاون الوثيق مع فريق عمل الدفاع التابع لمبادرة "تواصل الشركات الصغيرة والمتوسطة"، يُعنى المركز بشكل خاص بدعم الشركات الصغيرة والمتوسطة الراغبة في تطوير قدراتها الابتكارية وتنافسيتها في قطاع الدفاع. وبصفته نقطة اتصال مركزية، يُشكل المركز جسراً حيوياً بين الشركات الصغيرة والمتوسطة واستراتيجية الدفاع الأوروبية.

ذو صلة بهذا الموضوع:

• مجموعة عمل الدفاع التابعة لمبادرة "ربط الشركات الصغيرة والمتوسطة" – تعزيز الشركات الصغيرة والمتوسطة في مجال الدفاع الأوروبي

الأمن كعامل إنتاجي يُستهان به

غالباً ما تُعامل التحليلات الاقتصادية الأمن كإطار حكومي لا كأصل إنتاجي. في الواقع، يُعدّ الاستقرار الجيوسياسي ركيزة أساسية لتقسيم العمل الدولي. تستثمر الشركات على المدى الطويل عندما تكون حقوق الملكية، وطرق النقل، وأنظمة الدفع، والعلاقات السياسية قابلة للتنبؤ بدرجة كافية. كل خطر إضافي للتصعيد يُشكل ضريبة غير مرئية على التجارة وتكوين رأس المال.

يمكن للذكاء الاصطناعي أن يؤثر على هذا العامل الإنتاجي في كلا الاتجاهين. فعند استخدامه بالشكل الأمثل، يُحسّن الاستطلاع والصيانة والدفاع السيبراني والخدمات اللوجستية والوعي الظرفي. كما يُساعد في تحديد البيانات المتضاربة، وتخفيف العبء على الأفراد ذوي الموارد المحدودة، والتحقيق في الإنذارات الكاذبة بسرعة أكبر. أما عند استخدامه بشكل خاطئ، فإنه يُسرّع تقييمات التهديدات، ويُنتج تنبؤات وهمية، ويُقلّل الوقت المتاح للدبلوماسية. لذا، لا ينبغي قياس القيمة الاقتصادية للذكاء الاصطناعي العسكري فقط من خلال سرعة النشر أو توفير الأفراد.

يتطلب تحليل التكاليف الشامل أيضًا رصد الأخطاء التي تم تجنبها، ومخاطر التصعيد، وفقدان الثقة. وهذا صعبٌ من الناحية المنهجية لأن الحادثة التي تم منعها لا يمكن ملاحظتها مباشرةً. ومع ذلك، يمكن للمؤسسات وضع نماذج للسيناريوهات، وإجراء اختبارات الضغط، وتقييم الأضرار المتوقعة من فئات الأخطاء المختلفة. وبالتالي، قد يكون النظام ذو الجدوى الاقتصادية للمهام الروتينية غير مناسب لاتخاذ القرارات المتعلقة بالتصعيد. هذا التمييز بالغ الأهمية لأن مصطلح الذكاء الاصطناعي يشمل تطبيقات شديدة التباين.

إنّ الاستنتاج المنطقي اقتصاديًا لا يقتضي رفض الذكاء الاصطناعي العسكري رفضًا قاطعًا. فالتخلي عنه تمامًا سيترتب عليه تكاليف باهظة: تباطؤ في التحليل، وزيادة في أعباء الموظفين، وإغفال بعض الأنماط، واحتمالية اتخاذ قرارات أسوأ ضد الخصوم الذين يستخدمون هذه الأنظمة بكثافة. مع ذلك، يجب أن يتناسب استخدامه مع حجم الضرر المحتمل. فكلما زادت صعوبة تصحيح قرار خاطئ، ارتفعت متطلبات جودة البيانات، وإمكانية تتبعها، والمراجعة المستقلة، والموافقة البشرية.

عندما تخلق الكفاءة حوافز خاطئة

يُعزى الانتشار السريع للذكاء الاصطناعي التوليدي إلى خطاب مؤسسي قوي. فالمؤسسات لا ترغب في التخلف عن الركب التكنولوجي، ويتوقع المسؤولون التنفيذيون مكاسب إنتاجية ملموسة، ويعد الموردون بنماذج أكثر قوة بوتيرة متسارعة. في هذا السياق، يُنظر إلى الحذر بسهولة على أنه بيروقراطية. أولئك الذين يُسرعون في تطبيق التقنيات الجديدة يُمكنهم إثبات نجاحاتهم؛ أما أولئك الذين يمنعون عمليات النشر المحفوفة بالمخاطر، فغالبًا لا يُحققون نتائج ملحوظة للعامة.

يُشوّه هذا التفاوت القرارات. تظهر فوائد التحليل المُسرّع فورًا في مؤشرات مثل وقت المعالجة، وعدد التقارير المُنشأة، وساعات العمل المُوفّرة. أما تكاليف الخطأ النادر فلا تظهر إلا لاحقًا، وربما في وحدة تنظيمية مختلفة. لذا، فإن مشروع تطبيق الذكاء الاصطناعي لا يحمل بالضرورة نفس تقييم المخاطر الذي تخضع له القيادة العسكرية، أو الدبلوماسية، أو الاقتصاد الوطني. فبدون حوكمة مركزية، تُصبح التحسينات المحلية خطرًا نظاميًا.

قد تُؤدي عقود التوريد أيضًا إلى خلق حوافز إشكالية. فغالبًا ما يُقيّم الموردون بناءً على الأداء الوظيفي وسرعة التكامل والسعر. أما الخصائص التي يصعب قياسها، مثل معايرة عدم اليقين، وإمكانية التتبع، ومقاومة التلاعب بالمدخلات، أو الجودة في ظل ظروف استثنائية، فتُعطى وزنًا أقل. قد يُقدّم نموذج ما أداءً مُبهرًا، ولكنه قد يفشل في حالات نادرة ولكنها حاسمة. لذلك، وخاصة في مجال المشتريات العامة، يجب أن يكون إثبات الحدود القابلة للتحكم أهم من الوعود الكلامية المتعلقة بالأداء.

يُضاف إلى ذلك التنافس السياسي على الريادة التكنولوجية. فعندما تخشى الدول التخلف عن ركب الذكاء الاصطناعي العسكري، يقلّ استعدادها للالتزام بإجراءات الاختبار البطيئة. وتتضح المعضلة الأمنية جليًا: إذ يُسرّع كل طرف وتيرة تطويره متوقعًا من الطرف الآخر أن يحذو حذوه. وقد يؤدي هذا إلى نشر الأنظمة قبل اكتمال تطوير المعايير والتدريب وإجراءات الاختبار. ومن منظور الدولة الواحدة، يبدو هذا الإجراء دفاعيًا؛ إلا أنه، على المستوى الجماعي، يزيد من احتمالية سوء الفهم والتصعيد غير المقصود.

لذا، يجب أن تتعامل السياسة الاقتصادية السليمة مع الابتكار والرقابة كاستثمارين متكاملين. فالحوكمة ليست عائقًا خارجيًا، بل جزء لا يتجزأ من التكنولوجيا. ونظام الذكاء الاصطناعي الذي يفتقر إلى سجلات موثوقة، ومسؤوليات واضحة، وإجراءات احتياطية، ليس منتجًا نهائيًا، بل عملية إنتاج غير مكتملة. ولا ينبغي النظر إلى تكاليف الرقابة بأثر رجعي على أنها عبء تنظيمي، بل يجب إدراجها في دراسة الجدوى الاقتصادية منذ البداية.

دمج البيانات دون ضمان صحتها

تُعدّ الحادثة المذكورة مفيدة أيضاً لأنّ برنامج الدردشة الآلي، كما يُقال، قد دمج مصادر معلومات مختلفة. قد يبدو دمج البيانات وكأنه إضافة للمعرفة، لكنّه قد يُخفي الشكوك. فالمصادر المفتوحة تحتوي على شائعات، ومعلومات قديمة، وتضليل مُتعمّد، وادعاءات مُنسوخة من بعضها. قد تكون الإشارات السرية قيّمة، لكنّها أيضاً تحتاج إلى تفسير وقد تكون ناقصة. إنّ الجمع بين هذين المجالين بنموذج لغوي واحد لا يُنتج بالضرورة حقيقة أفضل.

تعتمد النماذج التوليدية على العلاقات الإحصائية والمنطق اللغوي. فهي قادرة على تحويل الأدلة المتناقضة إلى سرد متماسك، حتى عندما لا تسمح البيانات باستنتاج قاطع. هذا التماسك بحد ذاته جذاب: فالناس لا يتلقون مجموعة متناثرة من المعلومات، بل إجابة مفهومة. مع ذلك، قد يُساء فهم إزالة التناقضات اللغوية على أنها إزالة للغموض الظاهر. فالنموذج يُرتب العالم، حتى لو لم يكن بالإمكان ترتيبه بشكل قاطع في تلك اللحظة.

لذا، يُعدّ تحديد المصدر أمرًا بالغ الأهمية لأجهزة الاستخبارات. يجب أن يبقى كل بيان قابلاً للتتبع إلى مصدره الأصلي، وأن يكون من الممكن تحديد ما إذا كانت المعلومات قد رُصدت، أو استُنتجت، أو فُرضت، أو أُنتجت آليًا. ولا تقل أهمية عن ذلك الطوابع الزمنية، ومستوى التصنيف، وتقييم الموثوقية، والمؤشرات المضادة المعروفة. يجب ألا يُدمج الذكاء الاصطناعي هذه الخصائص في نص موحد ومتدفق، بل أن يحافظ عليها بشكل واضح.

تُعدّ استقلالية المصادر ذات أهمية اقتصادية وتحليلية بالغة. فعشرة تقارير لا تُشكّل عشرة تأكيدات إذا كانت جميعها تستند إلى التقرير الأصلي نفسه. وقد تتجاهل أنظمة الذكاء الاصطناعي هذه التبعيات أو تعجز عن عرضها بشفافية. وفي فضاءات المعلومات المفتوحة، قد تظهر أغلبية زائفة بسرعة لأن بوابات الأخبار ووسائل التواصل الاجتماعي وقواعد البيانات تُضخّم الادعاء نفسه. لذا، يجب ألا تقتصر العملية الفعّالة على حصر المصادر فحسب، بل يجب أن تفحص أيضًا علاقاتها التاريخية.

إضافةً إلى ذلك، ثمة خطر التلاعب ببيانات الإدخال. فإذا علم المهاجمون أن الأنظمة الآلية تجمع بين المصادر المفتوحة وبيانات الإشارات، فبإمكانهم عمداً زرع أدلة مضللة. وقد تُسهم ملصقات الشحنات المزيفة، أو المنشورات المنسقة، أو الوثائق المُعدّلة في ترجيح كفة التصنيف المطلوب. وبالتالي، يصبح النظام المُحسّن للسرعة هدفاً للهجوم. لذا، لا يقتصر أمن الذكاء الاصطناعي على أخطاء النموذج فحسب، بل يشمل أيضاً الخداع الاستراتيجي.

لا يمكن أتمتة المسؤولية

بعد وقوع حادثة خطيرة، غالباً ما يبدأ البحث عن مُتسبب واحد. قد يكون المحلل قد عمل دون تمحيص، أو قد يكون المدير قد تصرف بتسرع، أو قد يكون المورد قد لم يُوضح بشكل كافٍ قيود منتجه. مع ذلك، فإنّ الاكتفاء بالتحليل القائم على الأفراد فقط غير كافٍ. فإذا كان بإمكان العديد من الأشخاص ذوي الكفاءة ضمن نظام سيئ التصميم ارتكاب الخطأ نفسه، فهذه مشكلة تنظيمية.

لذا، يجب أن تتوزع المسؤولية على مستويات متعددة. يتحمل المستخدمون مسؤولية التطبيق السليم ووضع العلامات المناسبة. ويتحمل المشرفون مسؤولية الموافقات وتخصيص الموارد وتوزيع عبء العمل. ويتعين على إدارات المشتريات تحديد متطلبات الأمن والتتبع. ويجب أن يكون المديرون التقنيون قادرين على اختبار النماذج ومراقبتها وحظرها في حال وجود أي خلل. وأخيرًا، يتعين على القيادة السياسية تحديد المهام التي يمكن تفويضها إلى الأنظمة التوليدية.

يجب ألا تتوزع المسؤولية على نطاق واسع بحيث لا يتحمل أحد المسؤولية في نهاية المطاف. يتطلب هيكل الأدوار الواضح، على وجه الخصوص، تحديد مالكين محددين للنموذج والبيانات وحالة الاستخدام والإصدار. بالنسبة لكل تقرير بالغ الأهمية، يجب أن يكون من الممكن تتبع من أذن باستخدام التعلم الآلي، ومن راجع النتيجة، ومن وافق على استخدامها التشغيلي. لا يخدم هذا التتبع العقاب فحسب، بل يخدم التعلم قبل كل شيء.

تحتاج المنظمة المتعلمة إلى ثقافة تُشجع على الإبلاغ عن الأخطاء الوشيكة. وتكتسب هذه الحالة أهمية خاصة لأن العملية توقفت على ما يبدو. فإذا انصب التركيز فقط على معاقبة الأفراد، سيميل المستخدمون في المستقبل إلى إخفاء أخطائهم. وعلى النقيض، إذا تم التسامح مع الانتهاكات دون عواقب، فسيفقد الحافز على بذل العناية الواجبة. ما نحتاجه هو ثقافة أمنية عادلة: عقوبات واضحة على انتهاكات القواعد المتعمدة أو الناتجة عن إهمال جسيم، بالإضافة إلى آليات إبلاغ آمنة عن الأخطاء والثغرات الأمنية التي يتم الكشف عنها بشفافية.

في هذا النظام، لا يمكن للآلة أن تتحمل مسؤولية أخلاقية أو قانونية. فهي لا تمتلك نية ولا إحساساً بالواجب، ولا فهماً للعواقب الجيوسياسية. حتى لو قدم نموذج ما توصية، يبقى القرار منوطاً بالبشر. لذا، فإن عبارات مثل "الذكاء الاصطناعي هو من قرر" أو "الخوارزمية هي المسؤولة" تُخفي هوية مصمم العملية ومن فوض السلطة.

نموذج تحكم قوي للذكاء الاصطناعي عالي المخاطر

يبدأ نموذج التحكم الفعال بتصنيف دقيق لحالات الاستخدام. يمكن أتمتة المهام منخفضة المخاطر، مثل الترجمة والجدولة والتنسيق، وفقًا لقواعد أمنية عامة. أما التحليلات التي تؤثر على اختيار الأهداف العسكرية، أو الانتشار النووي، أو تحديد الخصوم، أو التدخلات العملياتية، فتُصنّف ضمن فئة المخاطر الأعلى. وتتطلب هذه التحليلات أنظمة منفصلة، ​​ومستخدمين مدربين تدريبًا خاصًا، وإجراءات موافقة أكثر صرامة.

من ناحية البيانات، يُعدّ توثيق سلسلة المصدر الكاملة أمرًا بالغ الأهمية. يجب تسجيل جميع المدخلات، وإصدارات النماذج، وتعليمات النظام، والوثائق المسترجعة، والخطوات الوسيطة، والتعديلات البشرية، والإصدار النهائي. والهدف ليس نشر معلومات سرية دون داعٍ، بل تمكين عمليات التدقيق اللاحقة، والمستمرة إن أمكن. فبدون هذا التوثيق، لا يمكن لأحد أن يعيد بناء كيفية التوصل إلى استنتاج ما بشكل موثوق.

من حيث المحتوى، ينبغي تأكيد كل ادعاء جوهري بطريقة واحدة على الأقل مستقلة عن مخرجات الذكاء الاصطناعي. قد يكون ذلك مراجعة يدوية للوثيقة الأصلية، أو قياسًا تقنيًا، أو مصدر بيانات ثانٍ، أو وحدة تحليل منفصلة تنظيميًا. لا يُعدّ وجود ردّين من النموذج نفسه، أو من نموذجين ببيانات تدريب متشابهة، استقلالًا حقيقيًا، إذ قد يكرران الخطأ نفسه بصياغة مختلفة.

علاوة على ذلك، يجب السماح للنظام بالتعبير عن عدم اليقين. فالذكاء الاصطناعي الذي يُتوقع منه دائمًا تقديم إجابة قاطعة يُجبر على الشعور الزائف بالدقة. في حالات نقص البيانات، يجب أن يكون الناتج الصحيح قادرًا على الإشارة إلى استحالة وجود تصنيف موثوق. ولا ينبغي تفسير هذا النقص تلقائيًا على أنه قصور في مؤشرات الأداء. ففي البيئات عالية المخاطر، غالبًا ما يكون التعبير عن عدم اليقين في الوقت المناسب أكثر قيمة من الافتراض المتسرع.

يجب تحديد العتبات التشغيلية بوضوح. لا يجوز أن يكون تحليل واحد مدعوم بالذكاء الاصطناعي مبرراً كافياً لاستخدام القوة. كلما زاد احتمال الضرر، زادت الحاجة إلى تأكيدات مستقلة ومستويات هرمية. في الوقت نفسه، يجب أن يكون الفريق الأحمر ملزماً بتطوير تفسيرات بديلة. مهمته ليست تحسين الفرضية السائدة بشكل طفيف، بل دحضها بشكل فعال.

وأخيرًا، ثمة حاجة إلى آليات إيقاف تشغيل تقنية وتنظيمية. يجب أن يكون بالإمكان إزالة أي نموذج إشكالي من العمليات الحيوية في غضون مهلة قصيرة دون التسبب في انهيار العملية برمتها. وهذا يتطلب إجراءات احتياطية يدوية. أما المؤسسات التي تُفكك جميع قدراتها الحالية لمجرد أن الذكاء الاصطناعي يبدو في البداية أكثر كفاءة، فإنها تصبح معتمدة عليه وتفقد قدرتها على التصرف في حال حدوث عطل.

دروس للشركات والإدارة العامة

على الرغم من أن الحادثة نشأت في المجال العسكري، إلا أن أنماطها الأساسية تنطبق أيضاً على الشركات. فقد يؤثر خطأ في التقدير ناتج عن الذكاء الاصطناعي على قرارات الائتمان، وعمليات التحقق من الامتثال، والإجراءات المتعلقة بالموظفين، وتقييمات الموردين، أو الاستثمارات الاستراتيجية. وعادةً ما يكون حجم الضرر أقل مما هو عليه في حالة التصعيد العسكري، لكن المنطق الكامن وراء الأخطاء متقارب. وتُعدّ العمليات التي يتم فيها تحويل نتيجة مُولّدة آلياً إلى تنسيق مستند مألوف ثم تمريرها دون أي مصدر واضح محفوفة بالمخاطر بشكل خاص.

لذا، ينبغي على الشركات التمييز بين المساعدة واتخاذ القرار. يمكن للنظام البحث عن المعلومات، وإنشاء المسودات، وتسليط الضوء على التناقضات المحتملة. مع ذلك، تبقى مسؤولية اتخاذ القرار الذي يتطلب الموافقة على عاتق شخص مؤهل. يحتاج هذا الشخص إلى الوصول إلى المصادر، ولا يكفي أن يطلع على النص النهائي. فالشخص الذي يوافق فقط على ملخص مكتوب باحترافية لا يتحقق من المحتوى، بل من مظهره فقط.

يجب أيضًا تعديل مؤشرات الأداء الرئيسية. إن قياس مشروع الذكاء الاصطناعي بناءً على الوقت المُوفَّر فقط يُولِّد حوافز سلبية. من الأجدى استخدام مقاييس مُتكاملة تشمل الإنتاجية، ومعدل التصحيح، وشدة الخطأ، ونسبة البيانات القابلة للتحقق، وعدد حالات عدم اليقين التي تم تحديدها في الوقت المناسب. بالنسبة للعمليات عالية المخاطر، ينبغي أيضًا تقييم مدى تكرار اعتراضات المستخدمين على الذكاء الاصطناعي. قد يوحي انعدام الاعتراضات بجودة تقنية مثالية، ولكنه على الأرجح يُشير إلى نقص في الرقابة.

بالنسبة للشركات المتوسطة الحجم، يُعدّ تطوير حلول تقنية داخلية بالكامل أمرًا غير واقعي في الغالب. وهذا ما يجعل العقود الواضحة مع مزودي الخدمات أكثر أهمية. تحتاج الشركات إلى معلومات حول تغييرات النماذج، ومواقع التخزين، والمقاولين من الباطن، والتسجيل، والحوادث الأمنية، واستخدام البيانات المُدخلة. قد تتحول الخدمة الرخيصة إلى خدمة باهظة الثمن إذا سُرّبت معلومات حساسة أو أصبحت القرارات غير قابلة للتدقيق.

تواجه الإدارة العامة تحديًا إضافيًا. يجب ألا تقتصر قراراتها على الكفاءة الاقتصادية فحسب، بل يجب أن تكون أيضًا قانونية وشفافة وقابلة للطعن. وكلما زاد اعتماد تبرير القرار على الذكاء الاصطناعي، ازدادت أهمية التوثيق الواضح. لا يجوز خداع المواطنين والشركات بتفسير مفاده أن نموذجًا ما قد حدد خطرًا. يتطلب العمل الحكومي تبريرًا منطقيًا وعقلانيًا.

سياسة الابتكار بين المنافسة والحذر

كثيراً ما يُصوَّر الصراع السياسي على أنه خيار بين القوة التكنولوجية والتنظيم. هذه المقارنة خاطئة. قد تكتسب الدول التي تستخدم الذكاء الاصطناعي عالي المخاطر بشكل غير مسؤول ميزة قصيرة الأجل، لكنها على المدى البعيد تُخاطر بفقدان الثقة، والقدرة على بناء التحالفات، والموثوقية التشغيلية. وقد يؤدي الفشل الذريع إلى تأخير المشاريع، وتجميد الميزانيات، وزيادة المقاومة الشعبية. لذا، فإن التنظيم الفعال يحمي الابتكار أيضاً.

في الوقت نفسه، يجب ألا تؤدي التدابير الاحترازية إلى حظر شامل يعيق بلا داعٍ التطبيقات المدنية والتطبيقات منخفضة المخاطر. يُعدّ النهج القائم على المخاطر أكثر جدوى اقتصادياً، إذ يُركّز الموارد حيث تكون القرارات الخاطئة غير قابلة للتراجع، أو منهجية، أو تُهدّد الحياة. تختلف القواعد المناسبة لصياغة النصوص البسيطة عن تلك المناسبة لاختيار الأهداف، أو العلاج الطبي، أو البنية التحتية الحيوية.

لا تزال المعايير الدولية صعبة التحديد. فالشفافية العسكرية تتعارض مع السرية، والدول مترددة في الكشف عن قدراتها التقنية. ومن الأنسب من الإفصاح الكامل وضع معايير دنيا مشتركة، تشمل: سلطة بشرية على استخدام القوة، واختبارات إلزامية، وآليات تعطيل، ومساءلة واضحة، وقنوات اتصال للإبلاغ عن الحوادث. هذه القواعد لا تقضي على المنافسة، لكنها تحدّ من أخطر حالات سوء الفهم.

تُعدّ تدابير بناء الثقة بين الولايات المتحدة والصين بالغة الأهمية. فإذا ما دمج الجانبان الذكاء الاصطناعي في عمليات الاستطلاع ودعم اتخاذ القرارات، سيزداد خطر تفسير أي تقرير كاذب على أنه استفزاز متعمد. ويمكن لقنوات الاتصال العسكرية المباشرة، وإجراءات حل الحوادث البحرية، والالتزامات السياسية بالإشراف البشري، أن تُقلّل من خطر التصعيد. وتتمثل فائدتها في كونها بمثابة تأمين: ففي الظروف العادية، تبدو غير ملحوظة، ولكنها في أوقات الأزمات قادرة على منع أضرار جسيمة.

يتحمل الحلفاء وشركات التكنولوجيا مسؤولية أيضاً. فغالباً ما تُطوَّر النماذج والبنية التحتية السحابية وأدوات البيانات من قِبَل مزودين من القطاع الخاص. وهذا يُحوِّل جزءاً من القيمة المُضافة للقطاع العسكري إلى شركات لم تُصمَّم دورات ابتكارها ومنطق مسؤوليتها لمواجهة الأزمات الجيوسياسية. لذا، يجب أن تضمن سياسة المشتريات احتفاظ الوكالات الحكومية بالسيطرة التقنية وحقوق التدقيق والخبرات الداخلية الكافية.

جوهر القضية الاستراتيجي

يكشف الحادث الذي كاد أن يودي بحياة شخص أمام سفينة صينية حقيقةً مزعجة: قد لا يكون الخطر الأكبر للذكاء الاصطناعي على المدى القريب هو انقلاب آلة على البشرية، بل الأرجح هو تصديق شخص ما بسهولة بالغة لرسالة آلية مُقنعة الصياغة ولكنها زائفة. ينشأ الخطر من تفاعل عوامل عدم اليقين التكنولوجي، وضغط الوقت، والتسلسل الهرمي، والرغبة السياسية في السرعة.

النهج الأمثل ليس الذعر التكنولوجي ولا التفاؤل الأعمى بشأن التقدم. يمكن للذكاء الاصطناعي التوليدي أن يزيد بشكل ملحوظ من كفاءة المؤسسات الكبيرة. مع ذلك، لا يمكنه أن يحل محل البحث المعرفي الدقيق، أي التساؤل المنهجي حول مصدر المعلومة، ومدى موثوقيتها، والأدلة المضادة لها. وكلما زادت قوة الأداة، ازدادت أهمية هذا البحث الدقيق.

من منظور اقتصادي، يجب أن يراعي إدخال الذكاء الاصطناعي جميع القيم المتوقعة. يشمل ذلك مكاسب الإنتاجية، وتكاليف الاختبار، وأخطاء التقدير، والمسؤولية القانونية، والإضرار بالسمعة، والمخاطر النظامية. في حالات العواقب الكارثية المحتملة، لا يكفي أن يكون النموذج مفيدًا في المتوسط، بل يجب على المؤسسة إثبات قدرتها على اكتشاف الأخطاء النادرة والحرجة ومنعها.

يكمن سر نجاح هذا الحادث في تمكّن الأفراد من إيقاف العملية. مع ذلك، لا يمكن لأي بنية أمنية أن تعتمد على تدخل أفراد يقظين في اللحظة الأخيرة. بل يجب تصميمها بحيث لا تصل المعلومات المشكوك فيها إلى مرحلة التخطيط العملياتي دون تمييز. يجب إجراء عمليات تدقيق مبكرة ومتكررة ومستقلة.

الخطأ من طبيعة البشر. أما الآلات فتخطئ بطريقة مختلفة: أسرع، وأكثر قابلية للتوسع، وغالبًا بطريقة مقنعة لغويًا. ولا يصبح الخطأ كارثيًا إلا عندما تخلط المؤسسات بين هذه الخصائص والمعرفة. لذا، فإن الدرس الأساسي ليس استبعاد البشر من عملية صنع القرار أو إبقائهم فيها رمزيًا فحسب، بل بناء مؤسسات تُقدّر الشك أكثر من السرعة، بمجرد أن يُنذر يقين زائف بحرب.

يسعدني أن أكون مستشارك الشخصي.

رئيس قسم تطوير الأعمال

رئيس فريق عمل الدفاع التابع لشبكة الشركات الصغيرة والمتوسطة

لينكد إن

 

 

يسعدني أن أكون مستشارك الشخصي.

يمكنكم التواصل معي عبر البريد الإلكتروني wolfenstein∂xpert.digital أو

اتصل بي على الرقم +49 7348 4088 965 .

لينكد إن