الذكاء الاصطناعي المُدار في مواجهة انتشار وكلاء الذكاء الاصطناعي: لماذا سيصبح وكلاء الذكاء الاصطناعي غير الخاضعين للإشراف لديك خطرًا قانونيًا قريبًا

وكلاء الذكاء الاصطناعي الخارجون عن السيطرة: كيف أصبح "انتشار الوكلاء" أكبر خطر يهدد تكنولوجيا المعلومات في عام 2025

نهاية تجارب الذكاء الاصطناعي: لماذا سيتم إيقاف أكثر من 40 بالمائة من قوات الوكلاء المستقلين قريباً

يُحدث الذكاء الاصطناعي ثورة في عالم الأعمال اليومية، ولكن بينما تُسرع الإدارات في نشر المزيد من أنظمة الذكاء الاصطناعي ذاتية التشغيل في عملياتها، يلوح في الأفق خطرٌ جسيمٌ على تكنولوجيا المعلومات والامتثال. فما يُسمى بـ"انتشار الأنظمة" (التكاثر غير المنضبط لأنظمة الذكاء الاصطناعي) لا يؤدي فقط إلى ارتفاع تكاليف البنية التحتية وتكرار الأنظمة، بل يُفضي أيضًا إلى ثغرات أمنية خطيرة. ومع المتطلبات الصارمة لقانون الاتحاد الأوروبي للذكاء الاصطناعي، بات هذا النقص في الرقابة يُشكل مشكلة قانونية وجودية. ولتجنب كارثة حوكمة وشيكة وضمان عائد استثمار طويل الأجل من التحول الرقمي، يواجه قادة التكنولوجيا مهمة حاسمة: عليهم وقف هذا الانتشار غير المنضبط واستبداله بمنصة مركزية مُدارة للذكاء الاصطناعي قبل فوات الأوان.

ذو صلة بهذا الموضوع:

• UNFRAME.AI: الجيد والسيئ وغير الخاضع للرقابة: ما هي التكلفة الحقيقية لانتشار الوكلاء

الذكاء الاصطناعي المُدار في مواجهة انتشار وكلاء الذكاء الاصطناعي: كيف تتجنب منصة التحكم المركزية كارثة الحوكمة الوشيكة في الشركة

في معظم الشركات، حدث أمرٌ ما خلال الأشهر الثمانية عشر الماضية لم يُدرج في أي ميزانية، ولم يُصدر أي تنبيهات بشأن المخاطر، ولا توجد جهة مركزية مسؤولة عنه. بدأت الفرق، قسمًا تلو الآخر، بنشر أنظمة ذكاء اصطناعي. أنشأ قسم المالية نظامًا للتحقق من الفواتير. ونشر قسم الموارد البشرية نظامًا آخر للاستفسارات المتعلقة بالانضمام. وأطلق قسم خدمة العملاء نظامًا ثالثًا لفرز طلبات الدعم. حلّ كل نظام من هذه الأنظمة مشكلة حقيقية. وتمت الموافقة على كل نظام، أو على الأقل لم يتم إيقافه. وقد بُني كل نظام على منصة مختلفة، بنموذج مختلف، وارتبط بمصدر بيانات مختلف، ولم يخضع لأي رقابة شاملة.

هذا ما يُعرف بانتشار وكلاء الذكاء الاصطناعي، أو "انتشار الوكلاء" كما يُطلق عليه في المصطلحات التقنية. وبحلول الوقت الذي يُطلق فيه معظم قادة التكنولوجيا اسمًا على هذه الظاهرة، يكون الضرر المالي والهيكلي قد وقع بالفعل. ما يبدو للوهلة الأولى مشكلة تشغيلية بسيطة، يتحول، وفقًا لبيانات السوق الحالية، إلى ربما أخطر المخاطر الاستراتيجية التي تواجه التحول الرقمي في مجال الذكاء الاصطناعي. الأرقام واضحة: أكثر من ثلاثة ملايين وكيل ذكاء اصطناعي تعمل بالفعل في بيئات المؤسسات حول العالم، ومن بينها، 47.1% فقط تخضع للمراقبة أو التأمين الفعال. وبالتالي، يعمل حوالي 1.5 مليون وكيل دون أي إشراف. في الوقت نفسه، يعتقد 82% من المديرين التنفيذيين أن سياساتهم الحالية كافية. هذا التناقض بين التصور الذاتي والواقع هو الأساس الذي يزدهر عليه هذا النمو غير المنضبط.

نمط مألوف في حلة جديدة: السياق التاريخي لانتشار التكنولوجيا

إن انتشار الوكلاء ليس مشكلة جديدة، بل هو نمط مألوف في حلة جديدة. لقد شهد عالم الشركات مراحل مماثلة عدة مرات، وتتطابق مساراتها ونتائجها بشكل ملحوظ مع الوضع الحالي.

على مدى سنوات عديدة، أدى ما يُسمى بتوسع الحوسبة السحابية إلى ظهور عشرات البيئات السحابية غير المنسقة التي استنزفت الميزانيات وأحدثت ثغرات أمنية، استغرق إصلاحها بالكامل سنوات في بعض الأحيان. واتبع توسع البرمجيات كخدمة (SaaS) النمط نفسه: ففي ذروتها، كانت الشركة المتوسطة تُشغّل مئات التطبيقات في وقت واحد. ورغم أن الشركات تُجري الآن عمليات دمج نشطة - حيث انخفض متوسط ​​عدد تطبيقات SaaS من 374 إلى 342 - إلا أن تقنية المعلومات غير المصرح بها لا تزال تُمثل مشكلة ضخمة ومستمرة. ووفقًا لاستطلاعات حديثة، يستخدم 68% من الموظفين أدوات غير مُصرّح بها من قِبل قسم تقنية المعلومات، ويُدخل 57% منهم بيانات حساسة للشركة في هذه الأنظمة غير المصرح بها. وتُدير أقسام تقنية المعلومات حاليًا 28% فقط من إجمالي الإنفاق على SaaS، وتُراقب 17% فقط من جميع التطبيقات.

ثم جاء التوسع الهائل لتقنية أتمتة العمليات الروبوتية (RPA): موجة من برامج الروبوت الآلية التي بدأت بنتائج تجريبية واعدة، وانتهت بتشابك من سير العمل الهش والمتداخل الذي يستحيل اختباره أو صيانته بشكل كامل. عمليًا، غالبًا ما فشلت مشاريع RPA بسبب التوقعات غير الواقعية، وعدم وضوح اختيار العمليات، ونقص البنية التحتية للحوكمة. يتشابه الوضع الحالي هيكليًا مع الوضع السابق، مع اختلاف جوهري واحد.

تُشبه أنظمة الذكاء الاصطناعي المستقلة أنظمة أتمتة العمليات الروبوتية (RPA) المزودة بذكاء اصطناعي. تنطبق عليها نفس الديناميكيات، لكن عواقبها أسرع وأوسع نطاقًا. فالروبوت الذي يعمل بنظام RPA يتوقف عن العمل ببساطة. أما نظام الذكاء الاصطناعي الذي يعمل دون إدارة، فيستمر في العمل ويتخذ القرارات بشكل مستقل. وهذا هو السيناريو الأكثر خطورة. فالبرمجيات تنتظر الأوامر، بينما تتصرف الأنظمة بشكل مستقل. هذا التحول النوعي في التكنولوجيا يجعل مسألة الإدارة ليست مجرد مسألة تدريجية، بل أكثر إلحاحًا من أي وقت مضى.

تشريح عملية التوسع غير المنضبط: كيف يبدو النمو غير المنضبط في الواقع العملي

يتسم نمط انتشار الوكلاء بتناسق ملحوظ بين المؤسسات، حتى وإن اختلفت التفاصيل. يبدأ عادةً بعدد قليل من المشاريع التجريبية ذات النوايا الحسنة. وتكون النتائج واعدة بما يكفي لتبرير التوسع. تلاحظ فرق أخرى التجارب الإيجابية، فتطلب وكلاءها الخاصين، أو ببساطة تقوم ببنائهم بأنفسهم. يُسهّل الموردون هذه العملية، إذ تُغرى الشركات بأدوات مجانية أو زهيدة الثمن للمبتدئين، ويبدو للوهلة الأولى أنه لا يوجد سبب يُذكر لعدم إضافة منصة أخرى إلى البنية التحتية.

في غضون اثني عشر إلى ثمانية عشر شهرًا، تجد الشركة نفسها في وضع يتسم بعدة سمات مميزة: يتم تطوير وكلاء بوظائف مختلفة على منصات متباينة - من OpenAI إلى AWS وGoogle إلى الأدوات الداخلية - دون وجود طريقة موحدة لمراقبتها أو إدارتها. ولأن كل وكيل يُبنى بشكل مختلف، فمن منظور الإدارة، لا توجد رؤية مركزية شاملة، ولا ما يُسمى بـ "واجهة موحدة".

لكل وكيل اتصالات بيانات وحقوق وصول خاصة به، مُهيأة بشكل مستقل دون طبقة سياسات مشتركة. لا أحد يملك صورة كاملة عن الأنظمة التي يمكن لكل وكيل الوصول إليها. تُعاد بناء عمليات التكامل نفسها مرارًا وتكرارًا: خمسة وكلاء بخمسة موصلات منفصلة إلى Salesforce؛ وثلاثة وكلاء بثلاثة مسارات مستقلة إلى مستودع البيانات. لا يوجد سياق مشترك أو طبقة تنسيق بين الوكلاء العاملين في وظائف متجاورة. عندما يعمل وكيل التسويق، ووكيل سلسلة التوريد، وروبوت الموارد البشرية في صوامع معزولة، فإنك لا تُنشئ قوة عاملة مؤتمتة، بل تُنشئ ثورة رقمية. كما أن اختيار النموذج يتم بشكل عشوائي: تستخدم الفرق المختلفة موردين مختلفين بناءً على ما كان متاحًا وقت الإنشاء، بدلاً من المعايير الاستراتيجية للتكلفة أو الأداء أو مستوى المخاطر.

المنطق الكامن وراء ذلك منطقي تمامًا من وجهة نظر الفرق الفردية: فكل قسم يُحسّن أداءه بما يتناسب مع سرعته وحالة استخدامه. أما المشكلة النظامية فتنشأ من مجموع هذه المبررات المحلية. إنها حالة كلاسيكية لفشل التنسيق، الذي يحدث حتمًا في غياب هيكل تحكم شامل.

التكاليف الحقيقية: تتجاوز الهدر الواضح للميزانية

تتمثل أبرز تكاليف انتشار أنظمة الذكاء الاصطناعي في هدر الميزانية نتيجةً لعمليات التكامل المتكررة، وتداخل الوظائف، وتكرار البنية التحتية. وهذا أمر واقعي ويتراكم بسرعة. تشمل تكاليف تشغيل أنظمة الذكاء الاصطناعي مكونات متعددة: تكاليف البنية التحتية للحوسبة والذاكرة، وتكاليف الرموز المميزة لاستدعاءات واجهة برمجة التطبيقات، وتكاليف إدارة تقنية المعلومات للمراقبة والأمان والتحديثات، وتكاليف التنفيذ التي قد تتراوح من بضعة آلاف إلى عدة مئات الآلاف من اليورو حسب درجة التعقيد.

لكن التكاليف الأقل وضوحًا هي الأكثر خطورة: ما يُعرف بـ"دين الحوكمة". فكل جهة تعمل دون طبقة سياسات مركزية تُمثل ثغرة في الامتثال. وكل جهة تعمل دون رقابة تُشكل خطرًا لا يُمكن قياسه. في القطاعات الخاضعة لتنظيمات صارمة، كقطاع الخدمات المالية والرعاية الصحية والاستشارات القانونية، لا تقتصر هذه الثغرة على الجانب النظري، بل هي بمثابة توبيخ سيُصبح مشكلة حقيقية خلال عملية التدقيق القادمة. وتؤدي الجهات غير المنسقة إلى "استنزاف الموارد"، حيث تُؤدي استدعاءات واجهة برمجة التطبيقات المتكررة والمهام الحسابية المتداخلة إلى تآكل العائد على الاستثمار تدريجيًا.

بل والأخطر من ذلك، أنها قد تؤدي إلى إخفاقات تشغيلية حقيقية عندما تعمل جهات ذات أهداف متضاربة على نفس البيانات دون وجود طبقة تنسيق تُوَحِّد قراراتها. تتوقع مؤسسة IDC أن 60% من إخفاقات الذكاء الاصطناعي في عام 2026 ستكون بسبب ثغرات في الحوكمة، وليس بسبب ضعف أداء النموذج. يعكس هذا الرقم رؤية جوهرية: لم يعد النضج التقني لنماذج الذكاء الاصطناعي هو الخطر الرئيسي، بل البنية التنظيمية والهيكلية التي تُدمجها.

علاوة على ذلك، ثمة مخاطر قانونية واسعة النطاق. تحذر مؤسسة IDC في توقعاتها المستقبلية (FutureScape) من أنه بحلول عام 2030، سيواجه ما يصل إلى 20% من أكبر ألف مؤسسة في العالم دعاوى قضائية وغرامات وإقالة مديري تقنية المعلومات، نتيجةً لاضطرابات خطيرة ناجمة عن عدم كفاية إدارة أنظمة الذكاء الاصطناعي. ويزيد قانون الاتحاد الأوروبي للذكاء الاصطناعي من حدة هذا الوضع بفرض عقوبات صارمة: إذ يمكن معاقبة المخالفات بغرامات تصل إلى 35 مليون يورو أو 7% من الإيرادات السنوية العالمية. وبالنسبة لأنظمة الذكاء الاصطناعي عالية المخاطر، يُشترط صراحةً تسجيل البيانات ومراقبة العمليات والإشراف البشري. وبالتالي، فإن أي شركة تُشغّل أنظمة ذكاء اصطناعي مستقلة دون إدارة منظمة تُعرّض نفسها مباشرةً لهذه اللوائح.

إن تكاليف تطبيق الحوكمة بأثر رجعي في أسطول واسع من الوكلاء أعلى بكثير من تكاليف إنشاء بنية تحتية للحوكمة منذ البداية. وتشير بيانات مركز معلومات الحوسبة الذكية (CISIN) إلى أن المؤسسات التي تنتقل من مستوى الحوكمة 1 إلى المستوى 3 - أي من تسجيل الأخطاء التفاعلي إلى بنية انعدام الثقة مع بيئات تنفيذ معزولة - تشهد انخفاضًا بنسبة 40% في ديونها التقنية المتعلقة بالذكاء الاصطناعي، وتحسنًا بنسبة 25% في سرعة طرح ميزات الوكلاء الجديدة في السوق.

منصة الذكاء الاصطناعي المُدارة - الصورة: Xpert.Digital

ستتعلم هنا كيف يمكن لشركتك تطبيق حلول الذكاء الاصطناعي المخصصة بسرعة وأمان ودون عوائق دخول عالية.

تُعدّ منصة الذكاء الاصطناعي المُدارة حلاً شاملاً ومريحاً لمشاكل الذكاء الاصطناعي. فبدلاً من التعامل مع التكنولوجيا المعقدة والبنية التحتية المكلفة وعمليات التطوير المطولة، ستحصل على حل جاهز مصمم خصيصاً لتلبية احتياجاتك من شريك متخصص، غالباً في غضون أيام قليلة فقط.

المزايا الرئيسية باختصار:

⚡ تنفيذ سريع: من الفكرة إلى التطبيق الجاهز للاستخدام في أيام، وليس شهورًا. نقدم حلولًا عملية تُحقق قيمة مضافة فورية.

🔒 أقصى درجات أمان البيانات: بياناتك الحساسة تبقى معك. نضمن معالجة آمنة ومتوافقة مع الأنظمة دون مشاركة البيانات مع أي جهات خارجية.

💸 لا مخاطر مالية: أنت تدفع فقط مقابل النتائج. يتم التخلص تماماً من الاستثمارات الأولية الكبيرة في الأجهزة أو البرامج أو الموظفين.

🎯 ركّز على جوهر عملك: انصبّ اهتمامك على ما تُجيده. نحن نتولّى جميع جوانب التنفيذ التقني والتشغيل والصيانة لحلول الذكاء الاصطناعي الخاصة بك.

📈 حلول مستقبلية وقابلة للتطوير: يتطور نظام الذكاء الاصطناعي الخاص بك معك. نضمن التحسين المستمر وقابلية التوسع، ونقوم بتكييف النماذج بمرونة مع المتطلبات الجديدة.

للمزيد من المعلومات، انقر هنا:

• منصة الذكاء الاصطناعي المُدارة

يتزايد الضغط التنظيمي: قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي بمثابة محفز لالتزامات الحوكمة

بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي، وضعت أوروبا أول قانون شامل في العالم ينظم الذكاء الاصطناعي. وقد دخل القانون حيز التنفيذ في الأول من أغسطس/آب 2024، وسيزداد تأثيره العملي تدريجياً بدءاً من عام 2026. بالنسبة للشركات في ألمانيا وعموم أوروبا، يعني هذا أن حوكمة الذكاء الاصطناعي لم تعد قراراً استراتيجياً اختيارياً، بل أصبحت مطلباً قانونياً.

يستند منطق قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي إلى تقييم المخاطر: تُصنّف أنظمة الذكاء الاصطناعي إلى فئات مخاطر وفقًا لقدرتها على إحداث الضرر، وتزداد المتطلبات مع ازدياد مستوى المخاطر. وتُطبّق التزامات واسعة النطاق بالفعل على تطبيقات الذكاء الاصطناعي عالية المخاطر، على سبيل المثال، في مجالات التوظيف والتعليم والبنية التحتية الحيوية، وتشمل هذه الالتزامات أنظمة إدارة المخاطر، وحوكمة البيانات، والتوثيق التقني، والشفافية، والإشراف البشري، والتسجيل طوال دورة حياة النظام. ولا يُعدّ شرط وجود سجل لحالات استخدام الذكاء الاصطناعي إجراءً شكليًا بيروقراطيًا، بل هو الحد الأدنى الهيكلي اللازم لأي شكل من أشكال الامتثال: فبدون سجل، لا يمكن تحديد الأولويات، وبدون تحديد الأولويات، لا يمكن تحقيق الامتثال الفعال.

بالنسبة للشركات العاملة في بيئة مجزأة وغير خاضعة للرقابة، يُمثل هذا المشهد التنظيمي تحديًا مزدوجًا. أولًا، يجب عليها حصر عملياتها الحالية وتقييم تصنيف المخاطر المرتبطة بها. ثانيًا، يجب عليها ضمان امتثال عمليات النشر الجديدة للمتطلبات القانونية منذ البداية. ويكاد يكون من المستحيل إنجاز هاتين المهمتين دون بنية تحتية مركزية للحوكمة. لذا، فإن قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي ليس عائقًا بيروقراطيًا إضافيًا، بل هو حافز تنظيمي يُسرّع القرار الاستراتيجي الضروري بالفعل لإنشاء بنية تحتية للمنصة.

يلخص تحليل EY لاتجاهات الذكاء الاصطناعي لعام 2026 الأمر بشكل مثالي: لا يكمن الفرق في استخدام الشركات للذكاء الاصطناعي من عدمه، بل في امتلاكها لهياكل الحوكمة اللازمة لتشغيله بمسؤولية، وقابلية للتوسع، ومرونة. ويشمل ذلك تحديد الأدوار والمسؤوليات بوضوح فيما يتعلق بقرارات الذكاء الاصطناعي، وآليات تحكم قوية تواكب سرعة التطور التكنولوجي، وقرارات شفافة بشأن البيانات وهياكل النماذج تُمكّن من الرقابة الداخلية والتدقيق التنظيمي.

عند نقطة التحول: نافذة زمنية قصيرة للتغلب على النمو الجامح

تتوقع مؤسسة غارتنر أنه بحلول نهاية عام 2026، ستدمج حوالي 40% من تطبيقات المؤسسات وكلاء الذكاء الاصطناعي المتخصصين في مهام محددة، مقارنةً بأقل من 5% في عام 2025. ويمثل هذا زيادة ثمانية أضعاف خلال اثني عشر شهرًا. في الوقت نفسه، نجحت أقل من 25% من الشركات في توسيع نطاق استخدام وكلاء الذكاء الاصطناعي في بيئات الإنتاج، على الرغم من أن ما يقرب من ثلثي الشركات تجري تجارب عليها بالفعل.

والأكثر دلالةً هو إحصائية أخرى من غارتنر: سيتم التخلي عن أكثر من 40% من مشاريع الذكاء الاصطناعي الوكيل بحلول نهاية عام 2027، ليس بسبب قيود تكنولوجية، بل بسبب ارتفاع التكاليف، ونقص الأدلة على القيمة التجارية، وعدم كفاية الحوكمة. فقط 2% من الشركات طبّقت الذكاء الاصطناعي الوكيل بشكل كامل حتى الآن، و21% فقط أفادت بامتلاكها إطار عمل ناضج لإدارة الوكلاء المستقلين. هذه أرقام تدعو للتأمل عند مقارنتها بتوقعات النمو الهائلة.

تتضاءل فرصة مدير المعلومات أو مدير البيانات لمعالجة هذه المشكلة بشكل استباقي يومًا بعد يوم. تقوم وحدات الأعمال الآن ببناء البرامج الآلية وفقًا لجداولها الزمنية الخاصة، وباستخدام أدواتها الخاصة، وخارج نطاق اختصاص قسم تقنية المعلومات المركزي. كل يوم يمر دون وضع نهج حوكمة منظم هو يوم تتراكم فيه الديون التقنية ومتطلبات الامتثال. وتزداد تكلفة سداد هذه الديون مع كل برنامج آلي إضافي يتم نشره دون إشراف.

منصة الذكاء الاصطناعي المُدارة كحل هيكلي: لماذا يحل نهج المنصة مشكلة النشر

تُجري المؤسسات التي تُحكم السيطرة على النمو غير المنضبط تمييزًا استراتيجيًا حاسمًا في وقت مبكر: فهي تتعامل مع بنية الذكاء الاصطناعي داخل الشركة كمشكلة منصة، لا كمشكلة نشر. هذا التحول الدلالي له عواقب هيكلية بعيدة المدى.

يركز جانب النشر على سؤال: كيف يمكنني بناء وكيل فعال بسرعة لهذه الحالة المحددة؟ بينما يركز جانب المنصة على سؤال: كيف يمكنني إنشاء بنية تحتية تُمكّن جميع الوكلاء في الشركة من العمل بكفاءة وأمان وانتظام وفعالية من حيث التكلفة؟ يكمن حل السؤال الثاني في لوحة التحكم المركزية. فهي المكان الوحيد الذي تُنظّم فيه الوكلاء وتُخصّص وتُراقب وتُنشر، قبل أن يزداد عددهم إلى الحد الذي يصعب معه تطبيق الحوكمة بأثر رجعي.

تُعالج منصة الذكاء الاصطناعي المُدارة هذه جميع المشكلات الأساسية للنمو غير المنضبط بشكل منهجي. فهي تُوفر رؤية موحدة لجميع العناصر النشطة داخل المؤسسة، بغض النظر عن المنصة الأساسية التي نشأت عليها. كما تُطبق طبقة سياسات مشتركة للوصول إلى البيانات، والصلاحيات، ومسارات التصعيد. وتُمكّن من المراقبة الحقيقية - أي القدرة على فهم البيانات التي استشارها العنصر، والبدائل التي درسها، وسبب اتخاذه قرارًا معينًا. وتضمن أن يتبع اختيار النموذج، ومراقبة التكاليف، وبنية الأمان معايير استراتيجية بدلًا من القرارات الارتجالية.

يُعدّ التشبيه بمنهجيتي DevOps وMLOps مناسبًا للغاية هنا: فعندما تمّ تنظيم عمليات تطوير البرمجيات والتعلم الآلي في السنوات الأخيرة، تمّ اتباع المبادئ نفسها - الأدوات، والضوابط، والمقاييس، ومستويات السياسات المركزية كأساس. وينطبق المنطق نفسه على وكلاء الذكاء الاصطناعي، ولكن مع ضرورة ملحة إضافية نابعة من الطبيعة المستقلة لهذه الأنظمة.

أصبحت منصات حوكمة الذكاء الاصطناعي الموحدة، وفقًا لمؤسسة IDC، تُعتبر بنية تحتية أساسية لتحقيق قابلية التوسع. فهي توفر مصدرًا موحدًا للمعلومات الموثوقة فيما يتعلق بالسياسات والمراقبة وإعداد التقارير. وتشير أبحاث IBM إلى أن المؤسسات التي تعتمد أطر حوكمة شاملة تحقق عائدًا على الاستثمار في محافظ الذكاء الاصطناعي لديها أفضل بنسبة 30% مقارنةً بتلك التي تعتمد على الأساليب اليدوية.

بُعد الأمن وحماية البيانات: المخاطر التي يتم التقليل من شأنها للجهات غير الخاضعة للمراقبة

إلى جانب مخاطر الامتثال والمخاطر التشغيلية، يُمثل انتشار البرامج الآلية غير الخاضعة للرقابة بُعدًا أمنيًا محددًا لا يزال يُناقش بشكل غير كافٍ. فكل برنامج آلي غير مُراقب يُشكل مركز تكلفة خفيًا محتملاً يستهلك موارد الحوسبة السحابية، ومسؤولية قانونية تُعرّض الشركة لعقوبات تنظيمية، وثغرة أمنية محتملة يُمكن استغلالها للوصول غير المصرح به إلى البيانات.

تُعدّ مشكلة تسلسل القرارات غير المنضبطة بالغة الأهمية: فعندما يُصرّح للجهات الفاعلة بتنفيذ إجراءات، يجب مراعاة كيفية انتشار هذه الإجراءات عبر الأنظمة المترابطة. إذ يُمكن أن يؤدي غياب الرقابة والشفافية إلى عواقب غير مقصودة تنتشر عبر بيئات الأنظمة المعقدة. علاوة على ذلك، إذا افتقرت الفرق إلى أدوات تفسيرية لفهم سبب قيام جهة فاعلة ما بتنفيذ إجراء معين، فقد يعجز المديرون عن تبرير النتائج أمام الجهات التنظيمية أو العملاء.

لا تحصل سوى 14.4% من المؤسسات على الموافقات الأمنية الكاملة قبل نشر برامجها. هذا يعني أن أكثر من 85% من هذه البرامج تعمل في بيئات الإنتاج دون تقييم أمني شامل لها. في عالمٍ تستطيع فيه هذه البرامج الوصول إلى ملفات الموظفين الحساسة، والبيانات المالية، وبيانات العملاء، والعمليات التجارية الحيوية، يُعدّ هذا الأمر غير مقبول.

يُقدّم نهج انعدام الثقة لبنية الوكلاء التحتية - حيث يحصل كل وكيل على الحد الأدنى من الصلاحيات الضرورية فقط، والتي تُمنح ديناميكيًا لكل جلسة على حدة - استجابةً تقنيةً لهذا النوع من المخاطر. وبإضافة آليات "التدخل البشري" التي تُحدّد متى يجب على الوكيل التوقف وطلب تأكيد بشري، يُنشئ هذا النهج بنيةً أمنيةً تُوازن بين الاستقلالية والتحكم.

ثلاثة إجراءات استراتيجية فورية: ما يحتاج القادة إلى القيام به الآن

إنّ الحل العملي للخروج من هذا الانتشار غير المنضبط لا يبدأ باختيار منصة، بل بجرد منظم. ينبغي على الشركات اتخاذ ثلاثة إجراءات فورية متتالية قبل نشر الوكيل التالي.

تتمثل الخطوة الأولى في حصر شامل لجميع الوكلاء النشطين في جميع أنحاء المؤسسة. يشمل ذلك تسجيل المنصة التي أُنشئ عليها كل وكيل، والبيانات التي يمكنه الوصول إليها، والأنظمة التي يتفاعل معها، والأفراد المسؤولين عن سلوكه. تكتشف معظم المؤسسات خلال هذه العملية عددًا من الوكلاء يفوق المتوقع، وغالبًا ما يتمتعون بصلاحيات وصول أوسع مما كان مُخططًا له في الأصل. لا يُعد هذا الحصر مهمةً لمرة واحدة، بل هو بداية عملية إدارة دورة حياة مستمرة تُشكل الأساس لجميع تدابير الحوكمة اللاحقة.

تتمثل الخطوة الثانية في توحيد طبقة البنية التحتية، وليس حالات الاستخدام. يكمن خطأ العديد من الشركات في محاولة بناء جميع الوكلاء بنفس الطريقة، مما يكبح الابتكار ويصعب تطبيقه عمليًا. ما يجب توحيده بدلًا من ذلك هو الطبقة الأدنى: كيفية وصول الوكلاء إلى البيانات، وكيفية تسجيلها، وكيفية قياس أدائهم، وكيفية تطبيق سياسات الأمان. هذا الفصل بين طبقة البنية التحتية الموحدة وحرية التخصيص على مستوى حالات الاستخدام هو السر الهيكلي لحوكمة الذكاء الاصطناعي الناجحة في المؤسسات. ينبغي للمؤسسات الكبيرة أن تسعى إلى تصميم يركز على المنصة أولًا، مع معايير مركزية وتنفيذ محلي: حوكمة متعددة المنصات مع كتالوجات نماذج معتمدة، وتسجيل قياسي، وقوالب تقييم قابلة لإعادة الاستخدام، ووصول قائم على السياسات.

تتمثل الخطوة الثالثة في وضع إطار عمل مستمر لقياس عائد الاستثمار لجميع الأنظمة الذكية. ينبغي على القادة ضمان وجود أساس لتقييم القيمة الفعلية التي يقدمها كل نظام ذكي قبل الموافقة على نشره. ويشمل ذلك إلزام أي شخص يرغب في نشر نظام ذكي بتقديم تقييم للتكاليف وتوقعات للفوائد مسبقًا. علاوة على ذلك، تُسهم المراجعات الدورية لنفقات الذكاء الاصطناعي للأنظمة الذكية وفرص تحسينها في إرساء الأساس التنظيمي لتحقيق توازن مستدام بين التكلفة والفوائد. وتطالب مجالس الإدارة ولجان الحوكمة بشكل متزايد بعوائد قابلة للقياس، وليس مجرد عناوين بارزة في مجال الابتكار، إذ تلعب الحوكمة دورًا مباشرًا في عائد الاستثمار من خلال الحد من المخاطر، وتحسين الموثوقية، وتسريع عملية النشر.

القرارات المعمارية المبكرة كنقطة تحول: لماذا الآن هو الوقت الحاسم؟

يتكرر نمطٌ بشكلٍ ملحوظ في تاريخ التكنولوجيا: فالقرارات المعمارية المبكرة تُحدد القدرة التنافسية على المدى الطويل. أولئك الذين تبنّوا حوكمة الحوسبة السحابية المتعددة في وقتٍ مبكر من انتقالهم إلى السحابة يتمتعون الآن بمزايا كبيرة مقارنةً بمن كافحوا لسنواتٍ لاحقة مع عملية التفكيك الشاقة للبيئات الموزعة وغير المُدارة. ومع انتشار الوكلاء، يقف المشهد المؤسسي الآن عند هذه النقطة تحديدًا.

الفرصة سانحة. تُحدد غارتنر فترة زمنية تتراوح بين ثلاثة وستة أشهر يتعين على مؤسسات البرمجيات خلالها تحديد استراتيجيتها وخطة استثمارها في مجال الذكاء الاصطناعي الوكيل، وإلا ستتخلف عن الركب. ويعني منحنى النمو المتسارع - من أقل من 5% إلى 40% خلال اثني عشر شهرًا - أنه إذا لم يتم تنظيم هذا النمو غير المنضبط الآن، فسوف يصل بسرعة كبيرة إلى مستوى يصبح فيه اتخاذ الإجراءات التصحيحية مكلفًا للغاية أو شبه مستحيل.

في الوقت نفسه، يُقدّم تقرير غارتنر الآخر تحذيراً مُقلقاً: سيتم التخلي عن أكثر من 40% من مشاريع الذكاء الاصطناعي القائمة على الوكلاء بحلول عام 2027. ولن تكون الشركات التي ستتخلى عن هذه المشاريع هي تلك التي اختارت أسوأ تقنيات الذكاء الاصطناعي، بل ستكون تلك التي فشلت في بناء بنية تحتية للحوكمة، والتي أدت تكاليفها المتزايدة وافتقارها إلى قيمة مُثبتة إلى تآكل شرعيتها في جذب المزيد من الاستثمارات. لذا، فإن الحوكمة ليست نقيضاً للابتكار، بل هي البنية التحتية التي تُتيح الابتكار المُستدام في المقام الأول.

الدرس المستفاد من موجات التكنولوجيا السابقة - سواءً كانت الحوسبة السحابية، أو البرمجيات كخدمة، أو أتمتة العمليات الروبوتية - واضحٌ جليّ: النمو الجامح يحدث دائمًا عندما تتجاوز سرعة التبني نضج البنية التحتية للحوكمة. ستصبح وكلاء الذكاء الاصطناعي، التي كانت لا تزال تجريبية في عام 2025، واقعًا عمليًا في عام 2026. الزخم لا يُمكن إيقافه. السؤال ليس ما إذا كانت هذه الوكلاء ستصبح المعيار المؤسسي - فقد حُسم الأمر بالفعل. السؤال الوحيد المتبقي هو ما إذا كان هذا التحول سيتم على أسس مُحكمة أم وسط كارثة حوكمة.

إن الشركات التي تستثمر اليوم في بنية تحتية مركزية مُدارة للذكاء الاصطناعي لا تشتري مجرد السيطرة والامتثال، بل تشتري أيضاً الحق في الاستمرار بالاستفادة من الذكاء الاصطناعي الفاعل لمدة سنتين أو ثلاث سنوات، بينما ينشغل الآخرون بمعالجة آثار نمو جامح وغير منضبط.

Konrad Wolfenstein

يسعدني أن أكون مستشارك الشخصي.

يمكنكم التواصل معي عبر البريد الإلكتروني wolfenstein∂xpert.digital أو

اتصل بي على الرقم +49 7348 4088 965 .

لينكد إن