أنظمة الذكاء الاصطناعي، والأنظمة عالية المخاطر، وقانون الذكاء الاصطناعي للتطبيق العملي في الشركات والسلطات العامة

أنظمة الذكاء الاصطناعي، والتطبيقات عالية المخاطر، وقانون الذكاء الاصطناعي في الشركات والسلطات العامة

في 11 فبراير 2025، نشرت المفوضية الأوروبية مبادئ توجيهية شاملة حول التطبيق العملي لقانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي. تهدف هذه المبادئ إلى مساعدة الشركات والسلطات العامة على فهم متطلبات القانون والامتثال لها بشكل أفضل. ويُركز بشكل خاص على ممارسات الذكاء الاصطناعي المحظورة، والأنظمة عالية المخاطر، والتدابير اللازمة لضمان الامتثال.

الجوانب الرئيسية للمبادئ التوجيهية

ممارسات الذكاء الاصطناعي المحظورة

يحظر قانون الذكاء الاصطناعي صراحةً بعض تطبيقات الذكاء الاصطناعي التي تُعتبر مُشكلة لمخاطر عالية غير مقبولة. وقد دخلت هذه المحظورات حيز التنفيذ منذ 2 فبراير 2025. وتشمل، من بين أمور أخرى:

• أنظمة الذكاء الاصطناعي التي تستخدم أساليب التلاعب أو الخداع
• الأنظمة التي تستغل على وجه التحديد نقاط ضعف أفراد أو مجموعات معينة
• أنظمة التقييم الاجتماعي
• الذكاء الاصطناعي للتنبؤ بالأفعال الإجرامية المحتملة دون أدلة واضحة
• جمع صور الوجوه من الإنترنت بشكل غير منظم لأغراض التعرف البيومتري
• أنظمة التعرف على المشاعر في مكان العمل أو في المؤسسات التعليمية
• أنظمة التعرف البيومترية في الوقت الفعلي في الأماكن العامة (مع بعض الاستثناءات لوكالات إنفاذ القانون)

تهدف هذه المحظورات إلى ضمان استخدام تقنيات الذكاء الاصطناعي بشكل أخلاقي ومسؤول وعدم انتهاكها للحقوق الأساسية.

التطبيق العملي للمبادئ التوجيهية

تتضمن المبادئ التوجيهية الصادرة عن المفوضية الأوروبية، والبالغة 140 صفحة، العديد من دراسات الحالة العملية لمساعدة الشركات والسلطات العامة على تصنيف أنظمة الذكاء الاصطناعي الخاصة بها تصنيفاً صحيحاً. ورغم أن هذه المبادئ التوجيهية غير ملزمة قانوناً، إلا أنها تُعد مرجعاً للسلطات الرقابية عند مراقبة وإنفاذ اللوائح.

الأهمية بالنسبة للشركات والسلطات

يجب على الشركات والسلطات التفاعل بنشاط مع الإرشادات من أجل:

1. لمراجعة أنظمة الذكاء الاصطناعي الحالية الخاصة بك بحثًا عن انتهاكات محتملة
2. لإجراء التعديلات اللازمة في وقت مبكر
3. بناء هياكل امتثال داخلية لتجنب العقوبات

قد تترتب على عدم الامتثال للوائح عواقب وخيمة. تصل العقوبات إلى 35 مليون يورو أو 7% من إجمالي الإيرادات السنوية العالمية للشركة، أيهما أعلى.

الخطوات التالية

قبل تطبيق المبادئ التوجيهية بشكل كامل، لا يزال يتعين ترجمتها إلى جميع اللغات الرسمية للاتحاد الأوروبي واعتمادها رسميًا. ومع ذلك، ينبغي على الشركات والسلطات العامة اتخاذ خطوات استباقية للاستعداد للتطبيق التدريجي لقانون الذكاء الاصطناعي. ومن المقرر أن يبدأ التطبيق الكامل للقانون في 2 أغسطس 2026.

تصنيف مخاطر أنظمة الذكاء الاصطناعي

يقسم قانون الذكاء الاصطناعي للاتحاد الأوروبي أنظمة الذكاء الاصطناعي إلى أربع فئات من المخاطر، لكل منها متطلبات تنظيمية مختلفة:

1. مخاطر غير مقبولة – أنظمة الذكاء الاصطناعي المحظورة

هذه الأنظمة محظورة تماماً في الاتحاد الأوروبي لأنها تشكل تهديداً خطيراً لحقوق وحريات المواطنين. ومن الأمثلة على ذلك:

• أنظمة الذكاء الاصطناعي للتقييم الاجتماعي
• الذكاء الاصطناعي التلاعبي الذي يؤثر على سلوك المستخدم دون وعي
• التعرف البيومتري في الوقت الفعلي في الأماكن العامة لأغراض إنفاذ القانون (مع بعض الاستثناءات)
• أنظمة الذكاء الاصطناعي التي تستغل نقاط الضعف الناتجة عن العمر أو الإعاقة أو الوضع الاجتماعي والاقتصادي

2. مخاطر عالية – يتطلب تنظيمًا صارمًا

يجب أن تستوفي هذه الأنظمة متطلبات صارمة وتخضع لاختبارات المطابقة قبل طرحها في السوق. وتشمل هذه الأنظمة ما يلي:

• الذكاء الاصطناعي كمكون أمان في المنتجات الحيوية مثل الأجهزة الطبية والمركبات والآلات
• أنظمة الذكاء الاصطناعي المستقلة ذات الآثار المترتبة على الحقوق الأساسية (مثل التحقق من الجدارة الائتمانية، وفحص الطلبات، وإنفاذ القانون، والإدارة القضائية)

تخضع هذه التطبيقات لمتطلبات واسعة النطاق فيما يتعلق بالشفافية وإدارة المخاطر وجودة البيانات والإشراف البشري.

3. مخاطر محدودة – التزامات الشفافية

يجب أن تُعلم هذه الأنظمة المستخدمين بأنهم يتفاعلون مع الذكاء الاصطناعي. ومن الأمثلة على ذلك:

• روبوتات الدردشة
• تُستخدم تقنية التزييف العميق لإنشاء محتوى إعلامي أو التلاعب به

4. مخاطر ضئيلة أو معدومة – استخدام مجاني

لا تخضع هذه الأنظمة لأي التزامات قانونية محددة؛ ومع ذلك، يُوصى بوضع مدونة سلوك طوعية. ومن الأمثلة على ذلك:

• ألعاب الفيديو المدعومة بالذكاء الاصطناعي
• فلتر البريد العشوائي

أنظمة الذكاء الاصطناعي عالية المخاطر وتنظيمها

يُعرّف قانون الذكاء الاصطناعي أنظمة الذكاء الاصطناعي عالية الخطورة بأنها تلك التي لها تأثير كبير على سلامة الناس أو صحتهم أو حقوقهم الأساسية. ويمكن تقسيمها إلى فئتين رئيسيتين:

1. الذكاء الاصطناعي كمكون أمني أو كمنتج مستقل

يُصنف نظام الذكاء الاصطناعي على أنه عالي المخاطر إذا كان:

• وهو يعمل كمكون أمان لمنتج يخضع للوائح التنسيق الخاصة بالاتحاد الأوروبي، أو
• يخضع هذا المنتج لتقييم المطابقة لأنه يشكل مخاطر محتملة.

ومن أمثلة هذه المنتجات ما يلي:

• الذكاء الاصطناعي في الأجهزة الطبية (مثل أنظمة التشخيص)
• أنظمة مساعدة السائق المدعومة بالذكاء الاصطناعي
• الذكاء الاصطناعي في الإنتاج الصناعي لتقييم المخاطر وضمان الجودة

2. أنظمة الذكاء الاصطناعي المستقلة عالية المخاطر ذات الصلة بالمجتمع

تم إدراج هذه الأنظمة في الملحق الثالث من قانون الذكاء الاصطناعي، وهي تؤثر على مجالات حيوية في المجتمع مثل:

أ) البنى التحتية الحيوية

• الذكاء الاصطناعي للتحكم في شبكات الطاقة أو شبكات النقل ومراقبتها

ب) التعليم والتوظيف

• الذكاء الاصطناعي لتقييم الامتحانات الآلي
• الذكاء الاصطناعي لاختيار المتقدمين للوظائف أو تقييم أداء الموظفين

ج) الحصول على المزايا المالية والاجتماعية

• عمليات التحقق من الجدارة الائتمانية المدعومة بالذكاء الاصطناعي
• أنظمة تقييم أهلية الحصول على المزايا الاجتماعية

د) إنفاذ القانون والعدالة

• الذكاء الاصطناعي لتحليل الأدلة ودعم التحقيقات
• أنظمة مدعومة بالذكاء الاصطناعي لمراقبة الحدود وإدارة الهجرة

هـ) تحديد الهوية البيومترية

• أنظمة التعرف عن بعد البيومترية
• أنظمة التعرف على المشاعر في البيئات الحساسة للسلامة

تخضع جميع تطبيقات الذكاء الاصطناعي عالية المخاطر هذه لمتطلبات صارمة فيما يتعلق بإدارة المخاطر والشفافية ومعالجة البيانات والوثائق الفنية والإشراف البشري.

قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي: كيف يمكن للشركات الاستعداد للوائح الصارمة المتعلقة بالذكاء الاصطناعي

يضع قانون الذكاء الاصطناعي للاتحاد الأوروبي إطارًا واضحًا لاستخدام تقنيات الذكاء الاصطناعي، ويولي اهتمامًا خاصًا لحماية الحقوق الأساسية. ويتعين على الشركات والسلطات العامة الإلمام التام باللوائح الجديدة وتكييف تطبيقات الذكاء الاصطناعي الخاصة بها وفقًا لذلك لتجنب العقوبات. وتُطبق متطلبات صارمة بشكل خاص على الأنظمة عالية المخاطر، والتي ينبغي دمجها في عمليات التطوير والتنفيذ في مرحلة مبكرة.

يُعدّ الرصد المستمر للتشريعات واتخاذ تدابير امتثال استباقية أمراً بالغ الأهمية لضمان الاستخدام المسؤول للذكاء الاصطناعي، مع تعزيز الابتكار في إطار القانون في الوقت نفسه. وستكشف السنوات القادمة عن مدى فعالية قانون الذكاء الاصطناعي على أرض الواقع، وما هي التعديلات الإضافية التي قد تكون ضرورية.

ذو صلة بهذا الموضوع:

• حظر الذكاء الاصطناعي والكفاءة الإلزامية: قانون الاتحاد الأوروبي بشأن الذكاء الاصطناعي – حقبة جديدة في التعامل مع الذكاء الاصطناعي
• قمة العمل بشأن الذكاء الاصطناعي في باريس: هل يمثل ذلك صحوة للاستراتيجية الأوروبية للذكاء الاصطناعي – "بوابة الذكاء الاصطناعي الأوروبية" تشمل الشركات الناشئة أيضاً؟

☑️ لغة أعمالنا هي الإنجليزية أو الألمانية

☑️ جديد: مراسلات بلغتك الأم!

Konrad Wolfenstein

يسعدني أنا وفريقي أن نكون متاحين لكم بصفتنا مستشاركم الشخصي.

يمكنكم التواصل معي عبر ملء نموذج الاتصال هنا أو الاتصال بي مباشرةً +49 89 89 674 804 ( ميونخ) . عنوان بريدي الإلكتروني هو: [email protected]

أتطلع إلى مشروعنا المشترك.

☑️ دعم الشركات الصغيرة والمتوسطة في مجالات الاستراتيجية والاستشارات والتخطيط والتنفيذ

☑️ إنشاء أو إعادة تنظيم الاستراتيجية الرقمية والتحول الرقمي

☑️ توسيع وتحسين عمليات المبيعات الدولية

☑️ منصات التداول العالمية والرقمية بين الشركات

☑️ تطوير الأعمال الرائدة / التسويق / العلاقات العامة / المعارض التجارية