سيادة البيانات، وتقرير المصير، وواقع إدارة المنصات المدعومة بالذكاء الاصطناعي

### بنقرة واحدة، يختفي كل شيء: الفوضى الصامتة لإدارة المنصات المدعومة بالذكاء الاصطناعي ### عمل العمر يدمره الذكاء الاصطناعي: لماذا قد يختفي حسابك على وسائل التواصل الاجتماعي غدًا؟ ### الوهم الكبير لسيادة البيانات: كيف تحكمنا الخوارزميات سرًا؟ ### رغم قوانين الاتحاد الأوروبي الجديدة: لماذا لا تزال شركات التكنولوجيا مسموحًا لها بالحذف بشكل تعسفي؟

خوارزمية القاضي: عندما ينهي الذكاء الاصطناعي حياتك الرقمية - ولا أحد مسؤول

نعيش في زمنٍ لم تعد فيه مصطلحات مثل "سيادة البيانات" و"الاستقلال الرقمي" مجرد شعارات سياسية، بل تمثل تطلعات مجتمعٍ بأكمله. فمن خلال قوانين مثل قانون الخدمات الرقمية، تسعى أوروبا إلى بناء حصنٍ منيعٍ ضد التعسف الذي تمارسه شركات التكنولوجيا العالمية، وحماية الحقوق الأساسية لمواطنيها في الفضاء الرقمي. ولكن بينما نناقش البنود واللوائح القانونية، يتكشف أمام أعيننا واقعٌ يُهين هذه الأهداف النبيلة. واقعٌ يُدمر فيه الوجود الرقمي للأفراد بضغطة زر، ليس على يد إنسان، بل بواسطة خوارزمية مبهمة.

يومياً، تُعلّق حسابات وتُحذف قنوات على منصات مثل يوتيوب وتيك توك وإنستغرام، وهي قنوات بناها المستخدمون بجهدٍ مضنٍ على مرّ السنين. يختفي عملهم الرقمي، غالباً دون مبرر واضح، ودون محاكمة عادلة، ودون وسيلة فعّالة للاستئناف. ويعود هذا بشكل متزايد إلى الرقابة المدعومة بالذكاء الاصطناعي، والتي تتسم بالخطأ والغموض، ومع ذلك تمتلك القدرة المطلقة على الحكم على الظهور والوجود الرقمي. تُعدّ حالة صانع المحتوى التقني على يوتيوب، إندرمان، الذي حُذفت قنواته التي تضم مئات الآلاف من المشتركين بناءً على ربطٍ سخيف يُزعم أن الذكاء الاصطناعي قد أنشأه، مجرد غيض من فيض. تستكشف هذه المقالة الهوة العميقة بين رغبتنا في السيطرة والقوة الجامحة للخوارزميات، التي أصبحت منذ زمن بعيد بمثابة قضاة وجلادين في فضاءنا الرقمي العام.

أين يكمن التناقض بين تطلعاتنا وواقعنا؟

نتحدث باستمرار عن سيادة البيانات والاستقلال الرقمي. وقد أصبحت هذه المصطلحات سمات مميزة لثقافة واثقة من نفسها ومستقلة، تهدف إلى تصوير تعاملها مع الذكاء الاصطناعي كدليل على نضجها. وقد شرع الاتحاد الأوروبي في حماية مواطنيه من الممارسات التعسفية لشركات التكنولوجيا العالمية من خلال قوانين مثل قانون الخدمات الرقمية وقانون الأسواق الرقمية. كما سُنّت لوائح لفرض الشفافية وحماية الحقوق الأساسية. ولكن مع كل هذا التراكم التنظيمي، نغفل عن أمر جوهري: لم نتصدَّ للخطر الوجودي الذي يتكشف أمام أعيننا يوميًا ويقوض مصداقية كل هذه الجهود.

إن الواقع الذي تُقدمه لنا منصات التواصل الاجتماعي الرئيسية يوميًا يُظهر صورةً مُغايرة تمامًا لصورة سيادة البيانات وحرية التعبير. يفقد الناس يوميًا ثمرة جهودهم الرقمية، دون أي مبرر أو آليات تُمكّنهم من استعادة بياناتهم. تُحذف قنواتٌ بُنيت بعناية على مر السنين، ليس بعد مراجعة دقيقة، ولا بعد إجراءات شفافة، ولا حتى بعد إمكانية محاكمة عادلة. ببساطة، تُحذف. ويحدث هذا بطريقة لا تليق بالديمقراطية، لعدم وجود آليات فعّالة للاستئناف، ولأن المتضررين لا يعلمون حتى سبب ضياع وقتهم وإبداعهم.

ما هي الأمثلة المحددة التي توضح هذه العشوائية؟

أحدث مثالٍ وأكثرها إثارةً للدهشة هو حالة صانع المحتوى التقني على يوتيوب، إندرمان. أنشأ هذا المُنشئ الروسي قناةً رئيسيةً على يوتيوب تضم أكثر من 350 ألف مشترك، حيث كان يُناقش مواضيع تقنية. كان محتواه قيّمًا من الناحية الوثائقية، إذ تناول فيه إصدارات قديمة من نظام ويندوز ومشاكل تقنية أخرى. حُذفت هذه القناة فجأةً ودون سابق إنذار. وقبل ذلك بفترة وجيزة، اختفت قناته الثانية، أندرو، التي تضم أيضًا مئات الآلاف من المشتركين. كان السبب المعلن لهذا الإجراء القاسي غريبًا: ادّعى يوتيوب أن قنوات إندرمان مرتبطة بقناة يابانية تلقت إنذارها الثالث بشأن حقوق النشر. قناة لا يعرفها إندرمان، ولا يتحدث لغتها، ولا تربطه بها أي صلة.

ما يثير الاستغراب في هذه القضية ليس فقط ظلم القرار بحد ذاته، بل الطريقة التي اتُخذ بها. فقد أشار إندرمان إلى أن نظام ذكاء اصطناعي كان وراء ذلك، بعد أن رصد اتصالاً خاطئاً بين قنواته وحساب ياباني مجهول. وتبددت آمال صانع المحتوى التقني على يوتيوب في أن يراجع موظف بشري من يوتيوب شكواه. مرت شهور دون أي رد. ويبدو أن إندرمان قد استسلم الآن لحقيقة أن مسيرته على يوتيوب قد انتهت. وأبلغ مستخدم آخر على يوتيوب عن مشاكل مماثلة في نفس سلسلة التغريدات - فقد حُذفت قناته أيضاً بالإشارة إلى نفس القناة اليابانية. يشير هذا إلى خلل منهجي، وليس مجرد خطأ بشري معزول، بل إلى قصور نظام آلي يعمل دون رقابة.

لا يُعدّ موقع يوتيوب حالةً معزولة، فقد أظهرت منصاتٌ أخرى أنماطًا مماثلة. إذ تقوم منصاتٌ مثل تيك توك وإنستغرام وفيسبوك وغيرها بحذف المحتوى وتعليق الحسابات يوميًا، غالبًا دون مبررٍ كافٍ. وقد وثّقت منظمة الشفافية Freiheitsrechte.org أن منصات التواصل الاجتماعي غالبًا ما تُقدّم تفسيراتٍ غير كافية لقراراتها المتعلقة بالإشراف على المحتوى للمتضررين. وفي بعض الحالات، تقتصر المبررات على الإشارة بشكلٍ عام إلى انتهاك شروط الخدمة، دون توضيح أيّ انتهاكٍ بالتحديد أدّى إلى هذا الإجراء.

هل تفي شركات التكنولوجيا بمسؤوليتها الاجتماعية؟

هذه هي النقطة الحاسمة التي تتطلب منا تصحيح تحيزاتنا المعرفية. من الواضح أن شركات التكنولوجيا الكبرى تجني أرباحًا طائلة من بياناتنا ونشاطنا الاقتصادي ومجتمعنا. فهي تستخدم الإنترنت المشترك كأساس لأعمالها، وتجني مليارات الدولارات من عائدات الإعلانات التي تستمدها من انتباهنا وبياناتنا الشخصية. وفي الوقت نفسه، تتحمل هذه الشركات فعليًا مسؤوليات عامة واجتماعية.

لا يُعدّ يوتيوب مجرد خدمة تقنية كأي مزود استضافة عادي، بل أصبح المنصة البنية التحتية للتواصل الجماهيري، فهو يُحدد مدى الظهور والانتشار والوصول لملايين الأشخاص، وقد رسّخ مكانته كحارس لبوابة المعلومات والمعرفة. وينطبق الأمر نفسه على فيسبوك وإنستغرام، فقد أصبحت هذه الخدمات مراكز محورية للحوار الاجتماعي، حيث تُمثل للكثيرين المنصة الأساسية للتعبير عن آرائهم، وبناء مجتمعاتهم، ونشر رسائلهم.

لكن بينما تجني شركات التكنولوجيا هذه أرباحًا طائلة من دورها كوسيط في التواصل الاجتماعي، فإنها تتنصل من المسؤوليات المترتبة على هذا الدور. لا يمكن لمنظمة خيرية تُكلفها الدولة بأداء مهام مقابل أجر أن تستبعد ببساطة الأصوات المعارضة لمجرد عدم إعجابها بشخص ما. ولا يمكن لهيئة بث عامة أن تُسكت الأفراد دون الاستماع إلى روايتهم. ولا يمكن لمحكمة أن تُدين شخصًا دون منحه فرصة الدفاع عن نفسه.

لكن هذا بالضبط ما يحدث على هذه المنصات يوميًا. يُستبعد الناس دون أي مبرر حقيقي، وتُحذف أعمالهم، وتُدمر مصادر رزقهم على الإنترنت. وردّ المنصات الوحيد هو الإشارة إلى شروط الخدمة، وفي أحسن الأحوال، نظام شكاوى آلي لا يكاد يحلّ أي مشكلة. هذا ليس ظلمًا فحسب، بل هو خطر بنيوي على المجتمع المنفتح.

منصة الذكاء الاصطناعي المُدارة - الصورة: Xpert.Digital

ستتعلم هنا كيف يمكن لشركتك تطبيق حلول الذكاء الاصطناعي المخصصة بسرعة وأمان ودون عوائق دخول عالية.

تُعدّ منصة الذكاء الاصطناعي المُدارة حلاً شاملاً ومريحاً لمشاكل الذكاء الاصطناعي. فبدلاً من التعامل مع التكنولوجيا المعقدة والبنية التحتية المكلفة وعمليات التطوير المطولة، ستحصل على حل جاهز مصمم خصيصاً لتلبية احتياجاتك من شريك متخصص، غالباً في غضون أيام قليلة فقط.

المزايا الرئيسية باختصار:

⚡ تنفيذ سريع: من الفكرة إلى التطبيق الجاهز للاستخدام في أيام، وليس شهورًا. نقدم حلولًا عملية تُحقق قيمة مضافة فورية.

🔒 أقصى درجات أمان البيانات: بياناتك الحساسة تبقى معك. نضمن معالجة آمنة ومتوافقة مع الأنظمة دون مشاركة البيانات مع أي جهات خارجية.

💸 لا مخاطر مالية: أنت تدفع فقط مقابل النتائج. يتم التخلص تماماً من الاستثمارات الأولية الكبيرة في الأجهزة أو البرامج أو الموظفين.

🎯 ركّز على جوهر عملك: انصبّ اهتمامك على ما تُجيده. نحن نتولّى جميع جوانب التنفيذ التقني والتشغيل والصيانة لحلول الذكاء الاصطناعي الخاصة بك.

📈 حلول مستقبلية وقابلة للتطوير: يتطور نظام الذكاء الاصطناعي الخاص بك معك. نضمن التحسين المستمر وقابلية التوسع، ونقوم بتكييف النماذج بمرونة مع المتطلبات الجديدة.

للمزيد من المعلومات، انقر هنا:

• منصة الذكاء الاصطناعي المُدارة

كيف يُساهم استخدام الذكاء الاصطناعي في تغيير المشكلة؟

هنا، يتفاقم الوضع بشكلٍ خطير. تستخدم شركات التكنولوجيا بشكلٍ متزايد أنظمةً آليةً لمراقبة المحتوى واتخاذ القرارات. هذه الأنظمة الذكية تفتقر إلى الشفافية، ولا تخضع لمراجعة دورية، والأهم من ذلك، أنها ترتكب أخطاءً ذات عواقب وخيمة. تُعدّ قضية إندرمان مثالاً واحداً فقط من بين أمثلة عديدة تُبيّن كيف تؤدي المراقبة المدعومة بالذكاء الاصطناعي إلى نتائج عبثية أو ضارة.

تجلّى هذا الأمر بوضوح خلال جائحة كوفيد-19. فمع غياب المراجعين البشريين، حوّلت منصات التواصل الاجتماعي بشكل كبير عمليات مراقبة المحتوى إلى أنظمة آلية. وكانت النتيجة موجة من القرارات الخاطئة، حيث حُذفت مقاطع فيديو لم تخالف الإرشادات، واختفى محتوى مشروع، وشعر المستخدمون بالإحباط لأن المنصات لم تفِ بوعودها.

تُعدّ قيود إدارة المحتوى القائمة على الذكاء الاصطناعي جوهرية. فالذكاء الاصطناعي لا يعمل بكفاءة إلا عند توفر بيانات تدريب كافية. والعديد من المواقف دقيقة ومعقدة، ولا يمكن تصنيفها بسهولة. فعلى سبيل المثال، عبارة "تناولتُ المعكرونة الليلة" كانت تحمل معنى مزدوجًا على تيك توك؛ إذ تشير حرفيًا إلى تناول الطعام، ولكن في سياق ترند، تُشير إلى أفكار انتحارية. وقد فشلت خوارزمية تيك توك في استيعاب هذا المعنى الدقيق، بل ساهمت في تأجيج الترند.

علاوة على ذلك، فإن معدل الخطأ منهجي. فقد أظهرت دراسة أجراها اتحاد البث الأوروبي أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي تعاني من مشكلة جوهرية واحدة على الأقل في 45% من إجاباتها على أسئلة حول الأحداث الجارية، وهي مشكلة قد تضلل القراء. وفي 81% من النتائج، وُجد نوع من الخطأ. هذه ليست حالة استثنائية، بل هي القاعدة.

ومع ذلك، تُستخدم هذه الأنظمة المعيبة والغامضة لتحديد مصير حياة ملايين الأشخاص الرقمية. يُحذف مقطع فيديو، وتُعطّل قناة، وتُزال شركة من المنصة. ويتخذ القرار نظام لا يفهمه المستخدمون، وغير خاضع للمساءلة، ويُسمح له باتخاذ قرارات خاطئة دون عقاب.

أين تكمن مسؤولية الدولة؟

لا تتجاهل الدولة الأمر ببساطة. بل الأسوأ من ذلك، أن الدولة، التي تملك القدرة على تصحيح هذا الوضع، تُغرق نفسها في البيروقراطية وتُغرق نفسها في التفاصيل الدقيقة. صحيح أن هناك قوانين، فقانون الخدمات الرقمية للاتحاد الأوروبي ينص على ضرورة شفافية المنصات، ويمنح المستخدمين الحق في تقديم الشكاوى، ويُلزم المنصات الكبيرة جدًا بالكشف عن أنظمتها وقراراتها. كل هذا يبدو جيدًا وصحيحًا نظريًا.

مع ذلك، فإن تطبيق هذه القواعد متشتت. فقد تولت الوكالة الاتحادية للشبكات في ألمانيا دور منسق الخدمات الرقمية، وهي الآن مكلفة بإنفاذ هذه القواعد. ولكن هل تمتلك هذه الوكالة الموارد الكافية؟ وهل لديها الصلاحيات الكافية؟ وهل تستطيع السلطات الوطنية اتخاذ إجراءات فعلية ضد شركات التكنولوجيا العالمية التي تتهرب من مسؤولياتها عبر المحامين وجماعات الضغط؟

علاوة على ذلك، ثمة مشكلة أعمق. فقد سمحت الدولة لفترة طويلة جدًا للشركات الخاصة بأن تلعب أدوارًا متعددة، فهي بمثابة حارس البوابة، والقاضي، وهيئة المحلفين. هذه الشركات هي من تقرر الصواب والخطأ على منصاتها، وتصدر الأحكام، وتنفذ العقوبات، دون أن تخضع للمساءلة أمام أي جهة. هذا ليس مجرد خلل تنظيمي، بل هو فشل جوهري للديمقراطية.

لطالما ساد الاعتقاد بأن الأسواق تنظم نفسها بنفسها، وأن المنصات ستتصرف بدافع السمعة والمصلحة الذاتية. لكن هذا الاعتقاد ثبت خطؤه بشكل قاطع. فالمنصات تُركز على زيادة التفاعل وعائدات الإعلانات، لا على العدالة. وهي تُشغّل أنظمة ذكاء اصطناعي أقل تكلفة من الإشراف البشري، رغم أن هذه الأنظمة عُرضة للخطأ. وعندما يقع خطأ ما، تُلقي المنصة باللوم على خوارزمية يُفترض أنها اتخذت قرارًا تلقائيًا.

ما الذي يتطلبه تغيير هذا الوضع؟

أولاً، يجب توضيح أن المنصات الرئيسية ليست مجرد شركات خاصة لا تخضع لسلطة الدولة. فهذه الشركات تؤدي وظائف عامة، إذ تعمل كوسيط في الحوار العام. وقد اضطلعت بمهمة مجتمعية، لا شك أنها تحقق ربحاً اقتصادياً، ولكنها مع ذلك تتحمل مسؤولية اجتماعية.

هذا يعني وجوب تطبيق المبادئ الأساسية لسيادة القانون على قرارات الإشراف، لا سيما الإجراءات الصارمة كالإيقاف أو الحذف. وهذا يعني الشفافية الكاملة بشأن أسباب القرار. وهذا يعني الحق في جلسة استماع عادلة قبل اتخاذ أي إجراءات صارمة. وهذا يعني حقًا حقيقيًا في الاستئناف، لا مجرد نظام شكاوى آلي غير فعال عمليًا. وهذا يعني مراجعة بشرية، خاصة في الحالات التي تتضمن خوارزمية.

علاوة على ذلك، لا بد من وضع حدود للإشراف المدعوم بالذكاء الاصطناعي. فإذا كان النظام عرضة للخطأ ويمكن أن يؤثر على ملايين الأشخاص، فلا بد من وجود عنصر بشري. تشير لوائح الاتحاد الأوروبي إلى هذا التوجه، لكن تطبيقها ضعيف. وتجد المنصات باستمرار طرقًا للتحايل على هذه القواعد أو تقويضها.

يلزم أيضًا تغيير جذري في نظام المساءلة. يجب محاسبة المنصات على قرارات أنظمتها، ليس محاسبة مجازية، بل محاسبة قانونية. فإذا حُذفت قناةٌ ما ظلمًا، يجب إلزام المنصة بدفع تعويضات. سيُغير هذا من الحوافز، إذ لن يكون استخدام نظام آلي معيب أرخص، وسيُفرض ثمنٌ على إلحاق الضرر بالناس ظلمًا.

بالنسبة لإندرمان، كان هذا يعني أن يوتيوب لم يكن بإمكانه حذف قناته ببساطة لمجرد أن نظام الذكاء الاصطناعي ربط حسابه الياباني بحساب ياباني عن طريق الخطأ. كان ينبغي إجراء مراجعة، وإتاحة الفرصة له للرد. ولو لم يُكتشف الخطأ، لكان من الممكن تحميل يوتيوب المسؤولية.

ماذا سيحدث إذا لم يتم حل هذه المشاكل؟

الجواب كارثي. إذا سمحنا لأنظمة الذكاء الاصطناعي بتحديد وجود الأفراد الرقمي بشكل تعسفي، فلن تأتي الفوضى مع الذكاء الاصطناعي فحسب، بل هي موجودة بالفعل، وستزداد حدةً. فكلما ازدادت هذه الأنظمة ذكاءً، قلّ فهمنا لها، وكلما قلّ فهمنا لها، قلّت قدرتنا على السيطرة عليها.

بل والأسوأ من ذلك: ستتفاقم المشكلة بشكلٍ هائل. سيزداد استخدام الذكاء الاصطناعي في مراقبة المحتوى، وستصبح الأنظمة أكثر تعقيدًا. قد تنخفض معدلات الخطأ أو ترتفع، ولا أحد يعلم على وجه اليقين. لكن المؤكد هو أن ملايين، وقريبًا مليارات، من الناس سيتأثرون بقرارات لا يفهمونها، ولا يستطيعون الاعتراض عليها، ولا تخضع لأي مساءلة.

وبينما يحدث هذا، تغض الدولة الطرف. تحدد الوكالة الفيدرالية للشبكات مسؤولياتها، ويسن الاتحاد الأوروبي القوانين، لكن تطبيقها ضعيف. تعاني السلطات من نقص الموارد، وتدفع المنصات غرامات زهيدة لا تُذكر، ولا تُغير ممارساتها فعلياً. ويبقى الوضع الراهن على حاله: شركات التكنولوجيا تتصرف كحكام مطلقين للفضاء الرقمي العام.

الأمر اللافت في هذا الوضع هو إمكانية تجنبه. الحلول موجودة. ثمة سبل لتحقيق سيادة البيانات والاستقلال الرقمي على أرض الواقع، لا مجرد أهداف نظرية. لكن لتحقيق ذلك، على الدولة أن تتخلى عن لامبالاتها، وأن تُدرك أن هذه ليست مجرد مسألة تنظيمية، بل خلل في موازين القوى. شركات التكنولوجيا تمتلك نفوذاً، وعليها تسخير هذا النفوذ لصالح المجتمع، وإلا يجب سحبه منها.

إلى حين ذلك، تبقى حالات مثل حالة إندرمان دليلاً على خلل في النظام. رجل يفقد ثمرة جهده طوال حياته، ولا أحد يستطيع مساعدته. والآلة التي دمرت عمله تستمر في العمل دون رادع، تراجع قضايا جديدة، وتصدر أحكاماً جديدة، وتوثق الدولة كل ذلك في ملفات إدارية بينما يتصاعد الدخان.

Konrad Wolfenstein

يسعدني أن أكون مستشارك الشخصي.

يمكنكم التواصل معي عبر البريد الإلكتروني wolfenstein∂xpert.digital أو

اتصل بي على الرقم +49 7348 4088 965 .

لينكد إن