هذه هي الطريقة التي تتعلم بها الذكاء الاصطناعى مثل الدماغ: تعلم نهج جديد لأنظمة الذكاء الاصطناعى مع AI Time-Sakana و Thoug Machine-Ises: Xpert.Digital
التفكير الإنساني الجديد: CTM المبتكر من Sakana AI
التفكير في الآلة 2.0: لماذا CTM هو علامة فارقة
تمثل "آلة التفكير المستمرة" الجديدة (CTM) من Sakana AI المبدئي الياباني تحولًا نموذجًا في أبحاث الذكاء الاصطناعي من خلال تحديد ديناميات الوقت للنشاط العصبي كآلية مركزية للتفكير في الآلة. على عكس نماذج الذكاء الاصطناعى التقليدية التي تعالج المعلومات في جولة واحدة ، تحاكي CTM عملية تفكير متعددة المراحل تعتمد أكثر على عمل الدماغ البشري.
مناسب ل:
ثورة التفكير القائم على الوقت
في حين أن نماذج الذكاء الاصطناعى التقليدية مثل GPT-4 أو Llama 3 تعمل بشكل متتابع ، فإن المدخلات تأتي في إخراج CTM مع هذا المبدأ. يعمل النظام بمفهوم الوقت الداخلي ، لذلك تسمى "القراد" أو التوقيت المنفصل ، تتطور من خلالها الحالة الداخلية للنموذج تدريجياً. يتيح هذا النهج التكيف التكراري ويخلق عملية تشبه عملية التفكير الطبيعي أكثر من مجرد رد فعل.
"تعمل CTM مع مفهوم داخلي للوقت ،" القراد الداخلي "، والتي يتم فصلها عن طريق إدخال البيانات" ، تشرح Sakana AI. "هذا يمكّن النموذج من" التفكير "في عدة خطوات عند حل المهام بدلاً من اتخاذ قرار في شوط واحد على الفور."
يكمن جوهر هذا النهج في استخدام التزامن الخلايا العصبية كآلية أساسية للتمثيل. استلهمت Sakana AI وظائف الأدمغة البيولوجية ، حيث يلعب التنسيق بين الخلايا العصبية دورًا حاسمًا. هذا الإلهام البيولوجي يتجاوز مجرد استعارة ويشكل أساس فلسفة تنمية الذكاء الاصطناعي.
نماذج على مستوى الخلايا العصبية: الأسس الفنية
تقدم CTM بنية عصبية معقدة ، والتي يشار إليها باسم "نماذج على مستوى الخلايا العصبية" (NLMS). كل خلية عصبية لها معلمات وزنها الخاصة وتتبع تاريخ التنشيطات السابقة. تؤثر هذه التاريخات على سلوك الخلايا العصبية في الوقت المناسب وتمكين معالجة أكثر ديناميكية من الشبكات العصبية الاصطناعية التقليدية.
تعمل عملية التفكير في عدة خطوات داخلية. أولاً ، يقوم "نموذج المشبك" بمعالجة حالات الخلايا العصبية الحالية وبيانات الإدخال الخارجية لإنشاء الإشارات الأولى-ما يسمى بالتنفيذ المسبق. بعد ذلك ، تستخدم "نماذج الخلايا العصبية" الفردية التاريخية لهذه الإشارات لحساب حالاتها التالية.
يتم تسجيل حالات الخلايا العصبية مع مرور الوقت لتحليل قوة التزامن بين الخلايا العصبية. يشكل هذا التزامن التمثيل الداخلي المركزي للنموذج. تمكن آلية اهتمام إضافية النظام من تحديد ومعالجة الأجزاء ذات الصلة من بيانات الإدخال.
الأداء والاختبارات العملية
في عدد من التجارب ، قارنت Sakana AI أداء CTM مع البنى المنشأة. تظهر النتائج تقدمًا واعدة في مجالات التطبيق المختلفة:
تصنيف الشكل وصنعة البصر
على مجموعة بيانات ImageNet-1K المعروفة ، يحقق CTM دقة أعلى من 72.47 ٪ وأعلى 5 دقة قدرها 89.89 ٪. على الرغم من أن هذه القيم لمعايير اليوم لا تمثل القيم العليا ، إلا أن Sakana AI تؤكد أن هذا ليس الهدف الأساسي للمشروع. من الجدير بالذكر أن هذه هي المحاولة الأولى لاستخدام الديناميات العصبية كشكل من أشكال التمثيل لتصنيف ImageNet.
في الاختبارات مع مجموعة بيانات CIFAR 10 ، فإن CTM أيضًا أفضل قليلاً من النماذج التقليدية ، مع كون تنبؤاتها أكثر شبهاً بسلوك صنع القرار البشري. في CIFAR-10H ، يحقق CTM خطأ معايرة فقط 0.15 وبالتالي يتجاوز كل من البشر (0.22) و LSTMS (0.28).
حل المشكلات المعقدة
في حالة مهام التكافؤ بطول 64 ، يحقق CTM دقة مثيرة للإعجاب بنسبة 100 ٪ مع أكثر من 75 شريطًا ، في حين أن LSTMS تتعثر بحد أقصى 10 أشرطة فعالة في أقل من 60 ٪. في تجربة متاهة ، أظهر النموذج سلوكًا يشبه التخطيط التدريجي للمسار ، بمعدل نجاح قدره 80 ٪ ، مقارنة بـ 45 ٪ في LSTMS و 20 ٪ فقط في الشبكات الأمامية للتغذية.
يعد نموذج النموذج مثيرًا للاهتمام بشكل خاص لتكييف عمق المعالجة ديناميكيًا: إنه يتوقف في وقت مبكر من حالة المهام البسيطة ، مع حساب أكثر تعقيدًا لفترة أطول. هذا يعمل دون وظائف خسارة إضافية وهو خاصية متأصلة للهندسة المعمارية.
التفسير والشفافية
ميزة رائعة من CTM هي تفسيرها. أثناء معالجة الصور ، تقوم برؤوس الاهتمام بفحص الميزات ذات الصلة بشكل منهجي ، والتي تتيح نظرة ثاقبة على "عملية التفكير" للنموذج. في تجارب المتاهة ، أظهر النظام سلوكًا يشبه التخطيط التدريجي لسلوك المسار الذي ، وفقًا للمطورين ، ناشئ ولم يتم برمجته بشكل صريح.
توفر Sakana AI حتى عرضًا تفاعليًا حيث يجد نظام CTM في المتصفح طريقه للخروج من المتاهة في ما يصل إلى 150 خطوة. تعتبر هذه الشفافية ميزة مهمة على العديد من أنظمة الذكاء الاصطناعى الحديثة ، وغالبًا ما يُنظر إلى عملية صنع القرار على أنها "صندوق أسود".
مناسب ل:
التحديات والقيود
على الرغم من النتائج الواعدة ، لا يزال CTM يواجه تحديات كبيرة:
- جهد الحوسبة: كل ساعة داخلية تتطلب أشواطًا كاملة إلى الأمام ، مما يزيد من تكاليف التدريب مقارنة بـ LSTMS بحوالي ثلاث مرات.
- قابلية التوسع: عمليات التنفيذ الحالية لا تقل عن 1000 خلية عصبية ، ولم يتم اختبار التحجيم إلى حجم المحول (≥1 مليار معلمة) بعد.
- مجالات التطبيق: بينما تُظهر CTM نتائج جيدة في اختبارات محددة ، يبقى أن نرى ما إذا كانت هذه المزايا تستخدم أيضًا في التطبيقات العملية الواسعة.
جرب الباحثون أيضًا أحجام نموذجية مختلفة ووجدوا أن المزيد من الخلايا العصبية أدت إلى أنماط نشاط أكثر تنوعًا ، لكنهم لم يحسنوا النتائج تلقائيًا. هذا يشير إلى علاقات معقدة بين بنية النموذج والحجم والأداء.
ساكانا AI: نهج جديد للذكاء الاصطناعي
تأسست Sakana AI في يوليو 2023 من قبل AI David Ha و Llion Jones ، وكلاهما من الباحثين السابقين في Google ، مع Ren Ito ، الموظف السابق في Mercari والمسؤولين في وزارة الخارجية اليابانية. تتبع الشركة مقاربة أساسية من العديد من مطوري الذكاء الاصطناعي.
بدلاً من السير في المسار التقليدي ، فإن نماذج الذكاء الاصطناعى الأكثر كثافة ، وكثافة كثافة الموارد ، مستوحاة من الطبيعة ، خاصةً من ذكاء الأسماك والأسرار من الطيور. على عكس الشركات مثل Openaai ، التي تطور نماذج قوية وقوية مثل ChatGPT ، تعتمد Sakana AI على نهج لا مركزي مع نماذج أصغر وتعاونية تعمل معًا بكفاءة.
تنعكس هذه الفلسفة أيضًا في CTM. بدلاً من مجرد بناء نماذج أكبر مع المزيد من المعلمات ، تركز Sakana AI على الابتكارات المعمارية الأساسية التي يمكن أن تغير بشكل أساسي الطريقة التي يمكن أن تعالج بها أنظمة الذكاء الاصطناعي المعلومات.
تحول نموذج في تنمية الذكاء الاصطناعي؟
يمكن لآلة الفكر المستمر تحديد خطوة مهمة في تطوير الذكاء الاصطناعي. من خلال إعادة تقديم الديناميات الزمنية كعنصر رئيسي في الشبكات العصبية الاصطناعية ، يمتد Sakana AI مرجع الأدوات والمفاهيم لأبحاث الذكاء الاصطناعي.
يمكن أن يكون الإلهام البيولوجي والتفسير وعمق الحساب التكيفي لـ CTM قيمة بشكل خاص في مجالات التطبيق التي تتطلب استنتاجات معقدة وحل المشكلات. بالإضافة إلى ذلك ، يمكن أن يؤدي هذا النهج إلى أنظمة الذكاء الاصطناعي أكثر كفاءة يمكنها القيام بها مع موارد الحوسبة الأقل.
يبقى أن نرى ما إذا كان CTM يمثل في الواقع اختراق. يتمثل التحدي الأكبر في تحويل النتائج الواعدة من الاختبارات المختبرية إلى تطبيقات عملية وتوسيع نطاق الهندسة المعمارية إلى نماذج أكبر.
بغض النظر عن هذا ، يمثل CTM نهجًا شجاعًا ومبتكارًا يوضح أنه على الرغم من النجاحات المثيرة للإعجاب لأنظمة الذكاء الاصطناعى الحالية ، لا يزال هناك مساحة كبيرة للابتكارات الأساسية في بنية الشبكات العصبية الاصطناعية. تذكرنا آلة الفكر المستمر Sakana AIS أننا قد نكون فقط في بداية رحلة طويلة لتطوير الذكاء الاصطناعي البشري حقًا.
مناسب ل:
تحول الذكاء الاصطناعي ، وتكامل الذكاء الاصطناعى وخبير صناعة منصة الذكاء الاصطناعى
☑️ لغة العمل لدينا هي الإنجليزية أو الألمانية
☑️ جديد: المراسلات بلغتك الوطنية!
كونراد ولفنشتاين
سأكون سعيدًا بخدمتك وفريقي كمستشار شخصي.
يمكنك الاتصال بي عن طريق ملء نموذج الاتصال أو ببساطة اتصل بي على +49 89 89 674 804 (ميونخ) . عنوان بريدي الإلكتروني هو: ولفنشتاين ∂ xpert.digital
إنني أتطلع إلى مشروعنا المشترك.
