KI Model Kimi K2: The New Open Source الرائد من الصين-معلم آخر لـ Open Ki Systems-Isse: Xpert.Digital
نموذج تريليون معلمة Kimi K2 يهدف بعيدا لتنمية الذكاء الاصطناعي في أوروبا
ثورة أخرى مفتوحة المصادر: Kimi K2 يجلب الذكاء الاصطناعي على مستوى عالمي في مراكز البيانات الأوروبية
Kimi K2 يجلب النظام الإيكولوجي AI المفتوح إلى مستوى جديد. يقدم نموذج خليط الخبراء مع معلمات تريليون النتائج نتائج ذات وزن ثقيل خاص في البرمجة الواقعية والرياضيات ومعايير الوكيل-مع جزء صغير من التكاليف ومع الأوزان المنشورة بالكامل. بالنسبة للمطورين في ألمانيا ، يفتح هذا الفرصة لاستضافة خدمات الذكاء الاصطناعى عالي الأداء بأنفسهم ، لتضمين العمليات القائمة وتطوير منتجات جديدة.
مناسب ل:
لماذا Kimi K2 هو أكثر من نموذج الذكاء الاصطناعي التالي
في حين أن المختبرات الغربية مثل Openaai و Hothropic تخفي أفضل نماذجها خلف واجهات مدفوعة الأجر ، فإن Monshot AI تتابع دورة مختلفة: جميع الأوزان متاحة للجمهور تحت ترخيص مشترك معدّل. هذه الخطوة لا تجعل التكاثر العلمي ممكنًا فحسب ، بل تتيح أيضًا للشركات الصغيرة والمتوسطة الحجم بناء مجموعة الاستدلال الخاصة بها أو استخدام Kimi K2 في سيناريوهات الحافة. تندرج البداية إلى مرحلة يتم فيها تأسيس الصين على مدار الساعة لحركة LLM مفتوحة المصدر ؛ اعتبر Deepseek V3 معيارًا حتى يونيو ، والآن يقوم Kimi K2 بتعيين العارضة مرة أخرى.
عملية الهندسة المعمارية والتدريب
مزيج من الخبراء على مستوى السجل
يعتمد Kimi K2 على نظام خبراء مبتكر مع 384 خبيرًا ، حيث ينشط ثمانية خبراء فقط و "خبير مشترك" عالميًا في الرمز المميز. تمكن هذه البنية محرك الاستدلال من تحميل 32 مليار معلمة فقط في ذاكرة الوصول العشوائي في نفس الوقت ، مما يقلل بشكل كبير من حمل GPU. في حين أن نموذج المعلمة الكثيف البالغ 70 مليار في الدقة الكاملة يتطلب بالفعل وحدات معالجة الرسومات H100 ، إلا أن Kimi K2 يحقق جودة مماثلة أو حتى أفضل ، على الرغم من أنه ينفذ ثلث الأوزان على نفس وحدات معالجة الرسومات.
بالمقارنة مع النماذج الأخرى ، فإن كفاءة Kimi K2 واضحة: مع ما مجموعه 1000 مليار معلمة ، تتجاوز Deepseek V3-Base 671 مليار معلمة وهي أقل من القيمة المقدرة لـ GPT-4.1 مع حوالي 1800 مليار معلمة. مع Kimi K2 ، تظل 32 مليار معلمة فقط لكل رمز نشطًا ، مقارنة بـ 37 مليار في قاعدة Deepseek V3. يستخدم نظام خبراء Kimi K2 384 خبيرًا ، يتم اختيار ثمانية منهم ، في حين يستخدم Deepseek V3-Base 240 خبيرًا مع ثمانية منتخبين. جميع النماذج الثلاثة تدعم طول سياق 128 كيلو رموز.
يوضح هذا التطور أن Moonshot يطلق نموذجًا عامًا يحتوي على معلمات تريليون للمرة الأولى ولا يزال تحت حد المعلمة البالغ 40 مليار لكل رمز ، وهو تقدم كبير في كفاءة نماذج اللغة الكبيرة.
Muonclip - الاستقرار على معيار جديد
غالبًا ما يعاني تدريب محولات Moe Strong Super من الانفجار. وبالتالي ، يجمع Moonshot بين مُحسِّن Muon المميز المميز مع مصفاة "QK-Clip" المصب ، والتي تطبيع المصفوفات ومصفوفات المفاتيح بعد كل خطوة. وفقًا لـ Moonshot ، لم تظهر خسارة واحدة في 15.5 تريليون رموز تدريب. والنتيجة هي منحنى تعليمي سلس للغاية ونموذج يعمل مستقر من الإصدار الأول.
قاعدة البيانات
مع 15.5 تريليون رمز ، تصل Kimi K2 إلى حجم بيانات نماذج فئة GPT-4. بالإضافة إلى نص ويب ويب الكلاسيكي ، تدفقت مكالمات الأدوات المحاكاة وحوارات سير العمل في التدريب المسبق لربط القدرة على التصرف. على عكس Deepseek R1 ، لا تعتمد كفاءة الوكيل بشكل أساسي على سلسلة الإشراف في سلسلة الانتعاش ، ولكن على سيناريوهات التعلم التي كان على النموذج فيها تنظيم العديد من واجهات برمجة التطبيقات.
الخدمات القياسية بالتفصيل
تُظهر الخدمات القياسية مقارنات مفصلة بين ثلاثة نماذج من الذكاء الاصطناعي في مجالات مختلفة من المسؤولية. في منطقة البرمجة ، Kimi K2-instr. في اختبار SWE-BENCED ، بمعدل نجاح قدره 65.8 في المائة ، في حين أن Deepseek V3 أجريت بنسبة 38.8 في المائة و GPT-4.1 مع 54.6 في المائة. في LiveCodeBench V6 ، Kimi K2-instr. بنسبة 53.7 في المئة ، تليها Deepseek V3 مع 49.2 في المئة و GPT-4.1 مع 44.7 في المئة. في اقتران الأداة في اختبار التجزئة TAU2 مع متوسط أربع محاولات ، يحقق GPT-4.1 أفضل أداء مع 74.8 في المائة ، قبل Kimi K2-Instr. مع 70.6 في المئة و ديبسيك V3 مع 69.1 في المئة. في فئة Math-500 Mathematics مع اتفاق دقيق ، Kimi K2-instr. مع 97.4 في المئة ، تليها Deepseek V3 مع 94.0 في المئة و GPT-4.1 مع 92.4 في المئة. في اختبار المعرفة العامة MMLU بدون فترة انعكاس ، فإن GPT-4.1 أفضل 90.4 في المائة ، يليه عن كثب Kimi K2-instr. مع 89.5 في المئة ، في حين أن Deepseek V3 تشكل القاع بنسبة 81.2 في المئة.
تفسير النتائج
- في سيناريوهات الترميز الواقعية ، من الواضح أن Kimi K2 أمام جميع نماذج المصادر المفتوحة السابقة وينهز GPT-4 .1 على Swe-bench.
- الرياضيات والتفكير الرمزي مثاليون تقريبًا ؛ يتجاوز النموذج أيضًا أنظمة الملكية.
- مع معرفة العالم الخالص ، لا يزال GPT-4 .1 متقدمًا ، لكن المسافة أصغر من أي وقت مضى.
مهارات الوكيل في الحياة اليومية
يشرح العديد من LLMs جيدًا ، لكن لا تتصرف. تم تدريب Kimi K2 باستمرار لإنهاء المهام التي تتم استقصاء مكالمات الأدوات وإصدار الكود وتكييف الملفات.
مثال 1: تخطيط رحلة الأعمال
يقوم النموذج بتفكيك التحقيق ("رحلة كتاب وفندق وطاولة لثلاثة أشخاص في برلين") إلى 17 مكالمات API: التقويم ، مجمع الطيران ، API Train ، OpenTable ، البريد الإلكتروني للشركة ، أوراق Google وبالطريقة اليدوية.
مثال 2: تحليل البيانات
تتم قراءة CSV مع 50000 مجموعة بيانات الراتب ، وتقييم إحصائيا ، مؤامرة تم إنشاؤها وحفظها كصفحة HTML تفاعلية. تعمل السلسلة بأكملها في صالة رياضية دردشة واحدة.
لماذا هذا مهم؟
- الإنتاجية: استجابة النموذج ليست مجرد نص ، ولكن إجراء قابل للتنفيذ.
- متانة الخطأ: من خلال تدريب RL على سير العمل ، يتعلم Kimi K2 تفسير رسائل الخطأ وتصحيح أنفسهم.
- التكلفة: يقوم الوكيل الآلي بحفظ التسليم البشري ويقلل من تكاليف السياق لأن عدد أقل من الرحلات المستديرة ضرورية.
الترخيص والتكاليف والعواقب التشغيلية
رخصة
تخضع الأوزان لترخيص يشبه معهد ماساتشوستس للتكنولوجيا. فقط للمنتجات التي تضم أكثر من 100 مليون مستخدم نشط شهريًا أو أكثر من 20 مليون دولار شهريًا ، تتطلب Moonshot ملاحظة "Kimi K2" المرئية في واجهة المستخدم. هذا غير ذي صلة بمعظم الشركات الألمانية.
API وأسعار الاستضافة الذاتية
تُظهر API وأسعار الاستضافة الذاتية اختلافات واضحة بين مقدمي الخدمات. في حين أن واجهة برمجة تطبيقات Monshot تحسب 0.15 دولار لرموز الإدخال و 2.50 دولار لرموز الإخراج لكل مليون ، فإن Deepseek-API يكلف 0.27 دولار للمدخلات و 1.10 دولار أمريكي للإخراج. بمتوسط 10.00 دولارات للمدخلات و 30.00 دولار للإخراج ، فإن واجهة برمجة تطبيقات GPT-4 O أكثر تكلفة بكثير.
إن كفاءة التكلفة من خلال تكنولوجيا MOE رائعة بشكل خاص: أصبحت تكاليف السحابة تنافسية للغاية. يوضح مثال عملي: يدفع المطور فقط حوالي 0.005 دولار للدردشة الرمزية 2000 مع Kimi K2 ، في حين أن الدردشة نفسها مع GPT-4 تكلف أربعة دولارات.
ملف تعريف الأجهزة للتشغيل الداخلي
- النموذج الكامل (FP16): ما لا يقل عن 8 × H100 80 جيجابايت أو 4 × B200.
- كمية 4 بت: يتم تشغيلها على 2 × H100 أو 2 × Apple M3 Ultra 512 جيجابايت.
- محرك الاستدلال: VLLM و SGLANG و TENSORRT-LLM يدعم KIMI K2 أصلاً.
مجالات التطبيق العملية في أوروبا
- الصناعة 4.0: يمكن تصميم خطط الصيانة الآلية وتشخيصات الأخطاء وأوامر قطع الغيار على أنها تدفق وكيل.
- الشركات المتوسطة الحجم: روبوتات الدردشة المحلية المورد والاستفسارات من العملاء في الوقت الفعلي دون إرسال البيانات إلى خوادم الولايات المتحدة.
- الرعاية الصحية: تستخدم العيادات Kimi K2 لرسائل الطبيب Codage ، وحساب حالات DRG وتنسيق التعيين في كل شيء في المباني.
- البحث والتدريس: تستضيف الجامعات النموذج في مجموعات HPC لتمكين الطلاب تجارب مجانية مع أحدث LLMs.
- السلطات: تستفيد المؤسسات العامة من أوزان المفتوحة المصدر لأن متطلبات حماية البيانات تجعل من الصعب استخدام نماذج سحابة خاصة.
أفضل الممارسات للتشغيل الإنتاجي
لقد أنشأت العديد من الممارسات التي أثبتت جدواها للتشغيل الإنتاجي لأنظمة الذكاء الاصطناعى. في حالة مساعدي الدردشة ، يجب ضبط درجة الحرارة على 0.2 إلى 0.3 لضمان إجابات واقعية ، في حين يجب أن تكون قيمة P الأعلى بحد أقصى 0.8. بالنسبة لتوليد الكود ، من الأهمية بمكان تحديد موجه النظام بوضوح ، على سبيل المثال مع التعليمات "أنت مساعد Python دقيق" وتنفيذ اختبارات موثوقة. في حالة مكالمات الأدوات ، يجب تحديد مخطط JSON بدقة بحيث تستدعي دالة تنسيقات النموذج بشكل صحيح. تعمل خطوط أنابيب RAG بشكل أفضل بحجم 800 رمز وإعادة تشغيل مع ترميز متقاطع مثل BGE-RERANK-L قبل الاسترجاع. من أجل الأمان ، من الضروري تنفيذ الأوامر الصادرة في صندوق الرمل ، على سبيل المثال في ألعاب نارية VM ، لتقليل مخاطر الحقن.
مناسب ل:
التحديات والحدود
بصمة الذاكرة
على الرغم من أن 32 B المعلمة فقط نشطة ، يجب أن يحمل جهاز التوجيه جميع أوزان الخبراء. وبالتالي فإن الاستدلال على وحدة المعالجة المركزية نقي غير واقعي.
تبعية الأداة
الأدوات المحددة بشكل خاطئ تؤدي إلى حلقات لا نهاية لها. تعالج الأخطاء القوية أمر إلزامي.
الهلوسة
في حالة واجهات برمجة التطبيقات غير المعروفة تمامًا ، يمكن أن تخترع وظائف النموذج. المدقق الصارم ضروري.
شرط الترخيص
مع نمو مستخدم قوي ، يمكن أن يكون التزام العلامة التجارية قيد المناقشة.
أخلاقيات الأخلاق والتصدير
الانفتاح يجعل تطبيقات غير لائقة محتملة ؛ الشركات مسؤولة عن أنظمة المرشح.
المصدر المفتوح كمحرك ابتكار
توضح خطوة Moonshot AI أن النماذج المفتوحة لا تعمل فقط بعد بدائل الملكية ، ولكن أيضًا تهيمن على بعض الحقول. في الصين ، يتم إنشاء نظام بيئي من الجامعات والشركات الناشئة ومقدمي الخدمات السحابية الذين يسرعون التطوير من خلال البحث المشترك والتسعير العدواني.
لأوروبا هناك ميزة مزدوجة:
- الوصول التكنولوجي دون قفل البائع وتحت سيادة البيانات الأوروبية.
- ضغط التكلفة لمقدمي الخدمات التجارية ، والذي يمكن توقعه في الأسعار العادلة متوسطة الأجل مع أداء مماثل.
على المدى الطويل ، من المتوقع أن تظهر نماذج تريليون موي الأخرى ، وربما أيضًا متعددة الوسائط. إذا كان Moonshot يتبع الاتجاه أو الرؤية أو الامتدادات الصوتية يمكن فتحها. على أبعد تقدير ، تصبح المنافسة على أفضل "وكيل مفتوح" السائق الرئيسي لاقتصاد الذكاء الاصطناعي.
ليس أكثر تكلفة واجهات برمجة تطبيقات Box Box: Kimi K2 Decratized Development Development
يمثل Kimi K2 نقطة تحول: فهو يجمع بين أعلى الأداء والقدرة على التصرف وفتح الأوزان في حزمة واحدة. بالنسبة للمطورين والباحثين والشركات في أوروبا ، وهذا يعني حرية الاختيار الحقيقية: بدلاً من الاعتماد على واجهات برمجة تطبيقات الصناديق السوداء باهظة الثمن ، يمكنك تشغيل وتكييف ودمج أساس منظمة العفو الدولية بأسعار معقولة وقوية بنفسك. أي شخص يكتسب الخبرة في مهام سير العمل والبنية التحتية لوزارة المالية في مرحلة مبكرة يخلق ميزة تنافسية مستدامة في السوق الأوروبية.
مناسب ل:
شريكك العالمي في التسويق وتطوير الأعمال
☑️ لغة العمل لدينا هي الإنجليزية أو الألمانية
☑️ جديد: المراسلات بلغتك الوطنية!
كونراد ولفنشتاين
سأكون سعيدًا بخدمتك وفريقي كمستشار شخصي.
يمكنك الاتصال بي عن طريق ملء نموذج الاتصال أو ببساطة اتصل بي على +49 89 89 674 804 (ميونخ) . عنوان بريدي الإلكتروني هو: ولفنشتاين ∂ xpert.digital
إنني أتطلع إلى مشروعنا المشترك.
