פורסם ב: 6 באפריל 2025 / עדכון מאת: 6 באפריל 2025 - מחבר: קונראד וולפנשטיין
Meta מפרסם את Scout Llama 4 החדש, Maverick ו- Beemoth-Image: xpert.digital
LLAMA 4: הדור החדש של מערכות AI פתוחות מ- Meta
LLAMA 4 חשף: מפתח METAS לעידן ה- AI הבא
מטא הציג את הדור האחרון של דגמי ה- AI שלו, LLAMA 4, ב- 5 באפריל 2025. מודלים חדשים אלה מייצגים התקדמות משמעותית בפיתוח מערכות AI פתוחות ויש להם מספר פונקציות פורצות דרך המגדילות משמעותית את ביצועיהם ויעילותם. סדרת LLAMA 4 מורכבת מדגמים שונים, כאשר שניים מהם כבר זמינים לציבור, בעוד שהמודל החזק ביותר עדיין נמצא בשלב האימונים.
מתאים לכך:
משפחת הדוגמניות של Llama 4
מטא פיתחה שלושה דגמים שונים בסדרת LLAMA 4, שכל אחד מהם מותאם ליישומים שונים:
צופי LLAMA 4
צופי LLAMA 4 הוא מודל קומפקטי עם מפרטים טכניים מרשימים:
- 17 מיליארד פרמטרים פעילים עם 16 מומחים (בסך הכל 109 מיליארד פרמטרים)
- ניתן להפעיל על ידי NVIDIA H100 GPU יחיד עם כימות INT4
- יש חלון הקשר גדול להפליא של 10 מיליון אסימונים, מה שהופך אותו לאחד הדגמים הפתוחים הראשונים עם קיבולת זו
על פי Meta, Scout עולה על דגמים אחרים בכיתתו כמו Gemini 3, Gemini 2.0 Flash-Lite ו- Mistral 3.1. זה מתאים במיוחד למשימות כמו סיכום מסמכים ארוכים, התאמה אישית המבוססת על נתוני משתמשים ומסקנות מורכבות לגבי כמויות גדולות של ידע.
LLAMA 4 Maverick
Llama 4 Maverick הוא החזק יותר מבין שני הדגמים הזמינים:
- 17 מיליארד פרמטרים פעילים עם 128 מומחים (בסך הכל 400 מיליארד פרמטרים)
- גרסת הצ'אט הניסוי הגיעה ל- ELO 1417 ב- LMARENA
- עולה על דגמים כמו GPT-4O ו- Gemini 2.0 Flash במספר מידוד
מודל זה מתאים במיוחד לסיוע כללי ויישומי צ'אט כמו כתיבה יצירתית ומציג תוצאות הדומות ל- DeepSeek V3 במשימות הנמקה וקידוד, אך עם מחצית מהפרמטרים.
LLAMA 4 Behemoth
Llama 4 Behemoth הוא המודל החזק ביותר של Metas, שעדיין אינו זמין לציבור:
- 288 מיליארד פרמטרים פעילים עם 16 מומחים (בסך הכל כמעט 2 טריליון פרמטרים)
- על פי Meta, זה עולה על GPT-4.5, Claude Sonnet 3.7 ו- Gemini 2.0 Pro למספר מדדי STEM
- משמש כ"מודל מורים "לדגמי LLAMA 4 הקטנים יותר
בהמות עדיין נמצאת בשלב ההדרכה והיא תפורסם במועד מאוחר יותר.
חידושים טכניים
סדרת המודל של LLAMA 4 מציגה מספר חידושים טכניים חשובים המשפרים את הביצועים והיעילות שלהם:
תערובת של אדריכלות מומחים (MOE)
אחד החידושים החשובים ביותר ב- LLAMA 4 הוא תערובת של ארכיטקטורת מומחים (MOE), בה מופעלים רק חלק מהפרמטרים של המודל לכל אסימון:
- זה מקטין משמעותית את מאמץ החישוב ואת השהייה, ואילו הביצועים הגבוהים נשמר
- ב- Llama 4 Maverick, כל אסימון מעובד על ידי מומחה משותף ואחד מ 128 מומחים מגושמים
- ארכיטקטורה זו מאפשרת להגדיל את הפרמטר הכולל של המודל מבלי להגדיל את עלויות ההסקה
רב -מודליות ילידת עם היתוך מוקדם
LLAMA 4 הוא הדגם הפתוח הראשון עם מולטימודליות מקומית על ידי היתוך מוקדם:
- אסימוני טקסט ואסימוני תמונה משולבים בארכיטקטורת מודל אחידה
- זה מאפשר הכשרה ראשונית משותפת עם כמויות גדולות של נתוני טקסט, תמונה ווידאו
- בניגוד ללמה 3.2, שהשתמשו בפרמטרים נפרדים לטקסט ותמונות, Llama 4 מבינה את שתי האפשרויות הילידיות עם אותם פרמטרים
חלון הקשר ארוך במיוחד
חלון ההקשר הארוך ביותר של צופי LLAMA 4 מרשים במיוחד:
- עם 10 מיליון אסימונים, הוא עולה בבירור על מרבית הדגמים הזמינים
- זה מאפשר עיבוד של מסמכים ארוכים מאוד, בסיסי קוד שלמים או שיחות נרחבות
- ארכיטקטורת האירופ (שכבות תשומת לב משולבות) מאפשרת זאת
שיטות אימונים חדשות
מטא השתמש בכמה שיטות חדשניות להכשרת LLAMA 4:
- METAP: טכניקה לתיאום חזק של היפרמטר מודל קריטי
- דיוק FP8: שימוש במספרים מתוצרת שקופיות 8 סיביות לאימונים יעילים
- זיקוק משותף: שימוש ב- Llama 4 Behemoth כמודל מורים לדגמים קטנים יותר
- למידה מקוונת אסינכרונית לחלוטין עם תגבורת: תשתית חדשה ללמידה בקנה מידה גדול
זמינות ושילוב
דגמי LLAMA 4 זמינים באמצעות פלטפורמות ושירותים שונים:
ספק הורד וספק ענן
- ניתן להוריד את Scout ו- Maveric
- הם זמינים גם באמצעות פלטפורמות ענן שונות:
- עובדי CloudFlare AI
- Azure AI Foundry ו- Azure Databricks
- קודקוד AI של Google Cloud
- שותפים אחרים יבואו בימים הקרובים
שילוב במוצרי מטא
Meta כבר עדכנה את עוזרי ה- AI שלה בפלטפורמות שונות ב- LLAMA 4:
- Whatsapp, Messenger ואינסטגרם ישירות ב 40 מדינות שונות
- אתר meta.ai
- עם זאת, הפונקציות הרב -מודליות זמינות כרגע רק למשתמשים בשפה אנגלית בארצות הברית
מתאים לכך:
רישיון ומחלוקת
למרות שמטא לאמה 4 מתייחס ל"קוד הפתוח ", ישנן כמה מגבלות ברישיון שגרם למחלוקת:
מגבלות רישיון
רישיון הקהילה של LLAMA 4 מכיל מספר מגבלות:
- חברות עם יותר מ- 700 מיליון משתמשים פעילים חודשיים זקוקים לרישיון מיוחד ממטא
- ככל הנראה המודלים אינם רשאים להשתמש או להפיץ משתמשים וחברות מהאיחוד האירופי, ככל הנראה בגלל דרישות הרגולציה
- ישנן דרישות לגבי שמות וייחוס למודלים נגזרים
ויכוח על "קוד פתוח"
יש ויכוח אם LLAMA 4 צריך להיקרא למעשה "קוד פתוח":
- יוזמת הקוד הפתוח מצאה בשנת 2023 כי ההגבלות ברישיון LLAMA מוציאים אותה "מהקטגוריה 'קוד פתוח'"
- המבקרים טוענים שזה יותר מודל "פתוח מקור" או "עם משקולות פתוחות" מאשר תוכנת קוד פתוח אמיתי
- מגבלות הרישיון יכולות להיות בעייתיות עבור חברות קטנות ללא מחלקות משפטיות משלהן
תוכניות עתידיות
מטא כבר נתן כמה תובנות לגבי התוכניות העתידיות שלו ללמה 4 ומעלה:
לללאקון והודעות אחרות
- Meta תארגן את ועידת Llamacon הראשון ב- 29 באפריל 2025, בו יש להכרזה על פרטים נוספים על דגמי ה- AI ותוכניות המוצר שלה
- החברה מתכננת גם לפרסם בקשה ייעודית לבוט המטא-צ'אט שלה ברבעון השני
הרחבת מיומנויות השפה
- מטא עובד על שיפור כישורי השפה של LLAMA 4 כדי לאפשר שיחות טבעיות יותר
- המטרה היא לאפשר דיאלוגים דו-צדדיים יותר נוזלים בהם משתמשים יכולים להפריע למודל AI
- כריס קוקס, קצין המוצרים הראשי של Meta, תיאר את LLAMA 4 הקרוב כ"מודל אומני "המאפשר שפת האם במקום לתרגם שפה לטקסט
AIS ADIS ו- MISSURAL
- מארק צוקרברג הודיע כי ל- LLAMA 4 יהיו "כישורי סוכן" שצריכים לאפשר יישומים חדשים
- מטא שואף לפתח מודלים של AI ש"המבצעים פעולות כלליות, כמובן מתקשר עם אנשים ולפתור בעיות מאתגרות "
- החברה שוקלת להציע מנויי פרימיום עבור עוזרת ה- AI שלה למטרות סוכן כמו הזמנות או הפקת וידאו
מדוע לאמה 4 היא נקודת מפנה בנוף AI
פרסום LLAMA 4 מייצג צעד משמעותי באסטרטגיית METAS להפוך לאזור המוביל של ה- AI הגנרי בתחום התחרותי ביותר. עם הצגת התערובת של ארכיטקטורת מומחים, רב -מודליות מקומית וחלון הקשר ארוך להפליא, Meta מראה כי דגמים פתוחים יכולים לעמוד במודלים הקנייניים של חברות הטכנולוגיה הגדולות.
למרות המחלוקת לגבי הרישוי והשאלה האם יש לכנות באמת את LLAMA 4 "קוד פתוח", התקדמות טכנית היא אבן דרך חשובה. היכולת של המודלים לעבד טקסט ותמונות פותחת הזדמנויות חדשות למפתחים וחברות.
עם Llama 4 Behemoth המצטיין והתוכניות המוכרזות לכישורי שפה וסוכן מורחבים, ברור שמטא תעמיד עוד יותר את השקעותיה ב- AI. החודשים הקרובים יראו כיצד הדגמים החדשים הללו משנים את נוף ה- AI והאם, כפי שחזה מארק צוקרברג, הם למעשה יעזרו לייצר דגמי AI פתוחים בתחום הבינה המלאכותית.
מתאים לכך:
השותף הגלובלי שלך לשיווק ופיתוח עסקי
☑️ השפה העסקית שלנו היא אנגלית או גרמנית
☑️ חדש: התכתבויות בשפה הלאומית שלך!
קונרד וולפנשטיין
אני שמח להיות זמין לך ולצוות שלי כיועץ אישי.
אתה יכול ליצור איתי קשר על ידי מילוי טופס יצירת הקשר או פשוט להתקשר אליי בטלפון +49 89 674 804 (מינכן) . כתובת הדוא"ל שלי היא: וולפנשטיין ∂ xpert.digital
אני מצפה לפרויקט המשותף שלנו.
