סוף לבינה מלאכותית יקרה? הלם מחירים ב-OpenAI: מדוע GPT-6 Sol ו-Luna הופכות את שוק הבינה המלאכותית על פיה

מתקפה על אנתרופיק: OpenAI הורסת את היגיון התמחור הקיים עם GPT-6 Sol & Luna

אינטליגנציה במחיר מציאה: כיצד GPT-6 משנה את הכלכלה של הבינה המלאכותית

עם ההשקה המפתיעה של דגמי ה-GPT-6 Sol וה-GPT-6 Luna החדשים, OpenAI פותחת עידן חדש בתחרות הבינה המלאכותית. במקום להציג ביצועים חדשים ברמה הגבוהה ביותר, החברה תוקפת את מתחרותיה - ובמיוחד את Anthropic - היכן שהיא חשובה ביותר להמונים: המחיר. על ידי הפחתה דרסטית של עלויות השימוש בהשוואה לדור הקודם, בינה מלאכותית הופכת סוף סוף ממוצר יוקרה יקר לתשתית נפוצה. עם זאת, מודלי התמחור החדשים והמשתלמים במיוחד מציגים גם מלכודת אסטרטגית: בעוד שאוטומציה עולה לפתע חלקיק ממחירה הקודם, ופותחת הזדמנויות אדירות לתהליכים עסקיים, היא גם מאיימת להוביל לעלייה מהירה בצריכה הכוללת עקב מקרי שימוש חדשים. אלו שרוצים לצאת כמנצחים בכלכלת הבינה המלאכותית החדשה הזו לא יכולים להסתמך בעיוורון על מחיר האסימונים הנמוך ביותר, אלא חייבים לדעת כיצד לתזמר מודלים בחוכמה בעתיד.

מתקפת המחירים של OpenAI: GPT-6 Sol ו-Luna משנים את הכלכלה של הבינה המלאכותית

מודיעין זול יותר יהפוך לבעיה עבור כל מי שעדיין מרוויח ממחסור

OpenAI משיקה שני דגמים חדשים, GPT-6 Sol ו-GPT-6 Luna, פחות משלושה חודשים לאחר ההשקה הכללית של משפחת GPT-5.6, שנועדו לסמן את השלב הבא בשוק ההמוני של בינה מלאכותית. המסר המרכזי משמעותי לפחות מבחינה כלכלית כמו שהוא טכנולוגית: ביצועים משופרים לא צריכים לבוא במחיר גבוה יותר, אלא עם עלויות שימוש נמוכות משמעותית. GPT-6 Sol עולה שני דולרים אמריקאים למיליון טוקנים קלט ועשרה דולרים אמריקאים למיליון טוקנים פלט דרך ה-API. עבור GPT-6 Luna, המחירים הם עשרה סנט עבור קלט ו-50 סנט עבור פלט. בהשוואה למחירי המבצע האחרונים של דגמי GPT-5.6 המקבילים, OpenAI מורידה בערך את המחירים בחצי, כאשר הירידה עבור טוקנים פלט של Luna היא אפילו קצת יותר מ-58 אחוזים.

תנועת מחירים זו היא יותר מסתם עדכון מוצר טיפוסי. היא מדגימה שהתחרות בין ספקי בינה מלאכותית גדולים עוברת יותר ויותר ממרדף אחר ביצועים ברמה הגבוהה ביותר לרמה שנייה: הגורם המכריע הוא כמה ביצועים כלכלית יש למודל לייצר עבור סכום כסף נתון. כאן בדיוק נכנסות לתמונה Sol ו-Luna. Sol נועדה להתמודד עם עבודת ידע תובענית, פיתוח תוכנה ותהליכים מבוססי סוכנים בעלויות שהיו קשורות בעבר למודלים בינוניים. Luna, לעומת זאת, שואפת לבצע משימות שגרתיות בצורה כה חסכונית עד שניתן יהיה לפרוס בינה מלאכותית בתהליכים עסקיים שבהם אוטומציה בעבר כמעט ולא הייתה כדאית.

הפרשנות הפרובוקטיבית, אם כן, היא ש-OpenAI לא רק מוכרת דגמים טובים יותר במחירים נמוכים יותר, אלא מנסה לשבש את היגיון התמחור הקיים בשוק. אם איכות גבוהה של דגמים כבר לא כרוכה בהכרח בעלויות משתנות גבוהות, מחירי הפרימיום מאבדים חלק מהצדקתם. במקביל, הלחץ על המתחרים גובר להציע את הדגמים שלהם במחירים נמוכים יותר או להדגים את הערך המוסף שלהם בצורה ברורה הרבה יותר. עבור חברות, התפתחות זו פותחת אפשרויות יישום חדשות. עם זאת, היא טומנת בחובה גם את הסיכון שירידה בעלויות היחידה תוביל להרחבה בלתי מבוקרת של השימוש, שבסופו של דבר תביא להוצאות כוללות גבוהות יותר.

שני מודלים ליצירת ערך שונה

השמות Sol ו-Luna משקפים חלוקה פונקציונלית של תיק הדגמים. GPT-6 Sol הוא דגם המיינסטרים בעל הביצועים הגבוהים יותר, הממוקם מתחת ל-GPT-6 Astra המוביל. הוא מיועד למשימות בהן דיוק, חשיבה רב-מפלסית, שימוש אמין בכלים ויכולת להתמודד עם זרימות עבודה ארוכות יותר הם חשובים כלכלית. אלה כוללים ניתוחים מורכבים, משימות תכנות תובעניות, מחקר אוטומטי, שליטה ביישומים דיגיטליים ותמיכה בעבודת ידע מקצועית. GPT-6 Luna, לעומת זאת, ממוצב כמודל חסכוני ומהיר במיוחד למשימות בנפח גבוה. הוא מתאים במיוחד לסיווג, חילוץ, סיכום, משימות קידוד פשוטות, בדיקות מקדימות ותקשורת סטנדרטית.

גישה מדורגת זו משקפת הבנה חשובה יותר ויותר: חברות אינן זקוקות למודל החזק ביותר הזמין עבור כל בקשה. חלק גדול מהשימוש העסקי בבינה מלאכותית מורכב ממשימות חוזרות ונשנות בעלות מורכבות מוגבלת. במקרים אלה, מודל זול מאוד יכול לספק את התועלת הכלכלית הגדולה ביותר. רק מקרים קשים, מעורפלים או בעלי סיכון גבוה צריכים לעבור למודל חזק יותר. לפיכך, סול ולונה תומכות בארכיטקטורה שבה בקשות מחולקות באופן דינמי על סמך קושי, סיכון וערך.

עבור OpenAI, פילוח זה הגיוני מבחינה אסטרטגית. דגם הדגל היקר, אסטרה, יכול להמשיך לשמש כנקודת ייחוס טכנולוגית מבלי שעלותו הגבוהה תפגע באימוץ נרחב. Sol תופסת את שוק מערכות הייצור בעלות ביצועים גבוהים, בעוד Luna מכסה את שוק ההמונים הרגיש למחיר. בדרך זו, OpenAI יכולה בו זמנית להגן על שולי רווח גבוהים בפלח הפרימיום, לאתגר מתחרים בטווח הביניים ולבנות נפחי שימוש עצומים בפלח המחירים הנמוכים.

מנקודת מבטו של הלקוח, עם זאת, הדבר יוצר אתגר רכש חדש. בחירת המודל לא צריכה להתבסס אך ורק על מחיר המחירון. גורמים מכריעים כוללים איזו רמת איכות מספקת לתהליך מסוים, באיזו תדירות המודל מבצע שגיאות, כמה יקר לזהות אותן, והמאמץ הנדרש לפיקוח אנושי. מודל זול לכאורה יכול להפוך ליקר אם תוצאותיו דורשות עיבוד חוזר לעתים קרובות. לעומת זאת, מודל חזק יותר יכול להיות חסכוני יותר אם הוא משיג באופן אמין את התוצאה הרצויה עם פחות איטרציות ופחות פיקוח.

חציית המחירים משנה את החישוב

קל במיוחד להבין את ירידת המחיר עם Sol. לאחרונה, מחירו של GPT-5.6 Sol היה ארבעה דולרים אמריקאים למיליון אסימוני קלט ו-20 דולרים אמריקאים למיליון אסימוני פלט, כחלק ממבצע לזמן מוגבל. מחירו של GPT-6 Sol חצה את שני הערכים לשניים ועשרה דולרים אמריקאים, בהתאמה. עם Luna, מחיר הקלט יורד מ-20 לעשרה סנט. מחיר הפלט יורד מ-1.20 דולר אמריקאי ל-50 סנט. ההצהרה הגורפת ששני הדגמים זולים בדיוק ב-50 אחוז מפשטת יתר על המידה את המבנה בפועל: מחיר הפלט של Luna יורד משמעותית יותר, דבר שרלוונטי במיוחד ליישומים עתירי טקסט.

אסימוני פלט מייצגים את גורם העלות הגדול יותר ביישומים רבים. מערכת עשויה לקבל הוראה קצרה יחסית אך לייצר דוחות ארוכים, קטעי קוד או מערכי נתונים מובנים. דווקא במקרים כאלה, לירידה המשמעותית במחיר התפוקה של Luna יש השפעה ניכרת. עם מיליון אסימוני קלט ומיליון אסימוני פלט, Luna עולה סך הכל 60 סנט. Sol, תחת אותן הנחות פשוטות, עולה שנים עשר דולרים אמריקאים. זה מייצג הפרש של עשרים בין שני המודלים. פער זה ממחיש בבירור מדוע בחירת מודל חכמה הופכת לחשובה יותר מאשר התחייבות למודל יחיד.

עבור חברה עם 500 מיליון אסימוני קלט ו-100 מיליון אסימוני פלט לחודש, מחיר Sol יעלה כ-2,000 דולר לחודש במחיר רגיל. מחיר Luna יעלה כ-100 דולר. חישוב מודל זה אינו כולל כלים, גישת חיפוש, אחסון נתונים, מסדי נתונים וקטוריים, ביקורות אבטחה או עלויות פיתוח. אף על פי כן, הוא ממחיש את קנה המידה: בנפחים גבוהים, הקצאת מודל נכונה יכולה לעשות הבדל משמעותי. ההשפעה גדולה אף יותר כאשר מידע הקשרי חוזר נקרא מהמטמון, וכך כרוך רק בחלק קטן ממחיר הקלט הרגיל.

המחירים החדשים קובעים בו זמנית אמת מידה חדשה לשוק. קלוד אופוס 5 הוצע במחיר של 5 דולר לקלט ו-25 דולר לפלט, בעוד קלוד פייבל 5.1 תומחר ב-10 דולר ו-50 דולר בהתאמה. סול נחות משמעותית ממחירי המחירון הללו, ולונה נמצאת בטווח מחירים שונה לחלוטין. השוואה פשוטה של ​​טוקנים אינה מספיקה, מכיוון שדגמים דורשים מספר משתנה של טוקנים ושלבי עיבוד. אף על פי כן, יהיה קשה יותר לספקים לגבות פי כמה ממחיר OpenAI אם לא יוכלו להוכיח תועלת גדולה יותר בהתאמה ביישומים בעולם האמיתי.

דיוק חשוב יותר ממחיר אסימונים נמוך

OpenAI מדגישה דיוק עובדתי משופר בהכרזה שלה. על פי ביקורת פנימית, GPT-6 Sol ביצעה כמחצית ממספר השגיאות העובדתיות בהשוואה לקודמתה. בעוד שהצהרה זו משמעותית כלכלית, אין לצמצמה לטענה ששיעור השגיאות הכולל ירד מ-20 ל-10 אחוזים. OpenAI אינה מפרסמת נתונים מוחלטים כאלה עבור השוואה זו. הביקורת נערכה באמצעות שיחות אנונימיות מהעולם האמיתי שבהן משתמשים דיווחו בעבר על שגיאה עובדתית. לכן, מדובר במקרים מועדים לטעויות במכוון ולא מדגם מייצג של כלל בסיס המשתמשים.

הביטוי "חצי ממספר השגיאות" מתייחס לשיפור יחסי בבדיקה ספציפית זו. אין פירוש הדבר ש-Sol אמינה כעת פי שניים בכל תחום. שיעורי השגיאות תלויים במידה רבה בנושא, עדכניותו, גישה לנתונים, שפה, הגדרת משימה וכלים מורשים. מודל יכול להיות אמין מאוד עם ידע כללי נרחב ובו זמנית להיכשל עם מידע נדיר בתעשייה, אירועים עדכניים או נתונים מדויקים. לכן, חברות צריכות להבין את הצהרת היצרן כאינדיקציה להתקדמות, ולא כהבטחה.

אף על פי כן, אפילו צמצום יחסי של שגיאות בחצי טומן בחובו פוטנציאל כלכלי ניכר. בתהליכי ייצור רבים, העלויות הגדולות ביותר נובעות לא משאילתות מודל, אלא מסיכוני ניטור, תיקון וחבות. אם מערכת מספקת תוצאה בעייתית רק באחת מכל עשר תשובות במקום בכל חמישית, מאמץ הבדיקה אינו פוחת אוטומטית בחצי. בדיקה מלאה עדיין עשויה להיות נחוצה. עם זאת, בתהליכים פחות קריטיים, האמינות המשופרת יכולה לאפשר את המעבר משימוש מסייע גרידא לעיבוד אוטומטי ברובו.

ראויה לציון במיוחד טענתה של OpenAI כי, תחת עצימות חישובית גבוהה, GPT-6 Luna יכולה להשיג את רמת GPT-5.6 Sol בבדיקת דיוק עובדתי זו בכמאה מהעלות. הצהרה זו מתייחסת לדיוק העובדתי שנבדק ואין ליישם אותה לביצועי המודל הכוללים. Luna לא תפעל אוטומטית כמו קודמתה Sol בכל ניתוח, בכל פרויקט קוד או בכל זרימת עבודה מבוססת סוכן. אף על פי כן, ההשוואה מדגימה באיזו מהירות יכולות ממודלים יקרים ומתקדמים עוברות למודלים במחירים נוחים יותר.

עבודה מקצועית הופכת לתחרות בין מחיר לתמורה

במבחן AutomationBench, GPT-6 Sol, הפועל בעוצמת חישוב גבוהה מאוד, משיג ציון של 33.2 אחוזים. Claude Opus 5, בהגדרות המקסימליות, מגיע ל-26.9 אחוזים. ההפרש הוא 6.3 נקודות אחוז, ולא 6.3 אחוזים. באופן יחסי, Sol גבוה בכ-23 אחוזים מהציון של Claude. יחד עם זאת, OpenAI מעריך את עלות Sol ב-27 סנט למשימה, בעוד ש-Opus 5 עלה פי 11.1 במבחן זה. לכן, Sol משיג ציון מבחן גבוה יותר, בכ-9 אחוזים בלבד מעלות ההשוואה.

מדד הייחוס ממפה זרימות עבודה שלמות באמצעות 47 כלים בתחומי המכירות, השיווק, התפעול, שירות הלקוחות, הכספים ומשאבי אנוש. יש לכך משמעות רבה יותר עבור יישומים עסקיים מאשר שאלות מבוססות ידע גרידא, משום שסוכן פרודוקטיבי חייב לא רק לייצר טקסט, אלא גם להפעיל מערכות, לעבד תוצאות ביניים ולחבר נכון שלבים מרובים. יחד עם זאת, הציון המוחלט של 33.2 אחוזים נותר מפתה. אפילו התוצאה הטובה ביותר פירושה שחלק גדול מהמשימות לא הושלמו במלואן. ההתקדמות היא אמיתית, אך כוח עבודה דיגיטלי אמין באופן אוניברסלי עדיין רחוק.

GPT-6 Luna משתפר ב-5.4 נקודות אחוז בהשוואה לקודמו בעצימות חישובית גבוהה, בעוד שהעלות למשימה יורדת, על פי הדיווחים, ב-58 אחוזים. גם כאן, דיוק לשוני הוא חשוב. נקודות האחוז מתארות את ההפרש המוחלט בין שני ערכי ביצועים. עלייה של 5.4 אחוזים, לעומת זאת, תהיה שינוי יחסי. הבדל זה יכול להיות משמעותי בעת הערכת מודל, במיוחד אם ערכי ההתחלה נמוכים.

מבחן נוסף, Agents' Last Exam, מעריך משימות ארוכות טווח ורלוונטיות כלכלית מ-55 תת-תעשיות. GPT-6 Sol משיג 56.4 אחוזים בעוצמת חישוב מקסימלית, ועובר, על פי OpenAI, את הציון הטוב ביותר של Claude Opus 5 תוך שימוש בעלות נמוכה יותר של 60 אחוזים למשימה. זה מדגיש את הכיוון אך גם את מגבלות הפיתוח. ציון הצלחה קצת מעל מחצית הוא בעל ערך עבור סיוע בפיקוח אך לעתים קרובות אינו מספיק עבור תהליכי ליבה לא מפוקחים.

תכנות נותר התחום התחרותי ביותר

בפיתוח תוכנה, ההבדלים בין הדגמים בעלי הביצועים הטובים ביותר קטנים יותר. במבחן DeepSWE, GPT-6 Sol משיג יעילות של 68.8 אחוזים בעוצמת חישוב מקסימלית. Claude Fable 5 מגיע ל-69.9 אחוזים בהגדרות גבוהות מאוד. לפיכך, Sol מפגרת מאחור ב-1.1 נקודות אחוז, אך נאמר שהיא משלימה את המשימה בעלות נמוכה בכ-80 אחוזים. GPT-6 Luna משיגה 66.6 אחוזים, מה שממקם אותה קרוב ל-Claude Opus 5 ו-Claude Fable 5 בעצימות חישוב בינונית. לפי OpenAI, Luna עולה 93 אחוזים פחות למשימה מאשר Opus 5 ו-96 אחוזים פחות מ-Fable 5.

עבור חברות, תרחיש זה אטרקטיבי יותר מבחינה כלכלית מניצחון מצומצם בבדיקה. מודל שמספק כמעט אותו שיעור הצלחה בחלק קטן מהעלות יכול לממן ניסיונות נוספים, בדיקות נוספות ובדיקות צולבות אוטומטיות. במקום לשלם עבור איטרציה יקרה אחת, מערכת יכולה לייצר מספר פתרונות חסכוניים, להריץ בדיקות ולבחור רק את המועמד הטוב ביותר. עלויות היחידה הנמוכות יותר יכולות, אם כן, לשפר בעקיפין את איכות תהליך הפיתוח כולו.

עם זאת, אין להפריז בהשפעה זו. ניסיונות חוזרים ונשנים מועילים רק אם ניתן לזהות שגיאות. עם תוכנה, זה אפשרי חלקית מכיוון שקומפילציה, בדיקות אוטומטיות וניתוח סטטי מספקים משוב אובייקטיבי. הערכה קשה יותר עם החלטות אדריכליות, בעיות אבטחה או דרישות לא שלמות. קוד שנוצר רב יותר יכול גם להוביל לחוב טכני רב יותר ומאמץ בדיקות נוסף.

OpenAI מתייחס גם ל-FrontierCode, בדיקה שמעריכה לא רק את התקינות התפקודית אלא גם את יכולת האינטגרציה בפועל של שינויים. זה כולל את איכות הבדיקה, היקף מוגבל של שינויים, סגנון תכנות ועמידה בכללים ספציפיים לפרויקט. קריטריונים אלה הם קריטיים בפועל. הצעת קוד יכולה להיות נכונה פורמלית ועדיין להיות לא מתאימה משום שהיא משנה חלקים גדולים של מערכת שלא לצורך או מתעלמת מסטנדרטים תפעוליים. לכן, הערך הכלכלי של מודל תכנות אינו טמון בכמות הקוד שנוצרת, אלא במספר השינויים הניתנים לאינטגרציה אמינה לכל שעת עבודה שהושקעה.

שליטה ממוחשבת הופכת זולה יותר, אך לא נטולת סיכונים

בעת הפעלת יישומים גרפיים, GPT-6 Sol משיג יעילות של 60.5 אחוזים בחלק הלא מקוון של OSWorld 2.0 עם עצימות חישובית גבוהה מאוד. Claude Opus 5 משיג יעילות של 60.3 אחוזים בהגדרות בינוניות. OpenAI מעריך את עלות המשימה של Sol בכ-80 אחוז פחות. Luna, בהגדרות מקסימליות, צפויה לעלות על היעילות הממוצעת של GPT-5.6 Sol תוך עלות של עשירית בלבד מהמחיר.

פיתוח זה משמעותי עבור אוטומציה משרדית, שירות לקוחות ותהליכים במשרד האחורי. חברות רבות עדיין משתמשות ביישומים ישנים יותר ללא ממשקי תכנות מודרניים. מודל שמבין תוכן מסך, מפעיל כפתורים ומעביר מידע בין מערכות יכול לגשר על הפערים הללו. זה יוצר סוג של אוטומציה מבוססת תוכנה שהיא גמישה יותר מרובוטים מסורתיים מבוססי כללים.

עם זאת, אפילו ערך סביב 60 אחוז מראה שבקרת מחשב ללא השגחה נותרת מסוכנת. בזרימות עבודה ארוכות, לחיצה שגויה אחת מספיקה כדי לגרום לכישלון התהליך כולו. תשלומים, הרשאות גישה, מחיקת נתונים ושינויים במערכות ייצור הם קריטיים במיוחד. לכן, הרשאות מדורגות, טווחי פעולה מוגבלים, רישום ואישור אנושי בנקודות בעלות סיכון גבוה הם כדאיים מבחינה כלכלית.

ההתקדמות האמיתית טמונה פחות בעובדה שסול כבר החליפה עובד לחלוטין. חשוב מכך, עלויות האוטומציה הניסויית יורדות. חברות יכולות לבחון יותר תהליכים מבלי ליישם כל רעיון באמצעות פרויקט אינטגרציה יקר. סוכנים סטנדרטיים יכולים לצמוח מפרויקטים פיילוט מוצלחים; מקרים לא מתאימים ניתן לזנוח מוקדם. הפחתת המחירים מקצרת אפוא את עקומת הלמידה עבור חברות המשתמשות.

מימד חדש של טרנספורמציה דיגיטלית עם 'בינה מלאכותית מנוהלת' (בינה מלאכותית) – פלטפורמה ופתרון B2B | ייעוץ אקספרט - תמונה: Xpert.Digital

כאן תלמדו כיצד החברה שלכם יכולה ליישם פתרונות בינה מלאכותית מותאמים אישית במהירות, בצורה מאובטחת וללא חסמי כניסה גבוהים.

פלטפורמת בינה מלאכותית מנוהלת היא הפתרון השלם והחסר דאגות שלכם לבינה מלאכותית. במקום להתמודד עם טכנולוגיה מורכבת, תשתית יקרה ותהליכי פיתוח ארוכים, אתם מקבלים פתרון מוכן מראש המותאם לצרכים שלכם משותף מתמחה - לעתים קרובות תוך מספר ימים בלבד.

היתרונות המרכזיים במבט חטוף:

⚡ יישום מהיר: מרעיון ליישום מוכן לשימוש תוך ימים, לא חודשים. אנו מספקים פתרונות מעשיים היוצרים ערך מוסף מיידי.

🔒 אבטחת מידע מקסימלית: המידע הרגיש שלך נשאר אצלך. אנו מבטיחים עיבוד מאובטח ותואם ללא שיתוף מידע עם צדדים שלישיים.

💸 אין סיכון פיננסי: אתם משלמים רק על תוצאות. השקעות גבוהות מראש בחומרה, תוכנה או כוח אדם מבוטלות לחלוטין.

🎯 התמקדו בעסק הליבה שלכם: התרכזו במה שאתם עושים הכי טוב. אנחנו דואגים לכל תהליך היישום הטכני, התפעול והתחזוקה של פתרון הבינה המלאכותית שלכם.

📈 עמיד לעתיד וניתן להרחבה: הבינה המלאכותית שלכם גדלה איתכם. אנו מבטיחים אופטימיזציה וגמישות מתמשכת, ומתאימים את המודלים לדרישות חדשות בצורה גמישה.

מידע נוסף כאן:

• פתרון בינה מלאכותית מנוהלת - שירותי בינה מלאכותית תעשייתיים: המפתח לתחרותיות במגזרי השירותים, התעשייה וההנדסה המכנית

אחסון ביניים הופך לגורם עלות שלא מוערך מספיק

בנוסף למחירי האסימונים הגלויים, OpenAI משפרת את שמירת המטמון של קלט חוזר. עם מה שנקרא מטמון מהיר, אין צורך לעבד מחדש מקטעי הקשר זהים עם כל בקשה. GPT-6 מעניק הנחה של 90 אחוז על אסימוני קלט שנקראו בעבר ומאוחסנים במטמון. זה רלוונטי במיוחד עבור סוכנים, שיחות ארוכות ויישומים עם הוראות מערכת נרחבות.

סוכן עסקי מקבל לעתים קרובות את אותו המידע בכל שלב: תיאור תפקיד, כללי אבטחה, מבני נתונים, הגדרות כלים, מדריכים או חלקים מהשיחה הקודמת. ללא אחסון במטמון יעיל, הקשר זה מעובד שוב ושוב בעלות מלאה. בתהליכים מרובי שלבים, ההקשר החוזר יכול לייצג רכיב עלות גדול יותר מהבקשה החדשה בפועל. לכן, שיעור פגיעה גבוה במטמון משפיע על יעילות העלות יותר ממה שמחיר המחירון מרמז.

OpenAI מאפשר כעת למפתחים לשנות את עוצמת החישוב והכלים הזמינים מבלי לאבד את ההקשר הקודם לאחסון במטמון. יתר על כן, מפתחים יכולים להגדיר נקודות עצירה מפורשות כדי לציין איזה חלק של קלט נעשה בו שימוש חוזר. GitHub מדווח כי שיפורים אלה הפחיתו את שיעור אסימוני ההנחיות שהיה צריך לעבד מחדש על פני מיליארדי בקשות Copilot ביותר מ-50 אחוז תוך מספר חודשים.

מבחינה מעשית, זה מוביל לעדיפות ברורה: אופטימיזציה של עלויות אינה מתחילה בבחירת המודל. היא כוללת גם את מבנה התשומות, את סדר התוכן היציב והמשתנה, את אורך ההקשר ואת מספר החזרות המיותרות. יישום שתוכנן בצורה גרועה יכול להיות יקר למרות השימוש במודלים זולים. לעומת זאת, ארכיטקטורה מתוכננת היטב יכולה להשתמש אסטרטגית במודלים איכותיים מבלי לחרוג מהתקציב.

אסימונים זולים יותר לא בהכרח אומרים שטרות קטנים יותר

שוק ההסקה של בינה מלאכותית חווה ירידת מחירים יוצאת דופן במשך שנים. בין נובמבר 2022 לאוקטובר 2024 בלבד, העלות להשגת רמת ביצועים זהה לזו של GPT-3.5 במבחן הבנת שפה טבעית נפוץ ירדה מ-20 דולר לשבעה סנט למיליון טוקנים. ירידה זו מייצגת פי 280 יותר. GPT-6 Sol ו-Luna ממשיכים במגמה זו, אם כי ברמת יכולת גבוהה יותר.

מבחינה כלכלית, פועל כאן מנגנון דומה לפרדוקס ג'בונס. אם השימוש במשאב הופך יעיל וזול יותר, הצריכה הכוללת לא בהכרח יורדת. לעתים קרובות, היא עולה מכיוון שיישומים חדשים הופכים לכדאיים כלכלית. חברה שבעבר השתמשה בבינה מלאכותית רק כדי לייצר כמה טקסטים באיכות גבוהה יכולה כעת לנתח כל בקשת לקוח, לסווג כל מסמך ולבדוק אוטומטית שינויים רבים בתוכנה במחירים נמוכים משמעותית. במקרה זה, הצריכה עולה מהר יותר מאשר המחיר ליחידה יורד.

יישומים מבוססי סוכנים מגבירים את האפקט הזה. שאילתת משתמש יחידה יכולה להפעיל עשר או עשרים קריאות מודל. הסוכן מתכנן, מחפש מידע, משתמש בכלים, בודק תוצאות ביניים ומפעיל מחדש אם מתרחשות שגיאות. לכן, השאילתה הגלויה אינה יחידת עלות מתאימה. מה שחשוב הוא העלויות הכוללות לכל פעולה שהושלמה בהצלחה.

לכן, חברות לא צריכות לשאול איזה דגם מוכר את הטוקנים הזולים ביותר. עליהן למדוד כמה עולה תוצאה נכונה, בזמן וניתנת לאימות. חישוב זה כולל קריאות מודל, עלויות חיפוש וכלי עבודה, תשתית, פיקוח אנושי, תיקון שגיאות ונזקים פוטנציאליים. רק ניתוח מקיף זה מגלה האם סול או לונה הם חסכוניים יותר.

ההתקפה של OpenAI על Anthropic ממוקדת

ההכרזה משווה לעתים קרובות את סול ולונה למודלים של אנתרופיק. זה לא צירוף מקרים. קלוד נחשב לספק חזק לתכנות, הקשרים ארוכים ועבודת ידע תובענית בחברות ובצוותי פיתוח רבים. לכן, OpenAI לא מכוונת רק לביצועי שיא מופשטים, אלא גם לתחומי היישום שבהם אנתרופיק ביססה מעמד אמין בשוק.

הפרש המחירים ברור. מחיר ה-GPT-6 Sol הוא שני דולרים אמריקאים לקנייה ועשרה דולרים אמריקאים להנפקה עבור מיליון טוקנים. מחיר ה-Claude Opus 5 הוא חמישה ו-25 דולרים אמריקאים בהתאמה, ו-Claude Fable 5.1 הוא עשרה ו-50 דולרים אמריקאים בהתאמה. על הנייר, Sol עולה, אם כן, ב-60 אחוז פחות מ-Opus 5 וב-80 אחוז פחות מ-Fable 5.1. GPT-6 Luna מוריד עוד יותר את המחירים הללו.

החלק המכריע במסר, עם זאת, אינו "זול יותר לכל טוקן", אלא "זול יותר לכל משימה". OpenAI מנסה להדגים שהמודלים שלה נשארים חסכוניים יותר גם כאשר לוקחים בחשבון עוצמת חישוב שונה, אורך תגובה ושימוש בכלים שונים. זו בדיוק הסיבה שהחברה מפרסמת עלויות לכל משימה ב-AutomationBench, DeepSWE ו-OSWorld. מדד זה משמעותי באופן מהותי יותר ממחיר המחירון בלבד.

אף על פי כן, ההשוואות אינן ניטרליות לחלוטין. OpenAI מבצעת את הניתוחים בסביבת המחקר שלה או באמצעות API משלה. חלק מנתוני המתחרים נלקחים מדוחות זמינים לציבור, ונתונים עבור Claude Fable 5 משמשים כאשר נתונים עבור Fable 5.1 אינם זמינים. יתר על כן, ניתוח העלויות עבור AutomationBench עם Fable 5.1 אינו שלם מכיוון שהסתמכות על Opus 5 לא נכללה בכ-40 אחוז מהמשימות. זה הופך את ההשוואה לטובה יותר עבור Anthropic, אך גם מדגים עד כמה קשה להשיג מדידה סטנדרטית לחלוטין.

מדדי יצרן מספקים ראיות, אך לא שיפוטים

מדדי ביצועים נחוצים למדידת התקדמות. עם זאת, הם אינם מספקים ציון כולל אובייקטיבי. התוצאות תלויות בגרסת הבדיקה, בהגדרות המערכת, בכלים, בתקציב המחשוב, במספר הניסויים ובשיטות ההערכה. אפילו הגדרת עוצמת חישוב שונה יכולה לשנות באופן משמעותי את הערך והעלויות. כאשר משווים מודלים עם תקציבים שונים, הבדל ניכר באיכות עשוי להיות פשוט תוצאה של מאמץ חישובי נוסף.

לגבי GPT-6, חשוב גם לציין שרבות מההצהרות המרכזיות מקורן בפרסום של OpenAI עצמה. לחברה יש ידע מפורט על המודלים שלה, אך יש לה גם עניין במכירות. לכן, יש להתייחס ברצינות לתוצאות המדווחות, אך יש להשלים אותן על ידי בדיקות עצמאיות. הבדלים קטנים במיוחד, כמו 1.1 נקודות האחוז בין Sol ל- Claude Fable 5 ב- DeepSWE, עשויים ליפול במסגרת מרווח טעות מעשי.

אפילו ציון גבוה במבחן אינו מבטיח ביצועים טובים בארגון ספציפי. מסמכים פנימיים, טרמינולוגיה מיוחדת, תוכנה מיושנת, כללי תאימות ספציפיים ונתונים לא עקביים - כולם יכולים להשפיע לרעה על התוצאות. לעומת זאת, מודל עשוי לבצע ביצועים טובים יותר בתהליך מוגדר היטב ומתועד היטב מאשר במבחן כללי.

לכן, שיטת הרכש החזקה ביותר היא מערך הערכה ייעודי המבוסס על משימות מהעולם האמיתי. הוא צריך לכלול מקרים סטנדרטיים נפוצים, מקרי קצה מאתגרים ומצבים מסוכנים במכוון. המדידות צריכות לכלול לא רק דיוק ועלות, אלא גם זמן עיבוד, יציבות, עקיבות והתערבות אנושית הכרחית. שינוי מודל מוצדק כלכלית רק אם הערכה זו מדגימה יתרון מהותי.

שפה ברורה יותר מפחיתה את עלויות התהליך העקיפות

OpenAI מבטיח לא רק שיפורים טכניים אלא גם סגנון תקשורת ברור יותר. סול ולונה נועדו להשתמש בפחות ז'רגון, פחות ניסוחים יוצאי דופן ופחות פרטים לא רלוונטיים. התשובות צריכות להיות קצרות במקצת מבלי לאבד תוכן. שינוי זה אולי נשמע בתחילה קוסמטי, אך עלולות להיות לו השלכות כלכליות משמעותיות.

תשובות לא ברורות מובילות לשאלות המשך, פרשנויות שגויות ומאמץ עיבוד נוסף. בפיתוח תוכנה, תיאור מעורפל יכול לטשטש את מה שנבדק בפועל. בתקשורת עם לקוחות, ז'רגון טכני מיותר יכול לפגוע בבהירות. בניתוחים, קטעים ארוכים אך נטולי תוכן יכולים להגביר את מאמץ הבדיקה. לכן, תקשורת מדויקת ותמציתית לא רק משפרת את חוויית המשתמש אלא גם מפחיתה את עלויות התהליך.

יחד עם זאת, הסגנון נותר סובייקטיבי. תשובות קצרות יותר אינן בהכרח טובות יותר. עבור נושאים משפטיים, טכניים או קריטיים לאבטחה, ייתכן שיהיה צורך בהסבר מפורט. לכן, חברות צריכות להגדיר את ההנחיות שלהן למבנה, לטון, לרמת הפירוט ולתיוג אי-ודאות. איכות התקשורת נובעת מהאינטראקציה בין המודל, הוראות המערכת ובקרת האיכות.

שיפור נוסף נוגע לכנות לגבי פעולות שבוצעו. OpenAI מדווחת על שיעורים נמוכים יותר של הצהרות מטעות לגבי משימות תכנות שהושלמו. זה קריטי עבור סוכנים. מערכת שטוענת שהריצה בדיקות או בדקה קבצים כשלא עשתה זאת יוצרת תחושת ביטחון מסוכנת. שיפורים בתחום זה חשובים יותר מאשר ליטוש סגנוני בלבד.

בטיחות ואחריות נותרות מחוץ לתג המחיר

OpenAI מסבירה כי Sol ו-Luna השתפרו מבחינת יישור ואבטחה בהשוואה לקודמיהם ב-GPT 5.6. זה כולל בדיקות לאיתור מידע מטעה במשימות תכנות, עקיפת אזהרות ואינטראקציות לא מורשות. בדיקות אלו הן קשות במכוון ואינן מייצגות שימוש טיפוסי. במקום זאת, הן מדגימות כיצד מודלים מתנהגים בתנאים בעייתיים.

עבור חברות, ציון אבטחה גבוה יותר אינו אומר שניתן לוותר על אמצעי הגנה טכניים וארגוניים. מודלים דורשים זכויות מוגדרות בבירור, סביבות פיתוח וייצור נפרדות, רישום, בקרות גישה ואישורים לפעולות רגישות. כאשר מתמודדים עם נתונים אישיים, יש לקחת בחשבון גם הגנת נתונים, מדיניות שמירה ועיבוד אזורי. במגזרים מוסדרים, יש לעקוב אחר התוצאות ולהגדיר בבירור את האחריות.

באופן פרדוקסלי, המחירים הנמוכים עלולים ליצור סיכונים חדשים. אם לונה תהפוך לזולה כל כך עד שמיליוני החלטות אוטומטיות יהיו אפשריות, היקף השגיאה השיטתית יגדל. מסווג פגום, כלל פגום או מערך נתונים מעוות עלולים להשפיע על מספר גדול מאוד של מקרים. העלות לשאילתה יורדת, אך הנזק הכולל הפוטנציאלי גדל עם הנפח.

לכן, חברות לא צריכות לקצץ בתקציבי אבטחה ואיכות באופן פרופורציונלי למחירי האסימונים. להיפך: ככל שמודל גדל, כך מנגנוני הניטור, הדגימה והסגירה הופכים חשובים יותר. גידול כלכלי ללא ממשל אינו יעיל, אלא מהווה הזזת עלויות לעתיד.

החידוש האמיתי טמון בתזמור המודל

סול ולונה מציעות ארכיטקטורה רב-שכבתית. לונה יכולה להתמודד עם כמויות גדולות של משימות פשוטות ובמקביל להעריך האם מקרה מסוים אינו בטוח או יוצא דופן. סול מטפל בחריגים מורכבים יותר. אסטרה נשארת שמורה למשימות קשות במיוחד או קריטיות לעסקים. בנוסף, כללים יכולים להגדיר מתי נדרשת התערבות אנושית.

מפל כזה משלב עלויות ממוצעות נמוכות עם ביצועי שיא גבוהים. עם זאת, הצלחתו תלויה בלוגיקת הניתוב. אם לונה לא מצליחה לזהות מקרים קשים, מתעוררות בעיות איכות. אם יותר מדי מקרים מנותבים מראש לסול או אסטרה, יתרון העלות נעלם. סיווג קושי המשימה הופך אפוא לפונקציית ליבה של בינה מלאכותית בפני עצמה.

ניתן גם לשלב ספקים שונים. חברה אינה חייבת להתחייב לחלוטין ל-OpenAI או Anthropic. היא יכולה להפיץ מודלים על סמך משימה, אזור, זמינות ומחיר. גישה מרובת ספקים כזו מפחיתה תלות ומגבירה את האמינות. עם זאת, היא גם יוצרת מאמץ נוסף של אינטגרציה ובדיקה מכיוון שלמודלים יש ממשקים, פורמטים של כלים והתנהגויות שונים.

בטווח הארוך, סביר להניח שהתחרות לא תוכרע אך ורק בין מודלים בודדים. פלטפורמות שמנתבות באופן אוטומטי בקשות, מנטרות עלויות, מודדות איכות ומחליפות מודלים לפי הצורך יהיו קריטיות. סול ולונה מגדילות את היתרונות של מערכות כאלה מכיוון שהפרשי המחירים בין הרמות גדולים מספיק כדי להפוך את ההפצה החכמה לאטרקטיבית כלכלית.

הזוכים והמפסידים בסבב הפרסים החדש

בין הזוכים המיידיים נמצאים מפתחי יישומי בינה מלאכותית בעלי נפחי שימוש גבוהים. שירותים לעיבוד מסמכים, תמיכה, פיתוח תוכנה, ניקוי נתונים ומחקר יכולים להפחית משמעותית את העלויות המשתנות שלהם. סטארט-אפים מרוויחים מכך מכיוון שהם יכולים לבצע יותר ניסויים עם פחות הון. חברות בינוניות מקבלות גישה ליכולות שהיו בעבר בנות קיימא רק עם תקציבים גדולים יותר.

גם משתמשי תוכנה ייעודית עשויים להרוויח. אם ספקים יעבירו עלויות נמוכות יותר של המודל, ניתן יהיה לשלב תכונות בינה מלאכותית במנויים קיימים מבלי להעלות את המחירים באופן משמעותי. עם זאת, סביר יותר שחלק מהחיסכון יישאר אצל ספקי התוכנה כשולי רווח. התחרות תקבע כמה מזה יגיע בפועל ללקוח.

ספקים שמודל העסקי שלהם מסתמך בעיקר על מכירת גישה יקרה למודל נמצאים תחת לחץ. ככל שהטכנולוגיה הבסיסית הופכת זולה וחזקה יותר, הערך של ממשקי משתמש פשוטים ופונקציות תוספות הניתנות להחלפה פוחת. בידול בר-קיימא נובע אז מנתונים קנייניים, אינטגרציה עמוקה של תהליכים, ידע בתעשייה, אבטחה ותוצאות ניתנות להוכחה.

ספקי מודלים אחרים של Anthropic עומדים גם הם בפני החלטה אסטרטגית. הם יכולים להוריד מחירים, להרחיב את יכולות הליבה שלהם, או להדגיש יתרונות מסוימים באבטחה, שימושיות ופריסה ארגונית. תחרות מחירים טהורה מעדיפה ספקים עם תשתית גדולה, ניצול גבוה וגישה להון. מעבדות קטנות יותר יכולות להתמקד יותר במודלים פתוחים, נישות ייעודיות או פריסה ריבונית.

מה חברות צריכות לבדוק במיוחד עכשיו

המשימה הראשונה היא לפרק את עלויות הבינה המלאכותית הקיימות לפי תהליך ולא לפי מודל. חברות זקוקות לשקיפות לגבי כמות אסימוני הקלט, הפלט וה-buffer שתהליך שלם צורך. בנוסף, יש לעקוב אחר קריאות לכלי עבודה, חזרות וזמן סקירה אנושי. ללא נתונים אלה, לא ניתן לקבוע באופן מהימן את היתרונות הכלכליים של המעבר.

לאחר מכן, יש לבצע בדיקות השוואה בעולם האמיתי בין המודל הקודם, GPT-6 Sol, לבין GPT-6 Luna. Luna היא המועמדת הטבעית לנפחים גבוהים ומשימות מובנות בבירור. Sol מתאימה לניתוחים מורכבים, תהליכים ארוכים יותר ויישומי תוכנה תובעניים. עבור משימות קשות במיוחד, מודל מהשורה הראשונה עדיין יכול להיות חסכוני אם הוא נמנע מחזרות ושגיאות.

הגירה חפוזה ומלאה לא תהיה חכמה. מודלים חדשים, למרות ביצועים ממוצעים גבוהים יותר, עשויים להיות בעלי פרופילי שגיאה שונים. פלטים עשויים להשתנות בפורמט, באורך או בטון, ובכך לשבש מערכות במורד הזרם. יישום מדורג עם ביצוע מקביל, בדיקות איכות אוטומטיות ואפשרויות גיבוי ברורות הוא מומלץ.

חוזים וארכיטקטורה טכנית צריכים גם הם להקל על החלפת מודלים. תכונות ספציפיות לספקים עשויות להיות נוחות בטווח הקצר, אך להגדיל את עלויות המעבר בהמשך. פורמטים סטנדרטיים של נתונים, לוגיקת הערכה נפרדת ורישום מרכזי מסייעים בבדיקת מודלים חדשים מהר יותר. בשוק עם מחירים יורדים ומחזורי ייצור קצרים, נכונות לעבור הופכת ליתרון תחרותי.

צעד קדימה עם משמעות מפוכחת

מודלים GPT-6 Sol ו-Luna אינם הוכחה לכך שבינה מלאכותית היא כיום נטולת שגיאות, אוטונומית או ניתנת ליישום אוניברסלית. שיעורי ההצלחה שפורסמו עדיין חושפים פערים משמעותיים. אפילו מודלים חזקים נכשלים באופן קבוע בבדיקות מקצועיות וטכניות תובעניות. לכן, מודלים אלה אינם מחליפים את הצורך בתהליכים ברורים, נתונים טובים ופיקוח אחראי.

המשמעות הכלכלית שלהם טמונה במקום אחר. OpenAI מורידה את מחיר הבינה המלאכותית המתקדמת בצורה כה דרסטית, עד שיישומים חדשים הופכים לרווחיים וניתן להשתמש במערכות קיימות בתדירות גבוהה יותר. Sol מביאה יכולות סוכניות וטכניות עוצמתיות לנקודת מחיר נמוכה משמעותית. Luna מייצרת כמויות גדולות של משימות פשוטות עד בינוניות כמעט כמו שירות תשתית לשוק המוני.

המדד החשוב ביותר כאן אינו המחיר למיליון טוקנים, וגם לא ערך ייחוס יחיד. מה שחשוב הוא המחיר של בעיה עסקית שנפתרה בצורה אמינה. נראה שסול ולונה משפרות משמעותית את הקשר הזה, אך יש לאמת את נתוני הספקים בסביבות עסקיות אמיתיות. אלו שקונים פשוט טוקנים זולים יותר עלולים בסופו של דבר להוציא יותר. לעומת זאת, אלו המשתמשים במודלים באופן אסטרטגי, שומרים במטמון הקשר חוזר ומודדים איכות באופן שיטתי יכולים להשיג קפיצה אמיתית בפריון.

לפיכך, סול ולונה מסמנות פחות את סוף המרוץ הטכנולוגי ויותר את תחילתה של תחרות כלכלית עזה יותר. בינה מלאכותית הופכת זולה יותר, אך השימוש המוצלח בה נותר מאתגר. היתרון עובר מחברות עם גישה למודל יחיד וחזק לאלו שיכולות לתזמר במדויק מודלים רבים, להבין את עלויותיהם ולנהל באופן עקבי את שגיאותיהן. זוהי בדיוק הפרובוקציה האמיתית של פרסום זה: לא בינה מלאכותית הופכת נדירה, אלא היכולת לארגן אותה בצורה כלכלית בת קיימא.

הפתרון הכמעט-פנים-ארגוני: כיצד Xpert.Digital סוגרת פערים תפעוליים בשיווק ומכירות B2B – עסק חכם מונחה תוכן - תמונה: Xpert.Digital

Xpert.Digital הוא מרכז תעשייתי B2B מונחה נתונים בראשות Konrad Wolfenstein . החברה משמשת כפתרון חיצוני, מעין פנימי, עבור שותפים תעשייתיים, וסוגרת פערים תפעוליים בשיווק, תוכן ומכירות - מבלי לדרוש משאבים נוספים מצד הלקוח.

מידע נוסף כאן:

• הפתרון הכמעט-פנים-ארגוני: כיצד Xpert.Digital סוגרת פערים תפעוליים בשיווק ומכירות B2B – עסקים חכמים מונעי תוכן

☑️ שפת העסקים שלנו היא אנגלית או גרמנית

☑️ חדש: התכתבות בשפת האם שלך!

Konrad Wolfenstein

אני והצוות שלי שמחים לעמוד לרשותכם כיועצים האישיים שלכם.

ניתן ליצור איתי קשר על ידי מילוי טופס יצירת הקשר כאן [email protected]:או פשוט להתקשר אליי למספר 49 7348 4088 965+. כתובת הדוא"ל שלי היא

אני מצפה בקוצר רוח לפרויקט המשותף שלנו.

☑️ תמיכה לעסקים קטנים ובינוניים באסטרטגיה, ייעוץ, תכנון ויישום

☑️ יצירה או התאמה מחדש של האסטרטגיה הדיגיטלית והדיגיטציה

☑️ הרחבה ואופטימיזציה של תהליכי מכירה בינלאומיים

☑️ פלטפורמות מסחר B2B גלובליות ודיגיטליות

☑️ פיתוח עסקי חלוצי / שיווק / יחסי ציבור / ירידי סחר