בינה מלאכותית בעיתונות פיננסית: בלומברג מתמודדת עם סיכומים פגומים של בינה מלאכותית

האם יישומי בינה מלאכותית מתאימים לשימוש יומיומי? ההתחלה המהומה של בלומברג עם סיכומים אוטומטיים

שילוב הבינה המלאכותית בעיתונות מציב בפני חברות מדיה אתגרים מורכבים, כפי שמדגים המקרה האחרון של בלומברג. שירות החדשות הפיננסי התנסה בתקצירים שנוצרו על ידי בינה מלאכותית עבור כתבותיו מאז ינואר 2025, אך כבר נאלץ לתקן לפחות 36 סיכומים שגויים. מצב זה מדגיש את הקשיים ביישום מערכות בינה מלאכותית בתהליכי עריכה, במיוחד בכל הנוגע לדיוק, אמינות ואמון בתוכן אוטומטי. הסעיפים הבאים בוחנים את הבעיות הספציפיות בבלומברג, מציבים אותן בהקשר של אתגרי בינה מלאכותית כלליים ודנים בפתרונות פוטנציאליים לשילוב מוצלח של בינה מלאכותית בעיתונות.

קשור לזה:

• בינה מלאכותית אמינה: הקלף המנצח של אירופה וההזדמנות לקחת תפקיד מוביל בבינה מלאכותית

הכניסה הבעייתית של בלומברג לתוכן שנוצר על ידי בינה מלאכותית

הנטייה לשגיאות של סיכומים של בינה מלאכותית

בלומברג, חברת חדשות פיננסיות גלובלית מובילה, החלה להשתמש בנקודות תבליט שנוצרו על ידי בינה מלאכותית כסיכומים בתחילת כתבותיה בתחילת 2025. עם זאת, מאז השקת התוכן ב-15 בינואר, החברה נאלצה לתקן לפחות שלושה תריסר מהסיכומים האוטומטיים הללו, דבר המצביע על בעיות משמעותיות בדיוק התוכן שנוצר על ידי בינה מלאכותית. בעיות אלו מדאיגות במיוחד עבור חברה כמו בלומברג, הידועה בדיווחים הפיננסיים המדויקים שלה, ומידע שלה יכול לעתים קרובות להשפיע ישירות על החלטות השקעה. הצורך בתיקונים רבים מערער את האמון באמינותה של טכנולוגיה חדשה זו ומעלה שאלות לגבי הטמעה בטרם עת של מערכות בינה מלאכותית בעיתונות.

טעות משמעותית במיוחד התרחשה כאשר בלומברג דיווח על מכסי הרכב המתוכננים של הנשיא טראמפ. בעוד שהמאמר המקורי קבע בצדק שטראמפ עשוי להכריז על המכסים באותו יום, הסיכום שנוצר על ידי בינה מלאכותית הכיל מידע שגוי לגבי עיתוי של צעד מכסים רחב יותר. במקרה אחר, סיכום של בינה מלאכותית טען בטעות כי הנשיא טראמפ יטיל מכסים על קנדה כבר בשנת 2024. טעויות כאלה מדגימות את המגבלות של בינה מלאכותית בפירוש חדשות מורכבות ואת הסיכונים הכרוכים בפרסום תוכן אוטומטי ולא מאומת.

בנוסף לתאריכים שגויים, השגיאות כללו גם נתונים לא מדויקים וייחוסים שגויים של פעולות או הצהרות לאנשים או לארגונים. שגיאות מסוג זה, המכונות לעתים קרובות "הזיות", מציבות אתגר מיוחד עבור מערכות בינה מלאכותית משום שהן יכולות להישמע סבירות ולכן קשה לאתר אותן ללא בדיקה אנושית יסודית. תדירותן של שגיאות אלו בבלומברג מדגישה את הצורך בתהליכי בדיקה חזקים ומעלה שאלות לגבי בגרותה של טכנולוגיית הבינה המלאכותית בה נעשה שימוש.

תגובת בלומברג לבעיות הבינה המלאכותית

בהצהרה רשמית, הדגישה בלומברג כי 99 אחוזים מהסיכומים שלה, שנוצרו על ידי בינה מלאכותית, עומדים בתקני העריכה. החברה מצהירה שהיא מפרסמת אלפי מאמרים מדי יום ולכן מחשיבה את שיעור השגיאות כנמוך יחסית. בלומברג אומרת שהיא מעריכה שקיפות ומתקנת או מעדכנת מאמרים לפי הצורך. כמו כן, היא הדגישה כי לעיתונאים יש שליטה מלאה על פרסום סיכום שנוצר על ידי בינה מלאכותית.

במאמר שפורסם ב-10 בינואר, המבוסס על הרצאה בסיטי סנט ג'ורג', אוניברסיטת לונדון, תיאר ג'ון מיקלטווייט, העורך הראשי של בלומברג, את הסיבות לתקצירים מבוססי בינה מלאכותית. הוא הסביר שלקוחות מעריכים אותם משום שהם יכולים להבין במהירות את תמצית הסיפור, בעוד שעיתונאים סקפטיים יותר. הוא הודה כי כתבים חוששים שקוראים עלולים להסתמך אך ורק על התקצירים ולהזניח את הסיפור המרכזי. אף על פי כן, מיקלטווייט הדגיש כי ערכו של סיכום מבוסס בינה מלאכותית תלוי לחלוטין באיכות הסיפור הבסיסי - ולשם כך, מומחיות אנושית נותרה קריטית.

דובר בלומברג אמר לניו יורק טיימס כי המשוב על הסיכומים היה חיובי באופן כללי וכי החברה ממשיכה לעבוד על שיפור חוויית המשתמש. הצהרה זו מרמזת כי למרות הבעיות שנתקלו בהן, בלומברג מתכוונת לדבוק באסטרטגיה שלה של שימוש בבינה מלאכותית עבור סיכומים, אך עם דגש רב יותר על אבטחת איכות ושיפור הטכנולוגיה בה נעשה שימוש.

בינה מלאכותית בעיתונות: נושא רלוונטי לכלל התעשייה

ניסיון של חברות מדיה אחרות עם בינה מלאכותית

בלומברג אינה חברת המדיה היחידה המתנסה בשילוב בינה מלאכותית בתהליכים העיתונאיים שלה. גופי חדשות רבים מנסים להבין כיצד לשלב בצורה הטובה ביותר את הטכנולוגיה החדשה הזו בדיווח ובעבודת העריכה שלהם. רשת העיתונים גאנט משתמשת בסיכומים דומים שנוצרו על ידי בינה מלאכותית עבור כתבותיה, והוושינגטון פוסט פיתח כלי בשם "שאל את הפוסט" שמייצר תשובות לשאלות ממאמרים שפורסמו בפוסט. אימוץ נרחב זה מדגים את העניין המשמעותי של תעשיית המדיה בטכנולוגיות בינה מלאכותית, למרות הסיכונים והאתגרים הנלווים.

גם חברות מדיה אחרות נתקלו בבעיות עם כלי בינה מלאכותית. בתחילת מרץ, הלוס אנג'לס טיימס הסיר את כלי הבינה המלאכותית שלו ממאמר דעה לאחר שהטכנולוגיה תיארה את הקו קלוקס קלאן כמשהו שאינו ארגון גזעני. תקרית זו ממחישה כי האתגרים העומדים בפני בלומברג אינם בודדים אלא סימפטומטיים לבעיות רחבות יותר בשילוב בינה מלאכותית בעיתונות. מתגלה דפוס שבו הטכנולוגיה עדיין אינה בוגרת מספיק כדי לתפקד באופן אמין ללא פיקוח אנושי, במיוחד כאשר עוסקים בנושאים רגישים או מורכבים.

דוגמאות אלה ממחישות את המתח בין הרצון לחדשנות ויעילות באמצעות בינה מלאכותית מצד אחד, לבין הצורך לשמור על סטנדרטים עיתונאיים ודיוק מצד שני. חברות מדיה חייבות לבצע פעולת איזון: הן רוצות ליהנות מיתרונות הבינה המלאכותית מבלי לסכן את אמון קהל הקוראים שלהן או להתפשר על עקרונות עיתונאיים בסיסיים. ניסיונם של בלומברג וארגוני חדשות אחרים משמשים שיעורים חשובים עבור התעשייה כולה לגבי ההזדמנויות והמגבלות של בינה מלאכותית בעיתונות.

קשור לזה:

• אחת הסיבות לשימוש ההסס בבינה מלאכותית: 68% ממנהלי משאבי אנוש מתלוננים על חוסר ידע בתחום הבינה המלאכותית בחברות

האתגר המיוחד בעיתונות פיננסית

במגזר הפיננסי, שבו בלומברג פועלת כאחד משירותי החדשות המובילים, הדרישות לדיוק ולאמינות גבוהות במיוחד. להשפעתו של מידע כוזב יכולות להיות השלכות כלכליות משמעותיות, שכן משקיעים ומומחים פיננסיים מבססים את החלטותיהם על חדשות אלו. אחריות ספציפית זו הופכת את שילוב טכנולוגיות בינה מלאכותית בעיתונות פיננסית לאתגר גדול אף יותר מאשר בתחומי דיווח אחרים.

מעניין לציין, ש"הבינה המלאכותית הכללית" עלתה על הבינה המלאכותית הייעודית של בלומברג דווקא בתחום שלה: ניתוח דוחות כספיים. בלומברג השקיעה, על פי הדיווחים, לפחות 2.5 מיליון דולר בפיתוח בינה מלאכותית פיננסית משלה, אך פחות משנה לאחר השקתה בסוף מרץ 2023, התברר שמודלים של בינה מלאכותית למטרות כלליות כמו ChatGPT ו-GPT-4 הניבו תוצאות טובות יותר בתחום זה. זה ממחיש את קצב הפיתוח המהיר של בינה מלאכותית ואת הקושי של חברות לעמוד בקצב הפתרונות הייעודיים ככל שמודלים למטרות כלליות הופכים חזקים יותר ויותר.

תהנו מהמומחיות הנרחבת והחד-פעמית של Xpert.Digital בחבילת שירותים מקיפה | מחקר ופיתוח, XR, יחסי ציבור ואופטימיזציה של נראות דיגיטלית - תמונה: Xpert.Digital

ל-Xpert.Digital ידע מעמיק במגוון תעשיות. זה מאפשר לנו לפתח אסטרטגיות מותאמות אישית, המותאמות בדיוק לדרישות ולאתגרים של פלח השוק הספציפי שלכם. על ידי ניתוח מתמיד של מגמות שוק וניטור התפתחויות בתעשייה, אנו יכולים לפעול באופן פרואקטיבי ולהציע פתרונות חדשניים. השילוב של ניסיון ומומחיות מייצר ערך מוסף ומספק ללקוחותינו יתרון תחרותי מכריע.

מידע נוסף כאן:

• תיהנו מ-5 תחומי המומחיות של Xpert.Digital בחבילה אחת – החל מ-500 אירו לחודש בלבד

אתגרים בסיסיים של בינה מלאכותית גנרטיבית

בעיית ההזיות במודלים של בינה מלאכותית

אחד האתגרים הבסיסיים ביותר במערכות בינה מלאכותית, שמודגש גם בסיכומים של בלומברג, הוא בעיית ה"הזיות" - הנטייה של מודלים של בינה מלאכותית לייצר מידע שנשמע אמין אך שגוי עובדתית. בעיה זו מתעוררת כאשר מערכות בינה מלאכותית מייצרות תוכן שחורג מהמידע שסופק להן או כאשר הן מפרשות נתונים באופן שגוי. הזיות כאלה בעייתיות במיוחד בעיתונות, שבה דיוק ואמינות עובדתיים הם בעלי חשיבות עליונה.

הבעיות שחווה בלומברג הן בדיוק הזיות כאלה: הבינה המלאכותית "המציאה" תאריכים כמו תאריך יישום מכסי הרכב של טראמפ או טענה כוזבת שטראמפ כבר הטיל מכסים על קנדה בשנת 2024. טעויות מסוג זה מדגישות את המגבלות של טכנולוגיית הבינה המלאכותית הנוכחית, במיוחד בכל הנוגע לפרשנות מדויקת של מידע מורכב.

מומחים מציינים כי הזיות יכולות להיגרם על ידי גורמים שונים, כולל אופן קידוד הנחיות אימון וטקסטים. מודלים של שפה גדולה (LLMs) מקשרים מושגים לסדרת מספרים, המכונים קידודי וקטור. עבור מילים דו-משמעיות כמו "בנק" (שיכולות להתייחס הן למוסד פיננסי והן למושב), ייתכן קידוד אחד לכל משמעות כדי למנוע עמימות. כל שגיאה בקידוד ובפענוח של ייצוגים וטקסטים עלולה לגרום לבינה המלאכותית הגנרטיבית להזות.

שקיפות ומעקב אחר החלטות בינה מלאכותית

בעיה מהותית נוספת במערכות בינה מלאכותית היא חוסר השקיפות והיעדר המעקב אחר תהליכי קבלת ההחלטות שלהן. עם חלק משיטות הבינה המלאכותית, לא ניתן עוד להבין כיצד נוצרת תחזית או תוצאה מסוימת, או מדוע מערכת בינה מלאכותית הגיעה לתשובה ספציפית לשאלה נתונה. חוסר שקיפות זה, המכונה לעתים קרובות "בעיית הקופסה השחורה", מקשה על זיהוי ותיקון שגיאות לפני שהן מתפרסמות.

עקיבות חשובה במיוחד בתחומים כמו עיתונות, שבהם החלטות לגבי תוכן צריכות להיות שקופות ומוצדקות. אם בלומברג וחברות מדיה אחרות לא יוכלו להבין מדוע הבינה המלאכותית שלהן מייצרת סיכומים שגויים, יהיה קשה ליישם שיפורים מערכתיים. במקום זאת, הן יהיו תלויות בתיקונים תגובתיים לאחר שכבר התרחשו שגיאות.

אתגר זה מזוהה כמשמעותי גם על ידי מומחים מהעולם העסקי והאקדמי. למרות שמדובר בעיקר באתגר טכני, הוא עלול להוביל גם לתוצאות בעייתיות מנקודת מבט חברתית או משפטית בתחומי יישום מסוימים. במקרה של בלומברג, הדבר עלול להוביל לאובדן אמון הקוראים, או בתרחיש הגרוע ביותר, לקבלת החלטות פיננסיות המבוססות על מידע לא מדויק.

תלות באיכות ובהיקף הנתונים

יתר על כן, יישומים מבוססי בינה מלאכותית תלויים באיכות הנתונים והאלגוריתמים. בהתחשב בגודל ובמורכבות הנתונים בהם נעשה שימוש, שגיאות שיטתיות בנתונים או באלגוריתמים לעיתים קרובות אינן מתגלות. זהו אתגר מהותי נוסף שבלומברג וחברות אחרות חייבות להתגבר עליו בעת יישום מערכות בינה מלאכותית.

הבעיה עם נפח הנתונים - בינה מלאכותית יכולה להתחשב באמת רק ב"חלונות הקשר" קטנים יחסית בעת עיבוד פקודות או הנחיות - הצטמצמה במידה ניכרת בשנים האחרונות, אך נותרה אתגר. מודל הבינה המלאכותית של גוגל, "Gemini 1.5 Pro 1M", כבר יכול לעבד הנחיה של 700,000 מילים או שעה של וידאו - יותר משבע פעמים ממודל ה-GPT הטוב ביותר כיום מ-OpenAI. אף על פי כן, בדיקות מראות שבעוד שבינה מלאכותית יכולה לחפש נתונים, היא מתקשה לתפוס את הקשרים בתוכם.

קשור לזה:

• הפחתת עלויות ואופטימיזציה של יעילות הם עקרונות כלכליים דומיננטיים - סיכון בינה מלאכותית ובחירת מודל בינה מלאכותית נכון

פתרונות ופיתוחים עתידיים

ניטור אנושי ותהליכי עריכה

פתרון ברור אחד לבעיות שחוותה בלומברג הוא פיקוח אנושי מוגבר על תוכן שנוצר על ידי בינה מלאכותית. בלומברג כבר הדגישה כי לעיתונאים יש שליטה מלאה על פרסום סיכום שנוצר על ידי בינה מלאכותית. עם זאת, יש להפעיל שליטה זו ביעילות, מה שאומר שעורכים חייבים לקבל מספיק זמן כדי לעיין בסיכומים שנוצרו על ידי בינה מלאכותית לפני פרסומם.

יישום תהליכי עריכה חזקים לסקירת תוכן שנוצר על ידי בינה מלאכותית הוא קריטי למזעור שגיאות. הדבר יכול לכלול דרישה שכל תקצירי הבינה המלאכותית ייבדקו על ידי עורך אנושי אחד לפחות לפני הפרסום, או בדיקות יסודיות במיוחד של סוגים מסוימים של מידע (כגון נתונים, מספרים או ייחוסים). בעוד שתהליכים כאלה מגדילים את עומס העבודה ובכך מפחיתים חלק מרווחי היעילות מבינה מלאכותית, הם נחוצים לשמירה על דיוק ואמינות.

שיפורים טכניים במודלים של בינה מלאכותית

הפיתוח הטכנולוגי המתמשך של מודלים של בינה מלאכותית עצמם הוא גישה חשובה נוספת לפתרון בעיות עכשוויות. הזיות כבר פחתו משמעותית עם GPT-4 בהשוואה לקודמו, GPT-3.5. המודל האחרון של Anthropic, "Claude 3 Opus", מראה אפילו פחות הזיות בבדיקות ראשוניות. שיעור השגיאות של מודלי דיבור אמור להיות בקרוב נמוך מזה של האדם הממוצע. אף על פי כן, בניגוד למה שאנו רגילים אליו ממחשבים, מודלי דיבור של בינה מלאכותית כנראה לא יהיו נקיים משגיאות בעתיד הנראה לעין.

גישה טכנית מבטיחה היא "תערובת המומחים": גישה זו כרוכה בחיבור מספר מודלים קטנים ומתמחים לרשת שערים. הקלט למערכת מנותח על ידי השער ולאחר מכן, במידת הצורך, מועבר למומחה אחד או יותר. לבסוף, התשובות משולבות לתשובה אחת ומקיפה. זה מונע את הצורך להפעיל תמיד את המודל כולו על כל מורכבותו. סוג זה של ארכיטקטורה עשוי לשפר את הדיוק על ידי שימוש במודלים מתמחים עבור סוגים ספציפיים של מידע או תחומים.

ציפיות ריאליות ותקשורת שקופה

לבסוף, חשוב שיהיו ציפיות ריאליות ממערכות בינה מלאכותית ולתקשר בשקיפות לגבי יכולותיהן ומגבלותיהן. מערכות בינה מלאכותית כיום מוגדרות במיוחד עבור הקשר יישום מסוים ואינן ניתנות להשוואה בשום אופן לבינה אנושית. הבנה זו צריכה להנחות את יישום הבינה המלאכותית בעיתונות ובתחומים אחרים.

בלומברג וחברות מדיה אחרות צריכות לתקשר בשקיפות לגבי השימוש שלהן בבינה מלאכותית ולהבהיר שתוכן שנוצר על ידי בינה מלאכותית יכול להיות פגום. ניתן להשיג זאת באמצעות תיוג מפורש של תוכן שנוצר על ידי בינה מלאכותית, תהליכי תיקון שגיאות שקופים ותקשורת פתוחה לגבי מגבלות הטכנולוגיה בה נעשה שימוש. שקיפות כזו יכולה לסייע בשמירה על אמון הקוראים, גם כאשר מתרחשות שגיאות.

מדוע שילוב בינה מלאכותית בעיתונות נכשל ללא בני אדם

הניסיון של בלומברג עם תקצירים שנוצרו על ידי בינה מלאכותית מדגיש את האתגרים המורכבים של שילוב בינה מלאכותית בעיתונות. לפחות 36 השגיאות שנדרשו תיקון מאז ינואר מראות שלמרות הפוטנציאל שלה, הטכנולוגיה עדיין לא בוגרת מספיק כדי שניתן יהיה להשתמש בה באופן אמין ללא פיקוח אנושי יסודי. הבעיות העומדות בפני בלומברג אינן ייחודיות, אלא משקפות אתגרים מהותיים של בינה מלאכותית, כגון הזיות, חוסר שקיפות והסתמכות על נתונים באיכות גבוהה.

שילוב מוצלח של בינה מלאכותית בעיתונות דורש מספר גישות: תהליכי עריכה חזקים לסקירת תוכן שנוצר על ידי בינה מלאכותית, שיפורים טכניים מתמשכים במודלי הבינה המלאכותית עצמם, ותקשורת שקופה לגבי היכולות והמגבלות של הטכנולוגיה בה נעשה שימוש. הניסיון של בלומברג יכול לשמש שיעור חשוב עבור חברות מדיה אחרות המתכננות יישומים דומים של בינה מלאכותית.

עתידה של העיתונות המונעת על ידי בינה מלאכותית תלוי באופן שבו ננצל את יתרונות היעילות והיכולות החדשניות של הבינה המלאכותית מבלי להתפשר על סטנדרטים עיתונאיים. המפתח טמון בגישה מאוזנת הרואה בטכנולוגיה כלי לתמיכה בעיתונאים אנושיים, ולא להחליף אותם. כפי שציין בצדק ג'ון מיקלטווייט מבלומברג, "סיכום שנוצר על ידי בינה מלאכותית טוב רק כמו הסיפור עליו הוא מבוסס. ובסיפורים האלה, אנשים עדיין חשובים."

☑️ תמיכה לעסקים קטנים ובינוניים באסטרטגיה, ייעוץ, תכנון ויישום

☑️ יצירה או התאמה מחדש של האסטרטגיה הדיגיטלית והדיגיטציה

☑️ הרחבה ואופטימיזציה של תהליכי מכירה בינלאומיים

☑️ פלטפורמות מסחר B2B גלובליות ודיגיטליות

☑️ פיתוח עסקי חלוצי

Konrad Wolfenstein

אשמח לשמש כיועץ האישי שלך.

ניתן ליצור איתי קשר על ידי מילוי טופס יצירת הקשר למטה או פשוט להתקשר אליי למספר 49 7348 4088 965+ .

אני מצפה בקוצר רוח לפרויקט המשותף שלנו.

Xpert.Digital הוא מרכז לתעשייה המתמקד בדיגיטציה, הנדסת מכונות, לוגיסטיקה/תוך-לוגיסטיקה ופוטו-וולטאית.

עם פתרון פיתוח עסקי 360° שלנו, אנו תומכים בחברות ידועות, החל מעסקים חדשים ועד לשירותי לאחר המכירה.

מודיעין שוק, שיווק סמיילי, אוטומציה שיווקית, פיתוח תוכן, יחסי ציבור, קמפיינים בדואר, מדיה חברתית מותאמת אישית וטיפוח לידים הם חלק מהכלים הדיגיטליים שלנו.

ניתן למצוא מידע נוסף בכתובות הבאות: www.xpert.digital - www.xpert.solar - www.xpert.plus