בינה מלאכותית בעיתונות פיננסית: בלומברג נלחם בסיכום AI לקוי

שחרור מראש של Xpert

איש קשר מקוון (קונרד וולפנשטיין)

בחירת קול 📢

פורסם ב: 6 באפריל 2025 / עדכון מאת: 6 באפריל 2025 - מחבר: קונראד וולפנשטיין

AI בעיתונות פיננסית: בלומברג נלחם עם סיכום AI לקוי

AI בעיתונות פיננסית: בלומברג נלחם עם סיכום AI פגום: xpert.digital

האם AI הושגה כרגע בעיתונות?

האם יישום AI מתאים לשימוש יומיומי? ההתחלה החמורות של בלומברג עם סיכומים אוטומטיים

שילוב הבינה המלאכותית בעיתונאות מציג לחברות מדיה אתגרים מורכבים, כפי שמראה המקרה הנוכחי של בלומברג. שירות ההוראות הפיננסי מתנסה בסיכומים שנוצרו על ידי AI למאמריו מאז ינואר 2025, אך נאלץ לתקן לפחות 36 סיכומים שגויים. מצב זה ממחיש את הקשיים ביישום מערכות AI באזור העריכה, בפרט בכל הנוגע לדיוק, אמינות ואמון בתוכן אוטומטי. החלקים הבאים שופכים אור על הבעיות הספציפיות בבלומברג, קובעים אותם בהקשר של אתגרי AI הכלליים ודנים בפתרונות אפשריים לשילוב מוצלח של AI בעיתונות.

מתאים לכך:

אמין AI: כרטיס טראמפ של אירופה והסיכוי לקחת תפקיד מוביל בבינה מלאכותית

הכניסה הבעייתית של בלומברג לתוכן שנוצר על ידי AI

הרגישות של ישיבות AI

בלומברג, החברה המובילה בעולם לחדשות פיננסיות, החלה להציב נקודות כדור כסיכומים בתחילת מאמריו בתחילת 2025. מאז הצגה זו ב- 15 בינואר, עם זאת, החברה נאלצה לתקן לפחות שלושה תריסר מהסיכומים האוטומטיים הללו, מה שמעיד על בעיות משמעותיות ברמת הדיוק של ה- AI שנוצרו תוכן. בעיות אלה בעייתיות במיוחד עבור חברה כמו בלומברג, הידועה בדיווח הכספי המדויק שלה ולמען המידע שלה יכול להשפיע ישירות על החלטות ההשקעה. הצורך בתיקונים רבים מערער את האמון באמינות הטכנולוגיה החדשה הזו ומעלה שאלות לגבי יישום מוקדם של מערכות AI בעיתונות.

טעות משמעותית במיוחד אירעה כאשר בלומברג דיווח על האוטוזול המתוכנן של הנשיא טראמפ. בעוד שהמאמר בפועל נאמר כראוי כי טראמפ יכריז אולי על התעריפים באותו יום, הסיכום שנוצר על ידי AI הכיל מידע שגוי על זמן אמצעי המכס המקיף יותר. במקרה אחר, סיכום AI טען באופן שגוי כי הנשיא טראמפ כבר הטיל מכסים נגד קנדה בשנת 2024. טעויות כאלה מראות את גבולות ה- AI בפרשנות המסרים המורכבים והסיכונים כאשר מתפרסמים תוכן אוטומטי יוצא דופן.

בנוסף לתאריך השגוי, השגיאות כללו גם מספרים שגויים וייחוס שגוי של פעולות או הצהרות על אנשים או ארגונים. שגיאות מסוג זה, המכונות לעתים קרובות "הזיות", מייצגות אתגר מיוחד עבור מערכות AI, מכיוון שהן יכולות להישמע מתקבלות על הדעת ולכן קשה להכיר אם אין סקירה אנושית יסודית. תדירות השגיאות הללו בבלומברג מדגישה את הצורך בתהליכי ביקורת חזקים ומעלה שאלות לגבי בגרות טכנולוגיית ה- AI בה נעשה שימוש.

התגובה של בלומברג לבעיות AI

בהצהרה רשמית הדגיש בלומברג כי 99 אחוז מהסיכומים שנוצרו ב- AI יתאימו לתקני העריכה. על פי הצהרותיה שלה, החברה מפרסמת אלפי מאמרים מדי יום ולכן רואה את שיעור השגיאות נמוך יחסית. על פי הצהרותיו שלו, בלומברג מייחס חשיבות לשקיפות ותיקון או פריטים מעודכנים במידת הצורך. עוד הודגש כי לעיתונאים יש שליטה מלאה בשאלה אם מתפרסם סיכום שנוצר ב- AI או לא.

ג'ון מיקלטוויט, עורך הראשי של בלומברג, תיאר את הסיבות לסיכום AI במאמר ב -10 בינואר, שהתבסס על הרצאה בסיטי סנט ג'ורג ', אוניברסיטת לונדון. הוא הסביר שלקוחות מעריכים אותם מכיוון שהם יכולים להכיר במהירות מה סיפור, בעוד שעיתונאים סקפטיים יותר. הוא הודה כי כתבים חוששים שהקוראים יכולים רק לסמוך על הסיכומים וכבר לא לקרוא את הסיפור האמיתי. עם זאת, מיקלטוויט הדגיש כי הערך של סיכום AI תלוי אך ורק באיכות ההיסטוריה הבסיסית-ואנשים עדיין מכריעים עבורם.

דוברת בלומברג אמרה לניו יורק טיימס כי המשוב על הסיכומים הוא בדרך כלל חיובי וכי החברה המשיכה לשפר את החוויה. הצהרה זו מצביעה על כך שבלומברג רוצה ללכוד למרות הבעיות של השימוש באסטרטגיה של שימוש ב- AI לסיכומים, אך עם התמקדות מוגברת על אבטחת איכות ועידון הטכנולוגיה בה נעשה שימוש.

AI בעיתונות: נושא הרלוונטי לתעשייה

חוויות של חברות מדיה אחרות עם AI

בלומברג היא לא חברת המדיה היחידה שמתנסת בשילוב AI בתהליכים העיתונאיים שלה. ארגוני חדשות רבים מנסים לגלות כיצד תוכלו לשלב בצורה הטובה ביותר את הטכנולוגיה החדשה הזו בעבודת הדיווח והעריכה שלכם. רשת העיתונים של Gannett משתמשת בסיכומים דומים שנוצרו על ידי AI למאמרים שלך, והוושינגטון פוסט פיתח כלי בשם "שאל את הפוסט" המייצר תשובות לשאלות מפריטי דואר שפורסמו. אימוץ רחב זה מראה את האינטרס הניכר של ענף המדיה בטכנולוגיות AI, למרות הסיכונים והאתגרים הנלווים אליו.

בעיות בכלי AI התרחשו גם בחברות מדיה אחרות. בתחילת מרץ, הלוס אנג'לס טיימס הסירו את כלי ה- AI שלה ממאמר דעה לאחר שהטכנולוגיה תיארה את Ku Klux-Klan כמשהו אחר מאשר ארגון גזעני. אירוע זה ממחיש כי האתגרים שעומד בפני בלומברג אינם מבודדים, אלא סימפטומטית לבעיות רחבות יותר עם שילוב AI בעיתונות. יש דפוס בו הטכנולוגיה עדיין לא בוגרת מספיק כדי לעבוד באופן אמין ללא פיקוח אנושי, במיוחד עם נושאים רגישים או מורכבים.

דוגמאות אלה ממחישות את המתח בין הרצון לחדשנות ויעילות על ידי AI מצד אחד לבין הצורך לשמור על סטנדרטים ודיוק עיתונאי מאידך. חברות המדיה צריכות לעשות מעשה איזון: הן רוצים ליהנות מהיתרונות של AI מבלי להסתכן באמון קוראיהם או להתפשר על עקרונות עיתונאיים בסיסיים. חוויותיו של בלומברג וארגוני חדשות אחרים משמשים תורות חשובות לכל התעשייה על האפשרויות והגבולות של AI בעיתונות.

מתאים לכך:

סיבה אחת לשימוש AI מהסס: 68 % ממנהלי HR מתלוננים על היעדר ידע AI בחברות

האתגר המיוחד בעיתונות הפיננסית

במגזר הפיננסי, בו בלומברג משמש כאחד משירותי המודיעין המובילים, הדרישות לדיוק ואמינות גבוהות במיוחד. להשפעות של מידע שגוי יכולות להיות השלכות פיננסיות משמעותיות כאן, מכיוון שמשקיעים ומומחים פיננסיים מקבלים החלטות על סמך חדשות אלה. אחריות מיוחדת זו הופכת את שילובן של טכנולוגיות AI בעיתונות פיננסית לאתגר גדול עוד יותר מאשר בתחומי דיווח אחרים.

מעניין לציין כי "הגנרליסט-קי" חרג מה- KI המיוחד של בלומברג בתחומו, ניתוח הכספים. בלומברג הוערכו לפחות 2.5 מיליון דולר שהושקעו בפיתוח ה- AI הפיננסי שלה, אך אפילו לא שנה לאחר ההקדמה בסוף מרץ 2023 התברר כי דגמי AI הכלליים כמו ChatGPT ו- GPT-4 מספקים תוצאות טובות יותר בתחום זה. זה ממחיש את ההתפתחות המהירה בתחום הבינה המלאכותית ואת הקושי של חברות להתעדכן בפתרונות מיוחדים אם המודלים הכלליים נעשים יעילים יותר ויותר.

🎯🎯🎯 תועלת מהמומחיות הנרחבת של חמש זמן מ- Xpert.Digital בחבילת שירות מקיפה | R&D, XR, PR & SEM

AI & XR-3D-Rendering Machine: חמש פעמים מומחיות מ- xpert.digital בחבילת שירות מקיפה, R&D XR, PR & SEM-Image: Xpert.Digital

ל- xpert.digital ידע עמוק בענפים שונים. זה מאפשר לנו לפתח אסטרטגיות התאמה המותאמות לדרישות ולאתגרים של פלח השוק הספציפי שלך. על ידי ניתוח מתמיד של מגמות שוק ורדיפת פיתוחים בתעשייה, אנו יכולים לפעול עם ראיית הנולד ולהציע פתרונות חדשניים. עם שילוב של ניסיון וידע, אנו מייצרים ערך מוסף ומעניקים ללקוחותינו יתרון תחרותי מכריע.

עוד על זה כאן:

השתמש ביכולת 5 של xpert.digital בחבילה אחת - מ- 500 € לחודש

דגמי איכות נתונים ומודלים של AI: אבני הנגף הבלתי נראות של הטכנולוגיה המודרנית

אתגרים מהותיים של ה- AI הגנריטיבית

בעיית הזיה במודלים של AI

אחד האתגרים הבסיסיים ביותר עבור מערכות AI, שהתבררו גם בסיכומי בלומברג, הוא הבעיה של "הזיות"-כלומר הנטייה של דגמי AI, לייצר נשמעים באופן סביר, אך למעשה מידע שגוי. בעיה זו מתרחשת כאשר מערכות AI מייצרות תוכן החורג מהמידע שנמסר להם או אם הן מפרשות נתונים שגויים. הזיות כאלה בעייתיות במיוחד בעיתונאות, בהן יש חשיבות מכרעת נאמנים ודיוק.

הבעיות שחוו בלומברג הן בדיוק הזיות כאלה: הנתונים "המציאו" AI כמו תאריך המבוא של חובות האוטו של טראמפ או טענו שלא בצדק כי טראמפ כבר היה מטיל מכסים נגד קנדה בשנת 2024. סוג זה של שגיאה מדגיש את גבולות הטכנולוגיה הנוכחית של AI, במיוחד כשמדובר בפרשנות מדויקת של מידע מורכב.

מומחים מציינים כי הזיות יכולות להיות מופעלות על ידי גורמים שונים, בין היתר בדרך בהן מקודדים הנחיות וטקסטים של אימונים. דגמי שפה גדולים (LLMS) מקשרים מונחים עם מספר מספרים, כך שקידודי וקטורים נקראים. במקרה של מילים מעורפלות כמו "בנק" (שיכולות לתאר הן מוסד פיננסי והן ישיבה)), יתכן שיש קידוד לכל משמעות כדי למנוע עמימות. כל שגיאה בקידוד ופענוח של ייצוגים וטקסטים יכולה להוביל ל- AI היצירתית הזויה.

שקיפות והבנה של החלטות AI

בעיה מהותית נוספת במערכות AI היא היעדר שקיפות ועקיבות של תהליכי קבלת ההחלטות שלך. עם כמה שיטות AI, זה כבר לא מובן כיצד נוצרת חיזוי מסוים או תוצאה מסוימת או מדוע מערכת AI הגיעה לתשובה ספציפית במקרה של שאלה ספציפית. חוסר שקיפות זה, המכונה לעתים קרובות "בעיית תיבה שחורה", מקשה על זיהוי ותקן טעויות לפני שהם מתפרסמים.

העקיבות חשובה במיוחד בתחומים כמו עיתונות, שבהם החלטות לגבי תוכן צריכות להיות שקופות ומוצדקות. אם בלומברג וחברות מדיה אחרות לא יכולות להבין מדוע ה- AI שלהם מייצר סיכומים שגויים, יהיה קשה לבצע שיפורים מערכתיים. במקום זאת, הם מסתמכים על תיקונים תגוביים לאחר שכבר התרחשו שגיאות.

אתגר זה מזוהה גם על ידי מומחים מעסקים ומדע. למרות שזה בעיקר אתגר טכני, זה יכול גם להוביל לתוצאות בעייתיות מנקודת מבט חברתית או חוקית בתחומי יישום מסוימים. במקרה של בלומברג, הדבר עלול להוביל לאובדן אמון בקרב הקוראים או במקרה הגרוע ביותר להחלטות פיננסיות המבוססות על מידע שגוי.

תלות באיכות הנתונים ובהיקף

בנוסף, יישומים המבוססים על AI תלויים באיכות הנתונים והאלגוריתמים. באופן זה, לעתים קרובות לא ניתן להכיר שגיאות שיטתיות בנתונים או באלגוריתמים לאור גודל ומורכבותם של הנתונים ששימשו. זהו אתגר מהותי נוסף שבלומברג וחברות אחרות צריכות להתמודד איתו בעת יישום מערכות AI.

הבעיה עם כמות הנתונים - ה- AI יכול לקחת בחשבון רק "חלונות הקשר" קטנים יחסית בעיבוד הפקודות, ההנחיה, הצטמצמה באמת בשנים האחרונות, אך נותרה אתגר. דגם Google KI "Gemini 1.5 Pro 1M" יכול כבר לעבד אחד מיד במידה של 700,000 מילים או שעה של וידאו יותר מאשר פי 7 מהדגם הטוב ביותר של GPT מ- OpenAAI. עם זאת, המבחנים מראים כי בינה מלאכותית יכולה לחפש נתונים, אך מתקשה לאסוף מערכות יחסים.

מתאים לכך:

הפחתת עלויות ואופטימיזציה של היעילות הם עקרונות עסקיים דומיננטיים-סיכון AI ובחירת מודל ה- AI הנכון

גישות פתרונות והתפתחויות עתידיות

תהליכי מעקב אנושיים ועריכה

פיתרון ברור לבעיות שחווה בלומברג הוא מעקב אנושי מוגבר על התוכן שנוצר ב- AI. בלומברג כבר הדגיש כי לעיתונאים יש שליטה מלאה בשאלה אם מתפרסם סיכום שנוצר ב- AI או לא. עם זאת, יש לממש שליטה זו ביעילות, מה שאומר שעורכים חייבים להיות מספיק זמן לבדוק את פסגות ה- AI לפני שהם מתפרסמים.

יישום תהליכי עריכה חזקים לבדיקת תוכן שנוצר על ידי AI הוא קריטי כדי למזער את הטעויות. זה יכול לכלול כי יש לבדוק את כל פסגות ה- AI על ידי לפחות עורך אנושי אחד לפני שהם מתפרסמים או כי סוגים מסוימים של מידע (כגון נתונים, מספרים או ייחוס) נבדקים ביסודיות במיוחד. תהליכים כאלה מגבירים את עומס העבודה ובכך מפחיתים את חלק מרווחי היעילות על ידי AI, אך הם נחוצים כדי להגן על הדיוק והאמינות.

שיפורים טכניים במודלים של AI

ההתפתחות הטכנית של דגמי ה- AI עצמה היא גישה חשובה נוספת לפיתרון הבעיות הנוכחיות. כבר עם GPT-4, ההזיות פחתו באופן משמעותי בהשוואה לקודם GPT-3.5. המודל האחרון של האנתרופי, "Claude 3 Opus", מראה אפילו פחות הזיות בבדיקות הראשוניות. בקרוב שיעור השגיאות של דגמי הקול צריך להיות נמוך מזה של האדם הממוצע. עם זאת, ככל הנראה מודלים של שפת AI לא יהיו ללא רבב עד להודעה חדשה, בניגוד למחשבים.

גישה טכנית מבטיחה היא "תערובת המומחים": מספר דגמים מיוחדים קטנים מחוברים לרשת שער. הכניסה למערכת מנותחת על ידי השער ואז מועברת למומחה אחד או יותר במידת הצורך. בסופו של דבר, התשובות למילה כוללת משולבות. בדרך זו ניתן להימנע מכך שהמודל כולו צריך להיות פעיל תמיד במורכבותו. ארכיטקטורה מסוג זה עשויה לשפר את הדיוק באמצעות מודלים מיוחדים לסוגים מסוימים של מידע או תחומים.

ציפיות מציאותיות ותקשורת שקופה

אחרי הכל, חשוב שיהיו ציפיות מציאותיות ממערכות AI ולתקשר בשקיפות על כישוריהם ומגבלותיהם. מערכות AI מוגדרות באופן ספציפי עבור הקשר יישום ספציפי כיום והן רחוקות מלהיות דומה לאינטליגנציה האנושית. ידע זה אמור להוביל ליישום AI בעיתונות ובתחומים אחרים.

בלומברג וחברות מדיה אחרות צריכות לתקשר בשקיפות לגבי השימוש בהן ב- AI ולהבהיר שתוכן שנוצר על ידי AI יכול להיות שגוי. ניתן לעשות זאת על ידי תיוג מפורש של תוכן שנוצר ב- AI, תהליכי תיקון שגיאות שקופים ותקשורת פתוחה על פני גבולות הטכנולוגיה המשמשת. שקיפות כזו יכולה לעזור לשמור על אמון הקורא, גם אם מתרחשות שגיאות.

מדוע שילוב AI נכשל בעיתונות ללא אנשים

חוויותיו של בלומברג עם סיכומי AI שנוצרו ממחישות את האתגרים המורכבים בשילוב הבינה המלאכותית בעיתונות. לפחות 36 השגיאות שצריך לתקן מאז ינואר מראות שלמרות הפוטנציאל שלה, הטכנולוגיה עדיין לא מספיק בוגרת כדי לשמש באופן אמין ללא מעקב אנושי יסודי. הבעיות בהן מתמודד עם בלומברג אינן ייחודיות, אלא משקפות אתגרים מהותיים של AI, כמו הזיות, חוסר שקיפות והתלות בנתונים באיכות גבוהה.

נדרשות מספר גישות לשילוב מוצלח של AI בעיתונות: תהליכי עריכה חזקים לבחינת תוכן שנוצר על ידי AI, שיפורים טכניים מתמשכים במודלים של AI עצמה ותקשורת שקופה לגבי מיומנויות וגבולות הטכנולוגיה בה נעשה שימוש. הניסיון של בלומברג יכול לשמש שיעור חשוב עבור חברות מדיה אחרות המתכננות יישומי AI דומים.

העתיד של העיתונות מבוססת AI תלוי עד כמה טוב להשתמש ברווחי היעילות ובאפשרויות החדשניות של AI מבלי לפגוע בסטנדרטים העיתונאיים. המפתח הוא בגישה מאוזנת הרואה בטכנולוגיה כלי התומך בעיתונאים אנושיים במקום להחליף אותם. כפי שציין ג'ון מיקלטוויט מבלומברג: "סיכום AI טוב רק כמו הסיפור עליו הוא מבוסס. ואנשים עדיין חשובים לסיפורים."

אנחנו שם בשבילך - ייעוץ - תכנון - יישום - ניהול פרויקטים