Изкуствен интелект във финансовата журналистика: Bloomberg се бори с неправилни обобщения, базирани на изкуствен интелект

Подходящи ли са внедряванията на изкуствен интелект за ежедневна употреба? Труден старт на Bloomberg с автоматизирани обобщения

Интегрирането на изкуствения интелект в журналистиката поставя медийните компании пред сложни предизвикателства, както демонстрира неотдавнашният случай с Bloomberg. Финансовата новинарска служба експериментира с генерирани от изкуствен интелект резюмета за своите статии от януари 2025 г., но вече е трябвало да коригира поне 36 грешни резюмета. Тази ситуация подчертава трудностите при внедряването на системи с изкуствен интелект в редакционните процеси, особено по отношение на точността, надеждността и доверието в автоматизираното съдържание. Следващите раздели разглеждат специфичните проблеми в Bloomberg, поставят ги в контекста на общите предизвикателства пред изкуствения интелект и обсъждат потенциални решения за успешното интегриране на изкуствения интелект в журналистиката.

Свързано с това:

• Надежден изкуствен интелект: козът на Европа и шансът да поеме водеща роля в областта на изкуствения интелект

Проблемното навлизане на Bloomberg в света на генерираното от изкуствен интелект съдържание

Склонността към грешки в обобщенията, създадени с изкуствен интелект

Bloomberg, водеща световна компания за финансови новини, започна да използва генерирани от изкуствен интелект точки като резюмета в началото на своите статии в началото на 2025 г. Въпреки това, откакто това внедряване започна на 15 януари, компанията трябваше да коригира поне три дузини от тези автоматизирани резюмета, което показва значителни проблеми с точността на генерираното от изкуствен интелект съдържание. Тези проблеми са особено тревожни за компания като Bloomberg, която е известна с прецизното си финансово отчитане и чиято информация често може пряко да повлияе на инвестиционните решения. Необходимостта от многобройни корекции подкопава доверието в надеждността на тази нова технология и повдига въпроси относно преждевременното внедряване на системи с изкуствен интелект в журналистиката.

Една особено съществена грешка възникна, когато Bloomberg съобщи за планираните от президента Тръмп автомобилни тарифи. Макар че в оригиналната статия правилно се посочваше, че Тръмп може да обяви тарифите в същия ден, генерираното от изкуствен интелект резюме съдържаше невярна информация относно времето на по-широка тарифна мярка. В друг случай, резюме, създадено от изкуствен интелект, погрешно твърди, че президентът Тръмп ще наложи тарифи на Канада още през 2024 г. Такива грешки демонстрират ограниченията на изкуствения интелект при тълкуването на сложни новини и рисковете от публикуване на непроверено, автоматизирано съдържание.

В допълнение към неправилните дати, грешките включваха и неточни цифри и неправилно приписване на действия или твърдения на лица или организации. Тези видове грешки, често наричани „халюцинации“, представляват особено предизвикателство за системите с изкуствен интелект, тъй като могат да звучат правдоподобно и следователно са трудни за откриване без задълбочен човешки преглед. Честотата на тези грешки в Bloomberg подчертава необходимостта от надеждни процеси за преглед и повдига въпроси относно зрелостта на използваната технология с изкуствен интелект.

Реакцията на Bloomberg на проблемите с изкуствения интелект

В официално изявление Bloomberg подчерта, че 99 процента от генерираните от изкуствен интелект резюмета отговарят на редакционните стандарти. Компанията заявява, че публикува хиляди статии дневно и следователно счита процента на грешки за относително нисък. Bloomberg заявява, че цени прозрачността и коригира или актуализира статиите, когато е необходимо. Също така подчерта, че журналистите имат пълен контрол върху това дали генерирано от изкуствен интелект резюме ще бъде публикувано или не.

В есе от 10 януари, базирано на лекция в Сити Сейнт Джордж към Лондонския университет, Джон Микълтуейт, главен редактор на Bloomberg, описа причините за резюметата с изкуствен интелект. Той обясни, че клиентите ги ценят, защото могат бързо да схванат същността на историята, докато журналистите са по-скептични. Той призна, че репортерите се страхуват, че читателите може да разчитат единствено на резюметата и да пренебрегнат основната история. Въпреки това Микълтуейт подчерта, че стойността на резюмето с изкуствен интелект зависи изцяло от качеството на основната история – и за това човешкият опит остава от решаващо значение.

Говорител на Bloomberg заяви пред The ​​New York Times, че отзивите за резюметата са като цяло положителни и че компанията продължава да работи за подобряване на потребителското изживяване. Това изявление предполага, че въпреки възникналите проблеми, Bloomberg възнамерява да се придържа към стратегията си за използване на изкуствен интелект за резюмета, но с по-голям фокус върху осигуряването на качеството и усъвършенстването на използваната технология.

Изкуствен интелект в журналистиката: Тема, актуална за целия бранш

Опитът на други медийни компании с изкуствен интелект

Bloomberg не е единствената медийна компания, която експериментира с интегрирането на изкуствен интелект в журналистическите си процеси. Много новинарски организации се опитват да разберат как най-добре да включат тази нова технология в своята репортажна и редакционна работа. Веригата вестници Gannett използва подобни генерирани от изкуствен интелект резюмета за своите статии, а The Washington Post разработи инструмент, наречен „Ask the Post“, който генерира отговори на въпроси от публикувани статии на Post. Това широко разпространение демонстрира значителния интерес на медийната индустрия към технологиите с изкуствен интелект, въпреки свързаните с тях рискове и предизвикателства.

Други медийни компании също са се сблъсквали с проблеми с инструментите с изкуствен интелект. В началото на март Los Angeles Times премахна своя инструмент с изкуствен интелект от статия, след като технологията описа Ку Клукс Клан като нещо различно от расистка организация. Този инцидент илюстрира, че предизвикателствата, пред които е изправен Bloomberg, не са изолирани, а симптоматични за по-широки проблеми с интегрирането на изкуствен интелект в журналистиката. Появява се модел, при който технологията все още не е достатъчно зряла, за да функционира надеждно без човешки надзор, особено когато се работи с чувствителни или сложни теми.

Тези примери илюстрират напрежението между желанието за иновации и ефективност чрез изкуствен интелект, от една страна, и необходимостта от поддържане на журналистически стандарти и точност, от друга. Медийните компании трябва да балансират: те искат да се възползват от предимствата на изкуствения интелект, без да рискуват доверието на своите читатели или да правят компромис с основните журналистически принципи. Опитът на Bloomberg и други новинарски организации служи като важни уроци за цялата индустрия относно възможностите и ограниченията на изкуствения интелект в журналистиката.

Свързано с това:

• Една от причините за колебливото използване на изкуствен интелект: 68% от HR мениджърите се оплакват от липса на ноу-хау в областта на изкуствения интелект в компаниите

Особеното предизвикателство във финансовата журналистика

Във финансовия сектор, където Bloomberg оперира като една от водещите новинарски услуги, изискванията за точност и надеждност са особено високи. Въздействието на невярната информация може да има значителни финансови последици, тъй като инвеститорите и финансовите експерти основават решенията си на тези новини. Тази конкретна отговорност прави интегрирането на технологиите с изкуствен интелект във финансовата журналистика още по-голямо предизвикателство, отколкото в други области на репортажите.

Интересното е, че „универсалният ИИ“ превъзхожда специализирания ИИ на Bloomberg именно в своята област: анализ на финансови отчети. Според съобщенията Bloomberg е инвестирал поне 2,5 милиона долара в разработването на собствен финансов ИИ, но по-малко от година след старта му в края на март 2023 г. стана ясно, че моделите с ИИ с общо предназначение, като ChatGPT и GPT-4, дават по-добри резултати в тази област. Това илюстрира бързите темпове на развитие на изкуствения интелект и трудността за компаниите да са в крак със специализираните решения, тъй като моделите с общо предназначение стават все по-мощни.

Възползвайте се от обширния, петкратен опит на Xpert.Digital в цялостен пакет от услуги | R&D, XR, PR и оптимизация на дигиталната видимост - Изображение: Xpert.Digital

Xpert.Digital притежава задълбочени познания в различни индустрии. Това ни позволява да разработваме персонализирани стратегии, прецизно съобразени с изискванията и предизвикателствата на вашия специфичен пазарен сегмент. Чрез непрекъснат анализ на пазарните тенденции и наблюдение на развитието в индустрията, ние можем да действаме проактивно и да предлагаме иновативни решения. Комбинацията от опит и експертиза генерира добавена стойност и осигурява на нашите клиенти решаващо конкурентно предимство.

Повече информация тук:

• Възползвайте се от 5-те области на експертиза на Xpert.Digital в един пакет – от само 500 евро/месец

Фундаментални предизвикателства на генеративния изкуствен интелект

Проблемът с халюцинациите в моделите с изкуствен интелект

Едно от най-фундаменталните предизвикателства пред системите с изкуствен интелект, също подчертано в резюметата на Bloomberg, е проблемът с „халюцинациите“ – склонността на моделите с изкуствен интелект да генерират правдоподобно звучаща, но фактически невярна информация. Този проблем възниква, когато системите с изкуствен интелект произвеждат съдържание, което надхвърля предоставената им информация, или когато интерпретират погрешно данните. Такива халюцинации са особено проблематични в журналистиката, където фактическата точност и надеждност са от първостепенно значение.

Проблемите, с които се сблъсква Bloomberg, са именно такива халюцинации: изкуственият интелект „измислява“ дати като датата на прилагане на автомобилните мита на Тръмп или лъжливо твърди, че Тръмп вече е наложил мита на Канада през 2024 г. Този вид грешки подчертават ограниченията на настоящата технология с изкуствен интелект, особено що се отнася до точното тълкуване на сложна информация.

Експертите посочват, че халюцинациите могат да бъдат предизвикани от различни фактори, включително начина, по който се кодират обучителните подкани и текстовете. Моделите с големи езици (LLM) свързват понятия с поредица от числа, известни като векторни кодирания. За двусмислени думи като „банка“ (която може да се отнася както до финансова институция, така и до седалище), може да има едно кодиране за всяко значение, за да се избегне двусмислие. Всяка грешка в кодирането и декодирането на представяния и текстове може да доведе до халюцинации от генеративния изкуствен интелект.

Прозрачност и проследимост на решенията, свързани с изкуствения интелект

Друг фундаментален проблем със системите с изкуствен интелект е липсата на прозрачност и проследимост в процесите им на вземане на решения. При някои методи с изкуствен интелект вече не е възможно да се разбере как се генерира определена прогноза или резултат или защо дадена система с изкуствен интелект е стигнала до конкретен отговор на даден въпрос. Тази липса на прозрачност, често наричана „проблемът с черната кутия“, затруднява идентифицирането и коригирането на грешки, преди те да бъдат оповестени публично.

Проследимостта е особено важна в области като журналистиката, където решенията относно съдържанието трябва да бъдат прозрачни и обосновани. Ако Bloomberg и други медийни компании не могат да разберат защо техният изкуствен интелект генерира неправилни резюмета, ще бъде трудно да се внедрят системни подобрения. Вместо това те ще разчитат на реактивни корекции, след като грешките вече са възникнали.

Това предизвикателство е определено като значително и от експерти от бизнеса и академичните среди. Макар че е предимно техническо предизвикателство, то може да доведе и до проблемни резултати от обществена или правна гледна точка в определени области на приложение. В случая с Bloomberg това може да доведе до загуба на доверието на читателите или, в най-лошия случай, до финансови решения, основани на неточна информация.

Зависимост от качеството и обхвата на данните

Освен това, приложенията, базирани на изкуствен интелект, зависят от качеството на данните и алгоритмите. Предвид размера и сложността на използваните данни, систематичните грешки в тях или алгоритмите често остават незабелязани. Това е друго фундаментално предизвикателство, което Bloomberg и други компании трябва да преодолеят при внедряването на системи с изкуствен интелект.

Проблемът с обема на данните – изкуственият интелект може да разглежда само относително малки „контекстни прозорци“ при обработката на команди или подкани – се е свил значително през последните години, но остава предизвикателство. Моделът на изкуствения интелект на Google „Gemini 1.5 Pro 1M“ вече може да обработва подкана от 700 000 думи или един час видео – повече от седем пъти повече от най-добрия в момента GPT модел на OpenAI. Въпреки това тестовете показват, че макар изкуственият интелект да може да търси данни, той се затруднява да схване връзките в тях.

Свързано с това:

• Намаляването на разходите и оптимизирането на ефективността са доминиращи икономически принципи – риск, свързан с изкуствения интелект, и изборът на правилния модел на изкуствен интелект

Решения и бъдещи разработки

Човешко наблюдение и редакционни процеси

Едно очевидно решение на проблемите, с които Bloomberg се сблъсква, е засиленият човешки надзор върху генерираното от изкуствен интелект съдържание. Bloomberg вече подчерта, че журналистите имат пълен контрол върху това дали генерирано от изкуствен интелект резюме ще бъде публикувано. Този контрол обаче трябва да се упражнява ефективно, което означава, че редакторите трябва да имат достатъчно време да прегледат резюметата, генерирани от изкуствен интелект, преди да бъдат публикувани.

Внедряването на надеждни редакционни процеси за преглед на генерирано от изкуствен интелект съдържание е от решаващо значение за минимизиране на грешките. Това може да включва изискване всички резюмета, генерирани от изкуствен интелект, да бъдат прегледани от поне един човек-редактор преди публикуване или подлагане на определени видове информация (като данни, цифри или атрибуции) на особено щателни проверки. Въпреки че подобни процеси увеличават работното натоварване и по този начин намаляват някои от ползите от ефективността, свързани с изкуствения интелект, те са необходими за поддържане на точност и достоверност.

Технически подобрения в моделите с изкуствен интелект

Непрекъснатото технологично развитие на самите модели с изкуствен интелект е друг важен подход за решаване на настоящите проблеми. Халюцинациите вече са намалели значително с GPT-4 в сравнение с предшественика му, GPT-3.5. Най-новият модел на Anthropic, "Claude 3 Opus", показва още по-малко халюцинации в първоначалните тестове. Процентът на грешки в речевите модели скоро би трябвало да е по-нисък от този на средния човек. Въпреки това, за разлика от това, с което сме свикнали от компютрите, речевите модели с изкуствен интелект вероятно няма да бъдат без грешки в обозримо бъдеще.

Един обещаващ технически подход е „Смес от експерти“: Няколко малки, специализирани модела са свързани към мрежа от гейтове. Входните данни към системата се анализират от гейта и след това, ако е необходимо, се предават на един или повече експерти. Накрая отговорите се комбинират в един, изчерпателен отговор. Това избягва необходимостта винаги да се активира целият модел в цялата му сложност. Този тип архитектура би могла потенциално да подобри точността чрез използване на специализирани модели за специфични видове информация или области.

Реалистични очаквания и прозрачна комуникация

И накрая, важно е да имаме реалистични очаквания за системите с изкуствен интелект и да комуникираме прозрачно относно техните възможности и ограничения. Системите с изкуствен интелект днес са специално дефинирани за конкретен контекст на приложение и по никакъв начин не са сравними с човешкия интелект. Това разбиране би трябвало да ръководи внедряването на изкуствен интелект в журналистиката и други области.

Bloomberg и други медийни компании трябва да комуникират прозрачно относно използването на изкуствен интелект (ИИ) и да заявят ясно, че генерираното от ИИ съдържание може да бъде дефектно. Това може да се постигне чрез изрично етикетиране на генерираното от ИИ съдържание, прозрачни процеси за коригиране на грешки и открита комуникация относно ограниченията на използваната технология. Такава прозрачност може да помогне за поддържане на доверието на читателите, дори когато възникнат грешки.

Защо интеграцията на изкуствения интелект в журналистиката се проваля без хора

Опитът на Bloomberg с генерирани от изкуствен интелект обобщения подчертава сложните предизвикателства пред интегрирането на изкуствения интелект в журналистиката. Най-малко 36-те грешки, които изискват корекция от януари насам, показват, че въпреки потенциала си, технологията все още не е достатъчно зряла, за да се използва надеждно без щателен човешки надзор. Проблемите, пред които е изправен Bloomberg, не са уникални, а отразяват фундаментални предизвикателства пред изкуствения интелект, като халюцинации, липса на прозрачност и зависимост от висококачествени данни.

Успешното интегриране на изкуствен интелект в журналистиката изисква няколко подхода: стабилни редакционни процеси за преглед на генерирано от изкуствен интелект съдържание, непрекъснати технически подобрения на самите модели с изкуствен интелект и прозрачна комуникация относно възможностите и ограниченията на използваната технология. Опитът на Bloomberg може да послужи като ценен урок за други медийни компании, планиращи подобни внедрявания на изкуствен интелект.

Бъдещето на журналистиката, задвижвана от изкуствен интелект, зависи от това колко добре ще използваме подобренията в ефективността и иновативните възможности на изкуствения интелект, без да правим компромис със стандартите на журналистиката. Ключът се крие в балансиран подход, който разглежда технологиите като инструмент в подкрепа на журналистите, а не като инструмент за тяхното заместване. Както Джон Микълтуейт от Bloomberg уместно отбелязва: „Резюме, генерирано от изкуствен интелект, е толкова добро, колкото е добра историята, на която се основава. И за тези истории хората все още имат значение.“

☑️ Подкрепа за МСП в стратегията, консултирането, планирането и внедряването

☑️ Създаване или пренасочване на дигиталната стратегия и дигитализация

☑️ Разширяване и оптимизиране на международните процеси на продажби

☑️ Глобални и дигитални B2B търговски платформи

☑️ Pioneer Business Development

Konrad Wolfenstein

С удоволствие бих служел като ваш личен съветник.

Можете да се свържете с мен, като попълните формата за контакт по-долу или просто ми се обадите на +49 7348 4088 965 .

Очаквам с нетърпение нашия съвместен проект.

Xpert.Digital е индустриален център, фокусиран върху дигитализацията, машиностроенето, логистиката/интралогистиката и фотоволтаиката.

С нашето 360° решение за бизнес развитие, ние подкрепяме известни компании от нов бизнес до следпродажбено обслужване.

Пазарно разузнаване, маркетинг, маркетингова автоматизация, разработване на съдържание, PR, имейл кампании, персонализирани социални медии и подхранване на лийдове са част от нашите дигитални инструменти.

Можете да намерите повече информация на: www.xpert.digital - www.xpert.solar - www.xpert.plus