Вештачка интелигенција у финансијском новинарству: Блумберг се бори са погрешним резимеима вештачке интелигенције

Да ли су имплементације вештачке интелигенције погодне за свакодневну употребу? Блумбергов нераван почетак са аутоматизованим резимеима

Интеграција вештачке интелигенције у новинарство представља медијске компаније са сложеним изазовима, као што показује недавни случај Блумберга. Финансијски новински сервис експериментише са резимеима генерисаним помоћу вештачке интелигенције за своје чланке од јануара 2025. године, али је већ морао да исправи најмање 36 погрешних резимеа. Ова ситуација истиче тешкоће у имплементацији система вештачке интелигенције у уређивачким процесима, посебно у погледу тачности, поузданости и поверења у аутоматизовани садржај. У следећим одељцима се испитују специфични проблеми у Блумбергу, стављају се у контекст општих изазова вештачке интелигенције и разматрају потенцијална решења за успешну интеграцију вештачке интелигенције у новинарство.

У вези са овим:

• Поуздана вештачка интелигенција: Европски адут и шанса да преузме водећу улогу у вештачкој интелигенцији

Блумбергов проблематичан улазак у свет садржаја генерисаног вештачком интелигенцијом

Склоност ка грешкама у резимеима вештачке интелигенције

Блумберг, водећа глобална компанија за финансијске вести, почела је да користи тачке генерисане вештачком интелигенцијом као резимее на почетку својих чланака почетком 2025. године. Међутим, од овог увођења 15. јануара, компанија је морала да исправи најмање три десетине ових аутоматизованих резимеа, што указује на значајне проблеме са тачношћу садржаја генерисаног вештачком интелигенцијом. Ови проблеми су посебно забрињавајући за компанију попут Блумберга, која је позната по прецизном финансијском извештавању и чије информације често могу директно утицати на инвестиционе одлуке. Потреба за бројним исправкама поткопава поверење у поузданост ове нове технологије и поставља питања о преурањеној имплементацији система вештачке интелигенције у новинарству.

Једна посебно значајна грешка догодила се када је Блумберг известио о планираним аутомобилским тарифама председника Трампа. Иако је у оригиналном чланку тачно наведено да би Трамп могао да објави тарифе истог дана, резиме који је генерисала вештачка интелигенција садржао је нетачне информације о времену увођења шире царинске мере. У другом случају, резиме који је генерисала вештачка интелигенција погрешно је тврдио да ће председник Трамп увести тарифе Канади већ 2024. године. Такве грешке показују ограничења вештачке интелигенције у тумачењу сложених вести и ризике објављивања непровереног, аутоматизованог садржаја.

Поред нетачних датума, грешке су такође укључивале нетачне бројке и погрешно приписивање радњи или изјава појединцима или организацијама. Ове врсте грешака, често називане „халуцинацијама“, представљају посебан изазов за системе вештачке интелигенције јер могу звучати вероватно и стога их је тешко открити без темељне људске провере. Учесталост ових грешака у Блумбергу наглашава потребу за робусним процесима провере и поставља питања о зрелости технологије вештачке интелигенције која се користи.

Блумбергова реакција на проблеме са вештачком интелигенцијом

У званичном саопштењу, Блумберг је нагласио да 99 одсто његових резимеа генерисаних вештачком интелигенцијом испуњава уредничке стандарде. Компанија наводи да објављује хиљаде чланака дневно и стога сматра да је стопа грешака релативно ниска. Блумберг каже да цени транспарентност и да исправља или ажурира чланке по потреби. Такође је нагласио да новинари имају потпуну контролу над тим да ли ће резиме генерисан вештачком интелигенцијом бити објављен или не.

У есеју од 10. јануара, заснованом на предавању на Сити Сент Џорџу, Универзитету у Лондону, Џон Миклтвејт, главни уредник Блумберга, описао је разлоге за вештачку интелигенцију (AI sažetke). Објаснио је да их клијенти цене јер могу брзо да схвате суштину приче, док су новинари скептичнији. Признао је да се новинари плаше да би се читаоци могли ослонити искључиво на сажетке и занемарити суштину приче. Ипак, Миклтвејт је нагласио да вредност вештачке интелигенције у потпуности зависи од квалитета основне приче – и за то људска стручност остаје кључна.

Портпарол Блумберга је за Њујорк тајмс рекао да су повратне информације о резимеима углавном позитивне и да компанија наставља да ради на побољшању искуства. Ова изјава сугерише да, упркос проблемима са којима се сусрео, Блумберг намерава да се држи своје стратегије коришћења вештачке интелигенције за резимее, али са већим фокусом на осигурање квалитета и усавршавање коришћене технологије.

Вештачка интелигенција у новинарству: Тема релевантна за целу индустрију

Искуства других медијских компанија са вештачком интелигенцијом

Блумберг није једина медијска компанија која експериментише са интеграцијом вештачке интелигенције у своје новинарске процесе. Многе новинске организације покушавају да схвате како најбоље да уклопе ову нову технологију у свој рад на извештавању и уређивању. Ланац новина „Ганет“ користи сличне резимее генерисане вештачком интелигенцијом за своје чланке, а Вашингтон пост је развио алат под називом „Питајте пост“ који генерише одговоре на питања из објављених чланака Поста. Ово широко распрострањено усвајање показује значајно интересовање медијске индустрије за технологије вештачке интелигенције, упркос повезаним ризицима и изазовима.

И друге медијске компаније су се суочиле са проблемима са алатима вештачке интелигенције. Почетком марта, Лос Анђелес тајмс је уклонио свој алат вештачке интелигенције из чланка након што је технологија описала Ку Клукс Клан као нешто друго осим расистичке организације. Овај инцидент илуструје да изазови са којима се Блумберг суочава нису изоловани, већ су симптоми ширих проблема са интеграцијом вештачке интелигенције у новинарство. Појављује се образац где технологија још увек није довољно зрела да поуздано функционише без људског надзора, посебно када се ради о осетљивим или сложеним темама.

Ови примери илуструју напетост између жеље за иновацијама и ефикасношћу кроз вештачку интелигенцију, с једне стране, и потребе за одржавањем новинарских стандарда и тачности, с друге стране. Медијске компаније морају да пронађу равнотежу: желе да искористе предности вештачке интелигенције, а да притом не ризикују поверење својих читалаца или не угрожавају фундаменталне новинарске принципе. Искуства Блумберга и других новинских организација служе као важне лекције за целу индустрију о могућностима и ограничењима вештачке интелигенције у новинарству.

У вези са овим:

• Један од разлога за оклевање у коришћењу вештачке интелигенције: 68% менаџера људских ресурса жали се на недостатак знања о вештачкој интелигенцији у компанијама

Посебан изазов у ​​финансијском новинарству

У финансијском сектору, где Блумберг послује као један од водећих новинских сервиса, захтеви за тачношћу и поузданошћу су посебно високи. Утицај лажних информација може имати значајне финансијске последице, јер инвеститори и финансијски стручњаци заснивају своје одлуке на тим вестима. Ова посебна одговорност чини интеграцију вештачке интелигенције у финансијско новинарство још већим изазовом него у другим областима извештавања.

Занимљиво је да је „генералистичка вештачка интелигенција“ надмашила Блумбергову специјализовану вештачку интелигенцију управо у својој области: анализи финансијских извештаја. Блумберг је наводно уложио најмање 2,5 милиона долара у развој сопствене финансијске вештачке интелигенције, али мање од годину дана након њеног лансирања крајем марта 2023. године, постало је јасно да модели вештачке интелигенције опште намене попут ChatGPT и GPT-4 дају боље резултате у овој области. Ово илуструје брзи темпо развоја вештачке интелигенције и тешкоће компанија да прате специјализована решења како модели опште намене постају све моћнији.

Искористите предности Xpert.Digital-овог опсежног, петоструког стручног знања у свеобухватном пакету услуга | Истраживање и развој, XR, односи с јавношћу и оптимизација дигиталне видљивости - Слика: Xpert.Digital

Xpert.Digital поседује дубинско знање у различитим индустријама. То нам омогућава да развијемо прилагођене стратегије прецизно усклађене са захтевима и изазовима вашег специфичног тржишног сегмента. Континуираном анализом тржишних трендова и праћењем развоја у индустрији, можемо деловати проактивно и понудити иновативна решења. Комбинација искуства и стручности ствара додатну вредност и пружа нашим клијентима одлучујућу конкурентску предност.

Више информација овде:

• Искористите предности 5 области стручности компаније Xpert.Digital у једном пакету – већ од 500 евра месечно

Фундаментални изазови генеративне вештачке интелигенције

Проблем халуцинација у моделима вештачке интелигенције

Један од најосновнијих изазова са системима вештачке интелигенције, такође истакнут у Блумберговим резимеима, јесте проблем „халуцинација“ – тенденција модела вештачке интелигенције да генеришу информације које звуче вероватно, али чињенично нетачне. Овај проблем настаје када системи вештачке интелигенције производе садржај који превазилази информације које су им достављене или када погрешно тумаче податке. Такве халуцинације су посебно проблематичне у новинарству, где су чињенична тачност и поузданост од највеће важности.

Проблеми које је доживео Блумберг су управо такве халуцинације: вештачка интелигенција је „измислила“ датуме попут датума примене Трампових аутомобилских тарифа или је лажно тврдила да је Трамп већ увео тарифе Канади 2024. године. Овакве грешке истичу ограничења тренутне вештачке интелигенције, посебно када је у питању тачно тумачење сложених информација.

Стручњаци истичу да халуцинације могу бити изазване различитим факторима, укључујући начин на који су кодирани упутства за обуку и текстови. Модели великих језика (LLM) повезују концепте са низом бројева, познатим као векторска кодирања. За двосмислене речи попут „банка“ (која се може односити и на финансијску институцију и на седиште), може постојати једно кодирање по значењу како би се избегла двосмисленост. Било каква грешка у кодирању и декодирању репрезентација и текстова може довести до халуцинација генеративне вештачке интелигенције.

Транспарентност и следљивост одлука вештачке интелигенције

Још један фундаментални проблем са системима вештачке интелигенције је недостатак транспарентности и праћења у њиховим процесима доношења одлука. Са неким методама вештачке интелигенције више није могуће разумети како се генерише одређено предвиђање или резултат, или зашто је систем вештачке интелигенције дошао до одређеног одговора на дато питање. Овај недостатак транспарентности, често називан „проблемом црне кутије“, отежава идентификацију и исправљање грешака пре него што се објаве.

Праћење је посебно важно у областима попут новинарства, где одлуке о садржају треба да буду транспарентне и оправдане. Ако Блумберг и друге медијске компаније не могу да разумеју зашто њихова вештачка интелигенција генерише нетачне резимее, биће тешко имплементирати системска побољшања. Уместо тога, биће ослањани на реактивне исправке након што су се грешке већ догодиле.

Овај изазов је такође идентификован као значајан од стране стручњака из пословне и академске заједнице. Иако је првенствено технички изазов, он такође може довести до проблематичних резултата са друштвене или правне перспективе у одређеним областима примене. У случају Блумберга, ово би могло довести до губитка поверења читалаца или, у најгорем случају, до финансијских одлука заснованих на нетачним информацијама.

Зависност од квалитета и обима података

Штавише, апликације засноване на вештачкој интелигенцији зависе од квалитета података и алгоритама. С обзиром на величину и сложеност коришћених података, систематске грешке у подацима или алгоритмима често остају неоткривене. Ово је још један фундаментални изазов који Блумберг и друге компаније морају да превазиђу приликом имплементације система вештачке интелигенције.

Проблем са количином података — вештачка интелигенција може заиста да узме у обзир само релативно мале „контекстне прозоре“ приликом обраде команди или упита — знатно се смањио последњих година, али остаје изазов. Гуглов модел вештачке интелигенције „Gemini 1.5 Pro 1M“ већ може да обради упит од 700.000 речи или сат времена видеа — више од седам пута више од тренутно најбољег GPT модела компаније OpenAI. Ипак, тестови показују да, иако вештачка интелигенција може да претражује податке, тешко јој је да схвати односе унутар њих.

У вези са овим:

• Смањење трошкова и оптимизација ефикасности су доминантни економски принципи – ризик вештачке интелигенције и избор правог модела вештачке интелигенције

Решења и будући развој

Људско праћење и уређивачки процеси

Једно очигледно решење за проблеме које је Блумберг искусио је повећан људски надзор над садржајем генерисаним вештачком интелигенцијом. Блумберг је већ нагласио да новинари имају потпуну контролу над тим да ли ће резиме генерисан вештачком интелигенцијом бити објављен или не. Међутим, ова контрола мора бити ефикасно спроведена, што значи да уредници морају имати довољно времена да прегледају резимее генерисане вештачком интелигенцијом пре него што буду објављени.

Имплементација робусних уредничких процеса за преглед садржаја генерисаног вештачком интелигенцијом је кључна за минимизирање грешака. То би могло да укључује захтев да све резимее вештачке интелигенције прегледа барем један људски уредник пре објављивања или подвргавање одређених врста информација (као што су подаци, бројке или атрибуције) посебно темељним проверама. Иако такви процеси повећавају обим посла и тиме смањују неке од добитака ефикасности од вештачке интелигенције, они су неопходни за одржавање тачности и кредибилитета.

Техничка побољшања вештачке интелигенције

Континуирани технолошки развој самих вештачке интелигенције модела је још један важан приступ решавању актуелних проблема. Халуцинације су већ значајно смањене са GPT-4 у поређењу са његовим претходником, GPT-3.5. Најновији модел компаније Anthropic, „Claude 3 Opus“, показује још мање халуцинација у почетним тестовима. Стопа грешака говорних модела ускоро би требало да буде нижа него код просечног човека. Ипак, за разлику од онога на шта смо навикли код рачунара, говорни модели вештачке интелигенције вероватно неће бити без грешака у догледној будућности.

Обећавајући технички приступ је „Мешавина стручњака“: Неколико малих, специјализованих модела повезано је са мрежом капија. Улаз у систем се анализира помоћу капије, а затим, ако је потребно, прослеђује једном или више стручњака. Коначно, одговори се комбинују у један, свеобухватан одговор. Ово избегава потребу да се увек активира цео модел у свој његовој сложености. Ова врста архитектуре би потенцијално могла побољшати тачност коришћењем специјализованих модела за одређене врсте информација или домена.

Реална очекивања и транспарентна комуникација

Коначно, важно је имати реална очекивања од система вештачке интелигенције и транспарентно комуницирати о њиховим могућностима и ограничењима. Системи вештачке интелигенције данас су посебно дефинисани за одређени контекст примене и никако се не могу упоредити са људском интелигенцијом. Ово разумевање требало би да води имплементацију вештачке интелигенције у новинарству и другим областима.

Блумберг и друге медијске компаније требало би транспарентно да комуницирају о својој употреби вештачке интелигенције и да јасно ставе до знања да садржај генерисан вештачком интелигенцијом може бити мањкав. То се може постићи експлицитним означавањем садржаја генерисаног вештачком интелигенцијом, транспарентним процесима исправљања грешака и отвореном комуникацијом о ограничењима коришћене технологије. Таква транспарентност може помоћи у одржавању поверења читалаца, чак и када дође до грешака.

Зашто интеграција вештачке интелигенције у новинарство не успева без људи

Блумбергово искуство са резимеима генерисаним помоћу вештачке интелигенције истиче сложене изазове интеграције вештачке интелигенције у новинарство. Најмање 36 грешака које су захтевале исправку од јануара показују да, упркос свом потенцијалу, технологија још увек није довољно зрела да би се поуздано користила без темељног људског надзора. Проблеми са којима се Блумберг суочава нису јединствени, већ одражавају фундаменталне изазове вештачке интелигенције, као што су халуцинације, недостатак транспарентности и ослањање на висококвалитетне податке.

Успешна интеграција вештачке интелигенције у новинарство захтева неколико приступа: робусне уредничке процесе за преглед садржаја генерисаног вештачком интелигенцијом, континуирана техничка побољшања самих модела вештачке интелигенције и транспарентну комуникацију о могућностима и ограничењима коришћене технологије. Искуство Блумберга може послужити као вредна лекција другим медијским компанијама које планирају сличне имплементације вештачке интелигенције.

Будућност новинарства заснованог на вештачкој интелигенцији зависи од тога колико добро ћемо искористити добитке ефикасности и иновативне могућности вештачке интелигенције, а да притом не угрозимо новинарске стандарде. Кључ лежи у уравнотеженом приступу који технологију посматра као алат за подршку људским новинарима, а не као њихову замену. Као што је Џон Миклтвејт из Блумберга прикладно приметио: „Сажетак генерисан вештачком интелигенцијом је добар колико и прича на којој је заснован. И за те приче, људи су и даље важни.“

☑️ Подршка малим и средњим предузећима у стратегији, консултацијама, планирању и имплементацији

☑️ Креирање или реорганизација дигиталне стратегије и дигитализације

☑️ Проширење и оптимизација међународних продајних процеса

☑️ Глобалне и дигиталне B2B платформе за трговање

☑️ Пионирски развој пословања

Konrad Wolfenstein

Било би ми драго да вам будем лични саветник.

Можете ме контактирати попуњавањем контакт форме испод или ме једноставно позовите на +49 7348 4088 965 .

Радујем се нашем заједничком пројекту.

Xpert.Digital је центар за индустрију фокусиран на дигитализацију, машинство, логистику/интралогистику и фотонапонске системе.

Са нашим решењем за развој пословања од 360°, пружамо подршку реномираним компанијама, од нових пословања до постпродајних услуга.

Тржишна интелигенција, маркетиншки маркетинг, маркетиншка аутоматизација, развој садржаја, односи с јавношћу, мејлинг кампање, персонализоване друштвене мреже и неговање потенцијалних клијената су део наших дигиталних алата.

Више информација можете пронаћи на: www.xpert.digital - www.xpert.solar - www.xpert.plus