Kunsmatige intelligensie in finansiële joernalistiek: Bloomberg sukkel met foutiewe KI-opsommings

Is KI-implementerings geskik vir daaglikse gebruik? Bloomberg se hobbelrige begin met outomatiese opsommings

Die integrasie van kunsmatige intelligensie in joernalistiek bied mediamaatskappye komplekse uitdagings, soos die onlangse geval van Bloomberg demonstreer. Die finansiële nuusdiens eksperimenteer sedert Januarie 2025 met KI-gegenereerde opsommings vir sy artikels, maar moes reeds ten minste 36 foutiewe opsommings regstel. Hierdie situasie beklemtoon die probleme met die implementering van KI-stelsels in redaksionele prosesse, veral met betrekking tot akkuraatheid, betroubaarheid en vertroue in outomatiese inhoud. Die volgende afdelings ondersoek die spesifieke probleme by Bloomberg, plaas dit in die konteks van algemene KI-uitdagings en bespreek potensiële oplossings vir die suksesvolle integrasie van KI in joernalistiek.

Verwant hieraan:

• Betroubare KI: Europa se troefkaart en die kans om 'n leidende rol in kunsmatige intelligensie te speel

Bloomberg se problematiese toetrede tot KI-gegenereerde inhoud

Die foutgeneigdheid van KI-opsommings

Bloomberg, 'n toonaangewende wêreldwye finansiële nuusmaatskappy, het vroeg in 2025 KI-gegenereerde kolpunte as opsommings aan die begin van sy artikels begin gebruik. Sedert hierdie bekendstelling op 15 Januarie moes die maatskappy egter ten minste drie dosyn van hierdie outomatiese opsommings regstel, wat dui op beduidende probleme met die akkuraatheid van die KI-gegenereerde inhoud. Hierdie probleme is veral kommerwekkend vir 'n maatskappy soos Bloomberg, wat bekend is vir sy akkurate finansiële verslagdoening en wie se inligting dikwels direk beleggingsbesluite kan beïnvloed. Die behoefte aan talle regstellings ondermyn vertroue in die betroubaarheid van hierdie nuwe tegnologie en laat vrae ontstaan ​​oor die voortydige implementering van KI-stelsels in joernalistiek.

Een besonder beduidende fout het voorgekom toe Bloomberg berig het oor president Trump se beplande motortariewe. Terwyl die oorspronklike artikel korrek verklaar het dat Trump die tariewe dieselfde dag sou aankondig, het die KI-gegenereerde opsomming verkeerde inligting bevat oor die tydsberekening van 'n breër tariefmaatreël. In 'n ander geval het 'n KI-opsomming verkeerdelik beweer dat president Trump reeds in 2024 tariewe op Kanada sou hef. Sulke foute demonstreer die beperkings van KI in die interpretasie van komplekse nuus en die risiko's van die publikasie van ongeverifieerde, outomatiese inhoud.

Benewens verkeerde datums, het die foute ook onakkurate syfers en verkeerde toeskrywings van aksies of stellings aan individue of organisasies ingesluit. Hierdie tipe foute, dikwels na verwys as "hallusinasies", hou 'n besondere uitdaging vir KI-stelsels in omdat hulle geloofwaardig kan klink en dus moeilik is om op te spoor sonder deeglike menslike hersiening. Die frekwensie van hierdie foute by Bloomberg beklemtoon die behoefte aan robuuste hersieningsprosesse en laat vrae ontstaan ​​oor die volwassenheid van die KI-tegnologie wat gebruik word.

Bloomberg se reaksie op die KI-probleme

In 'n amptelike verklaring het Bloomberg beklemtoon dat 99 persent van sy KI-gegenereerde opsommings aan redaksionele standaarde voldoen. Die maatskappy verklaar dat hy daagliks duisende artikels publiseer en daarom die foutkoers as relatief laag beskou. Bloomberg sê hy waardeer deursigtigheid en korrigeer of werk artikels op soos nodig. Hy het ook beklemtoon dat joernaliste volle beheer het oor of 'n KI-gegenereerde opsomming gepubliseer word of nie.

In 'n opstel van 10 Januarie, gebaseer op 'n lesing by City St. George's, Universiteit van Londen, het John Micklethwait, hoofredakteur van Bloomberg, die redes vir KI-opsommings beskryf. Hy het verduidelik dat kliënte dit waardeer omdat hulle vinnig die kern van 'n storie kan begryp, terwyl joernaliste meer skepties is. Hy het erken dat verslaggewers vrees dat lesers dalk slegs op die opsommings sal staatmaak en die kernstorie sal verwaarloos. Nietemin het Micklethwait beklemtoon dat die waarde van 'n KI-opsomming geheel en al afhang van die kwaliteit van die onderliggende storie – en daarvoor bly menslike kundigheid van kardinale belang.

'n Woordvoerder van Bloomberg het aan The New York Times gesê dat terugvoer oor die opsommings oor die algemeen positief was en dat die maatskappy voortgaan om die ervaring te verbeter. Hierdie verklaring dui daarop dat Bloomberg, ten spyte van die probleme wat ondervind is, van voorneme is om by sy strategie te bly om KI vir opsommings te gebruik, maar met 'n groter fokus op gehalteversekering en die verfyning van die tegnologie wat gebruik word.

KI in joernalistiek: 'n Bedryfswye relevante onderwerp

Ervarings van ander mediamaatskappye met KI

Bloomberg is nie die enigste mediamaatskappy wat eksperimenteer met die integrasie van KI in sy joernalistieke prosesse nie. Baie nuusorganisasies probeer uitvind hoe om hierdie nuwe tegnologie die beste in hul verslaggewing en redaksionele werk in te sluit. Die Gannett-koerantketting gebruik soortgelyke KI-gegenereerde opsommings vir sy artikels, en The Washington Post het 'n instrument genaamd "Ask the Post" ontwikkel wat antwoorde op vrae uit gepubliseerde Post-artikels genereer. Hierdie wydverspreide aanvaarding demonstreer die mediabedryf se beduidende belangstelling in KI-tegnologieë, ten spyte van die gepaardgaande risiko's en uitdagings.

Ander mediamaatskappye het ook probleme met KI-instrumente ondervind. Vroeg in Maart het die Los Angeles Times sy KI-instrument uit 'n opinie-artikel verwyder nadat die tegnologie die Ku Klux Klan as iets anders as 'n rassistiese organisasie beskryf het. Hierdie voorval illustreer dat die uitdagings waarmee Bloomberg te kampe het, nie geïsoleerd is nie, maar simptomaties is van breër probleme met die integrasie van KI in joernalistiek. 'n Patroon ontstaan ​​waar die tegnologie nog nie volwasse genoeg is om betroubaar te funksioneer sonder menslike toesig nie, veral wanneer dit met sensitiewe of komplekse onderwerpe handel.

Hierdie voorbeelde illustreer die spanning tussen die begeerte na innovasie en doeltreffendheid deur KI aan die een kant, en die behoefte om joernalistieke standaarde en akkuraatheid te handhaaf aan die ander kant. Mediamaatskappye moet 'n balanseertoertjie uitvoer: hulle wil voordeel trek uit die voordele van KI sonder om die vertroue van hul leserspubliek in gevaar te stel of fundamentele joernalistieke beginsels in die gedrang te bring. Die ervarings van Bloomberg en ander nuusorganisasies dien as belangrike lesse vir die hele bedryf oor die geleenthede en beperkings van KI in joernalistiek.

Verwant hieraan:

• Een rede vir die huiwerige gebruik van KI: 68% van HR-bestuurders kla oor 'n gebrek aan KI-kennis in maatskappye

Die besondere uitdaging in finansiële joernalistiek

In die finansiële sektor, waar Bloomberg as een van die toonaangewende nuusdienste opereer, is die eise vir akkuraatheid en betroubaarheid besonder hoog. Die impak van valse inligting kan beduidende finansiële gevolge hê, aangesien beleggers en finansiële kundiges hul besluite op hierdie nuus baseer. Hierdie spesifieke verantwoordelikheid maak die integrasie van KI-tegnologieë in finansiële joernalistiek 'n selfs groter uitdaging as in ander areas van verslaggewing.

Interessant genoeg het die "generalistiese KI" Bloomberg se gespesialiseerde KI juis in sy domein oortref: finansiële verslagontleding. Bloomberg het na bewering minstens $2,5 miljoen belê in die ontwikkeling van sy eie finansiële KI, maar minder as 'n jaar na die bekendstelling daarvan einde Maart 2023 het dit duidelik geword dat algemene KI-modelle soos ChatGPT en GPT-4 beter resultate in hierdie gebied gelewer het. Dit illustreer die vinnige tempo van ontwikkeling in kunsmatige intelligensie en die moeilikheid vir maatskappye om tred te hou met gespesialiseerde oplossings namate algemene modelle toenemend kragtiger word.

Trek voordeel uit Xpert.Digital se uitgebreide, vyfvoudige kundigheid in 'n omvattende dienspakket | O&O, XR, PR & Digitale Sigbaarheidsoptimalisering - Beeld: Xpert.Digital

Xpert.Digital beskik oor diepgaande kennis oor verskeie industrieë. Dit stel ons in staat om pasgemaakte strategieë te ontwikkel wat presies in lyn is met die vereistes en uitdagings van u spesifieke marksegment. Deur voortdurend markneigings te ontleed en bedryfsontwikkelings te monitor, kan ons proaktief optree en innoverende oplossings bied. Die kombinasie van ervaring en kundigheid genereer toegevoegde waarde en bied ons kliënte 'n beslissende mededingende voordeel.

Meer inligting hier:

• Benut Xpert.Digital se 5 kundigheidsgebiede in een pakket – vanaf slegs €500/maand

Fundamentele uitdagings van generatiewe KI

Die hallusinasieprobleem in KI-modelle

Een van die mees fundamentele uitdagings met KI-stelsels, wat ook in Bloomberg se opsommings uitgelig word, is die probleem van "hallusinasies" – die neiging van KI-modelle om geloofwaardige, maar feitelik verkeerde inligting te genereer. Hierdie probleem ontstaan ​​wanneer KI-stelsels inhoud produseer wat verder strek as die inligting wat aan hulle verskaf word, of wanneer hulle data verkeerd interpreteer. Sulke hallusinasies is veral problematies in joernalistiek, waar feitelike akkuraatheid en betroubaarheid van die allergrootste belang is.

Die probleme wat Bloomberg ervaar, is juis sulke hallusinasies: Die KI het datums soos die implementeringsdatum van Trump se motortariewe "uitgevind" of valslik beweer dat Trump reeds in 2024 tariewe op Kanada ingestel het. Hierdie soort foute beklemtoon die beperkings van huidige KI-tegnologie, veral as dit kom by die akkurate interpretasie van komplekse inligting.

Kenners wys daarop dat hallusinasies deur verskeie faktore veroorsaak kan word, insluitend hoe opleidingsaanwysings en tekste gekodeer word. Groot Taalmodelle (LLM's) koppel konsepte aan 'n reeks getalle, bekend as vektorkoderings. Vir dubbelsinnige woorde soos "bank" (wat na beide 'n finansiële instelling en 'n setel kan verwys), kan daar een kodering per betekenis wees om dubbelsinnigheid te vermy. Enige fout in die kodering en dekodering van voorstellings en tekste kan veroorsaak dat die generatiewe KI hallusineer.

Deursigtigheid en naspeurbaarheid van KI-besluite

Nog 'n fundamentele probleem met KI-stelsels is die gebrek aan deursigtigheid en naspeurbaarheid in hul besluitnemingsprosesse. Met sommige KI-metodes is dit nie meer moontlik om te verstaan ​​hoe 'n spesifieke voorspelling of resultaat gegenereer word nie, of waarom 'n KI-stelsel tot 'n spesifieke antwoord op 'n gegewe vraag gekom het. Hierdie gebrek aan deursigtigheid, dikwels na verwys as die "swartboksprobleem", maak dit moeilik om foute te identifiseer en reg te stel voordat dit openbaar gemaak word.

Naspeurbaarheid is veral belangrik in velde soos joernalistiek, waar besluite oor inhoud deursigtig en regverdigbaar moet wees. As Bloomberg en ander mediamaatskappye nie kan verstaan ​​waarom hul KI verkeerde opsommings genereer nie, sal dit moeilik wees om sistemiese verbeterings te implementeer. In plaas daarvan sal hulle staatmaak op reaktiewe regstellings nadat foute reeds plaasgevind het.

Hierdie uitdaging word ook as beduidend geïdentifiseer deur kundiges van die sakewêreld en akademie. Hoewel dit hoofsaaklik 'n tegniese uitdaging is, kan dit ook lei tot problematiese resultate vanuit 'n maatskaplike of regsperspektief in sekere toepassingsgebiede. In Bloomberg se geval kan dit lei tot 'n verlies aan lesersvertroue of, in die ergste geval, tot finansiële besluite gebaseer op onakkurate inligting.

Afhanklikheid van datakwaliteit en -omvang

Verder is KI-gebaseerde toepassings afhanklik van die kwaliteit van die data en algoritmes. Gegewe die grootte en kompleksiteit van die data wat gebruik word, word sistematiese foute in data of algoritmes dikwels nie opgespoor nie. Dit is nog 'n fundamentele uitdaging wat Bloomberg en ander maatskappye moet oorkom wanneer hulle KI-stelsels implementeer.

Die probleem met datavolume – KI kan slegs relatief klein "konteksvensters" in ag neem wanneer bevele of aanwysings verwerk word – het die afgelope paar jaar aansienlik gekrimp, maar bly 'n uitdaging. Google se KI-model "Gemini 1.5 Pro 1M" kan reeds 'n aanwysing van 700 000 woorde of 'n uur video verwerk – meer as sewe keer die huidige beste GPT-model van OpenAI. Nietemin toon toetse dat terwyl kunsmatige intelligensie data kan deursoek, dit sukkel om verwantskappe daarbinne te begryp.

Verwant hieraan:

• Kostevermindering en doeltreffendheidsoptimalisering is dominante ekonomiese beginsels – KI-risiko en die keuse van die regte KI-model

Oplossings en toekomstige ontwikkelings

Menslike monitering en redaksionele prosesse

Een voor die hand liggende oplossing vir die probleme wat Bloomberg ondervind het, is verhoogde menslike toesig oor KI-gegenereerde inhoud. Bloomberg het reeds beklemtoon dat joernaliste volle beheer het oor of 'n KI-gegenereerde opsomming gepubliseer word of nie. Hierdie beheer moet egter effektief uitgeoefen word, wat beteken dat redakteurs voldoende tyd moet hê om KI-opsommings te hersien voordat dit gepubliseer word.

Die implementering van robuuste redaksionele prosesse vir die hersiening van KI-gegenereerde inhoud is van kritieke belang om foute te verminder. Dit kan behels dat alle KI-opsommings deur ten minste een menslike redakteur hersien word voor publikasie, of dat sekere tipes inligting (soos data, syfers of toeskrywings) aan besonder deeglike kontroles onderwerp word. Terwyl sulke prosesse die werklas verhoog en dus sommige van die doeltreffendheidswinste van KI verminder, is hulle nodig om akkuraatheid en geloofwaardigheid te handhaaf.

Tegniese verbeterings aan KI-modelle

Die voortgesette tegnologiese ontwikkeling van KI-modelle self is nog 'n belangrike benadering tot die oplossing van huidige probleme. Hallusinasies het reeds aansienlik afgeneem met GPT-4 in vergelyking met sy voorganger, GPT-3.5. Anthropic se nuutste model, "Claude 3 Opus," toon selfs minder hallusinasies in aanvanklike toetse. Die foutkoers van spraakmodelle behoort binnekort laer te wees as dié van die gemiddelde mens. Nietemin, anders as waaraan ons van rekenaars gewoond is, sal KI-spraakmodelle waarskynlik nie vir die afsienbare toekoms foutloos wees nie.

'n Belowende tegniese benadering is die "Mengsel van Kenners": Dit behels die koppeling van verskeie klein, gespesialiseerde modelle aan 'n heknetwerk. Invoer na die stelsel word deur die hek geanaliseer en dan, indien nodig, aan een of meer kenners deurgegee. Laastens word die antwoorde in 'n enkele, omvattende antwoord gekombineer. Dit vermy die noodsaaklikheid om altyd die hele model in al sy kompleksiteit te aktiveer. Hierdie tipe argitektuur kan moontlik akkuraatheid verbeter deur gespesialiseerde modelle vir spesifieke tipes inligting of domeine te gebruik.

Realistiese verwagtinge en deursigtige kommunikasie

Laastens is dit belangrik om realistiese verwagtinge van KI-stelsels te hê en deursigtig te kommunikeer oor hul vermoëns en beperkings. KI-stelsels word vandag spesifiek gedefinieer vir 'n spesifieke toepassingskonteks en is geensins vergelykbaar met menslike intelligensie nie. Hierdie begrip behoort die implementering van KI in joernalistiek en ander velde te lei.

Bloomberg en ander mediamaatskappye moet deursigtig kommunikeer oor hul gebruik van KI en dit duidelik maak dat KI-gegenereerde inhoud gebrekkig kan wees. Dit kan bereik word deur eksplisiete etikettering van KI-gegenereerde inhoud, deursigtige foutkorreksieprosesse en oop kommunikasie oor die beperkings van die tegnologie wat gebruik word. Sulke deursigtigheid kan help om lesersvertroue te handhaaf, selfs wanneer foute voorkom.

Waarom KI-integrasie in joernalistiek sonder mense misluk

Bloomberg se ervaring met KI-gegenereerde opsommings beklemtoon die komplekse uitdagings van die integrasie van kunsmatige intelligensie in joernalistiek. Die ten minste 36 foute wat sedert Januarie regstelling vereis het, toon dat die tegnologie, ten spyte van die potensiaal daarvan, nog nie volwasse genoeg is om betroubaar sonder deeglike menslike toesig gebruik te word nie. Die probleme waarmee Bloomberg te kampe het, is nie uniek nie, maar weerspieël fundamentele uitdagings van KI, soos hallusinasies, 'n gebrek aan deursigtigheid en die afhanklikheid van hoëgehalte-data.

Suksesvolle integrasie van KI in joernalistiek vereis verskeie benaderings: robuuste redaksionele prosesse vir die hersiening van KI-gegenereerde inhoud, voortdurende tegniese verbeterings aan die KI-modelle self, en deursigtige kommunikasie oor die vermoëns en beperkings van die tegnologie wat gebruik word. Bloomberg se ervaring kan dien as 'n waardevolle les vir ander mediamaatskappye wat soortgelyke KI-implementerings beplan.

Die toekoms van KI-aangedrewe joernalistiek hang af van hoe goed ons KI se doeltreffendheidswinste en innoverende vermoëns benut sonder om joernalistieke standaarde in die gedrang te bring. Die sleutel lê in 'n gebalanseerde benadering wat tegnologie beskou as 'n instrument om menslike joernaliste te ondersteun, eerder as om hulle te vervang. Soos John Micklethwait van Bloomberg tereg opgemerk het: "'n KI-gegenereerde opsomming is net so goed soos die storie waarop dit gebaseer is. En vir daardie stories maak mense steeds saak."

☑️ KMO-ondersteuning in strategie, konsultasie, beplanning en implementering

☑️ Skepping of herbelyning van die digitale strategie en digitalisering

☑️ Uitbreiding en optimalisering van internasionale verkoopsprosesse

☑️ Globale en digitale B2B-handelsplatforms

☑️ Pionier Besigheidsontwikkeling

Konrad Wolfenstein

Ek sal graag as u persoonlike adviseur dien.

Jy kan my kontak deur die onderstaande kontakvorm in te vul of my eenvoudig te skakel by +49 7348 4088 965 .

Ek sien uit na ons gesamentlike projek.

Xpert.Digital is 'n spilpunt vir die industrie wat fokus op digitalisering, meganiese ingenieurswese, logistiek/intralogistiek en fotovoltaïese eenhede.

Met ons 360° Besigheidsontwikkelingsoplossing ondersteun ons bekende maatskappye, van nuwe besigheid tot na-verkope.

Markintelligensie, bemarking, bemarkingsoutomatisering, inhoudontwikkeling, PR, posveldtogte, gepersonaliseerde sosiale media en potensiële kliënte-ontwikkeling is deel van ons digitale gereedskap.

Jy kan meer inligting vind by: www.xpert.digital - www.xpert.solar - www.xpert.plus