Kunstig intelligens i finansjournalistik: Bloomberg kæmper med fejlbehæftede AI-resuméer

Er AI-implementeringer egnede til daglig brug? Bloombergs ujævne start med automatiserede opsummeringer

Integrationen af ​​kunstig intelligens i journalistik stiller medievirksomheder over for komplekse udfordringer, som den nylige sag med Bloomberg viser. Den finansielle nyhedstjeneste har eksperimenteret med AI-genererede resuméer til sine artikler siden januar 2025, men har allerede været nødt til at rette mindst 36 fejlagtige resuméer. Denne situation fremhæver vanskelighederne ved at implementere AI-systemer i redaktionelle processer, især med hensyn til nøjagtighed, pålidelighed og tillid til automatiseret indhold. De følgende afsnit undersøger de specifikke problemer hos Bloomberg, sætter dem i kontekst af generelle AI-udfordringer og diskuterer potentielle løsninger til en vellykket integration af AI i journalistik.

Relateret til dette:

• Pålidelig AI: Europas trumfkort og chancen for at tage en ledende rolle inden for kunstig intelligens

Bloombergs problematiske indtræden i AI-genereret indhold

Fejltilbøjeligheden ved AI-resuméer

Bloomberg, et førende globalt finansnyhedsfirma, begyndte at bruge AI-genererede punktopstillinger som resuméer i begyndelsen af ​​sine artikler i starten af ​​2025. Siden denne udrulning den 15. januar har virksomheden dog været nødt til at rette mindst tre dusin af disse automatiserede resuméer, hvilket indikerer betydelige problemer med nøjagtigheden af ​​det AI-genererede indhold. Disse problemer er især bekymrende for en virksomhed som Bloomberg, der er kendt for sin præcise finansielle rapportering, og hvis information ofte kan påvirke investeringsbeslutninger direkte. Behovet for adskillige rettelser underminerer tilliden til pålideligheden af ​​denne nye teknologi og rejser spørgsmål om den for tidlige implementering af AI-systemer i journalistik.

En særlig væsentlig fejl opstod, da Bloomberg rapporterede om præsident Trumps planlagte biltold. Mens den oprindelige artikel korrekt angav, at Trump muligvis ville annoncere toldsatserne samme dag, indeholdt det AI-genererede resumé ukorrekte oplysninger om timingen af ​​en bredere toldforanstaltning. I et andet tilfælde hævdede et AI-resumé fejlagtigt, at præsident Trump ville indføre toldsatser på Canada allerede i 2024. Sådanne fejl demonstrerer AI's begrænsninger i fortolkningen af ​​komplekse nyheder og risiciene ved at offentliggøre ubekræftet, automatiseret indhold.

Ud over forkerte datoer omfattede fejlene også unøjagtige tal og fejlagtige tilskrivninger af handlinger eller udsagn til enkeltpersoner eller organisationer. Disse typer fejl, ofte omtalt som "hallucinationer", udgør en særlig udfordring for AI-systemer, fordi de kan lyde plausible og derfor er vanskelige at opdage uden grundig menneskelig gennemgang. Hyppigheden af ​​disse fejl hos Bloomberg understreger behovet for robuste gennemgangsprocesser og rejser spørgsmål om modenheden af ​​den anvendte AI-teknologi.

Bloombergs reaktion på AI-problemerne

I en officiel erklæring understregede Bloomberg, at 99 procent af deres AI-genererede resuméer lever op til redaktionelle standarder. Virksomheden oplyser, at de udgiver tusindvis af artikler dagligt, og derfor anser de fejlprocenten for at være relativt lav. Bloomberg siger, at de værdsætter gennemsigtighed og retter eller opdaterer artikler efter behov. De understregede også, at journalister har fuld kontrol over, om et AI-genereret resumé bliver offentliggjort eller ej.

I et essay fra den 10. januar, baseret på et foredrag på City St. George's, University of London, beskrev John Micklethwait, chefredaktør for Bloomberg, årsagerne til AI-resuméer. Han forklarede, at klienter sætter pris på dem, fordi de hurtigt kan forstå essensen af ​​en historie, mens journalister er mere skeptiske. Han anerkendte, at journalister frygter, at læserne udelukkende vil stole på resuméerne og overse kernehistorien. Ikke desto mindre understregede Micklethwait, at værdien af ​​et AI-resumé udelukkende afhænger af kvaliteten af ​​den underliggende historie – og i den forbindelse er menneskelig ekspertise fortsat afgørende.

En talsperson for Bloomberg fortalte The New York Times, at feedbacken på resuméerne generelt havde været positiv, og at virksomheden fortsatte med at arbejde på at forbedre oplevelsen. Denne udtalelse antyder, at Bloomberg på trods af de opståede problemer har til hensigt at holde fast i sin strategi om at bruge AI til resuméer, men med et større fokus på kvalitetssikring og forfining af den anvendte teknologi.

AI i journalistik: Et relevant emne for hele branchen

Andre medievirksomheders erfaringer med AI

Bloomberg er ikke det eneste mediefirma, der eksperimenterer med at integrere AI i sine journalistiske processer. Mange nyhedsorganisationer forsøger at finde ud af, hvordan de bedst kan integrere denne nye teknologi i deres rapportering og redaktionelle arbejde. Aviskæden Gannett bruger lignende AI-genererede resuméer til sine artikler, og The Washington Post har udviklet et værktøj kaldet "Ask the Post", der genererer svar på spørgsmål fra offentliggjorte artikler i The Washington Post. Denne udbredte anvendelse demonstrerer mediebranchens betydelige interesse i AI-teknologier, på trods af de tilknyttede risici og udfordringer.

Andre medievirksomheder har også oplevet problemer med AI-værktøjer. I starten af ​​marts fjernede Los Angeles Times sit AI-værktøj fra en debatartikel, efter at teknologien beskrev Ku Klux Klan som andet end en racistisk organisation. Denne hændelse illustrerer, at de udfordringer, Bloomberg står over for, ikke er isolerede, men symptomatiske for bredere problemer med at integrere AI i journalistik. Der tegner sig et mønster, hvor teknologien endnu ikke er moden nok til at fungere pålideligt uden menneskeligt tilsyn, især når man beskæftiger sig med følsomme eller komplekse emner.

Disse eksempler illustrerer spændingen mellem ønsket om innovation og effektivitet gennem AI på den ene side og behovet for at opretholde journalistiske standarder og nøjagtighed på den anden side. Medievirksomheder skal udføre en balancegang: de ønsker at drage fordel af fordelene ved AI uden at risikere deres læseres tillid eller gå på kompromis med grundlæggende journalistiske principper. Erfaringerne fra Bloomberg og andre nyhedsorganisationer tjener som vigtige lektioner for hele branchen om muligheder og begrænsninger ved AI inden for journalistik.

Relateret til dette:

• En af grundene til den tøvende brug af AI: 68 % af HR-chefer klager over manglende AI-knowhow i virksomheder

Den særlige udfordring i finansjournalistik

I den finansielle sektor, hvor Bloomberg opererer som en af ​​de førende nyhedstjenester, er kravene til nøjagtighed og pålidelighed særligt høje. Virkningen af ​​falsk information kan have betydelige økonomiske konsekvenser, da investorer og finansielle eksperter baserer deres beslutninger på disse nyheder. Dette særlige ansvar gør integrationen af ​​AI-teknologier i finansjournalistik til en endnu større udfordring end i andre rapporteringsområder.

Interessant nok overgik den "generalistiske AI" Bloombergs specialiserede AI netop inden for sit område: analyse af finansielle rapporter. Bloomberg havde angiveligt investeret mindst 2,5 millioner dollars i at udvikle sin egen finansielle AI, men mindre end et år efter lanceringen i slutningen af ​​marts 2023 blev det klart, at generelle AI-modeller som ChatGPT og GPT-4 leverede bedre resultater på dette område. Dette illustrerer den hurtige udvikling inden for kunstig intelligens og vanskeligheden for virksomheder at følge med specialiserede løsninger, efterhånden som generelle modeller bliver stadig mere kraftfulde.

Drag fordel af Xpert.Digital's omfattende, femdobbelte ekspertise i en omfattende servicepakke | R&D, XR, PR & optimering af digital synlighed - Billede: Xpert.Digital

Xpert.Digital besidder dybdegående viden på tværs af forskellige brancher. Dette giver os mulighed for at udvikle skræddersyede strategier, der er præcist afstemt med kravene og udfordringerne i dit specifikke markedssegment. Ved løbende at analysere markedstendenser og overvåge brancheudviklingen kan vi handle proaktivt og tilbyde innovative løsninger. Kombinationen af ​​erfaring og ekspertise skaber merværdi og giver vores kunder en afgørende konkurrencefordel.

Mere information her:

• Drag fordel af Xpert.Digital's 5 ekspertiseområder i én pakke – fra kun €500/måned

Grundlæggende udfordringer ved generativ AI

Hallucinationsproblemet i AI-modeller

En af de mest fundamentale udfordringer med AI-systemer, som også fremhæves i Bloombergs opsummeringer, er problemet med "hallucinationer" – tendensen hos AI-modeller til at generere plausibelt lydende, men faktuelt ukorrekte oplysninger. Dette problem opstår, når AI-systemer producerer indhold, der går ud over de oplysninger, de får, eller når de misfortolker data. Sådanne hallucinationer er særligt problematiske inden for journalistik, hvor faktuel nøjagtighed og pålidelighed er altafgørende.

De problemer, som Bloomberg oplever, er netop sådanne hallucinationer: AI'en "opfandt" datoer som implementeringsdatoen for Trumps biltold eller hævdede fejlagtigt, at Trump allerede havde pålagt Canada told i 2024. Den slags fejl fremhæver begrænsningerne ved den nuværende AI-teknologi, især når det kommer til den præcise fortolkning af kompleks information.

Eksperter påpeger, at hallucinationer kan udløses af forskellige faktorer, herunder hvordan træningsprompter og tekster er kodet. Store sprogmodeller (LLM'er) forbinder koncepter med en række tal, kendt som vektorkodninger. For tvetydige ord som "bank" (som kan henvise til både en finansiel institution og et sæde) kan der være én kodning pr. betydning for at undgå tvetydighed. Enhver fejl i kodningen og afkodningen af ​​repræsentationer og tekster kan få den generative AI til at hallucinere.

Gennemsigtighed og sporbarhed af AI-beslutninger

Et andet fundamentalt problem med AI-systemer er manglen på gennemsigtighed og sporbarhed i deres beslutningsprocesser. Med nogle AI-metoder er det ikke længere muligt at forstå, hvordan en bestemt forudsigelse eller et bestemt resultat genereres, eller hvorfor et AI-system er nået frem til et specifikt svar på et givet spørgsmål. Denne mangel på gennemsigtighed, ofte omtalt som "black box-problemet", gør det vanskeligt at identificere og rette fejl, før de offentliggøres.

Sporbarhed er særligt vigtigt inden for områder som journalistik, hvor beslutninger om indhold bør være transparente og berettigede. Hvis Bloomberg og andre medievirksomheder ikke kan forstå, hvorfor deres AI genererer forkerte resuméer, vil det være vanskeligt at implementere systemiske forbedringer. I stedet vil de være afhængige af reaktive korrektioner, efter at fejl allerede er opstået.

Denne udfordring identificeres også som betydelig af eksperter fra erhvervslivet og den akademiske verden. Selvom det primært er en teknisk udfordring, kan den også føre til problematiske resultater fra et samfundsmæssigt eller juridisk perspektiv inden for visse anvendelsesområder. I Bloombergs tilfælde kan dette føre til tab af læsertillid eller i værste fald til økonomiske beslutninger baseret på unøjagtige oplysninger.

Afhængighed af datakvalitet og omfang

Derudover afhænger AI-baserede applikationer af kvaliteten af ​​data og algoritmer. I betragtning af størrelsen og kompleksiteten af ​​de anvendte data bliver systematiske fejl i data eller algoritmer ofte ikke opdaget. Dette er en anden fundamental udfordring, som Bloomberg og andre virksomheder skal overvinde, når de implementerer AI-systemer.

Problemet med datamængder – AI kan kun reelt tage hensyn til relativt små "kontekstvinduer", når den behandler kommandoer eller prompts – er skrumpet betydeligt ind i de senere år, men er fortsat en udfordring. Googles AI-model "Gemini 1.5 Pro 1M" kan allerede behandle en prompt på 700.000 ord eller en times video – mere end syv gange den nuværende bedste GPT-model fra OpenAI. Ikke desto mindre viser tests, at selvom kunstig intelligens kan søge i data, har den svært ved at forstå relationer indeni.

Relateret til dette:

• Omkostningsreduktion og effektivitetsoptimering er dominerende økonomiske principper – AI-risiko og valget af den rigtige AI-model

Løsninger og fremtidige udviklinger

Menneskelig overvågning og redaktionelle processer

En oplagt løsning på de problemer, Bloomberg har oplevet, er øget menneskelig kontrol med AI-genereret indhold. Bloomberg har allerede understreget, at journalister har fuld kontrol over, om et AI-genereret resumé offentliggøres eller ej. Denne kontrol skal dog udøves effektivt, hvilket betyder, at redaktører skal have tilstrækkelig tid til at gennemgå AI-resuméer, før de offentliggøres.

Implementering af robuste redaktionelle processer til gennemgang af AI-genereret indhold er afgørende for at minimere fejl. Dette kan indebære at kræve, at alle AI-resuméer gennemgås af mindst én menneskelig redaktør før offentliggørelse, eller at visse typer information (såsom data, tal eller attributioner) underkastes særligt grundige kontroller. Selvom sådanne processer øger arbejdsbyrden og dermed reducerer nogle af effektivitetsgevinsterne ved AI, er de nødvendige for at opretholde nøjagtighed og troværdighed.

Tekniske forbedringer af AI-modeller

Den løbende teknologiske udvikling af AI-modeller er en anden vigtig tilgang til at løse aktuelle problemer. Hallucinationer er allerede faldet betydeligt med GPT-4 sammenlignet med dens forgænger, GPT-3.5. Anthropics seneste model, "Claude 3 Opus", viser endnu færre hallucinationer i de indledende tests. Fejlraten for talemodeller burde snart være lavere end for det gennemsnitlige menneske. Ikke desto mindre vil AI-talemodeller, i modsætning til hvad vi er vant til fra computere, sandsynligvis ikke være fejlfri i den nærmeste fremtid.

En lovende teknisk tilgang er "Mixture of Experts": Adskillige små, specialiserede modeller er forbundet til et gate-netværk. Input til systemet analyseres af gaten og sendes derefter, om nødvendigt, videre til en eller flere eksperter. Endelig kombineres svarene til et enkelt, omfattende svar. Dette undgår behovet for altid at aktivere hele modellen i al dens kompleksitet. Denne type arkitektur kan potentielt forbedre nøjagtigheden ved at anvende specialiserede modeller til specifikke informationstyper eller domæner.

Realistiske forventninger og transparent kommunikation

Endelig er det vigtigt at have realistiske forventninger til AI-systemer og at kommunikere transparent om deres muligheder og begrænsninger. AI-systemer er i dag specifikt defineret til en bestemt anvendelseskontekst og kan på ingen måde sammenlignes med menneskelig intelligens. Denne forståelse bør styre implementeringen af ​​AI i journalistik og andre områder.

Bloomberg og andre medievirksomheder bør kommunikere transparent om deres brug af AI og gøre det klart, at AI-genereret indhold kan være mangelfuldt. Dette kan opnås gennem eksplicit mærkning af AI-genereret indhold, transparente fejlkorrektioner og åben kommunikation om begrænsningerne ved den anvendte teknologi. En sådan gennemsigtighed kan bidrage til at opretholde læsernes tillid, selv når der opstår fejl.

Hvorfor AI-integration i journalistik mislykkes uden mennesker

Bloombergs erfaring med AI-genererede resuméer fremhæver de komplekse udfordringer ved at integrere kunstig intelligens i journalistik. De mindst 36 fejl, der har krævet rettelse siden januar, viser, at teknologien, på trods af sit potentiale, endnu ikke er moden nok til at blive brugt pålideligt uden grundig menneskelig overvågning. De problemer, Bloomberg står over for, er ikke unikke, men afspejler grundlæggende udfordringer ved AI, såsom hallucinationer, manglende gennemsigtighed og afhængighed af data af høj kvalitet.

En vellykket integration af AI i journalistikken kræver flere tilgange: robuste redaktionelle processer til gennemgang af AI-genereret indhold, løbende tekniske forbedringer af selve AI-modellerne og transparent kommunikation om den anvendte teknologis muligheder og begrænsninger. Bloombergs erfaringer kan tjene som en værdifuld lektie for andre medievirksomheder, der planlægger lignende AI-implementeringer.

Fremtiden for AI-drevet journalistik afhænger af, hvor godt vi udnytter AI's effektivitetsgevinster og innovative evner uden at gå på kompromis med journalistiske standarder. Nøglen ligger i en afbalanceret tilgang, der ser teknologi som et værktøj til at støtte menneskelige journalister snarere end at erstatte dem. Som John Micklethwait fra Bloomberg rammende bemærkede: "Et AI-genereret resumé er kun så godt som den historie, det er baseret på. Og for disse historier betyder mennesker stadig noget."

☑️ SMV-support inden for strategi, rådgivning, planlægning og implementering

☑️ Oprettelse eller omlægning af den digitale strategi og digitalisering

☑️ Udvidelse og optimering af internationale salgsprocesser

☑️ Globale og digitale B2B-handelsplatforme

☑️ Pioner inden for forretningsudvikling

Konrad Wolfenstein

Jeg vil med glæde fungere som din personlige rådgiver.

Du kan kontakte mig ved at udfylde kontaktformularen nedenfor eller blot ringe til mig på +49 89 89 674 804 (München) .

Jeg glæder mig til vores fælles projekt.

Xpert.Digital er et knudepunkt for industrien med fokus på digitalisering, maskinteknik, logistik/intralogistik og solceller.

Med vores 360° forretningsudviklingsløsning understøtter vi anerkendte virksomheder fra nye forretninger til eftersalg.

Markedsinformation, smarketing, marketingautomatisering, indholdsudvikling, PR, postkampagner, personlige sociale medier og lead nurturing er en del af vores digitale værktøjer.

Du kan finde mere information på: www.xpert.digital - www.xpert.solar - www.xpert.plus