Inteligența artificială în jurnalismul financiar: Bloomberg se confruntă cu rezumate eronate ale inteligenței artificiale

Sunt implementările AI potrivite pentru utilizarea de zi cu zi? Începutul dificil al Bloomberg cu rezumatele automate

Integrarea inteligenței artificiale în jurnalism prezintă companiilor media provocări complexe, așa cum demonstrează recentul caz Bloomberg. Serviciul de știri financiare experimentează cu rezumate generate de inteligență artificială pentru articolele sale din ianuarie 2025, dar a trebuit deja să corecteze cel puțin 36 de rezumate eronate. Această situație evidențiază dificultățile implementării sistemelor de inteligență artificială în procesele editoriale, în special în ceea ce privește acuratețea, fiabilitatea și încrederea în conținutul automatizat. Următoarele secțiuni examinează problemele specifice de la Bloomberg, le plasează în contextul provocărilor generale legate de inteligența artificială și discută potențiale soluții pentru integrarea cu succes a inteligenței artificiale în jurnalism.

Legat de asta:

• IA fiabilă: atuul Europei și șansa de a-și asuma un rol principal în domeniul inteligenței artificiale

Intrarea problematică a Bloomberg în domeniul conținutului generat de inteligența artificială

Predisponibilitatea la erori a rezumatelor IA

Bloomberg, o companie globală de știri financiare de top, a început să utilizeze puncte generate de inteligența artificială ca rezumate la începutul articolelor sale la începutul anului 2025. Cu toate acestea, de la această lansare pe 15 ianuarie, compania a trebuit să corecteze cel puțin trei duzini de astfel de rezumate automate, indicând probleme semnificative legate de acuratețea conținutului generat de inteligența artificială. Aceste probleme sunt deosebit de îngrijorătoare pentru o companie precum Bloomberg, cunoscută pentru raportarea sa financiară precisă și ale cărei informații pot influența adesea direct deciziile de investiții. Necesitatea numeroaselor corecții subminează încrederea în fiabilitatea acestei noi tehnologii și ridică semne de întrebare cu privire la implementarea prematură a sistemelor de inteligență artificială în jurnalism.

O eroare deosebit de semnificativă a apărut atunci când Bloomberg a relatat despre tarifele auto planificate de președintele Trump. Deși articolul original afirma corect că Trump ar putea anunța tarifele în aceeași zi, rezumatul generat de inteligența artificială conținea informații incorecte despre momentul unei măsuri tarifare mai ample. Într-un alt caz, un rezumat generat de inteligența artificială a susținut în mod eronat că președintele Trump va impune tarife Canadei încă din 2024. Astfel de erori demonstrează limitele inteligenței artificiale în interpretarea știrilor complexe și riscurile publicării de conținut automatizat, neverificat.

Pe lângă datele incorecte, erorile au inclus și cifre inexacte și atribuiri greșite de acțiuni sau declarații unor persoane sau organizații. Aceste tipuri de erori, adesea denumite „halucinații”, reprezintă o provocare deosebită pentru sistemele de inteligență artificială, deoarece pot părea plauzibile și, prin urmare, sunt dificil de detectat fără o verificare umană amănunțită. Frecvența acestor erori la Bloomberg subliniază necesitatea unor procese robuste de verificare și ridică întrebări cu privire la maturitatea tehnologiei de inteligență artificială utilizată.

Reacția lui Bloomberg la problemele IA

Într-o declarație oficială, Bloomberg a subliniat că 99% din rezumatele sale generate de inteligența artificială îndeplinesc standardele editoriale. Compania declară că publică mii de articole zilnic și, prin urmare, consideră că rata de eroare este relativ scăzută. Bloomberg spune că prețuiește transparența și corectează sau actualizează articolele după cum este necesar. De asemenea, a subliniat că jurnaliștii au control deplin asupra publicării sau nu a unui rezumat generat de inteligența artificială.

Într-un eseu din 10 ianuarie, bazat pe o prelegere la City St. George's, Universitatea din Londra, John Micklethwait, redactor-șef al Bloomberg, a descris motivele pentru care se folosesc rezumate bazate pe inteligență artificială. El a explicat că aceștia apreciază faptul că pot înțelege rapid esența unei știri, în timp ce jurnaliștii sunt mai sceptici. El a recunoscut că reporterii se tem că cititorii s-ar putea baza exclusiv pe rezumate și ar neglija știrea principală. Cu toate acestea, Micklethwait a subliniat că valoarea unui rezumat bazat pe inteligență artificială depinde în întregime de calitatea poveștii de bază - iar pentru aceasta, expertiza umană rămâne crucială.

Un purtător de cuvânt al Bloomberg a declarat pentru The New York Times că feedback-ul primit cu privire la rezumate a fost în general pozitiv și că firma continuă să lucreze la îmbunătățirea experienței. Această declarație sugerează că, în ciuda problemelor întâmpinate, Bloomberg intenționează să își mențină strategia de utilizare a inteligenței artificiale pentru rezumate, dar cu un accent mai mare pe asigurarea calității și rafinarea tehnologiei utilizate.

Inteligența artificială în jurnalism: un subiect relevant pentru întreaga industrie

Experiențele altor companii media cu inteligența artificială

Bloomberg nu este singura companie media care experimentează integrarea inteligenței artificiale în procesele sale jurnalistice. Multe organizații de știri încearcă să găsească cea mai bună modalitate de a încorpora această nouă tehnologie în reportajele și lucrările lor editoriale. Lanțul de ziare Gannett folosește rezumate similare generate de inteligență artificială pentru articolele sale, iar The Washington Post a dezvoltat un instrument numit „Ask the Post” care generează răspunsuri la întrebări din articolele publicate în Post. Această adoptare pe scară largă demonstrează interesul semnificativ al industriei media pentru tehnologiile de inteligență artificială, în ciuda riscurilor și provocărilor asociate.

Alte companii media au întâmpinat, de asemenea, probleme cu instrumentele de inteligență artificială. La începutul lunii martie, Los Angeles Times și-a eliminat instrumentul de inteligență artificială dintr-un articol de opinie, după ce tehnologia a descris Ku Klux Klan-ul ca fiind altceva decât o organizație rasistă. Acest incident ilustrează faptul că provocările cu care se confruntă Bloomberg nu sunt izolate, ci simptomatice ale unor probleme mai ample legate de integrarea inteligenței artificiale în jurnalism. Apare un tipar în care tehnologia nu este încă suficient de matură pentru a funcționa în mod fiabil fără supraveghere umană, în special atunci când se ocupă de subiecte sensibile sau complexe.

Aceste exemple ilustrează tensiunea dintre dorința de inovare și eficiență prin intermediul inteligenței artificiale, pe de o parte, și nevoia de a menține standardele jurnalistice și acuratețea, pe de altă parte. Companiile media trebuie să găsească un echilibru: doresc să beneficieze de avantajele inteligenței artificiale fără a risca încrederea cititorilor lor sau a compromite principiile jurnalistice fundamentale. Experiențele Bloomberg și ale altor organizații de știri servesc drept lecții importante pentru întreaga industrie despre oportunitățile și limitele inteligenței artificiale în jurnalism.

Legat de asta:

• Un motiv pentru utilizarea ezitantă a inteligenței artificiale: 68% dintre managerii de resurse umane se plâng de lipsa de cunoștințe despre inteligența artificială în companii

Provocarea specifică în jurnalismul financiar

În sectorul financiar, unde Bloomberg operează ca unul dintre principalele servicii de știri, cerințele de acuratețe și fiabilitate sunt deosebit de mari. Impactul informațiilor false poate avea consecințe financiare semnificative, deoarece investitorii și experții financiari își bazează deciziile pe aceste știri. Această responsabilitate particulară face ca integrarea tehnologiilor de inteligență artificială în jurnalismul financiar să fie o provocare și mai mare decât în ​​alte domenii de reportaj.

Interesant este că „IA generalistă” a depășit performanța IA specializată a Bloomberg tocmai în domeniul său: analiza rapoartelor financiare. Bloomberg ar fi investit cel puțin 2,5 milioane de dolari în dezvoltarea propriei IA financiare, dar la mai puțin de un an de la lansarea sa la sfârșitul lunii martie 2023, a devenit clar că modelele de IA cu scop general, precum ChatGPT și GPT-4, au oferit rezultate mai bune în acest domeniu. Acest lucru ilustrează ritmul rapid de dezvoltare a inteligenței artificiale și dificultatea companiilor de a ține pasul cu soluțiile specializate, pe măsură ce modelele cu scop general devin din ce în ce mai puternice.

Beneficiați de expertiza extinsă, în cinci domenii, a Xpert.Digital într-un pachet complet de servicii | Cercetare și dezvoltare, XR, PR și optimizare a vizibilității digitale - Imagine: Xpert.Digital

Xpert.Digital deține cunoștințe aprofundate în diverse industrii. Acest lucru ne permite să dezvoltăm strategii personalizate, aliniate cu precizie cerințelor și provocărilor segmentului dumneavoastră specific de piață. Prin analiza continuă a tendințelor pieței și monitorizarea evoluțiilor din industrie, putem acționa proactiv și oferi soluții inovatoare. Combinația dintre experiență și expertiză generează valoare adăugată și oferă clienților noștri un avantaj competitiv decisiv.

Mai multe informații aici:

• Beneficiați de cele 5 domenii de expertiză ale Xpert.Digital într-un singur pachet – începând de la doar 500 €/lună

Provocările fundamentale ale inteligenței artificiale generative

Problema halucinațiilor în modelele de inteligență artificială

Una dintre cele mai fundamentale provocări legate de sistemele de inteligență artificială, evidențiată și în rezumatele Bloomberg, este problema „halucinațiilor” - tendința modelelor de inteligență artificială de a genera informații care sună plauzibil, dar care sunt incorecte din punct de vedere factual. Această problemă apare atunci când sistemele de inteligență artificială produc conținut care depășește informațiile care le sunt furnizate sau atunci când interpretează greșit datele. Astfel de halucinații sunt deosebit de problematice în jurnalism, unde acuratețea și fiabilitatea faptică sunt primordiale.

Problemele cu care se confruntă Bloomberg sunt tocmai astfel de halucinații: IA a „inventat” date precum data implementării tarifelor auto impuse de Trump sau a susținut în mod fals că Trump impusese deja tarife Canadei în 2024. Aceste tipuri de erori evidențiază limitele tehnologiei actuale de IA, în special când vine vorba de interpretarea corectă a informațiilor complexe.

Experții subliniază că halucinațiile pot fi declanșate de diverși factori, inclusiv modul în care sunt codificate prompturile și textele de antrenament. Modelele de limbaj mare (LLM) leagă conceptele de o serie de numere, cunoscute sub numele de codificări vectoriale. Pentru cuvinte ambigue precum „bancă” (care se poate referi atât la o instituție financiară, cât și la un sediu), poate exista o singură codificare per sens pentru a evita ambiguitatea. Orice eroare în codificarea și decodificarea reprezentărilor și textelor poate provoca halucinații în inteligența artificială generativă.

Transparența și trasabilitatea deciziilor privind inteligența artificială

O altă problemă fundamentală a sistemelor de inteligență artificială este lipsa de transparență și trasabilitate în procesele lor decizionale. Cu unele metode de inteligență artificială, nu mai este posibil să se înțeleagă cum este generată o anumită predicție sau un anumit rezultat sau de ce un sistem de inteligență artificială a ajuns la un răspuns specific la o anumită întrebare. Această lipsă de transparență, adesea denumită „problema cutiei negre”, face dificilă identificarea și corectarea erorilor înainte ca acestea să fie făcute publice.

Trasabilitatea este deosebit de importantă în domenii precum jurnalismul, unde deciziile privind conținutul ar trebui să fie transparente și justificabile. Dacă Bloomberg și alte companii media nu pot înțelege de ce inteligența lor artificială generează rezumate incorecte, va fi dificil să implementeze îmbunătățiri sistemice. În schimb, se vor baza pe corecții reactive după ce erorile au apărut deja.

Această provocare este identificată ca fiind semnificativă și de experții din mediul de afaceri și mediul academic. Deși este în primul rând o provocare tehnică, ea poate duce și la rezultate problematice din perspectivă societală sau juridică în anumite domenii de aplicare. În cazul Bloomberg, acest lucru ar putea duce la pierderea încrederii cititorilor sau, în cel mai rău caz, la decizii financiare bazate pe informații inexacte.

Dependența de calitatea și domeniul de aplicare al datelor

În plus, aplicațiile bazate pe inteligență artificială depind de calitatea datelor și a algoritmilor. Având în vedere dimensiunea și complexitatea datelor utilizate, erorile sistematice din date sau algoritmi sunt adesea nedetectate. Aceasta este o altă provocare fundamentală pe care Bloomberg și alte companii trebuie să o depășească atunci când implementează sisteme de inteligență artificială.

Problema volumului de date — inteligența artificială poate lua în considerare doar „ferestre de context” relativ mici atunci când procesează comenzi sau solicitări — s-a redus considerabil în ultimii ani, dar rămâne o provocare. Modelul de inteligență artificială „Gemini 1.5 Pro 1M” de la Google poate deja procesa o solicitare de 700.000 de cuvinte sau o oră de videoclip — de peste șapte ori mai bun model GPT de la OpenAI în prezent. Cu toate acestea, testele arată că, deși inteligența artificială poate căuta date, aceasta se chinuie să înțeleagă relațiile din cadrul acestora.

Legat de asta:

• Reducerea costurilor și optimizarea eficienței sunt principii economice dominante – riscul IA și alegerea modelului potrivit de IA

Soluții și dezvoltări viitoare

Monitorizare umană și procese editoriale

O soluție evidentă la problemele cu care s-a confruntat Bloomberg este supravegherea umană sporită a conținutului generat de inteligența artificială. Bloomberg a subliniat deja că jurnaliștii au control deplin asupra publicării sau nu a unui rezumat generat de inteligența artificială. Cu toate acestea, acest control trebuie exercitat eficient, ceea ce înseamnă că editorii trebuie să aibă suficient timp pentru a revizui rezumatele generate de inteligența artificială înainte de publicarea acestora.

Implementarea unor procese editoriale robuste pentru revizuirea conținutului generat de inteligența artificială este crucială pentru minimizarea erorilor. Aceasta ar putea implica solicitarea ca toate rezumatele IA să fie revizuite de cel puțin un editor uman înainte de publicare sau supunerea anumitor tipuri de informații (cum ar fi date, cifre sau atribuiri) unor verificări deosebit de amănunțite. Deși astfel de procese cresc volumul de muncă și, prin urmare, reduc o parte din câștigurile de eficiență generate de IA, ele sunt necesare pentru a menține acuratețea și credibilitatea.

Îmbunătățiri tehnice ale modelelor de inteligență artificială

Dezvoltarea tehnologică continuă a modelelor de inteligență artificială este o altă abordare importantă pentru rezolvarea problemelor actuale. Halucinațiile au scăzut deja semnificativ cu GPT-4 în comparație cu predecesorul său, GPT-3.5. Cel mai recent model al Anthropic, „Claude 3 Opus”, prezintă și mai puține halucinații în testele inițiale. Rata de eroare a modelelor de vorbire ar trebui să fie în curând mai mică decât cea a omului mediu. Cu toate acestea, spre deosebire de ceea ce suntem obișnuiți de la computere, modelele de vorbire bazate pe inteligență artificială probabil nu vor fi lipsite de erori în viitorul apropiat.

O abordare tehnică promițătoare este „Amestecul de experți”: Mai multe modele mici, specializate, sunt conectate la o rețea de porți. Informațiile de intrare în sistem sunt analizate de poartă și apoi, dacă este necesar, transmise unuia sau mai multor experți. În cele din urmă, răspunsurile sunt combinate într-un singur răspuns complet. Acest lucru evită necesitatea de a activa întotdeauna întregul model în toată complexitatea sa. Acest tip de arhitectură ar putea îmbunătăți acuratețea prin utilizarea de modele specializate pentru anumite tipuri de informații sau domenii.

Așteptări realiste și comunicare transparentă

În cele din urmă, este important să avem așteptări realiste de la sistemele de inteligență artificială și să comunicăm transparent cu privire la capacitățile și limitele acestora. Sistemele de inteligență artificială de astăzi sunt definite special pentru un anumit context de aplicație și nu sunt în niciun caz comparabile cu inteligența umană. Această înțelegere ar trebui să ghideze implementarea inteligenței artificiale în jurnalism și în alte domenii.

Bloomberg și alte companii media ar trebui să comunice transparent cu privire la utilizarea inteligenței artificiale și să clarifice faptul că un conținut generat de inteligență artificială poate fi eronat. Acest lucru ar putea fi realizat prin etichetarea explicită a conținutului generat de inteligență artificială, prin procese transparente de corectare a erorilor și prin comunicarea deschisă cu privire la limitele tehnologiei utilizate. O astfel de transparență poate ajuta la menținerea încrederii cititorilor, chiar și atunci când apar erori.

De ce integrarea inteligenței artificiale în jurnalism eșuează fără oameni

Experiența Bloomberg cu rezumatele generate de inteligența artificială evidențiază provocările complexe ale integrării inteligenței artificiale în jurnalism. Cele cel puțin 36 de erori care au necesitat corectare din ianuarie demonstrează că, în ciuda potențialului său, tehnologia nu este încă suficient de matură pentru a fi utilizată în mod fiabil fără o supraveghere umană amănunțită. Problemele cu care se confruntă Bloomberg nu sunt unice, ci reflectă provocările fundamentale ale inteligenței artificiale, cum ar fi halucinațiile, lipsa de transparență și dependența de date de înaltă calitate.

Integrarea cu succes a inteligenței artificiale în jurnalism necesită mai multe abordări: procese editoriale robuste pentru revizuirea conținutului generat de inteligență artificială, îmbunătățiri tehnice continue ale modelelor de inteligență artificială în sine și o comunicare transparentă cu privire la capacitățile și limitele tehnologiei utilizate. Experiența Bloomberg poate servi drept o lecție valoroasă pentru alte companii media care planifică implementări similare de inteligență artificială.

Viitorul jurnalismului bazat pe inteligență artificială depinde de cât de bine valorificăm câștigurile de eficiență și capacitățile inovatoare ale inteligenței artificiale fără a compromite standardele jurnalistice. Cheia constă într-o abordare echilibrată care privește tehnologia ca pe un instrument de sprijinire a jurnaliștilor umani, mai degrabă decât de înlocuire a acestora. După cum a observat pe bună dreptate John Micklethwait de la Bloomberg, „Un rezumat generat de inteligență artificială este la fel de bun ca povestea pe care se bazează. Și pentru aceste povești, oamenii contează în continuare.”

☑️ Suport pentru IMM-uri în strategie, consultanță, planificare și implementare

☑️ Crearea sau realinierea strategiei digitale și a digitalizării

☑️ Extinderea și optimizarea proceselor de vânzări internaționale

☑️ Platforme de tranzacționare B2B globale și digitale

☑️ Dezvoltare de afaceri pionieră

Konrad Wolfenstein

Aș fi bucuros să vă servesc drept consilier personal.

Mă puteți contacta completând formularul de contact de mai jos sau pur și simplu sunându-mă la +49 89 89 674 804 (München) .

Aștept cu nerăbdare proiectul nostru comun.

Xpert.Digital este un hub pentru industrie, axat pe digitalizare, inginerie mecanică, logistică/intralogistică și fotovoltaică.

Cu soluția noastră de Dezvoltare Afaceri 360°, sprijinim companii renumite, de la achiziții noi până la post-vânzare.

Inteligența de piață, smarketing-ul, automatizarea marketingului, dezvoltarea de conținut, PR-ul, campaniile de e-mail, social media personalizate și cultivarea lead-urilor fac parte din instrumentele noastre digitale.

Puteți găsi mai multe informații la: www.xpert.digital - www.xpert.solar - www.xpert.plus