Inteligência Artificial em Jornalismo Financeiro: Bloomberg luta com resumo de IA com defeito
Pré-lançamento do Xpert
Seleção de voz 📢
Publicado em: 6 de abril de 2025 / atualização de: 6 de abril de 2025 - Autor: Konrad Wolfenstein
A IA atualmente alcançou em jornalismo?
A implementação da IA é adequada para o uso diário? Iniciado esburacado da Bloomberg com resumos automatizados
A integração da inteligência artificial no jornalismo apresenta às empresas de mídia com desafios complexos, como mostra o caso atual de Bloomberg. O Serviço de Instrução Financeira vem experimentando resumos gerados pela IA para seus artigos desde janeiro de 2025, mas teve que corrigir pelo menos 36 resumos incorretos. Essa situação ilustra as dificuldades na implementação de sistemas de IA na área editorial, em particular no que diz respeito à precisão, confiabilidade e confiança no conteúdo automatizado. As seções a seguir lançam luz sobre os problemas específicos da Bloomberg, definem no contexto do general IA desafia e discutem possíveis soluções para a integração bem -sucedida da IA no jornalismo.
Adequado para:
- Ai confiável: o cartão Trump da Europa e a chance de assumir um papel de liderança na inteligência artificial
A entrada problemática da Bloomberg em conteúdo gerado pela IA
A suscetibilidade das reuniões de IA
A Bloomberg, uma empresa líder mundial de notícias financeiras, começou a colocar os Bulletpoints como resumos no início de seus artigos no início de 2025. Desde essa introdução em 15 de janeiro, no entanto, a empresa teve que corrigir pelo menos três dezenas desses resumos automatizados, o que indica problemas significativos com a precisão da IA gerada por conteúdo. Esses problemas são particularmente problemáticos para uma empresa como a Bloomberg, conhecida por seus relatórios financeiros precisos e cujas informações geralmente podem ter um impacto direto nas decisões de investimento. A necessidade de inúmeras correções prejudica a confiança na confiabilidade dessa nova tecnologia e levanta questões sobre a implementação prematura dos sistemas de IA em jornalismo.
Ocorreu um erro particularmente significativo quando a Bloomberg relatou o planejado Autozölle planejado do presidente Trump. Embora o artigo real declarasse corretamente que Trump possivelmente anunciaria as tarifas no mesmo dia, o resumo gerado pela IA continha informações incorretas sobre o tempo de uma medida aduaneira mais abrangente. Em outro caso, um resumo da IA afirmou incorretamente que o presidente Trump já havia impôs tarifas contra o Canadá em 2024. Tais erros mostram os limites da IA na interpretação de mensagens complexas e os riscos quando o conteúdo automatizado incomum é publicado.
Além da data falsa, os erros também incluíram números incorretos e atribuições incorretas de ações ou declarações sobre pessoas ou organizações. Esses tipos de erros, geralmente chamados de "alucinações", representam um desafio especial para os sistemas de IA, pois podem parecer plausíveis e, portanto, são difíceis de reconhecer se não há uma revisão humana completa. A frequência desses erros na Bloomberg sublinha a necessidade de processos robustos de revisão e levanta questões sobre a maturidade da tecnologia de IA usada.
A reação da Bloomberg aos problemas da IA
Em uma declaração oficial, a Bloomberg enfatizou que 99 % dos resumos gerados pela IA corresponderiam aos padrões editoriais. De acordo com suas próprias declarações, a empresa publica milhares de artigos todos os dias e, portanto, considera a taxa de erro relativamente baixa. De acordo com suas próprias declarações, a Bloomberg atribui importância à transparência e corrige ou os itens atualizados, se necessário. Também foi enfatizado que os jornalistas têm controle total sobre se um resumo gerado pela IA é publicado ou não.
John Micklethwait, editor-chefe da Bloomberg, descreveu os motivos do resumo da IA em um ensaio em 10 de janeiro, que foi baseado em uma palestra na City St. George's, Universidade de Londres. Ele explicou que os clientes os apreciam porque podem reconhecer rapidamente o que é uma história, enquanto os jornalistas são mais céticos. Ele admitiu que os repórteres temem que os leitores só pudessem confiar nos resumos e não ler mais a história real. No entanto, Micklethwait enfatizou que o valor de um resumo da IA depende exclusivamente da qualidade da história subjacente e as pessoas ainda são cruciais para eles.
Uma porta -voz da Bloomberg disse ao New York Times que o feedback sobre os resumos era geralmente positivo e que a empresa continuou a melhorar a experiência. Esta declaração indica que a Bloomberg deseja capturar, apesar dos problemas de usar a estratégia de usar a IA para resumos, mas com um foco aumentado na garantia da qualidade e refinamento da tecnologia usada.
IA em jornalismo: um tópico relevante para a indústria
Experiências de outras empresas de mídia com IA
A Bloomberg não é a única empresa de mídia que experimenta a integração da IA em seus processos jornalísticos. Muitas organizações de notícias tentam descobrir como você pode integrar melhor essa nova tecnologia em seus relatórios e trabalho editorial. A cadeia de jornais de Gannett usa resumos gerados por IA semelhantes para seus artigos, e o Washington Post desenvolveu uma ferramenta chamada "Ask the Post" que gera respostas para perguntas de itens postais publicados. Essa ampla adoção mostra o interesse considerável do setor de mídia nas tecnologias de IA, apesar dos riscos e desafios associados.
Problemas com ferramentas de IA também ocorreram em outras empresas de mídia. No início de março, o Los Angeles Times removeu sua ferramenta de IA de um artigo de opinião depois que a tecnologia descreveu o Ku Klux-Klan como algo diferente de uma organização racista. Este incidente ilustra que os desafios que a Bloomberg enfrenta não são isolados, mas sintomaticamente para problemas mais amplos com a integração da IA no jornalismo. Existe um padrão em que a tecnologia ainda não está madura o suficiente para funcionar de maneira confiável sem supervisão humana, especialmente com tópicos sensíveis ou complexos.
Esses exemplos ilustram a tensão entre o desejo de inovação e eficiência, por um lado, e a necessidade de manter os padrões jornalísticos e a precisão, por outro. As empresas de mídia precisam fazer um ato de equilíbrio: elas querem se beneficiar das vantagens da IA sem arriscar a confiança de seus leitores ou comprometer os princípios jornalísticos básicos. As experiências e outras organizações de notícias da Bloomberg servem como ensinamentos importantes para toda a indústria sobre as possibilidades e limites da IA no jornalismo.
Adequado para:
- Uma razão para o uso hesitante da IA: 68% dos gestores de RH queixam-se da falta de know-how em IA nas empresas
O desafio especial em jornalismo financeiro
No setor financeiro, onde a Bloomberg atua como um dos principais serviços de inteligência, os requisitos de precisão e confiabilidade são particularmente altos. Os efeitos de informações incorretas podem ter consequências financeiras significativas aqui, pois investidores e especialistas financeiros tomam decisões com base nessas notícias. Essa responsabilidade especial torna a integração das tecnologias de IA em jornalismo financeiro um desafio ainda maior do que em outras áreas de relatórios.
Curiosamente, o "generalista-KI" excedeu o KI especial de Bloomberg em seu domínio, a análise financeira. A Bloomberg teve cerca de US $ 2,5 milhões investidos no desenvolvimento de sua própria IA financeira, mas nem mesmo um ano após a introdução no final de março de 2023, ficou claro que os modelos gerais de IA, como ChatGPT e GPT-4, fornecem melhores resultados nesta área. Isso ilustra o rápido desenvolvimento no campo da inteligência artificial e a dificuldade para as empresas acompanharem soluções especializadas se os modelos gerais estiverem se tornando cada vez mais eficientes.
🎯🎯🎯 Beneficie-se da extensa e quíntupla experiência do Xpert.Digital em um pacote de serviços abrangente | P&D, XR, RP e SEM
Máquina de renderização 3D AI e XR: experiência quíntupla da Xpert.Digital em um pacote de serviços abrangente, R&D XR, PR e SEM - Imagem: Xpert.Digital
A Xpert.Digital possui conhecimento profundo de diversos setores. Isso nos permite desenvolver estratégias sob medida, adaptadas precisamente às necessidades e desafios do seu segmento de mercado específico. Ao analisar continuamente as tendências do mercado e acompanhar os desenvolvimentos da indústria, podemos agir com visão e oferecer soluções inovadoras. Através da combinação de experiência e conhecimento, geramos valor acrescentado e damos aos nossos clientes uma vantagem competitiva decisiva.
Mais sobre isso aqui:
Qualidade de dados e modelos de IA: os obstáculos invisíveis da tecnologia moderna
Desafios fundamentais da IA generativa
O problema de alucinação nos modelos de IA
Um dos desafios mais fundamentais para os sistemas de IA, que também ficou claro nos resumos da Bloomberg, é o problema das "alucinações"-ou seja, a tendência dos modelos de IA, de gerar sons plausivelmente, mas de fato informações incorretas. Esse problema ocorre quando os sistemas de IA geram conteúdo que vai além das informações fornecidas a eles ou se eles interpretam mal os dados. Tais alucinações são particularmente problemáticas no jornalismo, onde fiéis e precisão são de importância crucial.
Os problemas enfrentados pela Bloomberg são precisamente essas alucinações: os dados "inventados" da IA, como a data introdutória dos deveres de automóveis de Trump ou alegaram erroneamente que Trump já teria impôs tarifas contra o Canadá em 2024. Esse tipo de erro sublinha os limites da tecnologia atual da IA, especialmente quando se trata da interpretação precisa de informações complexas.
Especialistas indicam que as alucinações podem ser desencadeadas por vários fatores, entre outras coisas pela maneira como os prompts e textos de treinamento são codificados. Os grandes modelos de idiomas (LLMS) vinculam os termos a vários números, as codificações de vetores chamadas. No caso de palavras ambíguas como "banco" (que pode descrever uma instituição financeira e um assento)), pode haver codificação por significado para evitar a ambiguidade. Todos os erros na codificação e decodificação de representações e textos podem levar ao generativo AI alucinado.
Transparência e entendimento das decisões de IA
Outro problema fundamental com os sistemas de IA é a falta de transparência e rastreabilidade de seus processos de tomada de decisão. Com alguns métodos de IA, não é mais compreensível como uma certa previsão ou um certo resultado ocorre ou por que um sistema de IA atingiu uma resposta específica no caso de uma pergunta específica. Essa falta de transparência, muitas vezes chamada de "problema da caixa preta", dificulta a identificação e correção de erros antes de serem publicados.
A rastreabilidade é particularmente importante em áreas como o jornalismo, onde as decisões sobre o conteúdo devem ser transparentes e justificáveis. Se a Bloomberg e outras empresas de mídia não conseguem entender por que sua IA gera resumos incorretos, será difícil fazer melhorias sistêmicas. Em vez disso, eles dependem de correções reativas depois que os erros já ocorreram.
Esse desafio também é identificado por especialistas de negócios e ciências. Embora seja principalmente um desafio técnico, também pode levar a resultados problemáticos de uma perspectiva social ou legal em determinadas áreas de aplicação. No caso da Bloomberg, isso pode levar a uma perda de confiança entre os leitores ou, na pior das hipóteses, das decisões financeiras com base em informações incorretas.
Dependência da qualidade e escopo dos dados
Além disso, os aplicativos baseados na IA dependem da qualidade dos dados e algoritmos. Dessa forma, erros sistemáticos em dados ou algoritmos geralmente não podem ser reconhecidos em vista do tamanho e da complexidade dos dados utilizados. Esse é outro desafio fundamental com o qual a Bloomberg e outras empresas precisam lidar ao implementar sistemas de IA.
O problema com a quantidade de dados - a IA só pode levar em consideração "janelas de contexto" relativamente pequenas no processamento de comandos, o prompt, realmente encolheram nos últimos anos, mas continua sendo um desafio. O modelo do Google Ki “Gemini 1.5 Pro 1M” já pode processar um prontamente na extensão de 700.000 palavras ou uma hora de vídeo-mais de 7 vezes mais do que o melhor modelo GPT atualmente do OpenAai. No entanto, os testes mostram que a inteligência artificial pode procurar dados, mas tem dificuldade em coletar relacionamentos.
Adequado para:
- Redução de custos e otimização da eficiência são os princípios de negócios dominantes-AI e a escolha do modelo de IA certo
Abordagens de solução e desenvolvimentos futuros
Vigilância humana e processos editoriais
Uma solução óbvia para os problemas enfrentados pela Bloomberg é o aumento do monitoramento humano do conteúdo gerado pela IA. A Bloomberg já enfatizou que os jornalistas têm controle total sobre se um resumo gerado pela IA é publicado ou não. No entanto, esse controle deve ser efetivamente exercido, o que significa que os editores devem ter tempo suficiente para verificar as cúpulas da IA antes de serem publicadas.
A implementação de processos editoriais robustos para verificar o conteúdo gerado pela IA é crucial para minimizar os erros. Isso pode incluir que todas as cúpulas da IA devem ser verificadas por pelo menos um editor humano antes de serem publicadas ou que certos tipos de informações (como dados, números ou atribuições) são particularmente verificados. Tais processos aumentam a carga de trabalho e, assim, reduzem parte dos ganhos de eficiência pela IA, mas são necessários para proteger a precisão e a credibilidade.
Melhorias técnicas nos modelos de IA
O desenvolvimento técnico dos modelos de IA em si é outra abordagem importante para resolver os problemas atuais. Já com o GPT-4, as alucinações diminuíram significativamente em comparação com o antecessor GPT-3.5. O modelo mais recente da antropia, “Claude 3 Opus”, mostra ainda menos alucinações nos testes iniciais. Em breve, a taxa de erro dos modelos de voz deve ser menor que a do homem médio. No entanto, os modelos de idiomas de IA provavelmente não serão perfeitos até o aviso prévio, ao contrário dos computadores.
Uma abordagem técnica promissora é a “mistura de especialistas”: vários pequenos modelos especiais são conectados a uma rede de portões. A entrada no sistema é analisada pelo portão e depois passada para um ou mais especialistas, se necessário. No final, as respostas para uma palavra geral são combinadas. Dessa forma, pode -se evitar que todo o modelo deve sempre se tornar ativo em sua complexidade. Esse tipo de arquitetura poderia potencialmente melhorar a precisão usando modelos especializados para certos tipos de informações ou domínios.
Expectativas realistas e comunicação transparente
Afinal, é importante ter expectativas realistas dos sistemas de IA e se comunicar de forma transparente em suas habilidades e limites. Os sistemas de IA são especificamente definidos para um contexto de aplicativo específico hoje e estão longe de serem comparáveis à inteligência humana. Esse conhecimento deve levar à implementação da IA em jornalismo e outras áreas.
A Bloomberg e outras empresas de mídia devem se comunicar de forma transparente sobre o uso da IA e deixar claro que o conteúdo gerado pela IA pode estar incorreto. Isso pode ser feito pela rotulagem explícita de conteúdo gerado pela IA, processos de correção de erros transparentes e comunicação aberta nos limites da tecnologia usados. Essa transparência pode ajudar a manter a confiança do leitor, mesmo que ocorram erros.
Por que a integração da IA falha no jornalismo sem pessoas
As experiências da Bloomberg com resumos gerados pela IA ilustram os complexos desafios na integração da inteligência artificial no jornalismo. Os pelo menos 36 erros que precisavam ser corrigidos desde janeiro mostram que, apesar de seu potencial, a tecnologia ainda não é madura o suficiente para ser usada com segurança sem uma vigilância humana completa. Os problemas com os quais a Bloomberg é confrontada não são únicos, mas refletem desafios fundamentais da IA, como alucinações, falta de transparência e dependência de dados de alta qualidade.
Várias abordagens são necessárias para uma integração bem -sucedida da IA no jornalismo: processos editoriais robustos para a revisão do conteúdo gerado pela IA, melhorias técnicas contínuas nos modelos de IA em si e a comunicação transparente sobre as habilidades e limites da tecnologia usada. A experiência da Bloomberg pode servir como uma lição valiosa para outras empresas de mídia que planejam implementações de IA semelhantes.
O futuro do jornalismo baseado em IA depende de quão bem é usar os ganhos de eficiência e possibilidades inovadoras da IA sem comprometer os padrões jornalísticos. A chave está em uma abordagem equilibrada que vê a tecnologia como uma ferramenta que suporta jornalistas humanos em vez de substituí -los. Como John Micklethwait, da Bloomberg observou apropriadamente: "Um resumo da IA é tão bom quanto a história na qual se baseia. E as pessoas ainda são importantes para as histórias".
Estamos à sua disposição - aconselhamento - planejamento - implementação - gerenciamento de projetos
☑️ Apoio às PME em estratégia, consultoria, planeamento e implementação
☑️ Criação ou realinhamento da estratégia digital e digitalização
☑️ Expansão e otimização dos processos de vendas internacionais
☑️ Plataformas de negociação B2B globais e digitais
☑️ Desenvolvimento de negócios pioneiro
Ficarei feliz em servir como seu conselheiro pessoal.
Você pode entrar em contato comigo preenchendo o formulário de contato abaixo ou simplesmente ligando para +49 89 89 674 804 (Munique) .
Estou ansioso pelo nosso projeto conjunto.
Xpert.Digital - Konrad Wolfenstein
Xpert.Digital é um hub para a indústria com foco em digitalização, engenharia mecânica, logística/intralogística e energia fotovoltaica.
Com nossa solução de desenvolvimento de negócios 360°, apoiamos empresas conhecidas, desde novos negócios até o pós-venda.
Inteligência de mercado, smarketing, automação de marketing, desenvolvimento de conteúdo, PR, campanhas por email, mídias sociais personalizadas e nutrição de leads fazem parte de nossas ferramentas digitais.
Você pode descobrir mais em: www.xpert.digital - www.xpert.solar - www.xpert.plus