Inteligencia artificial en el periodismo financiero: Bloomberg lucha con resúmenes de IA defectuosos

¿Son las implementaciones de IA adecuadas para el uso diario? El comienzo accidentado de Bloomberg con los resúmenes automatizados

La integración de la inteligencia artificial en el periodismo plantea a las empresas de medios desafíos complejos, como demuestra el reciente caso de Bloomberg. El servicio de noticias financieras lleva experimentando con resúmenes generados por IA para sus artículos desde enero de 2025, pero ya ha tenido que corregir al menos 36 resúmenes erróneos. Esta situación pone de relieve las dificultades de implementar sistemas de IA en los procesos editoriales, en particular en lo que respecta a la precisión, la fiabilidad y la confianza en el contenido automatizado. Las siguientes secciones examinan los problemas específicos de Bloomberg, los contextualizan con los desafíos generales de la IA y analizan posibles soluciones para su integración exitosa en el periodismo.

Adecuado para:

• AI de confianza: la tarjeta Trump de Europa y la posibilidad de asumir un papel principal en la inteligencia artificial

La problemática entrada de Bloomberg en el contenido generado por IA

La propensión a errores de los resúmenes de IA

Bloomberg, empresa líder mundial en noticias financieras, comenzó a utilizar viñetas generadas por IA como resúmenes al inicio de sus artículos a principios de 2025. Sin embargo, desde su lanzamiento el 15 de enero, la empresa ha tenido que corregir al menos tres docenas de estos resúmenes automatizados, lo que indica problemas significativos con la precisión del contenido generado por IA. Estos problemas son especialmente preocupantes para una empresa como Bloomberg, conocida por la precisión de sus informes financieros, cuya información a menudo puede influir directamente en las decisiones de inversión. La necesidad de numerosas correcciones socava la confianza en la fiabilidad de esta nueva tecnología y plantea dudas sobre la implementación prematura de sistemas de IA en el periodismo.

Un error particularmente significativo ocurrió cuando Bloomberg informó sobre los aranceles automotrices planeados por el presidente Trump. Si bien el artículo original afirmaba correctamente que Trump podría anunciar los aranceles ese mismo día, el resumen generado por IA contenía información incorrecta sobre el momento de una medida arancelaria más amplia. En otro caso, un resumen generado por IA afirmó erróneamente que el presidente Trump impondría aranceles a Canadá a partir de 2024. Estos errores demuestran las limitaciones de la IA para interpretar noticias complejas y los riesgos de publicar contenido automatizado y sin verificar.

Además de fechas incorrectas, los errores también incluían cifras inexactas y atribuciones erróneas de acciones o declaraciones a personas u organizaciones. Este tipo de errores, a menudo denominados "alucinaciones", supone un reto particular para los sistemas de IA, ya que pueden parecer plausibles y, por lo tanto, son difíciles de detectar sin una revisión humana exhaustiva. La frecuencia de estos errores en Bloomberg subraya la necesidad de procesos de revisión rigurosos y plantea dudas sobre la madurez de la tecnología de IA utilizada.

La reacción de Bloomberg ante los problemas de la IA

En un comunicado oficial, Bloomberg enfatizó que el 99% de sus resúmenes generados por IA cumplen con los estándares editoriales. La compañía afirma que publica miles de artículos diariamente y, por lo tanto, considera que la tasa de error es relativamente baja. Bloomberg afirma que valora la transparencia y corrige o actualiza los artículos según sea necesario. También destacó que los periodistas tienen control total sobre la publicación o no de un resumen generado por IA.

En un ensayo del 10 de enero, basado en una conferencia en City St. George's, Universidad de Londres, John Micklethwait, editor jefe de Bloomberg, describió las razones de los resúmenes de IA. Explicó que los clientes los aprecian porque pueden captar rápidamente la esencia de una noticia, mientras que los periodistas son más escépticos. Reconoció que los periodistas temen que los lectores se basen únicamente en los resúmenes y descuiden la historia principal. Sin embargo, Micklethwait enfatizó que el valor de un resumen de IA depende completamente de la calidad de la historia subyacente, y para ello, la experiencia humana sigue siendo crucial.

Un portavoz de Bloomberg declaró a The New York Times que la respuesta a los resúmenes había sido, en general, positiva y que la compañía seguía trabajando para mejorar la experiencia. Esta declaración sugiere que, a pesar de los problemas encontrados, Bloomberg mantiene su estrategia de usar IA para los resúmenes, pero con un mayor enfoque en el control de calidad y el perfeccionamiento de la tecnología utilizada.

IA en el periodismo: un tema relevante para toda la industria

Experiencias de otras empresas de medios con IA

Bloomberg no es la única empresa de medios que experimenta con la integración de IA en sus procesos periodísticos. Muchas organizaciones de noticias buscan la mejor manera de incorporar esta nueva tecnología a sus reportajes y trabajos editoriales. La cadena de periódicos Gannett utiliza resúmenes similares generados por IA para sus artículos, y The Washington Post ha desarrollado una herramienta llamada "Ask the Post" que genera respuestas a preguntas de artículos publicados por el Post. Esta adopción generalizada demuestra el gran interés de la industria de los medios en las tecnologías de IA, a pesar de los riesgos y desafíos asociados.

Otras empresas de medios también han tenido problemas con las herramientas de IA. A principios de marzo, Los Angeles Times retiró su herramienta de IA de un artículo de opinión después de que la tecnología describiera al Ku Klux Klan como algo más que una organización racista. Este incidente ilustra que los desafíos que enfrenta Bloomberg no son aislados, sino sintomáticos de problemas más amplios en la integración de la IA en el periodismo. Surge un patrón donde la tecnología aún no está lo suficientemente madura como para funcionar de forma fiable sin supervisión humana, especialmente al tratar temas delicados o complejos.

Estos ejemplos ilustran la tensión entre el deseo de innovación y eficiencia mediante la IA, por un lado, y la necesidad de mantener los estándares y la precisión periodística, por otro. Las empresas de medios deben encontrar el equilibrio: desean beneficiarse de las ventajas de la IA sin comprometer la confianza de sus lectores ni los principios periodísticos fundamentales. Las experiencias de Bloomberg y otras organizaciones de noticias constituyen lecciones importantes para toda la industria sobre las oportunidades y limitaciones de la IA en el periodismo.

Adecuado para:

• Una de las razones del uso reticente de la IA: el 68 % de los responsables de recursos humanos se quejan de la falta de conocimientos sobre IA en las empresas

El desafío particular del periodismo financiero

En el sector financiero, donde Bloomberg opera como uno de los principales servicios de noticias, las exigencias de precisión y fiabilidad son especialmente altas. El impacto de la información falsa puede tener importantes consecuencias financieras, ya que inversores y expertos financieros basan sus decisiones en estas noticias. Esta particular responsabilidad hace que la integración de las tecnologías de IA en el periodismo financiero sea un reto aún mayor que en otras áreas de la información.

Curiosamente, la IA generalista superó a la IA especializada de Bloomberg precisamente en su ámbito: el análisis de informes financieros. Bloomberg había invertido al menos 2,5 millones de dólares en el desarrollo de su propia IA financiera, pero menos de un año después de su lanzamiento a finales de marzo de 2023, se hizo evidente que los modelos de IA de propósito general, como ChatGPT y GPT-4, ofrecían mejores resultados en este ámbito. Esto ilustra el rápido ritmo de desarrollo de la inteligencia artificial y la dificultad de las empresas para mantenerse al día con las soluciones especializadas a medida que los modelos de propósito general se vuelven cada vez más potentes.

Benefíciese de la amplia y quíntuple experiencia de Xpert.Digital en un paquete integral de servicios | I+D, XR, RR. PP. y optimización de la visibilidad digital - Imagen: Xpert.Digital

Xpert.Digital tiene un conocimiento profundo de diversas industrias. Esto nos permite desarrollar estrategias a medida que se adaptan precisamente a los requisitos y desafíos de su segmento de mercado específico. Al analizar continuamente las tendencias del mercado y seguir los desarrollos de la industria, podemos actuar con previsión y ofrecer soluciones innovadoras. Mediante la combinación de experiencia y conocimiento generamos valor añadido y damos a nuestros clientes una ventaja competitiva decisiva.

Más sobre esto aquí:

• Utilice la experiencia quíntuple de Xpert.Digital en un solo paquete, desde sólo 500 € al mes

Desafíos fundamentales de la IA generativa

El problema de las alucinaciones en los modelos de IA

Uno de los desafíos más fundamentales de los sistemas de IA, también destacado en los resúmenes de Bloomberg, es el problema de las "alucinaciones": la tendencia de los modelos de IA a generar información aparentemente plausible, pero factualmente incorrecta. Este problema surge cuando los sistemas de IA producen contenido que va más allá de la información que se les proporciona o cuando malinterpretan los datos. Estas alucinaciones son particularmente problemáticas en el periodismo, donde la precisión y la fiabilidad de los hechos son fundamentales.

Los problemas que experimentó Bloomberg son precisamente este tipo de alucinaciones: la IA "inventó" fechas como la de implementación de los aranceles automotrices de Trump o afirmó falsamente que Trump ya había impuesto aranceles a Canadá en 2024. Este tipo de errores resaltan las limitaciones de la tecnología de IA actual, especialmente cuando se trata de la interpretación precisa de información compleja.

Los expertos señalan que las alucinaciones pueden desencadenarse por diversos factores, incluyendo la forma en que se codifican las indicaciones y los textos de entrenamiento. Los Grandes Modelos de Lenguaje (LLM) vinculan conceptos a una serie de números, conocidos como codificaciones vectoriales. Para palabras ambiguas como "banco" (que puede referirse tanto a una institución financiera como a una sede), puede haber una codificación por significado para evitar ambigüedades. Cualquier error en la codificación y decodificación de representaciones y textos puede provocar alucinaciones en la IA generativa.

Transparencia y trazabilidad de las decisiones de IA

Otro problema fundamental de los sistemas de IA es la falta de transparencia y trazabilidad en sus procesos de toma de decisiones. Con algunos métodos de IA, ya no es posible comprender cómo se genera una predicción o un resultado concreto, ni por qué un sistema de IA llegó a una respuesta específica a una pregunta dada. Esta falta de transparencia, a menudo conocida como el "problema de la caja negra", dificulta la identificación y corrección de errores antes de que se hagan públicos.

La trazabilidad es especialmente importante en campos como el periodismo, donde las decisiones sobre el contenido deben ser transparentes y justificables. Si Bloomberg y otras empresas de medios no comprenden por qué su IA genera resúmenes incorrectos, será difícil implementar mejoras sistémicas. En cambio, dependerán de correcciones reactivas una vez que los errores ya se hayan producido.

Este desafío también es considerado significativo por expertos del ámbito empresarial y académico. Si bien se trata principalmente de un desafío técnico, también puede generar resultados problemáticos desde una perspectiva social o legal en ciertas áreas de aplicación. En el caso de Bloomberg, esto podría provocar la pérdida de confianza de los lectores o, en el peor de los casos, la toma de decisiones financieras basadas en información inexacta.

Dependencia de la calidad y el alcance de los datos

Además, las aplicaciones basadas en IA dependen de la calidad de los datos y algoritmos. Dado el tamaño y la complejidad de los datos utilizados, los errores sistemáticos en los datos o algoritmos a menudo pasan desapercibidos. Este es otro desafío fundamental que Bloomberg y otras empresas deben superar al implementar sistemas de IA.

El problema con el volumen de datos (la IA solo puede considerar ventanas de contexto relativamente pequeñas al procesar comandos o indicaciones) se ha reducido considerablemente en los últimos años, pero sigue siendo un desafío. El modelo de IA de Google, "Gemini 1.5 Pro 1M", ya puede procesar una indicación de 700 000 palabras o una hora de vídeo, más de siete veces el mejor modelo GPT actual de OpenAI. Sin embargo, las pruebas demuestran que, si bien la inteligencia artificial puede buscar datos, tiene dificultades para comprender las relaciones entre ellos.

Adecuado para:

• La reducción de costos y la optimización de la eficiencia son principios económicos dominantes: el riesgo de la IA y la elección del modelo de IA adecuado

Soluciones y desarrollos futuros

Monitoreo humano y procesos editoriales

Una solución obvia a los problemas que ha experimentado Bloomberg es una mayor supervisión humana del contenido generado por IA. Bloomberg ya ha enfatizado que los periodistas tienen control total sobre la publicación o no de un resumen generado por IA. Sin embargo, este control debe ejercerse eficazmente, lo que significa que los editores deben tener tiempo suficiente para revisar los resúmenes generados por IA antes de su publicación.

Implementar procesos editoriales robustos para revisar el contenido generado por IA es crucial para minimizar errores. Esto podría implicar que todos los resúmenes de IA sean revisados ​​por al menos un editor humano antes de su publicación, o someter ciertos tipos de información (como datos, cifras o atribuciones) a verificaciones especialmente exhaustivas. Si bien estos procesos aumentan la carga de trabajo y, por lo tanto, reducen parte de las mejoras en la eficiencia que ofrece la IA, son necesarios para mantener la precisión y la credibilidad.

Mejoras técnicas en los modelos de IA

El continuo desarrollo tecnológico de los propios modelos de IA es otro enfoque importante para resolver los problemas actuales. Las alucinaciones ya han disminuido significativamente con GPT-4 en comparación con su predecesor, GPT-3.5. El último modelo de Anthropic, "Claude 3 Opus", muestra incluso menos alucinaciones en las pruebas iniciales. La tasa de error de los modelos de habla debería ser pronto inferior a la del ser humano promedio. Sin embargo, a diferencia de lo que estamos acostumbrados a ver en las computadoras, es probable que los modelos de habla de IA no estén exentos de errores en el futuro próximo.

Un enfoque técnico prometedor es la "Mezcla de Expertos": varios modelos pequeños y especializados se conectan a una red de puertas. La puerta analiza la información del sistema y, si es necesario, la transmite a uno o más expertos. Finalmente, las respuestas se combinan en una única respuesta completa. Esto evita tener que activar constantemente todo el modelo en toda su complejidad. Este tipo de arquitectura podría mejorar la precisión mediante el empleo de modelos especializados para tipos específicos de información o dominios.

Expectativas realistas y comunicación transparente

Finalmente, es importante tener expectativas realistas sobre los sistemas de IA y comunicar con transparencia sus capacidades y limitaciones. Hoy en día, los sistemas de IA están específicamente definidos para un contexto de aplicación específico y no son en absoluto comparables a la inteligencia humana. Esta comprensión debería guiar la implementación de la IA en el periodismo y otros campos.

Bloomberg y otras empresas de medios deberían comunicar con transparencia sobre el uso de la IA y dejar claro que el contenido generado por IA puede tener fallos. Esto podría lograrse mediante el etiquetado explícito del contenido generado por IA, procesos transparentes de corrección de errores y una comunicación abierta sobre las limitaciones de la tecnología utilizada. Esta transparencia puede ayudar a mantener la confianza del lector, incluso cuando se producen errores.

Por qué la integración de la IA en el periodismo fracasa sin la participación humana

La experiencia de Bloomberg con resúmenes generados por IA pone de relieve los complejos desafíos que supone integrar la inteligencia artificial en el periodismo. Los al menos 36 errores que han requerido corrección desde enero demuestran que, a pesar de su potencial, la tecnología aún no está lo suficientemente madura como para utilizarse de forma fiable sin una supervisión humana exhaustiva. Los problemas que enfrenta Bloomberg no son únicos, sino que reflejan desafíos fundamentales de la IA, como las alucinaciones, la falta de transparencia y la dependencia de datos de alta calidad.

La integración exitosa de la IA en el periodismo requiere varios enfoques: procesos editoriales sólidos para la revisión del contenido generado por IA, mejoras técnicas continuas en los propios modelos de IA y una comunicación transparente sobre las capacidades y limitaciones de la tecnología utilizada. La experiencia de Bloomberg puede servir como una valiosa lección para otras empresas de medios que planean implementaciones de IA similares.

El futuro del periodismo impulsado por IA depende de cómo aprovechemos las mejoras en la eficiencia y las capacidades innovadoras de la IA sin comprometer los estándares periodísticos. La clave reside en un enfoque equilibrado que considere la tecnología como una herramienta para apoyar a los periodistas humanos, en lugar de reemplazarlos. Como bien señaló John Micklethwait de Bloomberg: «Un resumen generado por IA es tan bueno como la historia en la que se basa. Y para esas historias, las personas siguen siendo importantes»

☑️ Apoyo a las PYMES en estrategia, consultoría, planificación e implementación.

☑️ Creación o realineamiento de la estrategia digital y digitalización

☑️ Ampliación y optimización de procesos de ventas internacionales

☑️ Plataformas comerciales B2B globales y digitales

☑️ Desarrollo empresarial pionero

Konrad Wolfenstein

Estaré encantado de servirle como su asesor personal.

Puedes contactarme completando el formulario de contacto a continuación o simplemente llámame al +49 89 89 674 804 (Múnich) .

Estoy deseando que llegue nuestro proyecto conjunto.

Xpert.Digital es un centro industrial centrado en la digitalización, la ingeniería mecánica, la logística/intralogística y la fotovoltaica.

Con nuestra solución de desarrollo empresarial de 360°, apoyamos a empresas reconocidas desde nuevos negocios hasta posventa.

Inteligencia de mercado, smarketing, automatización de marketing, desarrollo de contenidos, relaciones públicas, campañas de correo, redes sociales personalizadas y desarrollo de leads son parte de nuestras herramientas digitales.

Puede obtener más información en: www.xpert.digital - www.xpert.solar - www.xpert.plus