Un nuevo estudio de la LMU revela cómo la inteligencia artificial realmente mejora la práctica médica | Universidad Ludwig Maximilian de Múnich

La legislación de la UE obliga a replantearse las cosas: la IA en los hospitales tendrá que "pensar en voz alta" en el futuro

La inteligencia artificial ha sido aclamada durante mucho tiempo como una salvadora en la atención médica, combatiendo la presión crónica del tiempo y la grave escasez de personal. Sin embargo, un nuevo estudio revolucionario de Alemania revela que el hecho de que un algoritmo salve vidas o, en el peor de los casos, incluso provoque diagnósticos erróneos, depende de un detalle crucial que hasta ahora ha recibido poca atención. No basta con que una IA proporcione resultados precisos; también debe ser capaz de explicar su proceso de razonamiento al médico paso a paso. Un fascinante experimento con más de 100 radiólogos revela por qué los llamados modelos de "cadena de pensamiento" reducen drásticamente la tasa de error diagnóstico, por qué los diagnósticos diferenciales clásicos se convierten repentinamente en trampas cognitivas y por qué estos hallazgos podrían transformar radicalmente no solo la práctica médica, sino también el mercado global de la IA y las futuras regulaciones de la UE.

Relacionado con esto:

• El efecto de las explicaciones médicas de los grandes modelos lingüísticos sobre la precisión diagnóstica en radiología

Cuando la IA piensa por sí misma: Cómo la inteligencia artificial explicable está cambiando el diagnóstico médico

Una respuesta plausible no es suficiente: quienes confían ciegamente en la IA ponen en peligro la vida de los pacientes

Los grandes modelos lingüísticos ya no se limitan a experimentos de laboratorio. Se pueden encontrar en bufetes de abogados, redacciones, consultoras de gestión y, cada vez más, en hospitales. Pero mientras que el debate público suele girar en torno a si la inteligencia artificial algún día sustituirá a los médicos, investigadores de la LMU de Múnich, el Hospital Universitario de la LMU, el Instituto Tecnológico de Karlsruhe y la Universidad de Bayreuth se plantean una cuestión mucho más matizada y directamente relevante para la práctica clínica diaria: ¿En qué condiciones la IA mejora realmente la calidad del diagnóstico y, en el peor de los casos, resulta incluso perjudicial?

La respuesta, publicada en la revista npj Digital Medicine por el equipo de investigación liderado por Stefan Feuerriegel, profesor de la Escuela de Administración de la LMU de Múnich, y Boj Friedrich Hoppe del Hospital Universitario de la LMU, es tan clara como aleccionadora: la principal preocupación no es si una IA proporciona un diagnóstico correcto, sino cómo lo explica. Este hallazgo es significativo porque eleva el debate sobre la IA en la atención médica a un nuevo nivel, alejándose de la pregunta binaria de "¿IA sí o no?" para centrarse en la cuestión más compleja de cómo diseñar la interacción entre humanos y máquinas.

El experimento: 101 radiólogos y cuatro condiciones

El estudio destaca por su metodología. En un experimento aleatorio, se presentaron a 101 radiólogos casos clínicos reales que involucraban imágenes radiológicas, incluyendo hallazgos de tomografía computarizada y resonancia magnética. Se les pidió a los participantes que formularan un diagnóstico en texto libre, lo cual es significativamente más difícil que simplemente seleccionar una opción de respuesta múltiple y refleja la realidad clínica con mucha mayor precisión.

Los participantes fueron asignados aleatoriamente a uno de cuatro grupos. El primer grupo trabajó completamente sin apoyo de IA y sirvió como grupo de control. El segundo grupo recibió únicamente una recomendación diagnóstica del modelo de lenguaje multimodal. El tercer grupo recibió un diagnóstico diferencial, es decir, una lista de posibles enfermedades con probabilidades graduadas. Finalmente, el cuarto grupo recibió una explicación del razonamiento lógico: el modelo reveló su razonamiento paso a paso, nombró características relevantes de la imagen, explicó las indicaciones clínicas, analizó los criterios de exclusión y presentó su línea de razonamiento de forma comprensible para el médico.

El resultado: una diferencia de doce puntos porcentuales y qué hay detrás de ella

Los resultados son claros. Los radiólogos que utilizaron la explicación paso a paso del razonamiento lograron una tasa de precisión diagnóstica 12,2 puntos porcentuales superior a la del grupo de control sin IA. Este no es un efecto marginal. En el contexto de la práctica clínica diaria, donde se generan miles de informes cada día, esta diferencia representa un número significativo de diagnósticos erróneos que podrían evitarse.

Por otro lado, los diagnósticos simples y los diagnósticos diferenciales obtuvieron resultados significativamente peores. El hallazgo sobre el diagnóstico diferencial es particularmente revelador: en los casos en que el modelo de IA proporcionó una evaluación incorrecta, los médicos siguieron la lista con mayor frecuencia que si hubieran seguido un diagnóstico simple. El diagnóstico diferencial transmite una impresión de exhaustividad. Presenta múltiples posibilidades y, por lo tanto, crea la sensación de que el espacio diagnóstico ya está completamente cubierto. Esto lleva a los médicos a reducir su propio pensamiento crítico, especialmente en el caso de afecciones raras o complejas que ni siquiera aparecen en la lista presentada.

Sesgo de automatización: el riesgo subestimado en la práctica clínica diaria

El fenómeno que el estudio de la LMU ilustra de forma tan contundente se conoce en la literatura científica como sesgo de automatización. Describe la tendencia de las personas a seguir las recomendaciones de los sistemas automatizados incluso cuando su propia percepción o experiencia las contradice. El sesgo de automatización no es un signo de incompetencia. Es un patrón cognitivo profundamente humano que proviene de la heurística evolutiva: quienes confían en sistemas eficientes conservan recursos cognitivos. En la mayoría de las situaciones cotidianas, esto es funcional. En medicina, sin embargo, puede ser fatal.

Estudios previos han demostrado que el sesgo de automatización es significativamente más pronunciado bajo presión de tiempo. Un estudio sobre el apoyo a la toma de decisiones clínicas con IA en patología midió que, si bien la integración de la IA condujo a una mejora general estadísticamente significativa en el rendimiento, simultáneamente generó una tasa de sesgo de automatización del 7 %, es decir, casos en los que evaluaciones inicialmente correctas fueron alteradas por recomendaciones erróneas de la IA. La presión de tiempo no aumentó la frecuencia del sesgo, pero sí su intensidad. Los paralelismos con la práctica radiológica, donde los radiólogos en algunos hospitales tienen que producir más de cien informes por turno, son evidentes.

El estudio de la LMU demuestra que la forma en que se explica la IA es un factor crucial para mitigar este riesgo. Las explicaciones paso a paso transparentan el razonamiento del modelo y permiten al médico compararlo con su propia experiencia, un proceso que facilita la identificación de errores en el modelo y, al mismo tiempo, fomenta la participación cognitiva activa en lugar de la aceptación pasiva.

La economía de la explicabilidad: ¿Cuánto cuesta realmente una buena IA?

Desde una perspectiva económica, el estudio de la LMU plantea un debate importante que a menudo se pasa por alto en las previsiones de crecimiento del mercado de la IA en el sector sanitario. Se estima que el mercado global de la inteligencia artificial en el sector sanitario alcanzará entre 28.000 y 39.000 millones de dólares estadounidenses en 2025 y se prevé que supere los 500.000 millones de dólares estadounidenses en 2034, con tasas de crecimiento anuales superiores al 34 %. Sin embargo, estas cifras describen principalmente el mercado de productos de IA, no el valor económico real que generan estos productos en la práctica clínica.

Aquí radica precisamente el problema. Una revisión sistemática publicada en 2025 sobre la evaluación económica de la IA en radiología analizó más de 1800 publicaciones y encontró solo 21 estudios que cuantificaban los costos, los ahorros o la rentabilidad de las herramientas de IA. La gran mayoría de la evidencia se basa en escenarios modelados, no en implementaciones clínicas reales. Aún más grave, los datos reales muestran que la IA en radiología no genera ahorros de costos automáticamente. El valor económico depende en gran medida del contexto: tiende a ser positivo con un alto volumen de casos, escasez de radiólogos o tareas que requieren muchos recursos. Sin embargo, también puede ser negativo si la especificidad insuficiente conlleva más exámenes de seguimiento o si los modelos de licenciamiento basados ​​en el uso anulan las ganancias de eficiencia logradas con altos volúmenes de casos.

La explicabilidad de los gastos en IA no es un mero problema teórico, sino una variable económica tangible. Una IA que logra una precisiónsegen12,2 puntos porcentuales superior cuando sus gastos se explican mediante un enfoque de cadena de pensamiento genera un valor clínico y económico significativamente mayor que una IA que simplemente proporciona un diagnóstico, asumiendo la misma calidad del modelo. En términos de costes, esto significa: diagnósticos erróneos evitados, menos exámenes de seguimiento, tratamientos más cortos y una menor tasa de error. Los beneficios son reales, aunque difíciles de cuantificar en euros, ya que los diagnósticos erróneos conllevan costes médicos directos, así como costes indirectos derivados de estancias hospitalarias prolongadas, riesgos legales y pérdida de confianza en el sistema sanitario.

La IA explicable como una necesidad estratégica dentro del marco regulatorio

La Ley de IA de la UE, en vigor desde agosto de 2024, clasifica casi todas las aplicaciones clínicas de IA —herramientas de diagnóstico, sistemas de planificación de terapias y aplicaciones de monitorización digital— como de alto riesgo. Esto conlleva amplias obligaciones: documentación técnica, gestión de riesgos y calidad, monitorización continua y requisitos explícitos de transparencia. A partir de agosto de 2028, tras la actualización del Paquete Ómnibus Digital, aprobado provisionalmente por el Consejo y el Parlamento Europeos el 7 de mayo de 2026, se aplicarán todos los requisitos a los fabricantes de dispositivos médicos.

El núcleo normativo central de estas regulaciones es preciso: la IA de alto riesgo debe ser comprensible para los usuarios. Los procesos de toma de decisiones deben ser transparentes y las recomendaciones, cuestionables. Lo que exige normativamente la Ley de IA de la UE se confirma empíricamente en el estudio de la LMU: la explicabilidad no es meramente un requisito de cumplimiento, sino un requisito indispensable para el uso seguro de la IA en situaciones clínicas de alto riesgo. Por lo tanto, la nueva regulación obliga a los fabricantes de sistemas de IA en el sector sanitario a abordar la naturaleza y la calidad de sus resultados, y no solo la precisión técnica de sus modelos.

Desde una perspectiva estratégica, esto genera una dinámica de mercado interesante. Los proveedores que valoren su capacidad explicativa e inviertan en formatos de salida transparentes y que muestren un razonamiento lógico estarán mejor posicionados desde el punto de vista regulatorio. Al mismo tiempo, lograrán, de forma demostrable, mejores resultados clínicos. Por lo tanto, la competencia por las soluciones de IA en el sector sanitario se desplazará en el futuro de la precisión técnica de los modelos a la utilidad clínica, un cambio de paradigma con importantes consecuencias para toda la industria.

Una nueva dimensión de la transformación digital con 'IA Gestionada' (Inteligencia Artificial) – Plataforma y solución B2B | Xpert Consulting - Imagen: Xpert.Digital

Aquí aprenderá cómo su empresa puede implementar soluciones de IA personalizadas de forma rápida, segura y sin grandes barreras de entrada.

Una plataforma de IA gestionada es su solución integral y sin preocupaciones para la inteligencia artificial. En lugar de lidiar con tecnología compleja, infraestructura costosa y largos procesos de desarrollo, recibirá una solución lista para usar y adaptada a sus necesidades de un socio especializado, a menudo en tan solo unos días.

Las principales ventajas de un vistazo:

⚡ Implementación rápida: De la idea a la aplicación lista para usar en días, no meses. Ofrecemos soluciones prácticas que generan valor añadido inmediato.

🔒 Máxima seguridad de datos: Tus datos confidenciales permanecen contigo. Garantizamos un procesamiento seguro y conforme a la normativa sin compartirlos con terceros.

💸 Sin riesgo financiero: Solo pagas por resultados. Se eliminan por completo las altas inversiones iniciales en hardware, software y personal.

🎯 Concéntrese en su negocio principal: Concéntrese en lo que mejor sabe hacer. Nos encargamos de toda la implementación técnica, la operación y el mantenimiento de su solución de IA.

📈 A prueba de futuro y escalable: Tu IA crece contigo. Garantizamos la optimización y la escalabilidad continuas, y adaptamos los modelos con flexibilidad a las nuevas necesidades.

Más información aquí:

• La solución de IA gestionada - Servicios de IA industrial: la clave para la competitividad en los sectores de servicios, industria e ingeniería mecánica

La escasez de personal cualificado como catalizador de la adopción acrítica de la IA

Los resultados del estudio de la LMU cobran especial relevancia ante la escasez estructural de profesionales cualificados en el sistema sanitario alemán. La radiología es una especialidad que, en Alemania —al igual que en muchos otros países europeos—, sufre una considerable presión en cuanto a personal. Al mismo tiempo, el volumen de resultados de pruebas de imagen se dispara debido al uso cada vez mayor de la tomografía computarizada (TC), la resonancia magnética (RM) y otras técnicas de imagen. Esta presión crea un contexto en el que resulta tentador adoptar rápidamente las recomendaciones de la IA en lugar de analizarlas críticamente.

El sesgo de automatización resulta especialmente peligroso en este contexto. Cuando un radiólogo trabaja bajo presión de tiempo y la IA presenta una lista de diagnósticos que parecen plausibles, la aceptación acrítica es inminente. El estudio de la LMU demuestra que una IA bien diseñada y con explicaciones claras puede contrarrestar este sesgo, pero solo si los médicos leen y revisan activamente las explicaciones. Esto requiere que los sistemas de IA se integren en los flujos de trabajo clínicos de forma que quede tiempo suficiente para esta evaluación crítica. Quienes introducen la IA simplemente como una herramienta de aceleración, sin considerar la calidad de la interacción, corren el riesgo de lograr lo contrario: diagnósticos más rápidos, pero con mayor probabilidad de error.

La Fundación Bertelsmann estima que Alemania está perdiendo hasta un 16 % de productividad debido a la falta de experiencia en IA, lo que equivale a miles de millones en ingresos perdidos. En el sector sanitario, este efecto es aún más complejo de cuantificar, ya que el valor se expresa no en ingresos, sino en resultados de salud. No obstante, la lógica subyacente es la misma: el potencial de la IA solo puede materializarse si los usuarios son lo suficientemente competentes para evaluar críticamente el gasto en IA, y si los propios sistemas de IA están diseñados de forma que la evaluación crítica sea posible y se fomente.

Diagnósticos diferenciales y la engañosa sensación de seguridad

Uno de los hallazgos más sutiles del estudio de la LMU merece especial atención, ya que contradice la intuición clínica. Los diagnósticos diferenciales se consideran un signo de diligencia clínica en medicina. Demuestran que un médico considera múltiples posibilidades y no se decanta prematuramente por un diagnóstico. Sin embargo, en la interacción con un sistema de IA, precisamente este tipo de resultado puede resultar problemático.

El mecanismo subyacente se explica fácilmente desde un punto de vista psicológico: una lista de diagnósticos diferenciales da la impresión de que el problema ya se ha analizado exhaustivamente. La alta densidad de información de este resultado indica una sensación de alivio cognitivo. En consecuencia, los médicos tienden a pensar menos más allá de los diagnósticos enumerados y a realizar menos autoevaluaciones. Si el modelo produce diagnósticos diferenciales erróneos o incompletos en este momento —algo que sin duda ocurre con los modelos de lenguaje—, la probabilidad de que se adopte el error es mayor que con un único diagnóstico claramente marcado como preliminar.

Las explicaciones basadas en la cadena de pensamiento contrarrestan esto porque identifican explícitamente las incertidumbres, revelan los factores excluyentes y, por lo tanto, comunican la apertura epistémica del modelo. Se invita a los médicos a cuestionar el modelo y, por consiguiente, están mejor capacitados para corregirlo cuando sea defectuoso.

Generalización: ¿Qué significa este hallazgo más allá de la radiología?

Stefan Feuerriegel, autor principal del estudio, subraya que los hallazgos van mucho más allá de la radiología. Los modelos de lenguaje complejos se utilizan cada vez más para la toma de decisiones en la vida cotidiana y en el trabajo: en derecho, finanzas, consultoría de gestión y educación. Siempre que se utiliza la información de la IA como base para decisiones importantes, surgen las mismas preguntas: ¿Debo analizar críticamente la recomendación o la adopto por razones de eficiencia? ¿Comprendo el razonamiento o confío en la IA porque el resultado parece plausible?

La advertencia sobre los «errores que suenan convincentes» es particularmente importante. Los modelos de lenguaje son capaces de producir explicaciones que parecen estructuralmente correctas y retóricamente persuasivas, pero que son incorrectas en cuanto a los hechos. Este es un fenómeno bien conocido, denominado en la literatura científica como «alucinación», y no puede eliminarse por completo simplemente optimizando el rendimiento de los modelos. Si bien las explicaciones paso a paso ofrecen una mejor oportunidad para la revisión crítica, no protegen totalmente contra este riesgo. La responsabilidad de la decisión final siempre recae en el ser humano.

Desde una perspectiva económica, esto puede interpretarse como un argumento a favor de la diferenciación de la competencia del usuario: quienes desean beneficiarse de forma sostenible de las herramientas de IA —ya sea en medicina, derecho o consultoría de gestión— no solo deben saber cómo utilizarlas, sino también cómo evaluar sus costes. Esta competencia se puede adquirir, pero requiere formación específica y desarrollo profesional. Las instituciones que inviertan en esta competencia utilizarán los sistemas de IA de forma más eficaz que aquellas que la traten como una herramienta autónoma para la toma de decisiones.

La IA explicable y el problema de la confianza: una perspectiva sistémica

La confianza no es un factor intangible en medicina, sino un valor económico tangible. Los pacientes que confían en sus médicos son más propensos a seguir las recomendaciones de tratamiento, reportar síntomas con mayor antelación y, sin duda, obtener mejores resultados. Esta confianza se ha ampliado para incluir otra dimensión: cada vez más, abarca la confianza en los sistemas de IA involucrados en el diagnóstico y la planificación del tratamiento.

El concepto de IA explicable —denominada en la literatura como XAI, Inteligencia Artificial Explicable— aborda precisamente este problema de confianza. No se trata de simplificar los modelos, sino de hacer que sus procesos de toma de decisiones sean comprensibles para los grupos de usuarios pertinentes. «Comprensible» no es un término absoluto: lo que resulta una explicación paso a paso útil para un radiólogo experimentado puede ser demasiado detallado o confuso para un médico general sin especialización en imagen médica. Por lo tanto, la XAI debe considerarse no solo desde una perspectiva técnica, sino también teniendo en cuenta al usuario y el contexto.

Desde la perspectiva de los fabricantes, esto significa que desarrollar explicaciones de IA eficaces no es tarea fácil. Requiere un profundo conocimiento de los flujos de trabajo clínicos y de las exigencias cognitivas de los respectivos grupos de usuarios. Las explicaciones basadas en la secuencia de razonamientos, que obtuvieron mejores resultados en el estudio, no son simplemente un formato de salida técnico, sino el resultado de una interacción cuidadosamente diseñada. Este diseño requiere recursos, pero genera valor de forma demostrable para pacientes, médicos y la sociedad en general.

Obligaciones regulatorias y realidad clínica: una perspectiva pragmática

Los periodos transitorios de la Ley de IA de la UE ofrecen a los fabricantes y operadores de sistemas de IA en el sector sanitario tiempo para adaptarse. Según la nueva normativa del Paquete Ómnibus Digital, el plazo final para los fabricantes de dispositivos médicos es agosto de 2028. Sin embargo, este periodo no debe interpretarse como un aplazamiento, sino como una transición estructurada en la que los resultados de la investigación clínica —como los del estudio de la LMU— pueden incorporarse al desarrollo de productos.

En concreto, esto significa para los hospitales y el personal técnico hospitalario: la evaluación de los sistemas de IA no solo debe medir la precisiónsegentécnica, sino también la calidad de los resultados en la práctica clínica. Los diagramas de flujo del razonamiento clínico y otros formatos de resultados transparentes similares deben considerarse criterios de selección durante la adquisición. La formación de los médicos que utilizan herramientas de IA debe abordar explícitamente el sesgo de automatización y la revisión crítica de las recomendaciones de IA. Por último, los sistemas de garantía de calidad clínica deben documentar la adopción de las recomendaciones de IA para identificar errores sistemáticos de forma temprana.

Para los desarrolladores y proveedores de soluciones de IA en el sector sanitario, el mensaje es claro: invertir en explicabilidad no es un complemento opcional. Es la clave fundamental para transformar un modelo técnicamente sólido en una herramienta clínicamente eficaz y que cumple con la normativa.

El tema principal: Cómo los humanos y las máquinas pueden volverse más inteligentes juntos

El estudio de la LMU contribuye, en última instancia, a una cuestión más amplia que trasciende la radiología y la medicina: ¿Cómo deben diseñarse los sistemas de IA para que potencien el pensamiento humano en lugar de sustituirlo o, peor aún, socavarlo? La respuesta es: mediante la transparencia, la trazabilidad y el fomento activo del análisis crítico.

No se trata de un ideal puramente técnico. Es un principio de diseño empíricamente probado, económicamente viable y éticamente imperativo. En un sistema sanitario sometido a una creciente presión por mejorar su rendimiento, que depende de herramientas digitales y que, al mismo tiempo, debe cumplir con los más altos estándares de calidad, la pregunta "¿Cómo explica su IA sus recomendaciones?" podría convertirse pronto en la cuestión más importante en materia de adquisiciones en entornos clínicos.

Una buena respuesta de IA no solo es correcta, sino también verificable. Quienes apliquen sistemáticamente este principio al desarrollo, la adquisición y la implementación de sistemas de IA no solo lograrán mejores resultados médicos, sino que también se ganarán la confianza que la profunda digitalización de la atención médica necesita con urgencia: la confianza de los médicos, los pacientes y la sociedad en su conjunto.

La solución casi interna: Cómo Xpert.Digital cierra las brechas operativas en el marketing y las ventas B2B – Negocios inteligentes basados ​​en contenido - Imagen: Xpert.Digital

Xpert.Digital es un centro industrial B2B basado en datos, dirigido por Konrad Wolfenstein . La empresa actúa como una solución externa, casi interna, para socios industriales, cubriendo las brechas operativas en marketing, contenido y ventas, sin requerir recursos adicionales por parte del cliente.

Más información aquí:

• La solución casi interna: Cómo Xpert.Digital cierra las brechas operativas en el marketing y las ventas B2B – Smart Content-Driven Business

☑️ Nuestro idioma comercial es el inglés o el alemán

☑️ NUEVO: ¡Correspondencia en tu idioma nativo!

Konrad Wolfenstein

Mi equipo y yo estaremos encantados de estar disponibles para usted como su asesor personal.

Puedes contactarme rellenando el formulario de contacto aquí simplemente llamándome al +49 7348 4088 965. Mi dirección de correo electrónico es [email protected]:o

Espero con ilusión nuestro proyecto conjunto.

☑️ Apoyo a las PYMES en estrategia, consultoría, planificación e implementación

☑️ Creación o realineamiento de la estrategia digital y digitalización

☑️ Ampliación y optimización de procesos de ventas internacionales

☑️ Plataformas comerciales B2B globales y digitales

☑️ Desarrollo de negocios pioneros / Marketing / Relaciones públicas / Ferias comerciales