Novo estudo da LMU mostra: Como a inteligência artificial realmente melhora a experiência dos médicos | Universidade Ludwig Maximilian de Munique

A legislação da UE força uma reconsideração: a IA nos hospitais terá que "pensar em voz alta" no futuro

A inteligência artificial tem sido aclamada como uma salvação na área da saúde, combatendo a pressão crônica do tempo e a grave escassez de pessoal. No entanto, um novo estudo inovador da Alemanha revela que o fato de um algoritmo salvar vidas ou, no pior dos casos, provocar diagnósticos errados, depende de um detalhe crucial que recebeu pouca atenção até agora. Não basta que uma IA forneça resultados precisos – ela também precisa ser capaz de explicar seu processo de raciocínio ao médico passo a passo. Um experimento fascinante com mais de 100 radiologistas revela por que os chamados modelos de "cadeia de pensamento" reduzem drasticamente a taxa de erros de diagnóstico, por que diagnósticos diferenciais clássicos se tornam repentinamente armadilhas cognitivas e por que essas descobertas podem transformar radicalmente não apenas a prática médica, mas também o mercado global de IA e as futuras regulamentações da UE.

Relacionado a isto:

• O efeito de explicações médicas provenientes de grandes modelos de linguagem na precisão diagnóstica em radiologia

Quando a IA pensa por si mesma: como a inteligência artificial explicável está mudando o diagnóstico médico

Uma resposta plausível não basta – aqueles que confiam cegamente na IA colocam em risco a vida dos pacientes

Os grandes modelos de linguagem já não se restringem a experiências de laboratório. Encontram-se em escritórios de advocacia, redações, consultorias de gestão e, cada vez mais, em hospitais. Mas, enquanto o debate público muitas vezes gira em torno da questão de saber se a inteligência artificial irá um dia substituir os médicos, investigadores da LMU Munique, do Hospital Universitário da LMU, do Instituto de Tecnologia de Karlsruhe e da Universidade de Bayreuth estão a fazer uma pergunta muito mais matizada e diretamente relevante para a prática clínica diária: em que condições o apoio da IA ​​melhora de facto a qualidade do diagnóstico e quando, no pior cenário, se torna prejudicial?

A resposta, publicada na revista npj Digital Medicine pela equipe de pesquisa liderada por Stefan Feuerriegel, professor da LMU Munich School of Management, e Boj Friedrich Hoppe, do Hospital Universitário da LMU, é tão clara quanto preocupante: a principal questão não é se uma IA fornece um diagnóstico correto, mas sim como ela explica esse diagnóstico. Essa descoberta é significativa porque eleva todo o debate sobre IA na área da saúde a um novo patamar, afastando-se da questão binária de "IA sim ou não?" e ​​direcionando-se para a questão mais complexa de como projetar a interação humano-máquina.

O experimento: 101 radiologistas e quatro condições

O estudo é metodologicamente notável. Em um experimento randomizado, 101 radiologistas foram apresentados a casos clínicos reais envolvendo exames de imagem radiológica – incluindo achados de tomografia computadorizada e ressonância magnética. Os participantes foram solicitados a formular um diagnóstico em texto livre, o que é significativamente mais desafiador do que simplesmente selecionar uma opção de múltipla escolha e reflete a realidade clínica com muito mais precisão.

Os participantes foram aleatoriamente alocados a um de quatro grupos. O primeiro grupo trabalhou inteiramente sem suporte de IA e serviu como grupo de controle. O segundo grupo recebeu apenas uma recomendação diagnóstica do modelo de linguagem multimodal. O terceiro grupo recebeu um diagnóstico diferencial, ou seja, uma lista de possíveis doenças com probabilidades graduadas. Finalmente, o quarto grupo recebeu uma explicação em cadeia: o modelo revelou seu raciocínio passo a passo — nomeou características relevantes da imagem, explicou as indicações clínicas, discutiu os critérios de exclusão e tornou sua linha de raciocínio compreensível para o médico.

O resultado: uma diferença de doze pontos percentuais e o que está por trás dela

Os resultados são claros. Os radiologistas que utilizaram a explicação passo a passo do raciocínio clínico alcançaram uma taxa de acerto diagnóstico 12,2 pontos percentuais superior à do grupo de controle sem inteligência artificial. Este não é um efeito marginal. No contexto da prática clínica diária, onde milhares de laudos são gerados diariamente, essa diferença corresponde a um número significativo de diagnósticos errôneos que poderiam ser evitados.

Por outro lado, os diagnósticos simples e os diagnósticos diferenciais tiveram um desempenho significativamente pior. A descoberta relativa ao diagnóstico diferencial é particularmente reveladora: nos casos em que o modelo de IA apresentou uma avaliação incorreta, os médicos seguiram a lista com mais frequência do que seguiriam com um diagnóstico único e simples. O diagnóstico diferencial transmite uma impressão de abrangência. Apresenta múltiplas possibilidades e, assim, cria a sensação de que o campo diagnóstico já foi totalmente explorado. Isso leva os médicos a reduzirem seu próprio pensamento crítico – especialmente no caso de doenças raras ou complexas que sequer constam da lista apresentada.

Viés de automação: o risco subestimado na prática clínica diária

O fenômeno que o estudo da LMU ilustra de forma tão impressionante é conhecido na literatura científica como viés de automação. Ele descreve a tendência das pessoas de seguirem as recomendações de sistemas automatizados, mesmo quando sua própria percepção ou conhecimento as contradizem. O viés de automação não é um sinal de incompetência. É um padrão cognitivo profundamente humano que deriva de heurísticas evolutivas: aqueles que confiam em sistemas eficientes conservam recursos cognitivos. Na maioria das situações cotidianas, isso é funcional. Na medicina, no entanto, pode ser fatal.

Estudos anteriores demonstraram que o viés de automação é significativamente mais pronunciado sob pressão de tempo. Um estudo sobre suporte à decisão clínica com inteligência artificial em patologia constatou que, embora a integração da IA ​​tenha levado a uma melhoria geral estatisticamente significativa no desempenho, ela gerou simultaneamente uma taxa de viés de automação de 7% — ou seja, casos em que avaliações inicialmente corretas foram alteradas por recomendações errôneas da IA. A pressão de tempo não aumentou a frequência do viés, mas aumentou sua intensidade. Os paralelos com a prática radiológica, em que radiologistas em alguns hospitais precisam produzir mais de cem laudos por plantão, são evidentes.

O estudo da LMU demonstra agora que a forma como a IA é explicada é um fator crucial para moderar esse risco. Explicações passo a passo tornam a linha de raciocínio do modelo transparente e permitem que o médico a compare com sua própria experiência – um processo que facilita a identificação de erros no modelo e, simultaneamente, incentiva o engajamento cognitivo ativo em vez da aceitação passiva.

A economia da explicabilidade: quanto custa realmente uma boa IA

Do ponto de vista econômico, o estudo da LMU abre um debate importante que muitas vezes é negligenciado nas previsões de crescimento da IA ​​na área da saúde, baseadas no mercado. O mercado global de inteligência artificial na saúde foi estimado em cerca de 28 a 39 bilhões de dólares americanos para 2025 e projeta-se que cresça para mais de 500 bilhões de dólares americanos até 2034, com taxas de crescimento anual superiores a 34%. No entanto, esses números descrevem principalmente o mercado de produtos de IA – e não o valor econômico real que esses produtos geram no uso clínico.

É precisamente aí que reside o problema. Uma revisão sistemática publicada em 2025 sobre a avaliação econômica da IA ​​em radiologia analisou mais de 1.800 publicações e encontrou apenas 21 estudos que quantificaram os custos, as economias ou a relação custo-benefício das ferramentas de IA. A grande maioria das evidências baseia-se em cenários modelados, e não em implementações clínicas reais. Mais grave ainda, os dados reais mostram que a IA em radiologia não gera automaticamente economia de custos. O valor econômico depende muito do contexto: tende a ser positivo em casos de alto volume de exames, escassez de radiologistas ou tarefas que exigem muitos recursos. No entanto, também pode ser negativo — se a especificidade insuficiente levar a mais exames de acompanhamento ou se os modelos de licenciamento baseados no uso anularem os ganhos de eficiência obtidos com altos volumes de casos.

A explicabilidade dos gastos com IA não é apenas um problema acadêmico de luxo – é uma variável econômica tangível. Uma IA que atinge uma precisãosegen12,2 pontos percentuais maior quando seus gastos são explicados por meio de uma abordagem de raciocínio lógico gera um valor clínico e econômico significativamente maior do que uma IA que simplesmente fornece um diagnóstico, assumindo a mesma qualidade do modelo. Traduzindo em termos de custo, isso significa: diagnósticos errôneos evitados, redução de exames de acompanhamento, menor duração do tratamento e menor taxa de erro. Os benefícios são reais, mesmo que sejam difíceis de quantificar em euros – porque diagnósticos errôneos acarretam custos médicos diretos, bem como custos indiretos devido a internações hospitalares prolongadas, riscos legais e perda de confiança no sistema de saúde.

Inteligência Artificial Explicável como uma necessidade estratégica dentro do quadro regulatório

A Lei de IA da UE, em vigor desde agosto de 2024, classifica quase todas as aplicações clínicas de IA – ferramentas de diagnóstico, sistemas de planejamento terapêutico e aplicações de monitoramento digital – como de alto risco. Isso implica extensas obrigações: documentação técnica, gestão de riscos e qualidade, monitoramento contínuo e requisitos explícitos de transparência. A partir de agosto de 2028, após a atualização do Pacote Digital Omnibus, que o Conselho e o Parlamento Europeu aprovaram provisoriamente em 7 de maio de 2026, os requisitos completos para fabricantes de dispositivos médicos serão aplicáveis.

O núcleo regulatório central dessas normas é preciso: a IA de alto risco deve ser compreensível para os usuários. Os processos de tomada de decisão devem ser transparentes e as recomendações devem ser contestáveis. O que a Lei de IA da UE exige normativamente é empiricamente confirmado pelo estudo da LMU: a explicabilidade não é meramente um requisito de conformidade. É o pré-requisito para o uso seguro da IA ​​em situações clínicas de alto risco. A nova regulamentação, portanto, obriga os fabricantes de sistemas de IA na área da saúde a abordar a natureza e a qualidade de seus resultados – e não apenas a precisão técnica de seus modelos.

De uma perspectiva estratégica, isso cria uma dinâmica de mercado interessante. Os fornecedores que levam a sério seu poder explicativo e investem em formatos de saída transparentes, que reproduzem o raciocínio lógico, estarão em melhor posição do ponto de vista regulatório. Ao mesmo tempo, eles alcançarão resultados clínicos comprovadamente melhores. A competição por soluções de IA na área da saúde, portanto, passará, no futuro, da questão da precisão do modelo técnico para a questão da usabilidade clínica – uma mudança de paradigma com consequências significativas para todo o setor.

Uma nova dimensão da transformação digital com 'IA Gerenciada' (Inteligência Artificial) – Plataforma e solução B2B | Xpert Consulting - Imagem: Xpert.Digital

Aqui você aprenderá como sua empresa pode implementar soluções de IA personalizadas de forma rápida, segura e sem grandes barreiras de entrada.

Uma plataforma de IA gerenciada é a sua solução completa e descomplicada para inteligência artificial. Em vez de lidar com tecnologia complexa, infraestrutura cara e processos de desenvolvimento demorados, você recebe uma solução pronta, personalizada para suas necessidades, de um parceiro especializado – geralmente em poucos dias.

Principais vantagens em resumo:

⚡ Implementação rápida: Da ideia à aplicação pronta para uso em dias, não em meses. Oferecemos soluções práticas que geram valor agregado imediato.

🔒 Máxima segurança de dados: Seus dados sensíveis permanecem com você. Garantimos o processamento seguro e em conformidade com as normas, sem compartilhar dados com terceiros.

💸 Sem risco financeiro: você só paga pelos resultados. Os altos investimentos iniciais em hardware, software ou pessoal são completamente eliminados.

🎯 Concentre-se no seu negócio principal: Foque no que você faz de melhor. Nós cuidamos de toda a implementação técnica, operação e manutenção da sua solução de IA.

📈 Preparada para o futuro e escalável: Sua IA cresce com você. Garantimos otimização e escalabilidade contínuas, adaptando os modelos de forma flexível a novas necessidades.

Mais informações aqui:

• A Solução de IA Gerenciada - Serviços de IA Industrial: A Chave para a Competitividade nos Setores de Serviços, Indústria e Engenharia Mecânica

A escassez de competências como catalisador para a adoção acrítica da IA

As conclusões do estudo da LMU ganham particular relevância diante da escassez estrutural de profissionais qualificados no sistema de saúde alemão. A radiologia é uma especialidade que, na Alemanha — assim como em muitos outros países europeus —, enfrenta uma considerável pressão por falta de pessoal. Ao mesmo tempo, o volume de exames de imagem está aumentando exponencialmente devido ao uso cada vez maior de tomografia computadorizada, ressonância magnética e outras técnicas de imagem. Essa pressão cria um contexto no qual a tentação de adotar rapidamente as recomendações da IA ​​em vez de analisá-las criticamente é grande.

O viés da automação é particularmente perigoso neste contexto. Quando um radiologista está sob pressão de tempo e a IA apresenta uma lista de diagnósticos plausíveis, o caminho para a aceitação acrítica é curto. O estudo da LMU mostra que uma IA bem elaborada e com explicações claras pode neutralizar esse problema – mas somente se os médicos lerem e revisarem ativamente as explicações. Isso exige que os sistemas de IA sejam integrados aos fluxos de trabalho clínicos de forma que haja tempo suficiente para essa avaliação crítica. Aqueles que introduzem a IA meramente como uma ferramenta para acelerar o processo, sem considerar a qualidade da interação, correm o risco de obter o oposto do desejado: diagnósticos mais rápidos, porém mais propensos a erros.

A Fundação Bertelsmann estima que a Alemanha esteja perdendo até 16% em ganhos de produtividade devido à falta de conhecimento em IA – o equivalente a bilhões em receita perdida. No setor da saúde, esse efeito é ainda mais complexo de mensurar, pois o valor se expressa não em receita, mas em resultados para a saúde. Contudo, a lógica subjacente é a mesma: o potencial da IA ​​só pode ser concretizado se os usuários forem competentes o suficiente para avaliar criticamente os gastos com IA – e se os próprios sistemas de IA forem projetados de forma que a avaliação crítica seja possível e incentivada.

Diagnósticos diferenciais e a falsa sensação de segurança

Uma das descobertas mais sutis do estudo da LMU merece atenção especial, pois contradiz a intuição clínica. Diagnósticos diferenciais são considerados um sinal de diligência clínica na medicina. Eles demonstram que um médico considera múltiplas possibilidades e não se decide prematuramente por um diagnóstico. No entanto, na interação com um sistema de IA, justamente esse tipo de resultado pode ser problemático.

O mecanismo subjacente é facilmente explicado psicologicamente: uma lista de diagnósticos diferenciais dá a impressão de que o problema já foi exaustivamente considerado. A densidade de informação dessa saída é alta, o que sinaliza alívio cognitivo. Consequentemente, os médicos tendem a pensar menos além dos diagnósticos listados e a exercer menos autoavaliação. Se o modelo produzir diagnósticos diferenciais errôneos ou incompletos nesse momento — o que certamente acontece com modelos de linguagem — a probabilidade de adoção do erro é maior do que com um único diagnóstico claramente marcado como preliminar.

As explicações baseadas na cadeia de raciocínio contrariam esse problema porque identificam explicitamente as incertezas, revelam os fatores de exclusão e, assim, comunicam a abertura epistêmica do modelo. Os médicos são convidados a questionar o modelo e, portanto, estão mais aptos a corrigi-lo quando ele apresenta falhas.

Generalização: O que a descoberta significa além da radiologia

Stefan Feuerriegel, autor correspondente do estudo, enfatiza explicitamente que as descobertas vão muito além da radiologia. Grandes modelos de linguagem estão sendo cada vez mais usados ​​para decisões no dia a dia e no trabalho – no direito, nas finanças, na consultoria de gestão e na educação. Sempre que as pessoas usam o resultado da IA ​​como base para decisões importantes, as mesmas perguntas surgem: Analiso criticamente a recomendação ou a adoto por razões de eficiência? Compreendo o raciocínio ou confio na IA porque o resultado parece plausível?

O alerta contra "erros que soam convincentes" é particularmente importante. Os modelos de linguagem são capazes de produzir explicações que parecem estruturalmente corretas e retoricamente persuasivas, mas que são factualmente incorretas. Este é um fenômeno bem conhecido, referido na literatura de pesquisa como "alucinação", e não pode ser completamente eliminado simplesmente otimizando o desempenho dos modelos. Embora as explicações passo a passo ofereçam uma oportunidade melhor para revisão crítica, elas não protegem totalmente contra esse risco. A responsabilidade pela decisão final permanece sempre com o ser humano.

De uma perspectiva econômica, isso pode ser interpretado como um argumento a favor da competência diferenciada do usuário: aqueles que desejam se beneficiar de forma sustentável das ferramentas de IA — seja na medicina, no direito ou na consultoria de gestão — devem saber não apenas como operá-las, mas também como avaliar seus custos. Essa competência pode ser aprendida, mas requer treinamento específico e desenvolvimento profissional. Instituições que investem nessa competência utilizarão os sistemas de IA de forma mais eficaz do que aquelas que tratam a IA como uma ferramenta autônoma de tomada de decisão.

Inteligência Artificial Explicável e o Problema da Confiança: Uma Perspectiva Sistêmica

A confiança não é um fator subjetivo na medicina – é um valor econômico concreto. Pacientes que confiam em seus médicos são mais propensos a seguir as recomendações de tratamento, relatar sintomas precocemente e, comprovadamente, obter melhores resultados. Essa confiança agora se expandiu para incluir outra dimensão: abrange cada vez mais a confiança nos sistemas de IA envolvidos no diagnóstico e planejamento do tratamento.

O conceito de IA explicável – referida na literatura como XAI, Inteligência Artificial Explicável – aborda precisamente essa questão de confiança. Não se trata de simplificar os modelos, mas sim de tornar seus processos de tomada de decisão compreensíveis para os grupos de usuários relevantes. "Compreensível" não é um termo absoluto: o que é uma explicação passo a passo útil para um radiologista experiente pode ser excessivamente detalhada ou enganosa para um clínico geral sem especialização em diagnóstico por imagem. Portanto, a XAI deve ser considerada não apenas sob uma perspectiva técnica, mas também levando em conta o usuário e o contexto.

Do ponto de vista dos fabricantes, isso significa que desenvolver explicações eficazes de IA não é trivial. Requer uma compreensão profunda dos fluxos de trabalho clínicos e das demandas cognitivas dos respectivos grupos de usuários. As explicações em cadeia de raciocínio, que apresentaram desempenho superior no estudo, não são meramente um formato de saída técnico – são o resultado de uma interação cuidadosamente planejada. Esse planejamento exige recursos, mas comprovadamente gera valor – para pacientes, médicos e sociedade.

Obrigações regulatórias e realidade clínica: uma perspectiva pragmática

Os períodos de transição da Lei de IA da UE dão aos fabricantes e operadores de sistemas de IA na área da saúde tempo para se adaptarem. De acordo com os novos regulamentos do Pacote Digital Omnibus, o prazo final para os fabricantes de dispositivos médicos é agosto de 2028. No entanto, este período não deve ser interpretado como um adiamento, mas sim como uma transição estruturada na qual as conclusões da pesquisa clínica – como as do estudo LMU – podem ser incorporadas ao desenvolvimento de produtos.

Especificamente, isso significa que, para hospitais e técnicos hospitalares, a avaliação de sistemas de IA não deve medir apenas a precisãosegentécnica, mas também a qualidade dos resultados em uso clínico. Declarações de raciocínio e formatos de saída transparentes semelhantes devem ser considerados critérios de seleção durante a aquisição. O treinamento de médicos que utilizam ferramentas de IA deve abordar explicitamente o viés da automação e a análise crítica das recomendações da IA. Por fim, os sistemas de garantia da qualidade clínica devem documentar a adoção das recomendações da IA ​​para identificar erros sistemáticos precocemente.

Para desenvolvedores e fornecedores de soluções de IA na área da saúde, a mensagem é clara: investir em explicabilidade não é um complemento opcional. É a alavanca crucial que transforma um modelo tecnicamente sólido em uma ferramenta clinicamente eficaz e em conformidade com as regulamentações.

O tema principal: Como humanos e máquinas podem se tornar mais inteligentes juntos

O estudo da LMU contribui, em última análise, para uma questão mais ampla que vai muito além da radiologia e da medicina: como os sistemas de IA devem ser projetados para que aumentem o pensamento humano em vez de substituí-lo ou – pior – prejudicá-lo? A resposta é: por meio da transparência, da rastreabilidade e do incentivo ativo ao exame crítico.

Este não é um ideal tecnicamente romântico. É um princípio de design comprovado empiricamente, economicamente viável e eticamente imperativo. Em um sistema de saúde sob crescente pressão por desempenho, dependente de ferramentas digitais e, simultaneamente, obrigado a atender aos mais altos padrões de qualidade, a pergunta "Como sua IA explica suas recomendações?" poderá em breve se tornar a questão mais importante em aquisições em ambientes clínicos.

Uma boa resposta de IA não é apenas correta – ela é verificável. Aqueles que consistentemente traduzem esse princípio no desenvolvimento, aquisição e implementação de sistemas de IA não apenas alcançarão melhores resultados médicos, como também conquistarão a confiança que a profunda digitalização da saúde precisa urgentemente – a confiança de médicos, pacientes e da sociedade como um todo.

A solução quase interna: como a Xpert.Digital elimina as lacunas operacionais no marketing e vendas B2B – Negócios inteligentes orientados por conteúdo - Imagem: Xpert.Digital

A Xpert.Digital é um hub industrial B2B orientado por dados, liderado por Konrad Wolfenstein . A empresa atua como uma solução externa, quase interna, para parceiros industriais, preenchendo lacunas operacionais em marketing, conteúdo e vendas – sem exigir recursos adicionais por parte do cliente.

Mais informações aqui:

• A solução quase interna: como a Xpert.Digital elimina as lacunas operacionais em marketing e vendas B2B – Negócios Inteligentes Orientados por Conteúdo

☑️ Nosso idioma comercial é inglês ou alemão

☑️ NOVO: Correspondência em seu idioma nativo!

Konrad Wolfenstein

Eu e minha equipe teremos o prazer de estar à sua disposição como seu consultor pessoal.

Você pode entrar em contato comigo preenchendo o formulário de contato aqui simplesmente ligando para +49 7348 4088 965. Meu endereço de e-mail é [email protected]:ou

Estou ansioso pelo nosso projeto conjunto.

☑️ Apoio a PMEs em estratégia, consultoria, planejamento e implementação

☑️ Criação ou realinhamento da estratégia digital e digitalização

☑️ Expansão e otimização dos processos de vendas internacionais

☑️ Plataformas de negociação B2B globais e digitais

☑️ Desenvolvimento de Negócios / Marketing / Relações Públicas / Feiras Comerciais Pioneiras