Нова студија ЛМУ показује: Како вештачка интелигенција заиста чини лекаре бољим | Универзитет Лудвиг Максимилијан у Минхену

Закон ЕУ тера на преиспитивање: Вештачка интелигенција у болницама ће у будућности морати да „размишља наглас“

Вештачка интелигенција се дуго сматра спасиоцем у здравству, борећи се против хроничног временског притиска и акутног недостатка особља. Међутим, нова револуционарна студија из Немачке открива да то да ли алгоритам спасава животе или, у најгорем случају, чак изазива погрешне дијагнозе, зависи од кључног детаља коме се до сада поклањало мало пажње. Једноставно није довољно да вештачка интелигенција пружи тачне резултате – она такође мора бити у стању да лекару корак по корак објасни свој процес резоновања. Фасцинантан експеримент са преко 100 радиолога открива зашто такозвани модели „ланца мисли“ драстично смањују стопу дијагностичких грешака, зашто класичне диференцијалне дијагнозе изненада постају когнитивне замке и зашто би ови налази могли радикално да трансформишу не само медицинску праксу већ и глобално тржиште вештачке интелигенције и будуће прописе ЕУ.

У вези са овим:

• Утицај медицинских објашњења из модела великих језика на дијагностичку тачност у радиологији

Када вештачка интелигенција размишља сама за себе: Како објашњива вештачка интелигенција мења медицинску дијагностику

Уверљив одговор није довољан – они који слепо верују вештачкој интелигенцији угрожавају животе пацијената

Велики језички модели више нису ограничени на лабораторијске експерименте. Могу се наћи у адвокатским канцеларијама, редакцијама, консултантским кућама за менаџмент – и све више у болницама. Али док се јавна дебата често врти око питања да ли ће вештачка интелигенција једног дана заменити лекаре, истраживачи на Универзитету Луизијане у Минхену, Универзитетској болници Луизијане у Минхену, Технолошком институту у Карлсруеу и Универзитету у Бајројту постављају далеко нијансираније питање које је директно релевантно за свакодневну клиничку праксу: Под којим условима подршка вештачке интелигенције заправо побољшава квалитет дијагностике – и када је, у најгорем случају, чак и штетна?

Одговор, објављен у часопису npj Digital Medicine од стране истраживачког тима који предводе Стефан Фојеригел, професор на Школи за менаџмент Универзитета Луизијане у Минхену, и Бој Фридрих Хопе из Универзитетске болнице Луизијане у Минхену, јасан је колико и отрежњујући: примарна брига није да ли вештачка интелигенција даје тачну дијагнозу. Већ како објашњава ту дијагнозу. Ово откриће је значајно јер подиже целу дебату о вештачкој интелигенцији у здравству на нови ниво – удаљавајући се од бинарног питања „вештачка интелигенција да или не?“ ка нијансиранијем питању како дизајнирати интеракцију човек-машина.

Експеримент: 101 радиолог и четири стања

Студија је методолошки изванредна. У рандомизованом експерименту, 101 радиологу су представљени стварни клинички случајеви који укључују радиолошко снимање – укључујући налазе компјутеризоване томографије и магнетне резонанце. Учесници су замољени да формулишу дијагнозу у слободном тексту, што је знатно изазовније од једноставног одабира опције са вишеструким избором и много тачније одражава клиничку стварност.

Учесници су насумично распоређени у једну од четири групе. Прва група је радила потпуно без подршке вештачке интелигенције и служила је као контролна група. Друга група је добила само једну дијагностичку препоруку из мултимодалног језичког модела. Трећа група је добила диференцијалну дијагнозу, тј. листу могућих болести са степенованим вероватноћама. Коначно, четврта група је добила такозвано објашњење ланца мисли: Модел је корак по корак откривао своје резоновање – именовао је релевантне карактеристике слике, објашњавао клиничке индикације, разматрао критеријуме искључења и учинио свој ток резоновања разумљивим лекару.

Резултат: Разлика од дванаест процентних поена и шта је узрок тога

Резултати су јасни. Радиолози који су користили објашњење корак по корак путем ланца мисли постигли су стопу дијагностичке тачности већу за 12,2 процентна поена од контролне групе без вештачке интелигенције. Ово није маргиналан ефекат. У контексту свакодневне клиничке праксе, где се дневно генеришу хиљаде извештаја, ова разлика одговара значајном броју погрешних дијагноза које би се могле избећи.

С друге стране, једноставни дијагностички излази и диференцијалне дијагнозе су прошли знатно горе. Налаз у вези са диференцијалном дијагнозом је посебно откривајући: у случајевима када је модел вештачке интелигенције дао погрешну процену, лекари су чешће пратили листу него што би то учинили са једноставном дијагнозом. Диференцијална дијагноза оставља утисак потпуности. Она представља вишеструке могућности и тако ствара осећај да је дијагностички простор већ у потпуности покривен. То доводи до тога да лекари смање сопствено критичко размишљање – посебно у случају ретких или сложених стања која се чак ни не појављују на представљеној листи.

Пристрасност аутоматизације: Потцењени ризик у свакодневној клиничкој пракси

Феномен који студија ЛМУ тако импресивно илуструје познат је у истраживачкој литератури као пристрасност аутоматизације. Она описује тенденцију људи да следе препоруке аутоматизованих система чак и када им њихова сопствена перцепција или стручност противрече. Пристрасност аутоматизације није знак неспособности. То је дубоко људски когнитивни образац који проистиче из еволутивне хеуристике: они који верују ефикасним системима чувају когнитивне ресурсе. У већини свакодневних ситуација, ово је функционално. Међутим, у медицини може бити фатално.

Претходне студије су показале да је пристрасност аутоматизације знатно израженија под временским притиском. Студија о подршци клиничком одлучивању подржаној вештачком интелигенцијом у патологији измерила је да, иако је интеграција вештачке интелигенције довела до статистички значајног укупног побољшања учинка, истовремено је генерисала стопу пристрасности аутоматизације од 7 процената – што значи случајеве у којима су почетно тачне процене измењене погрешним препорукама вештачке интелигенције. Временски притисак није повећао учесталост пристрасности, али јесте повећао њен интензитет. Паралеле са радиолошком праксом, где радиолози у неким болницама морају да израде више од стотину извештаја по смени, су очигледне.

Студија ЛМУ сада показује да је начин на који се објашњава вештачка интелигенција кључни фактор у смањењу овог ризика. Корак-по-корак објашњења чине линију размишљања модела транспарентном и омогућавају лекару да је упореди са сопственим стручним знањем – процес који олакшава идентификацију грешака у моделу и истовремено подстиче активно когнитивно ангажовање уместо пасивног прихватања.

Економија објашњивости: Колико заиста кошта добра вештачка интелигенција

Са економске перспективе, студија ЛМУ отвара важну дебату која се често занемарује у прогнозама раста вештачке интелигенције у здравству, вођеним тржиштем. Глобално тржиште вештачке интелигенције у здравству процењено је на око 28 до 39 милијарди америчких долара за 2025. годину и предвиђа се да ће порасти на преко 500 милијарди америчких долара до 2034. године, са годишњим стопама раста већим од 34 процента. Међутим, ове бројке првенствено описују тржиште за производе вештачке интелигенције – а не стварну економску вредност коју ови производи генеришу у клиничкој употреби.

Управо ту лежи проблем. Систематски преглед објављен 2025. године о економској евалуацији вештачке интелигенције у радиологији анализирао је више од 1.800 публикација и пронашао само 21 студију која је заправо квантификовала трошкове, уштеде или исплативост алата вештачке интелигенције. Велика већина доказа заснива се на моделираним сценаријима, а не на стварним клиничким имплементацијама. Још озбиљније, стварни подаци показују да вештачка интелигенција у радиологији не штеди аутоматски трошкове. Економска вредност у великој мери зависи од контекста: она има тенденцију да буде позитивна код великог обима, недостатка радиолога или задатака који захтевају много ресурса. Међутим, може бити и негативна - ако недовољна специфичност доводи до већег броја накнадних прегледа или ако модели лиценцирања засновани на коришћењу поништавају добитке у ефикасности постигнуте великим обимом случајева.

Објашњивост трошкова вештачке интелигенције није само академски проблем луксуза – то је опипљива економска варијабла. Вештачка интелигенција која постиже 12,2 процентна поена већуsegenтачност када се њени трошкови објасне коришћењем приступа ланца мисли генерише значајно већу клиничку и економску вредност од вештачке интелигенције која једноставно пружа дијагнозу, под претпоставком истог квалитета модела. Преведено у трошковне термине, то значи: избегнуте погрешне дијагнозе, смањен број контролних прегледа, краће трајање лечења и нижа стопа грешака. Користи су стварне, чак и ако их је тешко квантификовати у еврима – јер погрешне дијагнозе имају директне медицинске трошкове, као и индиректне трошкове због продуженог боравка у болници, правних ризика и губитка поверења у здравствени систем.

Објашњива вештачка интелигенција као стратешка нужност унутар регулаторног оквира

Закон ЕУ о вештачкој интелигенцији, који је на снази од августа 2024. године, класификује скоро све клиничке примене вештачке интелигенције – дијагностичке алате, системе за планирање терапије и апликације за дигитално праћење – као високоризичне. То подразумева опсежне обавезе: техничку документацију, управљање ризицима и квалитетом, континуирано праћење и експлицитне захтеве за транспарентност. Од августа 2028. године, након ажурираног Дигиталног омнибус пакета, који су Савет ЕУ и Парламент привремено договорили 7. маја 2026. године, примењиваће се сви захтеви за произвођаче медицинских уређаја.

Централна регулаторна језгра ових прописа је прецизна: Високоризична вештачка интелигенција мора бити разумљива корисницима. Процеси доношења одлука морају бити транспарентни, а препоруке морају бити оспориве. Оно што Закон ЕУ о вештачкој интелигенцији нормативно захтева емпиријски је потврђено студијом LMU: Објашњивост није само захтев за усклађеност. То је предуслов за безбедну употребу вештачке интелигенције у високоризичним клиничким ситуацијама. Нови пропис стога приморава произвођаче система вештачке интелигенције у здравству да се позабаве природом и квалитетом својих резултата – не само техничком тачношћу својих модела.

Са стратешке перспективе, ово ствара занимљиву тржишну динамику. Пружаоци услуга који озбиљно схватају своју моћ објашњења и улажу у транспарентне, излазне формате сличне току мисли биће боље позиционирани са регулаторног становишта. Истовремено, они ће очигледно постићи боље клиничке исходе. Конкуренција за решења вештачке интелигенције у здравству ће се стога у будућности померити са питања тачности техничког модела на питање клиничке употребљивости – промена парадигме са значајним последицама за целу индустрију.

Нова димензија дигиталне трансформације са „Управљаном вештачком интелигенцијом“ – платформа и B2B решење | Xpert Consulting - Слика: Xpert.Digital

Овде ћете сазнати како ваша компанија може брзо, безбедно и без високих баријера за улазак имплементирати прилагођена решења за вештачку интелигенцију.

Управљана AI платформа је ваше свеобухватно и безбрижно решење за вештачку интелигенцију. Уместо да се бавите сложеном технологијом, скупом инфраструктуром и дуготрајним процесима развоја, добијате готово решење прилагођено вашим потребама од специјализованог партнера – често у року од само неколико дана.

Кључне предности на први поглед:

⚡ Брза имплементација: Од идеје до апликације спремне за употребу за дане, а не месеци. Нудимо практична решења која стварају тренутну додату вредност.

🔒 Максимална безбедност података: Ваши осетљиви подаци остају код вас. Гарантујемо безбедну и усклађену обраду без дељења података са трећим лицима.

💸 Без финансијског ризика: Плаћате само за резултате. Велика почетна улагања у хардвер, софтвер или особље су потпуно елиминисана.

🎯 Фокусирајте се на свој основни посао: Концентришите се на оно што најбоље радите. Ми се бринемо о целокупној техничкој имплементацији, раду и одржавању вашег вештачке интелигенције.

📈 Спремно за будућност и скалабилно: Ваша вештачка интелигенција расте са вама. Обезбеђујемо континуирану оптимизацију и скалабилност и флексибилно прилагођавамо моделе новим захтевима.

Више информација овде:

• Решење за управљану вештачку интелигенцију - Индустријске услуге вештачке интелигенције: Кључ конкурентности у секторима услуга, индустрије и машинства

Недостатак вештина као катализатор за некритичко усвајање вештачке интелигенције

Резултати студије ЛМУ добијају на посебном значају у светлу структурног недостатка квалификованих стручњака у немачком здравственом систему. Радиологија је специјалност која је, у Немачкој – као и у многим другим европским земљама – под значајним притиском на запошљавање. Истовремено, обим снимања експлодира због све веће употребе ЦТ, МРИ и других техника снимања. Овај притисак ствара контекст у којем је велико искушење да се брзо усвоје препоруке вештачке интелигенције уместо да се критички испитају.

Пристрасност аутоматизације је посебно опасна у овом контексту. Када је радиолог под временским притиском и вештачка интелигенција представи листу вероватних дијагноза, пут до некритичког прихватања је кратак. Студија ЛМУ показује да добро осмишљен, објашњавајући излаз вештачке интелигенције може да се супротстави овоме – али само ако лекари активно читају и прегледају објашњења. То захтева да се системи вештачке интелигенције интегришу у клиничке токове рада на такав начин да остане довољно времена за ову критичку процену. Они који уводе вештачку интелигенцију само као алат за убрзање, без разматрања квалитета интеракције, ризикују да постигну супротно од жељеног: брже, али склоније грешкама дијагнозе.

Фондација Бертелсман процењује да Немачка пропушта повећање продуктивности до 16 процената због недостатка стручности у области вештачке интелигенције – што је еквивалентно милијардама изгубљених прихода. У сектору здравства, овај ефекат је још сложенији за мерење јер се вредност не изражава у приходима већ у здравственим исходима. Ипак, основна логика је иста: потенцијал вештачке интелигенције може се остварити само ако су корисници довољно компетентни да критички процене трошкове вештачке интелигенције – и ако су сами системи вештачке интелигенције дизајнирани на такав начин да је критичка евалуација и могућа и подстицана.

Диференцијалне дијагнозе и варљиви осећај сигурности

Један од најсуптилнијих налаза студије ЛМУ заслужује посебну пажњу јер противречи клиничкој интуицији. Диференцијалне дијагнозе се сматрају знаком клиничке марљивости у медицини. Оне показују да лекар разматра више могућности и да се прерано не закључује са дијагнозом. Међутим, у интеракцији са системом вештачке интелигенције, управо ова врста резултата може бити проблематична.

Основни механизам се лако психолошки објашњава: листа диференцијалних дијагноза оставља утисак да је проблем већ исцрпно разматран. Густина информација овог излаза је висока, што сигнализира когнитивно олакшање. Сходно томе, лекари имају тенденцију да мање размишљају изван наведених дијагноза и да мање самопроцењују. Ако модел у овом тренутку производи погрешне или непотпуне диференцијалне дијагнозе – што језички модели свакако чине – вероватноћа усвајања грешке је већа него код једне дијагнозе јасно означене као прелиминарна.

Објашњења заснована на ланцу мисли супротстављају се овоме јер експлицитно идентификују неизвесности, откривају факторе искључивања и тиме комуницирају епистемолошку отвореност модела. Лекари су позвани да доведу у питање модел – и стога су боље у могућности да га исправе тамо где је мањкав.

Генерализација: Шта налаз значи изван радиологије

Штефан Фојеригел, аутор студије, експлицитно наглашава да се налази протежу далеко изван радиологије. Модели великих језика се све више користе за доношење одлука у свакодневном животу и на послу – у праву, финансијама, менаџмент консалтингу и образовању. Где год људи користе резултате вештачке интелигенције као основу за доношење последичних одлука, постављају се иста питања: Да ли критички испитујем препоруку или је усвајам из разлога ефикасности? Да ли разумем образложење или се ослањам на вештачку интелигенцију зато што резултат звучи вероватно?

Упозорење на „грешке које звуче убедљиво“ је посебно важно. Језички модели су способни да произведу објашњења која делују структурно исправно и реторички убедљиво — али су чињенично нетачна. Ово је добро познати феномен, који се у истраживачкој литератури назива „халуцинација“, и не може се потпуно елиминисати једноставном оптимизацијом перформанси модела. Иако објашњења корак по корак нуде побољшану могућност за критички преглед, она не штите у потпуности од овог ризика. Одговорност за коначну одлуку увек остаје на човеку.

Са економске перспективе, ово се може тумачити као аргумент за диференцирану корисничку компетенцију: Они који желе да одрживо профитирају од алата вештачке интелигенције – било да је то у медицини, праву или менаџмент консалтингу – морају не само да знају како да их користе, већ и како да процене њихове трошкове. Ова компетенција се може научити, али захтева циљану обуку и професионални развој. Институције које улажу у ову компетенцију ће ефикасније користити системе вештачке интелигенције од оних које третирају вештачку интелигенцију као аутономни алат за доношење одлука.

Објашњива вештачка интелигенција и проблем поверења: системска перспектива

Поверење није меки фактор у медицини – то је тврда економска вредност. Пацијенти који верују својим лекарима имају већу вероватноћу да следе препоруке за лечење, раније пријављују симптоме и очигледно имају боље исходе лечења. Ово поверење је сада проширено и укључује још једну димензију: оно све више обухвата поверење у системе вештачке интелигенције који су укључени у дијагнозу и планирање лечења.

Концепт објашњиве вештачке интелигенције – у литератури се назива XAI, Explainable Artificial Intelligence, објашњива вештачка интелигенција – бави се управо овим питањем поверења. Не ради се о томе да се модели учине мање сложеним, већ о томе да се њихови процеси доношења одлука учине разумљивим релевантним групама корисника. „Разумљиво“ није апсолутни термин: оно што је корисно објашњење корак по корак за искусног радиолога може бити превише детаљно или обмањујуће за лекара опште праксе без специјализације у медицинском снимању. Стога се XAI мора посматрати не само из техничке перспективе, већ и имајући у виду корисника и контекст.

Из перспективе произвођача, то значи да развој ефикасних вештачких интелигенцијских објашњења није тривијално. Захтева дубоко разумевање клиничких токова рада и когнитивних захтева одговарајућих корисничких група. Објашњења типа „ланца мисли“, која су се супериорно показала у студији, нису само технички излазни формат – она су резултат пажљиво осмишљене интеракције. Овај дизајн захтева ресурсе, али очигледно ствара вредност – за пацијенте, лекаре и друштво.

Регулаторне обавезе и клиничка стварност: Прагматичан поглед

Прелазни периоди Закона ЕУ о вештачкој интелигенцији дају произвођачима и оператерима система вештачке интелигенције у здравству време да се прилагоде. Према новим прописима Дигиталног омнибус пакета, крајњи рок за произвођаче медицинских уређаја је август 2028. Међутим, овај период не треба погрешно схватити као одлагање, већ као структурирану транзицију у којој се налази клиничких истраживања – попут оних из студије ЛМУ – могу укључити у развој производа.

Конкретно, за болнице и болничке техничаре ово значи: Евалуација система вештачке интелигенције не треба само да мери техничкуsegenтачност, већ и квалитет резултата у клиничкој употреби. Изјаве о току мисли и слични транспарентни формати резултата треба да се сматрају критеријумима за избор током набавке. Обука лекара који користе алате вештачке интелигенције мора експлицитно да се бави пристрасношћу аутоматизације и критичким прегледом препорука вештачке интелигенције. Коначно, системи за осигурање клиничког квалитета треба да документују усвајање препорука вештачке интелигенције како би се рано идентификовале систематске грешке.

За програмере и добављаче решења за вештачку интелигенцију у здравству, порука је јасна: улагање у објашњивост није опциони додатак. То је кључна полуга која трансформише технички исправан модел у клинички ефикасан и регулаторно усклађен алат.

Главна тема: Како људи и машине могу заједно постати паметнији

Студија ЛМУ-а на крају доприноси већем питању које се протеже далеко изван радиологије и медицине: Како системи вештачке интелигенције морају бити дизајнирани тако да унапређују људско размишљање уместо да га замењују или – још горе – поткопавају? Одговор је: кроз транспарентност, следљивост и активно подстицање критичког испитивања.

Ово није технички романтични идеал. То је емпиријски доказан, економски исправан и етички императиван принцип дизајна. У здравственом систему под све већим притиском на перформансе, који се ослања на дигиталне алате и истовремено захтева да испуни највише стандарде квалитета, питање „Како ваша вештачка интелигенција објашњава своје препоруке?“ ускоро би могло постати најважније питање набавке у клиничким условима.

Добар одговор вештачке интелигенције није само тачан – он је и проверљив. Они који доследно примењују овај принцип у развоју, набавци и примени система вештачке интелигенције не само да ће постићи боље медицинске исходе. Такође ће стећи поверење које је дубокој дигитализацији здравствене заштите хитно потребно – поверење лекара, пацијената и друштва у целини.

Квази-интерно решење: Како Xpert.Digital затвара оперативне празнине у B2B маркетингу и продаји – Паметно пословање вођено садржајем - Слика: Xpert.Digital

Xpert.Digital је B2B индустријски центар вођен подацима, којим руководи Konrad Wolfenstein . Компанија делује као екстерно, квази-интерно решење за индустријске партнере, попуњавајући оперативне празнине у маркетингу, садржају и продаји – без потребе за додатним ресурсима на страни клијента.

Више информација овде:

• Квази-интерно решење: Како Xpert.Digital затвара оперативне празнине у B2B маркетингу и продаји – Паметно пословање вођено садржајем

☑️ Наш пословни језик је енглески или немачки

☑️ НОВО: Преписка на вашем матерњем језику!

Konrad Wolfenstein

Ја и мој тим смо срећни што вам можемо бити на располагању као ваш лични саветник.

Можете ме контактирати попуњавањем контакт форме овде једноставно позовите на +49 7348 4088 965. Моја имејл адреса је [email protected]:или

Радујем се нашем заједничком пројекту.

☑️ Подршка малим и средњим предузећима у стратегији, консултацијама, планирању и имплементацији

☑️ Креирање или реорганизација дигиталне стратегије и дигитализације

☑️ Проширење и оптимизација међународних продајних процеса

☑️ Глобалне и дигиталне B2B платформе за трговање

☑️ Пионирски развој пословања / Маркетинг / Односи с јавношћу / Сајмови