Војни удар заустављен у последњем тренутку: Смртоносни ризик неконтролисане вештачке интелигенције

Најопаснија мана вештачке интелигенције на свету: Зашто су алгоритми изузетно опасни у обавештајним агенцијама

Обавештајна грешка изазвана вештачком интелигенцијом: Како је машински генерисана лаж скоро осакатила глобалну економију

Звучи као сценарио политичког трилера високог профила, али у пролеће 2026. године скоро је постало разорна стварност: погрешан извештај америчке обавештајне службе, генерисан вештачком интелигенцијом, скоро је изазвао војну ескалацију на Блиском истоку. Пошто је четбот фатално погрешно протумачио јавно доступне информације и поверљиве податке о сигналима, кинески трговачки брод је погрешно оптужен да превози компоненте нуклеарног оружја. Док су амерички војни авиони већ били у ваздуху, официри за узбуну су отказали мисију у последњем тренутку.

Али овај инцидент је много више од пуке приче о халуцинирајућој машини. Он открива структурно и економско буре барута: Шта се дешава када организације које су критичне за безбедност – заслепљене обећањем максималне ефикасности – препусте контролу алгоритмима? Следећи текст анализира дубоки понор ланца доношења одлука у којем није технологија заказала, већ институције које су брзину погрешно схватиле као непроменљиву истину. Опомињућа прича о томе зашто је људско расуђивање, у временима високо аутоматизованих процеса, најважнији и, истовремено, најрањивији фактор производње у нашем светском поретку.

Није вештачка интелигенција изгубила контролу – већ организација која је брзину заменила за истину

Замало инцидент са глобалним експлозивним потенцијалом

У пролеће 2026. године, погрешан извештај америчке обавештајне службе, генерисан коришћењем вештачке интелигенције, скоро је довео до војног пресретања кинеског трговачког брода на Блиском истоку. Према тренутно доступним извештајима, аналитичар је користио четбот за процену информација о терету брода. Систем је комбиновао јавно доступне информације са поверљивим подацима о сигнализацији и погрешно закључио да брод превози компоненте за програм нуклеарног оружја. На основу тога, војне власти су почеле да се припремају за напад. Оружане снаге је требало да се укрцају на брод, док су војни авиони наводно већ били у ваздуху.

Операција је очигледно обустављена непосредно пре извршења након што су официри детаљније испитали информације. Ово је открило да је кључна идентификација терета била непоуздана и да је вештачка интелигенција коришћена и у анализи садржаја и у превођењу резултата у стандардизовани формат обавештајног извештаја. Који је терет заправо транспортован, који је конкретан модел коришћен и које су техничке или организационе провере претходно спроведене, остаје нејасно јавности. Такође не постоји званична потврда са потпуном реконструкцијом инцидента. Стога се мора направити разлика између пријављене суштине догађаја, вероватних закључака и преосталих неодговорених питања.

Међутим, економски гледано, овај случај је веома релевантан. Он показује како увођење генеративне вештачке интелигенције у организације којима је безбедност критична може повећати продуктивност, а истовремено умножити потенцијалну штету узроковану појединачним грешкама. У типичном канцеларијском процесу, измишљена изјава може довести до погрешне презентације или непотребног наређења. У војном процесу доношења одлука, иста класа грешака може утицати на људске животе, трговинске токове, премије осигурања, цене роба, финансијска тржишта и међународне односе. Технологија остаје иста, али се економска вредност тачног одговора и цена нетачног драматично мењају.

Инцидент стога није првенствено прича о халуцинирајућој машини. То је прича о системима подстицаја, архитектурама контроле, информационој економији и институционалној одговорности. Вештачка интелигенција не може да дефинише правила ангажовања, створи организациону културу или преузме одговорност. Она генерише излазе унутар система које људи набављају, конфигуришу, користе, тестирају и преводе у одлуке. Када неизвестан модел одговора постане наизглед поуздан обавештајни извештај, а то доводи до војне операције, кључни проблем лежи у целом ланцу вредности доношења одлука.

Убрзана анализа, убрзани ризик

Војне и обавештајне организације суочавају се са стварним проблемом података. Сателитски снимци, подаци о комуникацијама, кретање бродова, транспортна документа, отворени извори, подаци сензора и извештаји о ситуацији расту брже него што људи могу ручно да их анализирају. Вештачка интелигенција обећава да ће сортирати огромне количине информација, открити корелације и брже генерисати извештаје. Економске користи леже у смањеним трошковима претраживања, повећаном капацитету обраде и бржим циклусима доношења одлука. Исте те предности објашњавају зашто компаније користе генеративну вештачку интелигенцију у анализи тржишта, правним одељењима, логистици, корисничкој служби и истраживању.

Међутим, брзина не значи аутоматски ефикасност. Процес је економски ефикасан само ако додатна корист од убрзања надмашује додатне очекиване трошкове грешака и њихових последица. У административном задатку ниског ризика, може бити разумно користити несавршену вештачку интелигенцију јер се грешке могу јефтино исправити. У случају потенцијалне војне интервенције на броду наоружаном нуклеарним оружјем важе другачији услови. Релевантни фактор није просечна тачност система, већ очекивана укупна штета. Ово се може поједноставити множењем вероватноће да се грешка појави са потенцијалним обимом штете.

Управо та логика чини ретке екстремне догађаје тако економски значајним. Чак и ако би модел исправно функционисао у 99 од 100 случајева, преостала стопа грешака могла би бити неприхватљива чим би лажно позитиван резултат могао да покрене оружани сукоб. Високе просечне перформансе стога нису довољан доказ оперативне спремности. Кључни фактори укључују врсте грешака, оперативни контекст, индикатор неизвесности, порекло података, векторе напада и способност организације да благовремено оповргне излаз.

Овоме се додаје и компресија времена доношења одлука. Вештачка интелигенција не само да скраћује анализу већ и повећава притисак да се делује брже. Чим организација буде технички способна да процени информације за неколико минута уместо за неколико сати, очекивања у погледу оперативног темпа се мењају. Оно што у почетку изгледа као уштеда времена може тако постати нова обавеза. Руководиоци очекују тренутну свест о ситуацији, аналитичари морају да испоруче више резултата, а јединице раније почињу са припремама. Добијено време се тада не користи за додатни преглед, већ га апсорбује убрзани оперативни циклус.

Ово ствара парадокс продуктивности. Технологија штеди радно време у првој фази, али генерише нове трошкове тестирања, документације и валидације у наредним фазама. Ако се ови трошкови не узму у обзир, вештачка интелигенција делује исплативије са пословне перспективе него што заправо јесте. Организација евидентира уштеђене аналитичке сате, док ризик од погрешних одлука остаје као дифузни спољни терет ван буџета пројекта. Управо ово одвајање подстиче пребрзу имплементацију.

Права грешка је лежала у ланцу процеса

Критична слабост очигледно није била само погрешна идентификација пошиљке. Проблематичнија је била чињеница да је погрешан закључак могао да прође кроз неколико организационих фаза, а да се на време не препозна као машински генерисана и недовољно верификована изјава. Ово указује на квар у процесима извора информација, обележавања, унакрсне провере и одобравања. Робустан систем би морао да се заустави на неколико тачака: током уноса осетљивих података, када су различите врсте извора помешане, током процене терета, током генерисања извештаја и најкасније током оперативног планирања.

Друга употреба вештачке интелигенције за форматирање резултата је посебно проблематична. Стандардизовани извештаји су неопходни за велике организације јер обезбеђују читљивост, упоредивост и брзу дисеминацију. Истовремено, познати формат даје институционални ауторитет изјави. Ако језички углачан, формално исправан извештај има исту површину као традиционално истражен производ, примаоци више не могу препознати неизвесност његовог стварања. Форма постаје сигнал квалитета, иако не говори ништа о квалитету садржаја.

Ово илуструје економски проблем асиметричних информација. Идеално би било да аутор зна историју настанка документа, али примаоци првенствено виде готов производ. Ако порекло, модел, улази, неизвесности и кораци верификације нису транспарентно објављени, прималац не може правилно проценити ризик. Могу третирати резултат генерисан вештачком интелигенцијом као више пута валидирану људску анализу. Ово је упоредиво са финансијским производом чија структура ризика остаје скривена иза познате оцене.

Коришћење вештачке интелигенције у две узастопне фазе може погоршати грешку. Прво, систем генерише или усваја погрешан закључак. Затим, други процес подржан вештачком интелигенцијом формулише овај закључак убедљиво, доследно и професионално. Друга фаза не нужно потврђује прву, већ побољшава њен лингвистички кредибилитет. Неизвесност се трансформише у сигурност у тону. Ово семантичко побољшање је опасно у процесима критичним за безбедност, јер доносиоци одлука често делују под временским притиском на основу кондензованих производа.

Ефикасан систем управљања стога мора да процени не само појединачне одговоре модела, већ и цео информациони ланац. Свака трансформација може изгубити могућност праћења, изгладити вероватноће и уклонити резерве. Сирово запажање постаје класификација, класификација претпоставка о претњи, претпоставка извештај, а извештај опција акције. Ако свака фаза усвоји претходну без верификације, резултат није независна потврда, већ каскада корелираних грешака.

Зашто човек није довољно у току

Најчешћи политички одговор на ризике војне вештачке интелигенције јесте да човек мора остати укључен у процес доношења одлука. Ово звучи охрабрујуће, али је непотпуно. Човек који само даје своје одобрење на крају високо аутоматизованог процеса не представља ефикасан надзор. Кључно је да та особа поседује довољно времена, стручности, приступ примарним подацима и институционалну слободу да оспори машину. Без ових предуслова, човек постаје само формални потпис на унапред структурираној одлуци.

Пристрасност аутоматизације настаје када људи више верују препорукама машина него што њихова стварна поузданост оправдава. Међутим, то није неизбежан рефлекс и не јавља се подједнако у свакој ситуацији. Поверење зависи од искуства, оптерећења, презентације, организационе културе и перципираног ауторитета система. Моћни алати могу постати посебно проблематични када обично дају корисне резултате. Ретке грешке се тада јављају у окружењу високог основног прихватања.

У војном контексту, хијерархија и временски притисак погоршавају проблем. Ако је стандардизовани извештај већ дистрибуиран на више нивоа и јединице су започеле припреме, психолошки и организациони трошкови неслагања се повећавају. Аналитичар или официр који зауставља процес мора не само да доводи у питање информације већ и да успори текућу институционалну мобилизацију. Што је процес даље напредовао, већи је утицај неутврђених трошкова, пристрасности потврђивања и страха од потцењивања стварне претње.

Стога, истински људски надзор мора почети пре оперативне фазе. Он захтева јасне прагове за независну потврду, обавезну унакрсну анализу и видљиво раздвајање између посматрања, машинске интерпретације и људске процене. За посебно значајне одлуке, друга, организационо независна јединица требало би да прегледа улазне податке. Штавише, одбацивање препоруке вештачке интелигенције мора бити неутрално по каријеру. Ако се брзина награђује, а кашњење кажњава, надзор може постојати на папиру, али губи своју практичну ефикасност.

Кључна формула, дакле, није „човек у процесу“, већ ефикасно људско расуђивање унутар проверљивог ланца доношења одлука. Особа мора имати способност да паузира процес, консултује изворе, захтева алтернативе и пријави неизвесност навише. Такође мора знати када модел функционише ван свог предвиђеног обима. Без ове компетенције, људско учешће постаје само декоративно управљање.

Економска цена погрешно усмерене ескалације

Непосредни војни трошкови операције пресретања били би само мали део потенцијалне штете. Присилна заплена кинеског брода могла је да покрене дипломатске контрамере, војне одговоре, санкције или мере одмазде. Чак и без отвореног ратовања, вероватно би се очекивале веће премије ризика у поморском и ваздушном саобраћају. Бродарске компаније би прилагодиле руте, осигуравачи би захтевали доплате, а компаније би акумулирале додатне залихе. Свака од ових реакција везује капитал и повећава трансакционе трошкове.

Блиски исток је од највеће важности за снабдевање енергијом и глобалну трговину. Сукоб између САД и Кине у овом региону би нагло променио перцепцију геополитичких ризика. Цене нафте и гаса реагују не само на стварне поремећаје у снабдевању, већ и на очекивања будуће несташице. Више цене енергије би оптеретиле транспорт, хемикалије, пољопривреду и енергетски интензивне индустрије. Истовремено, сигурне инвестиције би могле да порасту, берзе би могле да буду под притиском, а трошкови финансирања за ризичније компаније би могли да се повећају.

Највећи економски ризик био би ланчана реакција неизвесности. Тржишта могу релативно брзо да обраде познату штету, али нејасни путеви ескалације генеришу посебно високу волатилност. Када се не могу разазнати ни намере ни границе реакције укључених земаља, компаније истовремено одређују цене у неколико сценарија. Инвестиције се одлажу, уговори о снабдевању скраћују, а резерве готовине се повећавају. Овај опрез је рационалан за појединачну компанију, али може ослабити потражњу и продуктивност на макроекономском нивоу.

Трговински односи између САД и Кине такође би били погођени. Упркос стратешком ривалству, обе економије остају међусобно повезане кроз робу, међупроизводе, технологију, капитал и тржишта продаје. Војни сукоб би могао убрзати контролу извоза, режиме санкција и проверу инвестиција. Полупроводници, електроника, машинство, батерије, поморска логистика и критичне сировине били би посебно рањиви. Компаније би морале да структурирају своје ланце снабдевања не само према цени и квалитету, већ све више и према политичкој отпорности.

За Европу и Немачку, такав сукоб не би био удаљени безбедносни проблем. Немачка индустрија зависи од пословних модела оријентисаних ка извозу, глобалних мрежа снабдевања и стабилних поморских веза. Виши трошкови транспорта и енергије би извршили притисак на марже, док би присилно позиционирање економске политике између САД и Кине могло отежати приступ тржишту. Мала и средња предузећа (МСП) посебно често имају мање финансијских резерви и мању преговарачку моћ за успостављање паралелних ланаца снабдевања у више геополитичких региона.

Овај случај илуструје екстремни облик негативне екстерналије. Корисници вештачке интелигенције не сносе аутоматски све трошкове своје погрешне одлуке. Аналитичар, јединица или технолошки пројекат могу имати локалне користи од брзине, док се велики део ризика преноси на војнике, трговинске партнере, пореске обвезнике и глобалну економију. Тамо где се приватне или организационе користи и друштвена штета разликују, потребни су строжи прописи него на уобичајеним тржиштима софтвера.

Центар за безбедност и одбрану нуди стручне савете и ажурне информације како би ефикасно подржао компаније и организације у јачању њихове улоге у европској безбедносној и одбрамбеној политици. У тесној сарадњи са Радном групом „SME Connect Defence“, посебно промовише мала и средња предузећа (МСП) која желе даље да развију свој иновативни капацитет и конкурентност у сектору одбране. Као централна тачка контакта, Центар тако ствара кључни мост између МСП и европске одбрамбене стратегије.

У вези са овим:

• Радна група за повезивање МСП у одбрани – Јачање МСП у европској одбрани

Безбедност као потцењени фактор производње

Економске анализе често третирају безбедност као владин оквир, а не као продуктивну имовину. У стварности, геополитичка стабилност је темељ међународне поделе рада. Компаније улажу на дужи рок када су имовинска права, транспортне руте, системи плаћања и политички односи довољно предвидљиви. Сваки додатни ризик од ескалације делује као невидљиви порез на трговину и формирање капитала.

Вештачка интелигенција може утицати на овај фактор производње у оба смера. Правилно коришћена, побољшава извиђање, одржавање, сајбер одбрану, логистику и свест о ситуацији. Може помоћи у идентификовању конфликтних података, растерећењу оскудног особља и бржем истраживању лажних узбуна. Међутим, ако се неправилно користи, убрзава процене претњи, генерише илузорна предвиђања и смањује време доступно за дипломатију. Стога, економска вредност војне вештачке интелигенције не би требало да се мери искључиво брзином распоређивања или уштедама у људству.

Свеобухватна анализа трошкова би такође морала да обухвати избегнуте грешке, ризике ескалације и губитак поверења. Ово је методолошки тешко јер спречени инцидент није директно видљив. Ипак, организације могу да моделирају сценарије, спроводе тестове отпорности и процене очекивану штету различитих класа грешака. Систем који је економски атрактиван за рутинске задатке стога може бити непогодан за одлуке релевантне за ескалацију. Ова диференцијација је кључна јер термин вештачка интелигенција обухвата веома различите примене.

Економски исправан закључак није потпуно одбацивање војне вештачке интелигенције. Потпуно напуштање би такође подразумевало трошкове: спорију анализу, повећано оптерећење особља, пропуштене обрасце и потенцијално лошије одлуке против противника који интензивно користе такве системе. Међутим, њена употреба мора бити скалирана у складу са потенцијалном штетом. Што је теже поништити погрешну одлуку, то већи морају бити захтеви за квалитет података, следљивост, независну ревизију и људско овлашћење.

Када ефикасност ствара погрешне подстицаје

Брзо ширење генеративне вештачке интелигенције покреће снажна институционална нарација. Организације не желе да технолошки заостају, руководиоци очекују мерљиве добитке у продуктивности, а добављачи обећавају све моћније моделе у све краћим интервалима. У овом окружењу, опрез се лако доживљава као бирократија. Они који брзо имплементирају апликацију могу показати успехе; они који спречавају ризична примењивања, с друге стране, често не производе јавно видљиве резултате.

Ова асиметрија искривљује одлуке. Предности убрзане анализе су одмах видљиве у метрикама као што су време обраде, број генерисаних извештаја или уштеђени радни сати. Трошкови ретке грешке појављују се тек касније и потенцијално у другој организационој јединици. Стога, пројекат који имплементира вештачку интелигенцију не носи нужно исту процену ризика као војно руководство, дипломатија или национална економија. Без централизованог управљања, локалне оптимизације постају системски ризик.

Уговори о јавним набавкама такође могу створити проблематичне подстицаје. Добављачи се често процењују на основу функционалности, брзине интеграције и цене. Теже мерљивим карактеристикама, као што су калибрација несигурности, следљивост, робусност на манипулисане улазе или квалитет у изузетним условима, даје се мања тежина. Модел може пружити импресивну демонстрацију, а ипак не успети у ретким, али кључним ситуацијама. Стога, посебно у јавним набавкама, демонстрирање контролисаних ограничења мора бити важније од реторичких обећања о учинку.

Овоме се додаје политичко такмичење за технолошко вођство. Када државе страхују од заостајања у војној трци вештачке интелигенције, њихова спремност да се придржавају спорих процедура тестирања се смањује. Безбедносна дилема је очигледна: свака страна убрзава јер очекује да друга учини исто. То може довести до тога да се системи распоређују пре него што се стандарди, обука и процедуре тестирања у потпуности развију. Из перспективе појединачне државе, ово делује одбрамбено; међутим, колективно, то повећава вероватноћу погрешних тумачења и ненамерне ескалације.

Здрава економска политика стога мора третирати иновације и контролу као комплементарне инвестиције. Управљање није спољна препрека, већ саставни део технологије. Систем вештачке интелигенције без поузданог евидентирања, јасних одговорности и резервних процедура није готов производ, већ непотпун производни процес. Трошкове контроле не треба ретроспективно посматрати као регулаторни терет. Они припадају пословном плану од самог почетка.

Фузија података без гаранције истинитости

Пријављени инцидент је такође поучан јер се каже да је четбот спојио различите изворе информација. Фузија података звучи као добитак у знању, али може да прикрије неизвесност. Отворени извори садрже гласине, застареле уносе, намерне дезинформације и тврдње копиране једне од других. Тајни сигнали могу бити вредни, али и они захтевају тумачење и могу бити непотпуни. Комбиновање оба подручја са јединственим језичким моделом не производи аутоматски бољу истину.

Генеративни модели оперишу статистичким односима и лингвистичком веродостојношћу. Они могу трансформисати контрадикторне доказе у кохерентну нарацију, чак и када подаци не дозвољавају дефинитиван закључак. Управо та кохерентност је привлачна: људи не добијају хаотичну колекцију фрагмената, већ разумљив одговор. Међутим, елиминисање језичких контрадикција може се погрешно протумачити као елиминисање привидне неизвесности. Модел уређује свет, чак и ако свет не може бити дефинитивно уређен у том тренутку.

За обавештајне службе, порекло је стога кључно. Свака изјава мора остати пратива до свог оригиналног извора. Мора бити идентификовано да ли је информација посматрана, закључена, претпостављена или машински генерисана. Подједнако важни су временски жигови, ниво класификације, процена поузданости и познати контраиндикатори. Вештачка интелигенција не сме да раствори ове карактеристике у једнообразан, текући текст, већ да их видљиво сачува.

Независност извора је такође економски и аналитички значајна. Десет извештаја не представља десет потврда ако су сви засновани на истом оригиналном извештају. Системи вештачке интелигенције могу превидети такве зависности или их не представити транспарентно. У отвореним информационим просторима, лажна већина може брзо да се појави јер новински портали, друштвене мреже и базе података појачавају исту тврдњу. Робустан процес стога мора не само да броји изворе већ и да испитује њихове генеалошке везе.

Поред тога, постоји ризик од манипулисаних улазних података. Ако противници знају да аутоматизовани системи комбинују отворене изворе и сигналне податке, могу намерно постављати обмањујуће трагове. Лажне етикете терета, координисане публикације или фалсификовани документи могли би фаворизовати жељену класификацију. Систем оптимизован за брзину тако постаје мета напада. Безбедност вештачке интелигенције стога обухвата не само грешке модела већ и стратешку обману.

Одговорност се не може аутоматизовати

Након критичног инцидента, често почиње потрага за једним кривцем. Аналитичар је можда радио некритички, менаџер је можда деловао пребрзо или је добављач можда неадекватно објаснио ограничења свог производа. Међутим, приступ заснован искључиво на особљу је недовољан. Ако би многи разумни људи унутар лоше дизајнираног система могли да направе исту грешку, онда је то организациони проблем.

Одговорност стога мора бити утврђена на више нивоа. Корисници су одговорни за правилну примену и обележавање. Супервизори су одговорни за одобрења, расподелу ресурса и оптерећење посла. Одељења за набавку морају дефинисати захтеве за безбедност и следљивост. Технички менаџери морају бити у могућности да тестирају и прате моделе и блокирају их у случају аномалија. Коначно, политичко руководство мора одлучити који задаци могу бити делегирани генеративним системима.

Одговорност не сме бити расподељена тако широко да на крају нико није одговоран. Јасна архитектура улога захтева, посебно, одређене власнике за модел, податке, случај употребе и издање. За сваки критични извештај мора бити могуће пратити ко је одобрио машинско учење, ко је прегледао резултат и ко је одобрио његову оперативну употребу. Ова пративост служи не само за санкционисање већ, пре свега, за учење.

Организацији која учи потребна је култура у којој се могу пријавити блиски промашаји. Овај конкретан случај је вредан управо зато што је операција очигледно заустављена. Ако је фокус искључиво на индивидуалном кажњавању, будући корисници ће вероватније прикривати грешке. Супротно томе, ако се кршења толеришу без последица, губи се подстицај за марљивост. Потребна је праведна безбедносна култура: јасне санкције за намерна или грубо немарна кршења правила, али и сигурни механизми пријављивања за транспарентно откривене грешке и рањивости.

У овој архитектури, машина не може преузети моралну или правну одговорност. Она не поседује ни намеру ни осећај дужности, нити разумевање геополитичких последица. Чак и ако модел формулише препоруку, одлука остаје институционално људска. Стога, термини попут „вештачка интелигенција је одлучила“ или „алгоритам је крив“ замагљују ко је дизајнирао процес и делегирао овлашћења.

Робустан модел контроле за високоризичну вештачку интелигенцију

Ефикасан модел контроле почиње строгом класификацијом случајева употребе. Задаци ниског ризика као што су превођење, заказивање или форматирање могу се аутоматизовати према општим безбедносним правилима. Анализе које утичу на избор војних циљева, нуклеарну пролиферацију, идентификацију противника или оперативне интервенције, с друге стране, спадају у категорију највишег ризика. Оне захтевају одвојене системе, посебно обучене кориснике и знатно строже процедуре одобравања.

Што се тиче података, неопходан је комплетан ланац порекла. Улази, верзије модела, системске инструкције, преузети документи, међукораци, људске модификације и коначно издање морају бити евидентирани. Сврха није непотребно ширење поверљивих информација, већ омогућавање накнадне и, идеално, текуће ревизије. Без овог трага, нико не може поуздано реконструисати како је до закључка дошло.

Што се тиче садржаја, свака последична тврдња треба да буде потврђена барем једном методом независном од резултата вештачке интелигенције. То може бити ручни преглед оригиналног документа, техничко мерење, други извор података или организационо одвојена јединица за анализу. Два одговора из истог модела или из два модела са сличним подацима за обуку не представљају истинску независност. Они могу поновити исту грешку користећи различите речи.

Штавише, систему мора бити дозвољено да изрази неизвесност. Вештачка интелигенција од које се увек очекује да пружи дефинитиван одговор приморана је на лажни осећај прецизности. У случајевима недовољних података, исправан излаз мора бити у стању да наведе да није могућа поуздана класификација. Овај пропуст не треба аутоматски тумачити као неуспех у индикаторима учинка. У окружењима високог ризика, благовремено изражавање неизвесности је често вредније од исхитрене претпоставке.

Оперативни прагови морају бити јасно дефинисани. Једна анализа подржана вештачком интелигенцијом не сме бити довољан разлог за употребу силе. Што је већи потенцијал за штету, потребно је више независних потврда и хијерархијских нивоа. Истовремено, црвени тим би требало да буде обавезан да развије алтернативна објашњења. Његов задатак није да мало побољша преовлађујућу хипотезу, већ да је активно оповргне.

Коначно, потребни су технички и организациони механизми за гашење. Проблематични модел мора бити у стању да се уклони из критичних процеса у кратком року, а да се притом не изазове колапс целог процеса. Ово захтева ручне резервне процедуре. Организације које демонтирају све своје постојеће могућности само зато што вештачка интелигенција у почетку делује ефикасније постају зависне и губе способност да делују у случају квара.

Лекције за предузећа и јавну управу

Иако је инцидент настао у војној сфери, његови основни обрасци се примењују и на предузећа. Погрешна процена коју генерише вештачка интелигенција може утицати на кредитне одлуке, провере усаглашености, кадровске акције, процене добављача или стратешка улагања. Обим штете је обично мањи него у војној ескалацији, али је логика која стоји иза грешака упоредива. Процеси у којима се машински генерисан резултат претвара у познати формат документа, а затим прослеђује даље без икаквог видљивог порекла, посебно су ризични.

Компаније би стога требало да праве разлику између помоћи и доношења одлука. Систем може да претражује информације, креира нацрте и истакне потенцијалне недоследности. Међутим, одговорност за одлуку која захтева одобрење остаје на квалификованој особи. Ова особа мора имати приступ изворима и не сме само да види завршен наратив. Неко ко само одобрава професионално написан резиме не проверава садржај, већ његову површину.

Кључни индикатори учинка (KPI) такође треба да се прилагоде. Мерење пројекта вештачке интелигенције искључиво на основу уштеђеног времена ствара погрешне подстицаје. Значајније су комбиноване метрике, укључујући продуктивност, стопу корекције, тежину грешака, удео проверљивих изјава и број неизвесности идентификованих благовремено. За процесе високог ризика, требало би проценити и колико често људи износе ваљане приговоре на вештачку интелигенцију. Нулта стопа приговора може указивати на савршену технологију, али вероватније указује на недостатак надзора.

За средња предузећа, развој потпуно интерног техничког решења је обично нереалан. Због тога су јасни уговори са добављачима још важнији. Компанијама су потребне информације о променама модела, локацијама складиштења, подизвођачима, евидентирању, безбедносним инцидентима и коришћењу унетих података. Јефтина услуга може постати скупа ако дође до цурења осетљивих информација или ако одлуке постану неревидиране.

Јавна управа се суочава са додатним изазовом. Њене одлуке морају бити не само економски ефикасне, већ и законите, транспарентне и подложне оспоравању. Што више вештачка интелигенција обликује образложење за одлуку, то је јасна документација важнија. Грађани и предузећа не смеју бити заваравани објашњењем да је модел идентификовао ризик. Владине акције захтевају оправдано, људски оправдано објашњење.

Иновациона политика између конкуренције и предострожности

Политички сукоб се често приказује као избор између технолошке снаге и регулације. Ова супротстављеност је погрешна. Државе које неодговорно примењују високоризичну вештачку интелигенцију могу стећи краткорочну предност, али на дужи рок ризикују да изгубе поверење, способност формирања савеза и оперативну поузданост. Спектакуларни неуспех може одложити пројекте, замрзнути буџете и повећати отпор јавности. Ефикасна регулација, дакле, такође штити иновације.

Истовремено, мере предострожности не смеју довести до општих забрана које непотребно ометају цивилне и нискоризичне примене. Приступ заснован на ризику је економски супериорнији. Он концентрише ресурсе тамо где су погрешне одлуке неповратне, системске или опасне по живот. За једноставно израду текста су прикладнија другачија правила него за избор циља, медицински третман или критичну инфраструктуру.

Међународне стандарде је и даље тешко успоставити. Војна транспарентност се сукобљава са тајношћу, а државе нерадо откривају своје техничке могућности. Реалистичнији од потпуног откривања су заједнички минимални стандарди: људски ауторитет над употребом силе, обавезно тестирање, механизми деактивације, јасна одговорност и комуникациони канали за инциденте. Таква правила не елиминишу конкуренцију, али могу ограничити најопаснија погрешна тумачења.

Мере изградње поверења између САД и Кине биле би посебно важне. Ако обе стране интегришу вештачку интелигенцију у извиђање и подршку одлучивању, повећава се ризик да ће се лажни извештај протумачити као намерна провокација. Директни војни комуникациони канали, процедуре за решавање поморских инцидената и политичке обавезе према људском надзору могле би смањити ризик од ескалације. Њихова корист је слична осигурању: у нормалном раду делују неупадљиво, али у кризи могу спречити огромну штету.

Савезници и технолошке компаније такође сносе одговорност. Моделе, облачну инфраструктуру и алате за податке често развијају приватни добављачи. Ово пребацује део стварања војне вредности на компаније чији иновациони циклуси и логика одговорности нису били дизајнирани за геополитичке кризе. Политика набавки стога мора осигурати да владине агенције задрже техничку контролу, права ревизије и довољно интерне стручности.

Стратешка суштина случаја

Тешки судар са кинеским бродом открива непријатну истину: највећи краткорочни ризик за вештачку интелигенцију можда није окретање машине против човечанства. Вероватније је да је особа пребрзо поверовала у убедљиво формулисану, али лажну машинску поруку. Опасност произилази из међусобног деловања технолошке несигурности, временског притиска, хијерархије и политичке жеље за брзином.

Прави приступ није ни технолошка паника нити слепи оптимизам у погледу напретка. Генеративна вештачка интелигенција може значајно повећати ефикасност великих организација. Међутим, она не може заменити епистемолошку марљивост – то јест, дисциплиновано испитивање одакле долази изјава, колико је поуздана и који контрадокази постоје. Што је алат моћнији, то ова марљивост постаје важнија.

Са економске перспективе, увођење вештачке интелигенције мора узети у обзир сву очекивану вредност. То укључује повећање продуктивности, као и трошкове тестирања, грешке у процени, одговорност, штету по репутацију и системске ризике. У случајевима потенцијално катастрофалних последица, није довољно да модел буде користан у просеку. Организација мора показати своју способност да открије и спречи ретке, критичне грешке.

Кључни успех овог инцидента лежи у чињеници да су људи успели да прекину операцију. Међутим, безбедносна архитектура не може да се ослања на будне појединце који интервенишу у последњем тренутку. Мора бити осмишљена на такав начин да сумњиве информације никада не доспеју до фазе оперативног планирања неозначене. Провере морају да се спроводе рано, више пута и независно.

Грешити је људски. Машине греше другачије: брже, скалабилније и често на лингвистички убедљив начин. Грешка постаје катастрофална само када институције погрешно схвате ове карактеристике за знање. Централна лекција, дакле, није да се људи уклоне из процеса доношења одлука или да се тамо задрже само симболично. Већ да се граде организације у којима се сумња више цени од брзине чим лажна сигурност може да изазове рат.

Било би ми драго да вам будем лични саветник.

Шеф развоја пословања

Председник Радне групе за одбрану SME Connect

ЛинкедИн

 

 

Било би ми драго да вам будем лични саветник.

Можете ме контактирати на wolfenstein∂xpert.digital или

Само ме позовите на +49 7348 4088 965 .

ЛинкедИн