Управљана вештачка интелигенција против ширења вештачких интелигенција: Зашто ће ваши ненадгледани вештачки агенти ускоро постати правни ризик

Агенти вештачке интелигенције ван контроле: Како је „ширење агената“ постало највећи ИТ ризик у 2025. години

Крај експеримената са вештачком интелигенцијом: Зашто ће преко 40 процената аутономних агентских снага ускоро бити угашено

Вештачка интелигенција револуционише свакодневно пословање – али док одељења ентузијастично уводе све више аутономних вештачких интелигенција у своје процесе, у позадини се крије огроман ризик за ИТ и усклађеност. Такозвано „ширење агената“ (неконтролисано ширење вештачких интелигенција) не само да доводи до експлозивног раста трошкова инфраструктуре и сувишних система, већ и отвара опасне безбедносне празнине. Са строгим захтевима Закона ЕУ о вештачкој интелигенцији, овај недостатак контроле постаје егзистенцијални правни проблем. Да би се спречила предстојећа катастрофа управљања и обезбедио дугорочни повраћај инвестиције од трансформације вештачке интелигенције, технолошки лидери се сада суочавају са кључним задатком: морају зауставити неконтролисано ширење и заменити га централно управљаном платформом за вештачку интелигенцију пре него што се прозор могућности потпуно затвори.

У вези са овим:

• UNFRAME.AI: Добро, лоше и неуправљиво: Колико вас заиста кошта ширење агената

Управљана вештачка интелигенција против ширења вештачких интелигенција: Како централна контролна платформа спречава надолазећу катастрофу управљања у компанији

У већини компанија, нешто се дешавало током протеклих осамнаест месеци што се није појавило ни у једном буџету, није покренуло никаква упозорења о ризику и за шта ниједан тим није централно одговоран. Одељење по одељење, тимови су почели да примењују вештачку интелигенцију. Финансијско одељење је направило једног за верификацију фактура. Одељење за људске ресурсе је применило једног за упите о увођењу у посао. Корисничка служба је покренула другог за тријажу захтева. Сваки од ових агената је решио прави проблем. Сваки је одобрен, или барем није заустављен. И сваки је направљен на другој платформи, са другачијим моделом, повезан са другачијим извором података и није регулисан апсолутно ни од кога на свим нивоима.

Ово је ширење вештачке интелигенције (AI agent sprawl), или „агент sprawl“ на енглеском жаргону. И до тренутка када већина технолошких лидера томе да име, већ је начињена значајна финансијска и структурна штета. Оно што на први поглед делује као мањи оперативни проблем, према тренутним тржишним подацима, развија се у можда најхитнији стратешки ризик трансформације вештачке интелигенције. Бројке су јасне: Преко три милиона вештачких интелигенција већ послује у пословним окружењима широм света – а од њих је само 47,1 одсто активно праћено или обезбеђено. Око 1,5 милиона агената стога ради потпуно без надзора. Истовремено, 82 одсто руководилаца верује да су њихове постојеће политике довољне. Ова нескладност између самоперцепције и стварности је темељ на којем цвета овај неконтролисани раст.

Познати образац у новом облику: Историјски контекст технолошке пролиферације

Ширење агената није нови проблем, већ познати образац у новом облику. Корпоративни свет је већ неколико пута доживео сличне фазе, чији ток и последице изузетно доследно одговарају тренутној ситуацији.

Током неколико година, такозвано ширење облака резултирало је десетинама некоординисаних облак окружења која су прождирала буџете и стварала безбедносне рањивости, чије је потпуно отклањање понекад трајало годинама. Ширење SaaS-а пратило је исти образац: на свом врхунцу, просечна компанија је истовремено покретала стотине апликација. Иако се компаније сада активно консолидују – просечан број SaaS апликација је смањен са 374 на 342 – „shadow IT“ остаје огроман, упоран проблем. Према недавним истраживањима, 68 процената запослених користи алате које ИТ није одобрио, а 57 процената уноси осетљиве податке компаније у ове неодобрене системе. ИТ одељења тренутно управљају само 28 процената укупне SaaS потрошње и прате само 17 процената свих апликација.

Затим је уследило ширење RPA: талас ботова за аутоматизацију који је почео са обећавајућим резултатима пилот пројеката, а завршио се као сплет крхких, преклапајућих радних процеса које нико није могао у потпуности да тестира или одржава. У пракси, RPA пројекти су често пропадали због нереалних очекивања, нејасног избора процеса и недостатка управљачке инфраструктуре. Паралела са тренутном ситуацијом је структурно готово идентична – са једном кључном разликом.

Аутономни AI агенти су као RPA са мозгом. Иста динамика важи, али последице су брже и далекосежније. RPA бот који престане да ради једноставно престаје да ради. AI агент који ради без управљања наставља да ради – и доноси одлуке самостално. Ово је знатно опаснији сценарио. Софтвер чека команде. Агенти делују аутономно. Ова квалитативна промена у технологији чини питање управљања не само постепеним, већ фундаментално хитнијим.

Анатомија неконтролисаног увођења: Како неконтролисани раст изгледа у пракси

Развојни образац ширења агената је изузетно доследан у свим организацијама, чак и ако се детаљи разликују. Обично почиње са малим бројем добронамерних пилот пројеката. Резултати су довољно обећавајући да оправдају скалирање. Други тимови примећују позитивна искуства, траже сопствене агенте или их једноставно сами граде. Продавци олакшавају овај процес – компаније су привучене бесплатним или јефтиним алатима почетног нивоа, и на први поглед, чини се да нема много разлога да се инфраструктури не дода још једна платформа.

У року од дванаест до осамнаест месеци, типична компанија се налази у ситуацији коју карактерише неколико карактеристичних карактеристика: Агенти са различитим функцијама се развијају на различитим платформама - од OpenAI до AWS и Google-а до интерних алата - без јединственог начина за њихово праћење или управљање. Пошто је сваки агент изграђен другачије, из перспективе управљања, не постоји централни преглед, нити такозвани „једно стаклени панел“.

Сваки агент има своје везе за податке и права приступа, конфигурисане независно без заједничког слоја политике. Нико нема потпуну слику о томе којим системима сваки агент може да приступи. Исте интеграције се обнављају изнова и изнова: пет агената са пет одвојених конектора ка Salesforce-у; три агента са три независна цевовода ка складишту података. Агенти који раде у суседним функцијама немају заједнички контекст или слој координације. Када маркетиншки агент, агент ланца снабдевања и HR бот раде у изолованим силосима, не стварате аутоматизовану радну снагу – стварате дигиталну побуну. Избор модела је такође ад хок: различити тимови користе различите добављаче на основу онога што је било доступно у време изградње, а не на основу стратешких стандарда за трошкове, перформансе или профил ризика.

Логика која стоји иза овога је савршено рационална из перспективе појединачних тимова: свако одељење оптимизује за своју брзину и свој случај употребе. Системски проблем произилази из збира ових локалних образложења. То је класичан случај неуспеха координације, који се неизбежно јавља без свеобухватне контролне структуре.

Прави трошкови: Поред очигледног расипништва буџета

Најочигледнији трошкови због ширења агената су расипање буџета због сувишних интеграција, преклапајућих функција и дуплиране инфраструктуре. Ово је реално и брзо се акумулира. Оперативни трошкови за вештачку интелигенцију састоје се од мноштва компоненти: трошкова инфраструктуре за рачунарство и меморију, трошкова токена за API позиве, трошкова ИТ управљања за праћење, безбедност и ажурирања, и трошкова имплементације, који могу да се крећу од неколико хиљада до неколико стотина хиљада евра, у зависности од сложености.

Али мање видљиви трошкови су они заиста драматични: такозвани дуг управљања. Сваки агент који послује без централног слоја политике представља празнину у усклађености. Сваки агент који ради без надзора је ризик који се не може квантификовати. У високо регулисаним индустријама попут финансијских услуга, здравства или правног консултовања, ова празнина није само теоретска. То је укор који ће постати проблем током следеће ревизије. Некоординисани агенти доводе до „крварења токена“, где сувишни API позиви и преклапајући рачунарски задаци тихо еродирају повраћај инвестиције.

Још озбиљније, могу довести до стварних оперативних кварова када агенти са супротстављеним циљевима раде на истим подацима без слоја оркестрације који усклађује њихове одлуке. IDC предвиђа да ће 60 процената кварова вештачке интелигенције у 2026. години бити последица празнина у управљању, а не лоших перформанси модела. Ова бројка одражава фундаментални увид: Технолошка зрелост модела вештачке интелигенције више није примарни ризик. То је организационо и структурно уграђивање.

Штавише, постоје далекосежни правни ризици. IDC упозорава у својим прогнозама FutureScape-а да ће се до 2030. године до 20 процената од хиљаду највећих светских организација суочити са тужбама, казнама и смењивањем руководилаца информационих технологија – узрокованим озбиљним поремећајима који произилазе из неадекватног управљања агентима вештачке интелигенције. Закон ЕУ о вештачкој интелигенцији погоршава ове изгледе конкретним санкцијама: прекршаји се могу казнити казнама до 35 милиона евра или 7 процената глобалног годишњег прихода. За системе вештачке интелигенције високог ризика, експлицитно се захтева евидентирање, оперативно праћење и људски надзор. Компанија која управља аутономним агентима вештачке интелигенције без структурираног управљања тако се директно излаже овим прописима.

Трошкови ретроактивне имплементације управљања у великој флоти агената су увек знатно већи од трошкова успостављања инфраструктуре управљања од самог почетка. Организације које мигрирају са нивоа управљања 1 на ниво 3 – то јест, са реактивног евидентирања грешака на архитектуру нултог поверења са изолованим окружењима за извршење – виде смањење техничког дуга везаног за вештачку интелигенцију за 40 процената и побољшање времена до пласмана нових функција агената за 25 процената, према подацима CISIN-а.

Управљана AI платформа - Слика: Xpert.Digital

Овде ћете сазнати како ваша компанија може брзо, безбедно и без високих баријера за улазак имплементирати прилагођена решења за вештачку интелигенцију.

Управљана AI платформа је ваше свеобухватно и безбрижно решење за вештачку интелигенцију. Уместо да се бавите сложеном технологијом, скупом инфраструктуром и дуготрајним процесима развоја, добијате готово решење прилагођено вашим потребама од специјализованог партнера – често у року од само неколико дана.

Кључне предности на први поглед:

⚡ Брза имплементација: Од идеје до апликације спремне за употребу за дане, а не месеци. Нудимо практична решења која стварају тренутну додату вредност.

🔒 Максимална безбедност података: Ваши осетљиви подаци остају код вас. Гарантујемо безбедну и усклађену обраду без дељења података са трећим лицима.

💸 Без финансијског ризика: Плаћате само за резултате. Велика почетна улагања у хардвер, софтвер или особље су потпуно елиминисана.

🎯 Фокусирајте се на свој основни посао: Концентришите се на оно што најбоље радите. Ми се бринемо о целокупној техничкој имплементацији, раду и одржавању вашег вештачке интелигенције.

📈 Спремно за будућност и скалабилно: Ваша вештачка интелигенција расте са вама. Обезбеђујемо континуирану оптимизацију и скалабилност и флексибилно прилагођавамо моделе новим захтевима.

Више информација овде:

• Управљана AI платформа

Регулаторни притисак расте: Закон ЕУ о вештачкој интелигенцији као акцелератор за обавезе управљања

Законом ЕУ о вештачкој интелигенцији, Европа је створила први свеобухватни закон на свету који регулише вештачку интелигенцију. Он је ступио на снагу 1. августа 2024. године и имаће све већи оперативни утицај од 2026. године па надаље. За компаније у Немачкој и широм Европе, то значи да управљање вештачком интелигенцијом више није добровољна стратешка одлука; постало је законски захтев.

Логика Закона ЕУ о вештачкој интелигенцији заснована је на ризику: системи вештачке интелигенције класификују се у категорије ризика према њиховом потенцијалу за наношење штете, а захтеви се повећавају са ризиком. Опсежне обавезе се већ примењују на високоризичне примене вештачке интелигенције – на пример, у запошљавању, образовању или критичној инфраструктури: системи за управљање ризицима, управљање подацима, техничка документација, транспарентност, људски надзор и евидентирање током целог животног циклуса. Захтев за регистром случајева употребе вештачке интелигенције није бирократска формалност, већ структурни минимални предуслов за било који облик усклађености: без инвентара нема приоритизације; без приоритизације нема функционалне усклађености.

За компаније које послују у фрагментираном, неконтролисаном окружењу, овај регулаторни пејзаж представља двоструки изазов. Прво, морају спровести инвентар својих постојећих операција и проценити њихову класификацију ризика. Друго, морају осигурати да нова примена буде у складу са законским захтевима од самог почетка. Оба ова задатка су практично немогућа без централне управљачке инфраструктуре. Закон ЕУ о вештачкој интелигенцији стога није додатна бирократска препрека, већ регулаторни катализатор који убрзава већ неопходну стратешку одлуку о успостављању инфраструктуре платформе.

EY-јева анализа трендова вештачке интелигенције за 2026. годину савршено сумира: разлика је мање у томе да ли компаније користе вештачку интелигенцију, већ у томе да ли имају неопходне структуре управљања да би вештачку интелигенцију користиле одговорно, скалабилно и адаптивно. То укључује јасно дефинисане улоге и одговорности за одлуке у вези са вештачком интелигенцијом, робусне механизме контроле који прате брзину технолошког развоја и транспарентне одлуке у вези са архитектурама података и модела које омогућавају и интерни надзор и регулаторну контролу.

На прекретници: Кратак временски оквир за превазилажење наглог раста

Гартнер предвиђа да ће до краја 2026. године око 40 процената свих пословних апликација интегрисати агенте вештачке интелигенције специфичне за задатке – у поређењу са мање од 5 процената у 2025. години. Ово представља осмоструко повећање у року од дванаест месеци. Истовремено, мање од 25 процената компанија је успешно скалирало агенте вештачке интелигенције у производњу, иако скоро две трећине већ експериментише.

Још откривајућа је још једна Гартнерова статистика: Преко 40 процената пројеката агентске вештачке интелигенције биће напуштено до краја 2027. године – не због технолошких ограничења, већ због растућих трошкова, недостатка доказа о пословној вредности и неадекватног управљања. Само 2 процента компанија је данас у потпуности имплементирало агентску вештачку интелигенцију. Само 21 проценат извештава да има зрео оквир за управљање аутономним агентима. Ове бројке су отрежњујуће у поређењу са прогнозом експлозивног раста.

Прозор могућности за директора информационих технологија или директора за информационе технологије да проактивно реше овај проблем се свакодневно смањује. Пословне јединице сада граде агенте према сопственим временским оквирима, користећи сопствене алате и ван делокруга централне ИТ службе. Сваки дан који прође без успостављања структурираног приступа управљању је дан када се технички дуг и дуг за усклађеност настављају акумулирати. А отплата тог дуга постаје скупља са сваким додатним агентом који се распоређује без надзора.

Управљана AI платформа као структурни одговор: Зашто платформски приступ решава проблем имплементације

Организације које ефикасно обуздају неконтролисани раст праве кључну стратешку разлику од самог почетка: оне третирају инфраструктуру вештачке интелигенције унутар компаније као проблем платформе, а не као проблем распоређивања. Ова семантичка промена има далекосежне структурне последице.

Фокус на имплементацију пита: Како да брзо направим доброг агента за овај специфични случај употребе? Фокус на платформу пита: Како да направим инфраструктуру која омогућава свим агентима у компанији да раде поуздано, безбедно, на регулисан начин и исплативо? Одговор на друго питање је централна контролна раван. То је једино место где се агенти регулишу, прилагођавају, прате и имплементирају – пре него што број агената порасте до тачке где управљање постаје тешко имплементирати ретроактивно.

Таква управљана вештачка интелигенција систематски решава све основне проблеме неконтролисаног раста. Она ствара јединствени поглед на све активне агенте унутар организације, без обзира на основну платформу на којој су настали. Она примењује заједнички слој политике за приступ подацима, дозволе и путање ескалације. Омогућава истинску видљивост – способност разумевања које податке је агент консултовао, које алтернативе је разматрао и зашто је донео одређену одлуку. Такође осигурава да избор модела, праћење трошкова и безбедносна архитектура прате стратешке стандарде, а не ад-хок одлуке.

Аналогија са DevOps-ом и MLOps-ом је овде посебно прикладна: Када су развој софтвера и операције машинског учења структуриране последњих година, праћени су исти принципи – алати, заштитне ограде, метрике и централни нивои политика као основа. Иста логика важи и за вештачку интелигенцију (AI) агенте, али са додатном хитношћу која произилази из аутономне природе система.

Уједињене платформе за управљање вештачком интелигенцијом сада су препознате од стране IDC-а као критична инфраструктура за скалабилност. Оне пружају јединствени извор истине за политике, праћење и извештавање. Према истраживању IBM-а, организације са свеобухватним оквирима управљања постижу 30% бољи повраћај инвестиције од својих портфолија вештачке интелигенције у поређењу са онима које се ослањају на ручне приступе.

Димензија безбедности и заштите података: Потцењени ризик од ненадгледаних агената

Поред ризика усклађености и оперативних ризика, неконтролисано ширење агената представља специфичну безбедносну димензију о којој се још увек недовољно расправља. Сваки ненадгледани агент је потенцијално скривени центар трошкова који троши ресурсе облака, одговорност за усклађеност која излаже компанију регулаторним казнама и потенцијална безбедносна рањивост која се може искористити за неовлашћени приступ подацима.

Проблем неконтролисаних каскада одлучивања је посебно критичан: када су агенти овлашћени да извршавају радње, мора се размотрити како се те радње могу ширити кроз међусобно повезане системе. Недостатак контроле и видљивости може довести до нежељених последица које се шире кроз сложене системске пејзаже. Штавише, ако тимовима недостају објашњавајућа средства да би разумели зашто је агент извршио одређену радњу, менаџери можда неће бити у могућности да бране резултате пред регулаторима или купцима.

Само 14,4 одсто организација добија потпуне безбедносне дозволе пре распоређивања агената. То значи да у више од 85 одсто случајева агенти раде у производним окружењима без систематске процене њиховог безбедносног профила. У свету у којем агенти могу да приступе осетљивим кадровским датотекама, финансијским подацима, подацима о клијентима и критичним пословним процесима, ово је неприхватљиво.

Приступ нултог поверења за инфраструктуру агента — где сваки агент добија само минимално неопходне дозволе, а оне се додељују динамички на нивоу сесије по сесију — пружа технички одговор на овај профил ризика. Допуњен механизмима „човек у петљи“ који дефинишу када агент мора да паузира и тражи људску потврду, ово ствара безбедносну архитектуру која уравнотежује аутономију и контролу.

Три стратешке хитне акције: Шта лидери треба да ураде сада

Практични излаз из овог неконтролисаног ширења не почиње одабиром платформе, већ структурираним инвентаром. Компаније би требало да предузму три узастопне непосредне акције пре него што распореде следећег агента.

Први корак је комплетан инвентар свих активних агената у целој организацији. Ово укључује евидентирање платформе на којој је сваки агент креиран, података којима може приступити, система са којима интерагује и појединаца одговорних за његово понашање. Већина организација открије више агената него што се очекивало током ове вежбе – често са ширим правима приступа него што је првобитно било предвиђено. Овај инвентар није једнократни задатак, већ почетак континуираног процеса управљања животним циклусом који служи као основа за све наредне мере управљања.

Други корак је стандардизација инфраструктурног слоја, а не случајева употребе. Грешка коју многе компаније праве јесте покушај да све агенте изграде на исти начин. Ово гуши иновације и практично је неспроводиво. Уместо тога, потребно је стандардизовати слој испод: како агенти приступају подацима, како се они евидентирају, како се мере њихове перформансе и како се спроводе безбедносне политике. Ово раздвајање између стандардизованог инфраструктурног слоја и слободе прилагођавања на нивоу случајева употребе је структурна тајна успешног управљања вештачком интелигенцијом у предузећима. Велике организације треба да теже дизајну који је првенствено усмерен на платформу са централизованим стандардима и локалним извршењем: управљање на више платформи са одобреним каталозима модела, стандардним евидентирањем, шаблонима за вишекратну употребу за евалуацију и приступом заснованим на политикама.

Трећи корак је успостављање оквира за континуирано мерење поврата инвестиције за све агенте. Лидери би требало да обезбеде основу за процену стварног доприноса вредности сваког агента пре него што се одобре нова имплементација. Ово укључује захтев да свако ко жели да имплементира агента претходно поднесе процену трошкова и прогнозу користи. Штавише, периодични прегледи трошкова вештачке интелигенције агената и могућности оптимизације стварају организациону основу за одрживу равнотежу трошкова и користи. Одбори и одбори за управљање све више захтевају мерљиве повраћаје, а не само наслове о иновацијама – управљање игра директну улогу у повраћају инвестиције смањењем ризика, побољшањем поузданости и убрзавањем имплементације.

Ране архитектонске одлуке као прекретница: Зашто је сада одлучујући тренутак

У историји технологије, образац се понавља са изузетном регуларношћу: ране архитектонске одлуке одређују дугорочну конкурентност. Они који су рано у својој транзицији на облак прихватили управљање вишеструким облаком сада имају значајне предности у односу на оне који су се годинама касније борили са напорним демонтажом дистрибуираних, неконтролисаних окружења. Са ширењем агената, пословни пејзаж се сада налази управо на овој прекретници.

Прозор могућности је узак. Гартнер идентификује хоризонт од три до шест месеци у оквиру којег софтверске организације морају да дефинишу своју стратегију агентске вештачке интелигенције и инвестициони план – или ризикују да заостану. Експоненцијална крива раста – од мање од 5 процената до 40 процената пенетрације за дванаест месеци – значи да ако се неконтролисани раст сада не структурира, веома брзо ће достићи ниво где корективне мере постају изузетно скупе или практично немогуће.

Истовремено, друга Гартнерова прогноза служи као отрежњујуће упозорење: Преко 40 процената пројеката вештачке интелигенције заснованих на агентима биће напуштено до 2027. године. Компаније које напусте ове пројекте неће бити оне које су изабрале најгору технологију вештачке интелигенције. То ће бити оне које нису успеле да изграде инфраструктуру управљања и чији су растући трошкови и недостатак доказане вредности нагризали њихов легитимитет за даља улагања. Управљање, дакле, није супротност иновацији – то је инфраструктура која уопште омогућава одрживе иновације.

Лекција из претходних технолошких таласа – било да се ради о облаку, SaaS-у или RPA – је јасна: неконтролисани раст се увек дешава када брзина усвајања премашује зрелост управљачке инфраструктуре. Агенти вештачке интелигенције који су још увек били експериментални 2025. године биће оперативна стварност 2026. године. Замах је незаустављив. Питање није да ли ће агенти постати стандард предузећа – то је већ одлучено. Једино преостало питање је да ли ће се ова транзиција одвијати на контролисаним основама или усред катастрофе управљања.

Компаније које данас улажу у централизовану управљану инфраструктуру вештачке интелигенције не купују само контролу и усклађеност. Оне купују право да наставе да користе агентску вештачку интелигенцију две или три године – док ће други бити заузети сакупљањем делова неконтролисаног, необузданог раста.

Konrad Wolfenstein

Било би ми драго да вам будем лични саветник.

Можете ме контактирати на wolfenstein∂xpert.digital или

Само ме позовите на +49 7348 4088 965 .

ЛинкедИн