Agentská umělá inteligence: Ti, kdo nechávají rozhodovat stroje, nesmí automatizovat vedení – nová ekonomika odpovědnosti

Agent AI v podnikání: Autonomie, důvěra a výzva zodpovědnosti

Od automatizace k agenturnímu řízení: Jak umělá inteligence mění organizační strukturu

Zavedení agentní umělé inteligence (AI) představuje pro společnosti zásadní výzvy a příležitosti. Tato forma AI jde daleko za pouhou automatizaci kancelářské práce; má potenciál transformovat celou ekonomickou logiku podniků. Agentní AI je schopna samostatně plánovat pracovní postupy, činit rozhodnutí a přizpůsobovat se měnícím se podmínkám. To rozšiřuje ústřední otázku managementu nejen o automatizaci úkolů, ale také o odpovědnost za výsledky generované těmito automatizovanými procesy. Společnosti čelí úkolu přepracovat své struktury a odpovědnosti, aby splňovaly požadavky pracovního světa, který je stále více poháněn AI.

Souvisí s tím:

• Unframe | Agentic AI Automation Jak fungují podniky

V této nové realitě nejsou vyžadovány pouze technické dovednosti, ale také hluboké pochopení dynamiky mezi lidmi a stroji. Management musí stanovit jasné směrnice pro rozhodování a odpovědnost, aby zajistil udržitelnou realizaci výhod agentní umělé inteligence. Výzvou je nalezení správné rovnováhy mezi autonomií a kontrolou, aby byla zaručena jak efektivita, tak důvěra v učiněná rozhodnutí. Společnosti, které tyto výzvy zvládnou, budou nejen schopny využít výhod agentní umělé inteligence, ale také si zajistí konkurenceschopnost v rychle se měnícím ekonomickém prostředí.

Agent AI: Revoluce, nebo riziko pro firmy?

Agentní umělá inteligence není jen dalším malým krokem v digitalizaci kancelářské práce. Mění základní ekonomickou logiku firem, protože dokáže nejen podporovat jednotlivé úkoly, ale také plánovat, provádět, monitorovat a přizpůsobovat celé pracovní postupy měnícím se podmínkám. To posouvá otázku centrálního řízení. Už nejde jen o to, které úkoly lze automatizovat, ale o to, kdo je zodpovědný za výsledek, když digitální systém určuje významné části cesty k jeho dosažení.

Tento posun je hlubší než zavedení klasické automatizace procesů nebo systémů generativní asistence. Jakmile agent umělé inteligence jedná samostatně v rámci definovaných hranic, používá nástroje, agreguje data z více systémů a podle potřeby integruje další agenty, stává se operačním aktérem. Nenese žádnou právní ani morální odpovědnost, ale ovlivňuje rozhodnutí, náklady, rizika a zákaznickou zkušenost. Právě zde vzniká klíčové napětí: společnosti mohou technicky delegovat pravomoc jednat, ale nikoli odpovědnost za důsledky.

Ekonomickými vítězi proto pravděpodobně nebudou ty společnosti, které nainstalují nejvíce agentů. Organizace, které důsledně přepracovávají pracovní postupy, rozhodovací pravomoci a kontrolní mechanismy, mají větší šanci na úspěch. Agentní umělá inteligence je tedy méně dodatečným softwarovým produktem než spíše příležitostí k přehodnocení vlastního operačního modelu. Nutí společnosti zviditelnit implicitní pravidla, vyjasnit odpovědnosti a přepočítat hodnotu koordinace.

Od digitálního asistenta k operačnímu aktérovi

Termín „agentní umělá inteligence“ se dnes používá tak široce, že ztrácí svou přesnost. Ne každý chatbot, který odpoví na otázku, a ne každá automatizace, která kombinuje několik programových kroků, je již agentem. Pro obchodní analýzu je jasné rozlišení nezbytné, protože přínosy, rizika a organizační dopad významně závisí na tom, jakou autonomii systém skutečně má.

Tradiční roboticky asistovaná automatizace procesů se řídí předem definovanými pravidly. Je obzvláště efektivní, když jsou vstupy standardizované, procesy stabilní a výjimky jsou vzácné. Pokud se případ odchýlí od naprogramované cesty, proces se často ukončí nebo vyžaduje lidský zásah. Kopilot pracuje flexibilněji, ale v zásadě zůstává asistenčním systémem. Formuluje, zkoumá, analyzuje nebo navrhuje akce, zatímco člověk řídí proces a zahajuje další kroky.

Naproti tomu agent obdrží cíl a samostatně plánuje sled akcí. Může si stanovit mezilehlé cíle, shromažďovat informace, používat aplikace, kontrolovat výsledky a upravovat svůj plán. Například v procesu zadávání veřejných zakázek může shromažďovat data o poptávce, porovnávat informace o dodavatelích, identifikovat rizika, formulovat návrh na vyjednávání a připravovat schválení. Lidé nemusí iniciovat každý jednotlivý krok; místo toho definují cíl, hranice a body eskalace.

Z ekonomického hlediska se tím nejen automatizuje práce, ale také část dříve nutné koordinace. Tato koordinace byla často organizována prostřednictvím rolí, hierarchií a schůzek. Pokud agent dokáže úkol zvládnout rychleji a s nižšími marginálními náklady, tradiční struktury práce se dostávají pod tlak. Ústřední zaměření automatizace se přesouvá od samotného úkolu k pracovnímu postupu a potenciálně v dlouhodobém horizontu i od pracovního postupu k celkovému obchodnímu výsledku.

Autonomie, kontext a ověřitelná důvěra

Tři charakteristiky určují, zda systém v rámci společnosti skutečně funguje jako agent: autonomie, obchodní kontext a ověřitelná důvěra. Autonomie nepopisuje neomezenou svobodu, ale spíše schopnost činit nezávislá rozhodnutí v rámci schváleného rozsahu působnosti. Ekonomicky životaschopný agent nemusí mít možnost dělat všechno. Naopak: čím přesněji je jeho mandát definován, tím snadněji je řídit přínosy a rizika.

Obchodní kontext určuje, zda se technická inteligence promítá do použitelného provozního výkonu. Model může poskytovat přesvědčivé slovní odpovědi a přesto činit špatná rozhodnutí, pokud mu chybí znalosti o smlouvách se zákazníky, logice produktu, odpovědnostech, regulačních hranicích nebo historických anomáliích. Společnosti často podceňují bohatství znalostí obsažených v neformálních rutinách, osobních sítích a tichých předpokladech. Tyto znalosti jsou pro lidi samozřejmé, ale pro agenta neviditelné, pokud nejsou strukturálně zpřístupněny.

Důvěra by se zase neměla zaměňovat s obecnou důvěrou. V rámci společnosti musí být důvěra ověřitelná. To zahrnuje sledovatelné protokoly akcí, zdokumentované zdroje dat, jasně definovaná oprávnění, měřitelné prahové hodnoty kvality a schopnost rozpoznat nejistotu. Agent s nízkou důvěrou musí nejen formulovat své požadavky opatrněji, ale v případě potřeby také eskalovat problém odpovědné osobě. Kvalita agenta se proto projevuje nejen tím, jak často jedná správně, ale také tím, jak spolehlivě rozpozná, kdy by neměl jednat samostatně.

Tyto tři dimenze spolu úzce souvisejí. Větší autonomie bez dostatečného kontextu zvyšuje pravděpodobnost chyb. Větší kontext bez kontroly přístupu zvyšuje rizika pro ochranu dat a bezpečnostní rizika. Důvěra bez smysluplného měření zůstává pouhým tvrzením. Pouze jejich souhra promění působivý prototyp v robustní operační systém.

Dva modely agentů s velmi odlišnými účinky

V podnikovém softwaru lze rozlišit dva základní vzorce nasazení. Agenti související s aplikací zpracovávají omezený úkol v rámci existujícího nástroje. Například pomáhají s vytvářením cenové nabídky, klasifikací servisního požadavku nebo kontrolou smluvního dokumentu. Člověk zůstává v aplikaci, řídí proces a potvrzuje klíčové kroky. Tento model je relativně snadno implementovatelný, protože proces, rozhraní a struktura odpovědností zůstávají do značné míry nezměněny.

Naproti tomu procesně orientovaní agenti zvládají celý pracovní postup napříč více systémy. Mohou přijímat zákaznické dotazy, kontrolovat informace z ERP systému, vypočítávat dostupnost, iniciovat následné otázky, nabízet řešení, dokumentovat zpracování a eskalovat pouze neobvyklé případy. To nabízí větší potenciál produktivity, ale také představuje větší organizační výzvu.

Rozdíl je ekonomicky významný. Agent orientovaný na aplikace šetří čas na úkolu. Agent orientovaný na procesy může snížit náklady na předávání úkolů, čekací doby, dotazy a koordinaci. Zejména tyto nepřímé náklady tvoří podstatnou část procesních nákladů ve složitých společnostech. Zřídka se objevují jako samostatná položka ve výkazu zisku a ztráty, ale zatěžují personál, prodlužují dodací lhůty a zvyšují počet nevyřízených případů.

S větším dosahem však přichází i rostoucí počet potenciálních řetězců chyb. Jeden nesprávný krok klasifikace se může šířit přes více systémů a nakonec spustit objednávku, platbu nebo komunikaci se zákazníkem. Měření kvality jednotlivých reakcí je proto nedostatečné. Společnosti musí posoudit celý proces, včetně předávání, závislostí a důsledků. Relevantní otázkou není, zda model obvykle reaguje správně, ale zda obchodní proces spolehlivě produkuje přijatelný výsledek v reálných podmínkách.

Proč pilotní projekty ve skutečnosti selhávají

Vysoký počet očekávaných zrušení projektů není důkazem, že by agentní umělá inteligence byla zásadně přeceňována. Spíše to ukazuje, že mnoho společností implementuje tuto technologii pomocí nevhodných metod. Více než 40 procent dnešních projektů agentní umělé inteligence by mohlo být do konce roku 2027 ukončeno. Mezi klíčové důvody patří rostoucí náklady, nejasná obchodní hodnota a nedostatečné kontroly rizik. Zároveň se téměř dvě třetiny společností stále nacházejí v experimentální nebo pilotní fázi, zatímco agentní systémy jsou testovány v jednotlivých funkcích, ale jen zřídka se rozšiřují v rámci celé společnosti.

Typický pilotní projekt začíná dobře definovaným případem užití, specializovanými experty a pečlivě vybranými daty. Za těchto podmínek může agent dosáhnout přesvědčivých výsledků. V produkčním prostředí se však setkává s neúplnými informacemi, konfliktními kmenovými daty, přesouváním odpovědností, technickými selháními a nepředvídanými problémy. Přechod z laboratoře do organizace je proto méně problémem modelování než integrační a provozní výzvou.

Kromě toho je mnoho pilotních projektů vyvíjeno izolovaně. Dostávají svá vlastní datová připojení, svá vlastní pravidla a vlastní znalostní bázi. Pro další případ použití musí společnost začít znovu s vývojem rolí, terminologie, oprávnění a znalostí procesů. To má za následek vysoké opakující se náklady. Co bylo zamýšleno jako rychlá inovace, se stává souborem obtížně udržovatelných, izolovaných řešení.

Další slabinou je měření. Úspora času jednotlivých zaměstnanců se často zaznamenává jako obchodní úspěch, i když není jasné, zda je uvolněný čas využíván produktivně. Agent může ušetřit deset minut na transakci bez jakékoli měřitelné změny v osobních nákladech, době zpracování nebo tržbách. Správný obchodní plán proto musí být založen na konkrétním měřítku výsledku: nižší celkové náklady, vyšší míra uzavření obchodů, nižší náklady na chybovost, kratší dodací lhůty, méně vázaného kapitálu nebo lepší loajalita zákazníků.

Obchodní kontext se stává strategickým aktivem

Čím více procesů agenti zvládají, tím cennější se stává sdílený kontext, ke kterému mají přístup různé systémy. To zahrnuje nejen dokumenty a databáze, ale také koncepční modely, definice procesů, role, zásady, hranice schvalování a význam provozních stavů. Například servisní případ se nepovažuje za vyřešený pouze proto, že byla odeslána odpověď. V závislosti na společnosti může být řešení dosaženo až poté, co zákazník potvrdí, že problém byl opraven, že byl dokončen technický přezkum nebo že byl vystaven dobropis.

Jakmile je tento kontext správně modelován, lze jej znovu použít v jiných agentech a procesech. To vytváří efekt škálování. První produktivní pracovní postup zůstává nákladný, protože je třeba stanovit data, pravidla a odpovědnosti. Každý následující pracovní postup však může čerpat ze stejného sémantického a organizačního základu. Mezní náklady na další implementaci se snižují, zatímco konzistence rozhodnutí se zvyšuje.

Bez takového základu každé oddělení opakuje stejnou předběžnou práci. Objevují se různé definice, stejní zákazníci jsou oceňováni odlišně a více agentů činí rozhodnutí na základě protichůdných pravidel. Společnost pak digitalizuje svá organizační sila, místo aby je překonávala. Technicky se situace jeví jako moderní, ale ekonomicky přetrvávají staré neefektivnosti.

Obchodní kontext tedy není jen otázkou dat. Propojuje datovou architekturu, řízení procesů a organizační znalosti. Společnosti potřebují jasné vlastnictví klíčových datových produktů a konceptů. Musí také rozhodnout, jaké informace má agent vidět, jak aktuální musí být a který zdroj má v případě nesrovnalostí přednost. Vytvoření této vrstvy je méně efektní než demonstrace agenta, ale je předpokladem pro udržitelné přínosy.

Rozhodovací práva mají přednost před popisy práce

Když agent plánuje, provádí a dokumentuje většinu procesu, mění se lidská role. Zaměstnanci již neřeší každý případ sami, ale místo toho stanovují cíle, kontrolují výjimky a vylepšují pravidla. Tato změna často začíná postupně. Organizační schéma zůstává nezměněno, i když se skutečné rozdělení rozhodovacích pravomocí již posunulo.

To vytváří nebezpečný přechodný stav. Formální odpovědnost zůstává na manažerovi nebo specializovaném oddělení, zatímco operační rozhodnutí je stále více připravováno nebo efektivně prováděno agentem. Pokud je výsledek potvrzen pouze povrchně, vzniká falešná kontrola. Osoba je nominálně zodpovědná, ale nemá dostatek času ani informací k tomu, aby rozhodnutí skutečně přezkoumala.

Společnosti proto musí explicitně reorganizovat rozhodovací pravomoci. Pro každý proces podporovaný agentem by mělo být jasně definováno, které akce může systém provádět samostatně, která rozhodnutí vyžadují lidské schválení a při jakých signálech je proces zastaven. Obecná klasifikace jako nízkoriziková nebo vysokoriziková je nedostatečná. Změna adresy zákazníka, udělení slevy z ceny a zahájení platby jsou různé třídy akcí s různými důsledky.

Návrh těchto práv je úkolem managementu. Nelze jej zcela delegovat na IT nebo compliance, protože přímo ovlivňuje provozní řízení. Kdokoli rozhoduje o limitech schvalování, výjimkách a protichůdných cílech, utváří obchodní model. Agentní umělá inteligence tyto často neformální mocenské a zodpovědnostní struktury zviditelňuje a nutí vedení společnosti je přesněji definovat.

Nové role mezi vedením a výkonem

S posunem provozní práce se objevují role, které se méně zaměřují na řešení jednotlivých případů a více na správu celých systémů. Vlastník procesu pro agenty definuje cíle, standardy kvality a hranice. Posuzuje eskalace, analyzuje vzorce chyb a rozhoduje, zda by agentovi měly být přiděleny další odpovědnosti. Tato role se blíží managementu a odpovědnosti za produkt než tradiční administrativní práci.

Kromě toho nabývají na důležitosti technické a regulační funkce. Agenti vyžadují spolehlivou platformu, bezpečná rozhraní, monitorovaná oprávnění a průběžné hodnocení výkonu. To vede k oblastem odpovědnosti, jako je provoz agentů, správa umělé inteligence, řízení rizik modelu, architektura procesů a zajištění kvality. Ne každá organizace pro tento účel vytvoří nové pozice. Stávající role z oblasti IT, obchodních jednotek, auditu, ochrany dat a řízení rizik se často rozšiřují a propojují novými způsoby.

Důležité je, aby odpovědnost nebyla mezi těmito funkcemi roztříštěna. Technický vlastník může být zodpovědný za stabilitu, přístup a bezpečnostní kontroly, aniž by byl odpovědný za obchodní výsledek. Naopak, vlastník firmy může řídit proces, aniž by byl schopen posoudit každou změnu modelu. Každý produktivní agent proto potřebuje alespoň jednoho jasně definovaného obchodního a jednoho jasně definovaného technického vlastníka, stejně jako určený orgán pro řešení konfliktů.

Nová krajina rolí nabízí příležitosti k kariérnímu postupu, ale také mění požadované kompetence. Zaměstnanci se musí věnovat méně rutinním úkolům a více se soustředit na definování cílů, hodnocení výsledků, porozumění výjimkám a školicí systémy. Zkušenosti tím neztrácejí na hodnotě. Naopak, implicitní odborné znalosti se stávají obzvláště důležitá, protože je třeba je převést do pravidel, auditních kritérií a eskalačních postupů. Úzké hrdlo často nespočívá v obsluze nástroje umělé inteligence, ale ve schopnosti přesně popsat dobrou práci.

Když jsou týmy budovány spíše kolem výsledků než kolem funkcí

Tradiční organizace často odrážejí tok procesu. Jedna jednotka přijme požadavek, druhá jej zkontroluje, třetí jej schválí a čtvrtá řeší výjimky. Tato struktura vznikla, protože informace byly distribuovány, specializace nabízela výhody a lidská kapacita zpracování byla omezená. Agent orientovaný na procesy může kombinovat několik těchto kroků a provádět je nepřetržitě.

To automaticky neruší funkční dělbu práce, ale mění její ekonomické zdůvodnění. Pokud předávání úkolů již nenabízí výhodu specializace, ale primárně generuje čekací dobu, měla by společnost organizovat týmy více zaměřené na výsledky. Tým by pak mohl být zodpovědný za kompletní řešení problému zákazníka, dostupnost skupiny produktů nebo včasné dokončení objednávky. Lidé a agenti jsou kombinováni tak, aby se dosáhlo výsledku, nikoli tak, aby každá pozice plnila svůj dílčí proces.

Tato reorganizace může mít obzvláště významný dopad na střední management. Součástí jeho předchozí role bylo rozdělování práce, shromažďování aktualizací stavu, sledování priorit a přenos informací mezi úrovněmi. Agentní systémy mohou tyto koordinační úkoly převzít s nízkými mezními náklady. To neznamená, že by se vedení stalo zastaralým. Zaměřuje se na řešení protichůdných cílů, motivaci, rozvoj personálu, vztahy se zákazníky, strategii a přebírání odpovědnosti v nejednoznačných situacích.

Společnosti by se proto měly vyvarovat předčasného propouštění, dokud nový provozní model nezačne stabilně fungovat. Přechodná fáze často vyžaduje více, ne méně managementu. Příliš brzká ztráta zkušených koordinátorů ničí právě ty procesní znalosti, které jsou potřebné pro spolehlivou architekturu agentů. Ekonomicky výhodnějším přístupem je nejprve restrukturalizovat role, udržet si znalosti a rozhodovat o kapacitě až po prokazatelném zvýšení produktivity.

Zde se dozvíte, jak může vaše společnost rychle, bezpečně a bez vysokých vstupních bariér implementovat řešení umělé inteligence na míru.

Spravovaná platforma umělé inteligence je vaším komplexním a bezstarostným řešením pro umělou inteligenci. Místo řešení složitých technologií, drahé infrastruktury a zdlouhavých vývojových procesů získáte hotové řešení šité na míru vašim potřebám od specializovaného partnera – často během několika dní.

Klíčové výhody na první pohled:

⚡ Rychlá implementace: Od nápadu k aplikaci připravené k použití během několika dnů, nikoli měsíců. Dodáváme praktická řešení, která vytvářejí okamžitou přidanou hodnotu.

🔒 Maximální zabezpečení dat: Vaše citlivá data zůstanou u vás. Garantujeme bezpečné a kompatibilní zpracování bez sdílení dat s třetími stranami.

💸 Žádné finanční riziko: Platíte pouze za výsledky. Vysoké počáteční investice do hardwaru, softwaru nebo personálu jsou zcela eliminovány.

🎯 Zaměřte se na své hlavní podnikání: Soustřeďte se na to, co děláte nejlépe. Postaráme se o kompletní technickou implementaci, provoz a údržbu vašeho řešení s umělou inteligencí.

📈 Připraveno na budoucnost a škálovatelné: Vaše umělá inteligence roste s vámi. Zajišťujeme neustálou optimalizaci a škálovatelnost a flexibilně přizpůsobujeme modely novým požadavkům.

Více informací zde:

• Spravovaná platforma umělé inteligence

Nová křivka nákladů na znalostní práci

Agentní umělá inteligence mění strukturu nákladů na znalostní práci. Vývoj spolehlivého systému poprvé může být nákladný, protože vyžaduje přístup k datům, integraci, bezpečnostní kontroly, testování a změny procesů. Jakmile je však položen základ, lze další úkoly zvládat s poměrně nízkými marginálními náklady. To umožňuje, aby se některé administrativní úkoly přiblížily škálovatelnosti softwaru.

Tento efekt by neměl být zaměňován s bezplatnou prací. Agenti nesou průběžné náklady na modely, výpočetní výkon, úložiště, monitorování, rozhraní a lidský dohled. Složité procesy plánování a testování mohou vést k četným voláním modelů a používání nástrojů. Špatně navržený agent může generovat značné náklady v důsledku smyček, zbytečných dotazů nebo nadměrného zpracování dokumentů. Nákladová efektivita se proto musí měřit jak na úrovni procesu, tak na úrovni výsledku.

Vhodnou metrikou není cena jednoho požadavku, ale celkové náklady na úspěšně dokončený proces. To zahrnuje náklady na model a platformu, dobu lidské kontroly, opravy chyb, zpoždění, bezpečnostní opatření a odpisy vývoje. Skutečný ekonomický přínos vzniká pouze tehdy, když jsou tyto celkové náklady nižší než náklady na předchozí procesy nebo produkují výsledek s vyšší hodnotou.

Obzvláště atraktivní jsou procesy s vysokým objemem, opakujícími se vzorci, digitálně dostupnými daty a drahým předáváním úkolů. Méně vhodné jsou vzácné procesy, kde je téměř každý případ nový, důsledky chyby jsou extrémně vysoké nebo klíčové informace jsou dostupné pouze neformálně. Nejlepší míra automatizace proto nemusí být nutně nejvyšší. Ekonomicky optimální systém automatizuje přesně tolik, kolik lze spolehlivě zvládnout s ohledem na existující riziko.

Produktivita je víc než jen ušetřený pracovní čas

Mnoho společností měří přínosy umělé inteligence na základě teoreticky ušetřených hodin. Tato metrika je snadno pochopitelná, ale často zavádějící. O deset procent kratší doba zpracování se automaticky nepromítá do deseti procent nižších osobních nákladů. Pokud zaměstnanci nemohou ušetřený čas využít k vytváření dodatečné hodnoty nebo pokud proces zůstane omezen jinde, nedojde k odpovídajícímu zlepšení výsledků.

Smysluplná analýza nákladů a přínosů zohledňuje několik úrovní. Na úrovni procesu jsou relevantní faktory, jako je doba průchodnosti, míra chyb, míra přepracování, míra řešení a náklady na dokončený případ. Na obchodní úrovni jsou důležité tržby, marže, udržení zákazníků, kapitálový závazek a rizikové náklady. Na organizační úrovni by se mělo zkoumat, zda agent zlepšuje škálovatelnost, snižuje závislost na jednotlivcích nebo umožňuje nové služby.

Obzvláště důležitý je realistický výchozí bod. Procesy jsou často méně dobře zdokumentovány, než ve skutečnosti jsou. Oficiální doby zpracování nezohledňují čekací doby, dotazy a neformální koordinaci. Proto by měl být skutečný pracovní postup změřen před implementací. Jinak bude společnost porovnávat řízený proces s umělou inteligencí s idealizovaným procesem s lidským cílem a dospěje k zbytečnému výpočtu návratnosti investic.

Stejně důležité je dlouhodobé pozorování. Zpočátku může být výkonnost nadhodnocena kvůli vysoké úrovni pozornosti, malé velikosti vzorku a intenzivní podpoře. Později vstupují do hry změny dat, nové produkty a sezónní stresy. Investice by proto neměla být hodnocena pouze na základě úspěšné demonstrace, ale spíše na základě konzistentních výsledků v průběhu několika provozních cyklů. Ekonomická hodnota vzniká pouze tehdy, je-li zlepšení udržitelné, škálovatelné a auditovatelné.

Řízení se stává nedílnou součástí operačního modelu

V agentově orientované umělé inteligenci není řízení (governance) vrstvou kontroly, kterou lze přidat po technickém vývoji. Musí být zabudováno do procesu. Protokoly a úrovně spolehlivosti jsou nezbytné, ale samy o sobě nestačí. Rozhodující je, kdo určuje úroveň kvality potřebnou pro autonomní jednání a kdo nese důsledky nesprávného úsudku.

Pouze asi 30 procent organizací dosahuje pokročilé fáze zralosti, pokud jde o strategii, řízení a specifické kontroly pro systémy založené na agentech. Zároveň jsou otázky bezpečnosti a rizik považovány za jednu z největších překážek širšího škálování. Tato mezera ukazuje, že technologická dostupnost roste rychleji než organizační ovladatelnost.

Robustní správa a řízení přiřazuje každému agentovi obchodní účel, třídu rizika a odpovědné osoby. Dokumentuje autorizovaná data, nástroje a akce. Definuje, kdy je vyžadována lidská kontrola a jak se s incidenty zachází. Dále musí zachytit změny, protože dopad agenta se může v důsledku nových modelů, nástrojů, zdrojů dat nebo instrukcí výrazně změnit, i když jeho název zůstane stejný.

Tato architektura nabývá na významu pro evropské společnosti. U vysoce rizikových aplikací umělé inteligence se stále více zvyšují požadavky na řízení rizik, kvalitu dat, protokolování, dokumentaci, lidský dohled, robustnost a kybernetickou bezpečnost. Bez ohledu na formální klasifikaci dává z obchodního hlediska smysl uplatňovat tyto principy i na méně regulované subjekty. Sledovatelnost nejen snižuje rizika compliance, ale také usnadňuje analýzu chyb, zlepšování procesů a akceptaci ze strany zaměstnanců i zákazníků.

Řízená autonomie místo maximální svobody

Veřejná diskuse často zobrazuje autonomii jako kritérium kvality: čím nezávisleji agent pracuje, tím progresivněji se systém jeví. Tento názor je pro firmy nebezpečný. Maximální autonomie není ekonomicky životaschopným cílem. Důležitá je správná úroveň autonomie pro daný konkrétní proces.

Rozumný přístup využívá stupňovité úrovně řízení. Na nízké úrovni agent shromažďuje a vyhodnocuje informace, ale není oprávněn zahájit žádné externě efektivní akce. Na střední úrovni samostatně provádí akce s nízkým rizikem a předkládá rozhodnutí s většími důsledky ke schválení. Na vyšší úrovni řídí celý proces, ale je neustále monitorován a musí se pozastavit po přijetí předdefinovaných signálů.

Limity by neměly být založeny pouze na peněžních částkách. Stejně důležité jsou riziko poškození reputace, ochrana osobních údajů, dopad na zákazníka, právní důsledky a vratnost. Chybný interní souhrn lze snadno napravit. Nesprávné ukončení, platba nebo veřejné oznámení může mít nevratné důsledky. Čím obtížnější je akci vrátit zpět, tím vyšší musí být prahová hodnota pro autonomní provedení.

Řízená autonomie vyžaduje také technické vynucování. Písemné pokyny nejsou dostatečné, pokud má agent stále přístup k neoprávněným nástrojům. Oprávnění musí být udělována podle principu nejnižších privilegií, citlivé akce musí být kontrolovány v reálném čase a musí být detekovány neobvyklé vzorce. Možnosti vypnutí, limity množství a bezpečné záložní postupy jsou součástí běžného provozu. Dobrá správa věcí veřejných nebrání tvorbě hodnoty, ale spíše vytváří prostor, v němž se větší autonomie stává opodstatněnou.

Trh práce se mění prostřednictvím aktivit

Dopad umělé inteligence využívající agenty na zaměstnanost nelze spolehlivě redukovat na jednoduché číslo. Celosvětově je zhruba každý čtvrtý pracovník zaměstnán v práci, která je vystavena určité míře generativní umělé inteligence. Nicméně u většiny pracovních míst je změna úkolů pravděpodobnější než úplné zrušení pozice. I vysoce digitalizovaná pracovní místa obsahují úkoly, které vyžadují kontextové znalosti, sociální interakci, fyzickou přítomnost, úsudek nebo osobní odpovědnost.

Do roku 2030 by hlavní ekonomické a technologické trendy mohly vytvořit přibližně 170 milionů nových pracovních míst a vytlačit přibližně 92 milionů. Očekává se, že umělá inteligence a zpracování informací povedou jak k nárůstu, tak ke ztrátě pracovních míst. Tyto projekce nejsou přesnými předpověďmi, ale ilustrují rozsah hrozícího přerozdělení. Čistý efekt může být pozitivní, zatímco jednotlivé profesní skupiny, regiony a společnosti budou čelit značným nákladům na přizpůsobení.

Agentní umělá inteligence pravděpodobně významně transformuje role, jejichž hodnota dříve silně závisela na sdílení informací, rutinních kontrolách a koordinaci procesů. Současně roste poptávka po zaměstnancích, kteří dokáží dohlížet na systémy, formalizovat odborné znalosti, řešit výjimky a převzít odpovědnost. Trh práce se tak nebude jednoduše dělit na technologické vítěze a poražené. Klíčovým faktorem je, zda lze stávající zkušenosti přenést do nové pracovní organizace.

Pro firmy se další vzdělávání stává investicí. Školení, která pouze vysvětlují, jak používat nástroj, již nestačí. Zaměstnanci potřebují porozumění procesům, datovou gramotnost, povědomí o rizicích a schopnost kriticky hodnotit výsledky agentů. Rozvoj těchto kompetencí nejen zvyšuje akceptaci, ale také snižuje náklady na kontrolu a pravděpodobnost chyb.

Kvalita dat určuje škálovatelnost

Agenti dokáží zpracovávat nestrukturované informace lépe než předchozí automatizační systémy, ale neodstraňují špatné datové základy. Fragmentovaná zákaznická data, konfliktní produktové databáze, zastaralé dokumenty a nejasná přístupová práva zůstávají překážkami. Přibližně osm z deseti společností uvádí datová omezení jako problém při škálování umělé inteligence založené na agentech. Méně než deset procent z nich škálovalo agenty do bodu, kdy poskytují hmatatelnou hodnotu.

Problém se zhoršuje tím, že agenti data nejen čtou, ale také je upravují a generují nové informace. Chybný výsledek může být zapsán do následného systému a později použit jiným agentem jako údajně spolehlivý zdroj. To vytváří zpětnovazební smyčky. Proto musí být původ dat, aktuálnost a stav kvality strojově čitelné.

Robustní architektura propojuje strukturovaná data, dokumenty a provozní události. Neposkytuje každému agentovi všechny informace, ale spíše kontext povolený pro daný účel. Zároveň musí identity a oprávnění zůstat konzistentní napříč hranicemi systému. Agent nesmí vidět ani dělat více než osobu nebo funkci, jejímž jménem jedná.

Firmy by však neměly modernizaci dat vnímat jako nekonečný předběžný projekt. Kompletní vyčištění všech datových úložišť není ani realistické, ani ekonomické. Rozumnějším přístupem je postupný přístup založený na vybraných procesech s vysokou hodnotou. Pro každý proces se stanoví potřebné datové produkty, pravidla kvality a vlastnictví. Tímto způsobem datová základna roste souběžně s obchodní hodnotou.

Bezpečnostní rizika se šíří do procesního řetězce

Tradiční jazykový model primárně generuje obsah. Agent může také volat nástroje, upravovat soubory, odesílat zprávy nebo iniciovat transakce. Tím se nesprávný obsah transformuje na potenciálně falešnou událost. Proto musí správa bezpečnosti nejen zkoumat vstupy a výstupy, ale také monitorovat celý řetězec akcí.

Zvláštní nebezpečí plynou z manipulovaného obsahu, nadměrných oprávnění a nekontrolovaného delegování. Agent může narazit na skrytý pokyn v dokumentu a mylně ho považovat za legitimní příkaz. Mohl by zneužít nástroj nebo delegovat úkoly jinému agentovi, jehož práva nejsou dostatečně omezena. V komplexních multiagentních systémech je rekonstrukce odpovědnosti ještě obtížnější.

Účinným protiopatřením je vrstva technické kontroly mezi agentem a nástrojem. Každá citlivá akce by měla být před provedením zkontrolována z hlediska jejího účelu, autorizace a třídy rizika. Protokolování musí zachytit celý řetězec: lidské příkazy, zapojené agenty, použitá data, aktivované nástroje, učiněná rozhodnutí a výsledek. Teprve poté je možné po incidentu vysledovat, proč k akci došlo.

Bezpečnost by neměla být chápána pouze jako obranné opatření. Jasné hranice také zlepšují efektivitu, protože umožňují bezpečný provoz napříč většími procesními oblastmi. Společnost, která dokáže přesně omezit a monitorovat akce, nemusí ručně kontrolovat každý jednotlivý proces. Investice do řídicí infrastruktury tak vytvářejí možnost další automatizace.

Závislost na platformách se stává strategickým rizikem

Agentní systémy propojují modely, datové platformy, podnikový software a rozhraní. Tato propojenost zvyšuje riziko technologické závislosti. Pokud je obchodní logika přímo integrována do proprietárních nástrojů jednoho dodavatele, může být pozdější změna dodavatele nákladná. Ceny, funkce nebo smluvní podmínky se mohou změnit, zatímco společnost může jen stěží změnit své procesy.

Úplná nezávislost na dodavateli je však také nákladná a často nereálná. Standardní platformy urychlují implementaci, poskytují bezpečnostní funkce a snižují úsilí o integraci. Rozumnou strategií proto není vyvíjet každou komponentu interně, ale vytvářet zaměnitelné vrstvy. Obchodní pravidla, definice procesů, vyhodnocovací data a protokoly by měly být spravovány co nejvíce nezávisle na konkrétním modelu.

Obzvláště důležité je chránit nashromážděné kontextové znalosti. Pokud tyto znalosti existují pouze v nastavení agenta nebo v proprietárním úložišti, společnost při změně platformy ztrácí část své vlastní křivky učení. Kontext, oprávnění a kritéria kvality by proto měly být považovány za aktiva společnosti. Jejich struktura musí být zdokumentovaná, exportovatelná a auditovatelná.

I smlouvy musí tento nový význam odrážet. Kromě ochrany a dostupnosti dat nabývají na významu otázky týkající se jejich využití, subdodavatelů, změn modelu, odpovědnosti, přístupu k protokolu a možností odhlášení. Nákup agentského systému proto není jen pouhou akvizicí softwaru, ale rozhodnutím o budoucí provozní závislosti společnosti.

Robustní implementační model

Úspěšná implementace nezačíná nalezením nejpůsobivějšího agenta, ale výběrem ekonomicky relevantního procesu. Tento proces by měl mít dostatečný objem a potenciál pro zlepšení a zároveň by měl vykazovat zvládnutelná rizika. Celý proces je zdokumentován, včetně čekacích dob, výjimek, zdrojů dat a skutečných bodů rozhodování. Teprve poté lze určit, které části by měly být zpracovávány autonomně, s asistencí nebo by měly být i nadále zpracovávány výhradně lidmi.

Dalším krokem je definování odpovědností a klíčových ukazatelů výkonnosti (KPI). Majitel firmy je zodpovědný za výsledek, zatímco technický vlastník dohlíží na provoz a bezpečnost. Společně definují metriky úspěchu, minimální standardy kvality, cenové stropy a kritéria pro ukončení. Pro každou třídu akcí jsou stanovena oprávnění, schválení a eskalační postupy. Tato organizační práce musí být dokončena dříve, než agent získá produktivní práva.

Technická implementace by měla zpočátku začít v režimu pozorování. Agent předkládá návrhy nebo simuluje akce, zatímco lidé pokračují v provádění procesu. To umožňuje měřit rozdíly bez vzniku provozního rizika. Autonomii lze poté postupně rozšiřovat, počínaje reverzibilními a nízkorizikovými akcemi. Každé rozšíření musí být odůvodněno reálnými údaji o výkonu.

Jakmile je stabilizace úspěšná, další izolovaný agent se nevytváří okamžitě. Místo toho společnost zkoumá, které datové produkty, pravidla, ovládací prvky a integrace lze znovu použít. Právě zde vzniká kumulativní výhoda. Pilotní projekt se vyvine v platformu a více platforem může vést k novému operačnímu modelu.

Vedení musí zviditelnit konflikt cílů

Agentní umělá inteligence je často ospravedlňována tvrzeními o snížení nákladů, vyšší kvalitě, lepší zákaznické zkušenosti, rychlejší inovaci a nižších rizicích. Tyto cíle nejsou vždy slučitelné. Zvýšený lidský dohled může snížit rizika, ale omezit rychlost a úspory. Větší autonomie může zkrátit dodací lhůty, ale zvyšuje nároky na data, kontroly a odpovědnost.

Vedení společnosti musí tyto protichůdné cíle explicitně vyřešit. Nemělo by očekávat, že je projektový tým vyřeší technicky. Obzvláště důležité je definování tolerance k riziku. Co je přijatelné v interním výzkumu, může být nepřijatelné v úvěrových rozhodnutích, personálních záležitostech, zdravotních údajích nebo zařízeních relevantních z hlediska bezpečnosti.

Vedení také znamená otevřené řešení dopadu na zaměstnance. Pokud je skutečným cílem propouštění, komunikace pouze o podpoře poškozuje důvěru. Naopak by společnost neměla uměle zlehčovat skutečné zisky produktivity. Důvěryhodnost se buduje jasnými prohlášeními o tom, které úkoly budou zrušeny, které role se změní a jaké nové dovednosti budou potřeba.

Nejdůležitější vůdčí dovedností je v konečném důsledku přidělování odpovědnosti. Agent může dosáhnout výsledku, ale nemůže být za něj odpovědný. Pokud si firmy tento rozdíl uvědomí, lze autonomii kontrolovaným způsobem rozšiřovat. Pokud se naopak odpovědnost tiše přesune na technologie, vznikne organizace, ve které nikdo plně nechápe, kdo rozhodnutí učinil.

Skutečnou konkurenční výhodou je organizační učení

Modely a agentní funkce se rychle šíří. Co je dnes považováno za technologickou výhodu, se zítra může stát standardem pro softwarovou platformu. Trvalá diferenciace proto nepramení ani tak z přístupu ke konkrétnímu modelu, jako spíše ze schopnosti jej převést do hodnotných a spolehlivých procesů.

Společnosti, které se zabývají každým případem užití izolovaně, získají pouze omezené zkušenosti. Naproti tomu společnosti se sdílenou platformou, opakovaně použitelnými ovládacími prvky a jasnými modely odpovědnosti se s každým procesem učí. Rychleji identifikují, která autonomie funguje, která data chybí a ke kterým eskalacím často dochází. Tato znalost snižuje náklady na každou následnou implementaci.

Organizační učení vyžaduje systematickou zpětnou vazbu ze zkušeností. Chyby a lidské opravy musí být vyhodnoceny, pravidla upravena a nové výjimečné případy integrovány do kontextu. To automaticky neznamená, že je agent spolehlivý; organizace spíše zlepšuje celkový systém lidí, dat, pravidel a technologií. Toto rozlišení je klíčové, protože přesouvá pozornost z předpokládané inteligence modelu na výkon operačního modelu.

Z dlouhodobého hlediska to může vytvořit významnou konkurenční výhodu. Rychlejší rozhodování, nižší náklady na koordinaci a konzistentnější procesy zvyšují rychlost reakce. Zároveň lze růst řídit, aniž by bylo nutné proporcionálně více administrativních pracovníků pro každou další transakci. Produktivita se pak zvyšuje nejen v rámci stávajících procesů, ale také transformuje škálovatelnost celé společnosti.

Nevyhrává nejvíce agentů, ale nejjasnější organizace

Agentní umělá inteligence nemění jen to, jaká práce se automatizuje. Mění také důvod existence týmů, způsob rozhodování a odpovědnost za výsledky. Společnosti, které technologii aplikují pouze na stávající procesy, sice urychlí jednotlivé úkoly, ale brzy selžou kvůli mezerám v datech, nejasným odpovědnostem a nedostatku důvěry. Automatizace zůstává povrchní, zatímco strukturální náklady přetrvávají.

Větší ekonomický vliv vzniká, když jsou procesy přepracovány z pohledu jejich výsledku. Lidé přebírají cíle, výjimky, vztahy a odpovědnost. Agenti předpokládají předvídatelnou koordinaci, zpracování informací a opakovatelné provádění. Řídicí systémy propojují obě strany a umožňují měřitelnou autonomii. To nevytváří organizaci bez lidí, ale spíše odlišné rozdělení práce.

Klíčovou metrikou nebude počet nasazených agentů. Důležitější jsou celkové náklady na výsledek, stabilita procesu, rychlost učení a jasnost odpovědnosti. Společnost s několika málo, hluboce integrovanými agenty může vytvořit výrazně větší hodnotu než konkurent s desítkami izolovaných demonstrací.

Debata se nakonec scvrkává na klasickou manažerskou otázku: Kdo je oprávněn činit která rozhodnutí a kdo nese důsledky? Technologie tuto otázku zhoršuje, ale neodpovídá na ni. Každý, kdo agentovi přidělí další úkol, úkol, který by jinak vyřídil nový zaměstnanec, musí současně definovat, kdo agentovi uděluje mandát, sleduje jeho výkon a je odpovědný za chyby. Pouze tehdy, když organizační struktura poskytne jasnou odpověď na tuto otázku, se umělá inteligence založená na agentech stane robustním ekonomickým systémem.

Rád/a bych sloužil/a jako váš osobní poradce.

Můžete mě kontaktovat na adrese wolfenstein∂xpert.digital nebo

Zavolejte mi na +49 7348 4088 965 .

LinkedIn