Zákon EU o umělé inteligenci a slepá skvrna pro malé a střední podniky: Proč by vám umělá inteligence ve standardním softwaru mohla přinést milionové pokuty

Více než jen byrokracie: Jak proměnit zákon EU o umělé inteligenci ve strategickou konkurenční výhodu

Humbuk kolem umělé inteligence posledních let ustupuje drsné právní realitě: Evropská unie stanoví globálně jedinečné a závazné limity pro používání umělé inteligence prostřednictvím zákona EU o umělé inteligenci. Od srpna 2026 se situace pro drtivou většinu společností zkomplikuje – ale alarmující je, že jen málo z nich je připraveno. Ti, kteří si do tohoto termínu neudělají domácí úkoly, riskují drastické pokuty až do výše 35 milionů eur, neboli sedm procent svých globálních ročních příjmů. Nebezpečnou mylnou představou je, že se zákon týká pouze technologických společností nebo vývojářů jejich vlastních modelů umělé inteligence. Přísné požadavky ve skutečnosti platí i v případě, že si společnosti funkce umělé inteligence pouze zakoupí nebo je nevědomky používají v běžném standardním softwaru. Následující článek zkoumá povinnosti, kterým organizace nyní čelí v různých rizikových kategoriích, proč je nezbytná okamžitá inventarizace umělé inteligence a jak mohou chytří obchodní lídři využít nové struktury řízení nikoli jako zatěžující byrokracii, ale jako strategickou konkurenční výhodu.

Pokuty až do výše 35 milionů eur, a většina firem na ně ještě není připravena

Odpočítávání je v plném proudu – a hodiny slyšitelně tikají.
Je to jeden z těch regulačních zlomových bodů, o kterých mnoho společností mluví už léta, ale na který se překvapivě jen málokdo vážně připravil. 2. srpna 2026 vstupuje zákon EU o umělé inteligenci do své klíčové implementační fáze pro drtivou většinu dotčených organizací: plné požadavky na vysoce rizikové systémy umělé inteligence se stávají povinnými, musí být prokázány struktury řízení, vstoupí v platnost povinnosti transparentnosti pro generativní umělou inteligenci a pokuty až do výše 35 milionů eur nebo sedmi procent globálního ročního obratu již nejsou abstraktní hrozbou, ale skutečným právním rizikem. Přechodná období udělená od oficiálního vstupu nařízení v platnost v srpnu 2024 končí.

Ti, kdo doufali, že Evropská komise lhůtu opět odloží, čelí smíšeným výsledkům. Diskutuje se o tzv. digitálním omnibusovém balíčku, který zahrnuje cílené úpravy a zjednodušení, zejména pro malé a střední podniky (MSP), a jehož cílem je učinit povinnosti jasnějšími, lépe zvládnutelnými a příznivějšími pro inovace. Jednotlivé povinnosti, zejména obzvláště složité požadavky na vysoce rizikovou umělou inteligenci v bezpečnostně kritických produktech, jako jsou zdravotnické prostředky nebo výtahy, byly odloženy do srpna 2027. To by však nemělo zastínit skutečnost, že většina povinností vstoupí v platnost ve výše uvedeném termínu a musí být implementována společnostmi všech velikostí.

Jádro nařízení: Klasifikace rizik

Koncepčním základem zákona EU o umělé inteligenci je přístup založený na riziku, který rozděluje systémy umělé inteligence do čtyř skupin. Praktiky umělé inteligence s nepřijatelným rizikem, jako jsou systémy pro sociální hodnocení lidí nebo manipulativní ovlivňování rozhodnutí, jsou zcela zakázány a mohou vést k pokutám až do výše 35 milionů eur nebo sedmi procent ročního obratu. Vysoce rizikové systémy umělé inteligence používané v osmi definovaných oblastech – včetně úvěrů, řízení lidských zdrojů, biometrické identifikace, vzdělávání, vymáhání práva a kritické infrastruktury – podléhají komplexním požadavkům na dodržování předpisů a dokumentaci. Umělá inteligence s omezeným rizikem musí splňovat určité povinnosti transparentnosti, jako je označování obsahu generovaného umělou inteligencí. Každodenní aplikace umělé inteligence s nízkým rizikem jsou z velké části neregulované.

V praxi to zní jasněji, než ve skutečnosti je. Zařazení konkrétního systému umělé inteligence do správné kategorie rizika často není triviální úkol. Článek 6 odstavec 3 nařízení výslovně ukládá společnostem povinnost písemně odůvodnit své rozhodnutí o klasifikaci, a to i v případě, že výsledkem je, že systém by neměl být klasifikován jako vysoce rizikový. To znamená, že i ti, kteří dojdou k závěru, že jejich systémy umělé inteligence spadají do kategorie s nízkým rizikem, musí tento závěr zdokumentovat a poskytnout auditovatelné důkazy. Tento požadavek se vztahuje prakticky na každou společnost, která v současné době používá funkce umělé inteligence ve svém softwaru – a podle nedávných průzkumů to již zahrnuje 41 procent všech německých společností s více než 20 zaměstnanci.

Co vlastně znamenají vysoce rizikové závazky

Pro organizace, jejichž systémy umělé inteligence jsou skutečně klasifikovány jako vysoce rizikové, je rozsah požadavků značný. Do srpna 2026 musí tyto systémy projít úplným posouzením shody, mít technickou dokumentaci, nést označení CE a být registrovány ve veřejné databázi EU pro vysoce rizikové systémy umělé inteligence. Požadavky jdou daleko nad rámec administrativních formality. Systém řízení rizik musí být zaveden pro celý životní cyklus systému umělé inteligence, od vývoje a provozu až po vyřazení z provozu.

Data o školení musí být kontrolována z hlediska kvality, reprezentativnosti a potenciálních zkreslení. Během provozu je povinné automatické zaznamenávání všech relevantních akcí systému. V případě závažných incidentů musí být do patnácti dnů informován příslušný orgán dozoru nad trhem. Jakékoli významné změny stávajícího vysoce rizikového systému vyžadují kompletní přehodnocení posouzení shody. Nejedná se o byrokratickou zátěž, ale o pokus prosadit úroveň bezpečnosti a kvality systémů umělé inteligence, která je po celá desetiletí standardní praxí v odvětvích kritických z hlediska bezpečnosti, jako je letectví a farmaceutický průmysl.

Slepé místo v německých malých a středních podnicích

Pro německé malé a střední podniky je zákon EU o umělé inteligenci otázkou, které navzdory svým dalekosáhlým důsledkům dosud v mnoha společnostech nevěnovala pozornost, kterou si zaslouží. Důvod je pochopitelný: předpisy jsou složité, terminologie technická, klasifikační otázky právně náročné a mnoha malým a středním podnikům jednoduše chybí interní zdroje potřebné k důkladné analýze souladu s předpisy. Zákon se zároveň vztahuje nejen na umělou inteligenci vyvinutou interně, ale i na funkce umělé inteligence zakoupené nebo integrované do softwaru třetích stran, což výrazně rozšiřuje jeho působnost pro malé a střední podniky.

Kromě toho existuje strukturální výzva: Na rozdíl od GDPR, které v podstatě vyžadovalo organizační a procedurální úpravy stávajících postupů v oblasti dat, zákon o umělé inteligenci vyžaduje hluboké technické pochopení používaných systémů. Každý, kdo neví, zda modul umělé inteligence v jeho ERP softwaru ovlivňuje úvěrová rozhodnutí, zda náborový nástroj používá screening s využitím umělé inteligence nebo zda chatbot zpracovává osobní údaje za účelem ovlivnění nákupních rozhodnutí, nemůže provést spolehlivou klasifikaci rizik. Prvním a nejnaléhavějším krokem pro každou středně velkou společnost je proto kompletní inventarizace všech systémů umělé inteligence používaných ve společnosti, včetně funkcí umělé inteligence ve standardním softwaru. Tento krok inventarizace umělé inteligence není volitelný; je zákonem nařízeným předpokladem pro veškerá další opatření v oblasti dodržování předpisů.

Nový rozměr digitální transformace s „řízenou AI“ (umělou inteligencí) – platforma a řešení B2B | Xpert Consulting - Obrázek: Xpert.Digital

Zde se dozvíte, jak může vaše společnost rychle, bezpečně a bez vysokých vstupních bariér implementovat řešení umělé inteligence na míru.

Spravovaná platforma umělé inteligence je vaším komplexním a bezstarostným řešením pro umělou inteligenci. Místo řešení složitých technologií, drahé infrastruktury a zdlouhavých vývojových procesů získáte hotové řešení šité na míru vašim potřebám od specializovaného partnera – často během několika dní.

Klíčové výhody na první pohled:

⚡ Rychlá implementace: Od nápadu k aplikaci připravené k použití během několika dnů, nikoli měsíců. Dodáváme praktická řešení, která vytvářejí okamžitou přidanou hodnotu.

🔒 Maximální zabezpečení dat: Vaše citlivá data zůstanou u vás. Garantujeme bezpečné a kompatibilní zpracování bez sdílení dat s třetími stranami.

💸 Žádné finanční riziko: Platíte pouze za výsledky. Vysoké počáteční investice do hardwaru, softwaru nebo personálu jsou zcela eliminovány.

🎯 Zaměřte se na své hlavní podnikání: Soustřeďte se na to, co děláte nejlépe. Postaráme se o kompletní technickou implementaci, provoz a údržbu vašeho řešení s umělou inteligencí.

📈 Připraveno na budoucnost a škálovatelné: Vaše umělá inteligence roste s vámi. Zajišťujeme neustálou optimalizaci a škálovatelnost a flexibilně přizpůsobujeme modely novým požadavkům.

Více informací zde:

• Řešení spravované umělé inteligence – Průmyslové služby umělé inteligence: Klíč ke konkurenceschopnosti v odvětvích služeb, průmyslu a strojírenství

Řízení jako strategická architektura, nikoli jako byrokratická povinnost

Jádrem zákona EU o umělé inteligenci není systém pokut, ať už jsou sankce jakkoli významné. Jde o požadavek na skutečnou strukturu řízení umělé inteligence, která zajišťuje, aby rozhodnutí v oblasti umělé inteligence v rámci společnosti byla odpovědná, transparentní a srozumitelná. Nařízení vyžaduje jmenování osoby zodpovedné za dodržování předpisů v oblasti umělé inteligence nebo vytvoření srovnatelné odpovědnosti, zřízení interního orgánu pro řízení umělé inteligence, pravidelné zprávy o rizicích a audity a etické pokyny pro používání umělé inteligence.

Tyto požadavky zní jako byrokratická zátěž a pro mnoho menších společností bude implementace skutečně vyžadovat značné organizační úsilí. Z strategického hlediska však v podstatě popisují infrastrukturu, kterou by musela vybudovat každá společnost, která chce umělou inteligenci používat zodpovědně a udržitelně. Společnost, která neví, jaké systémy umělé inteligence používá, jaká rozhodnutí tyto systémy dělají a jak lze tato rozhodnutí přezkoumat, není vystavena pouze regulačním rizikům. Provozuje technologii, které slepě důvěřuje, se všemi riziky, která s sebou nese v kritických obchodních procesech.

Struktura sankcí a co to znamená v praxi

Bližší pohled na systém sankcí ukazuje, že zákon EU o umělé inteligenci je strukturován podle třístupňového principu, který odráží závažnost porušení. Nejpřísnější sankce jsou ukládány za porušení zakázaných praktik umělé inteligence uvedených v článku 5: až do výše 35 milionů EUR nebo sedmi procent globálního ročního obratu, podle toho, která částka je vyšší. Porušení požadavků na vysoké riziko se trestá pokutami až do výše 15 milionů EUR nebo tří procent ročního obratu. Nepravdivá nebo zavádějící prohlášení pro úřady se trestají pokutami až do výše 7,5 milionu EUR nebo 1,5 procenta obratu.

Tato čísla staví náklady na dodržování předpisů do zcela jiného světla. Středně velká společnost s ročním obratem 50 milionů eur, která se dopustí vysoce rizikového porušení, může čelit pokutě až do výše 1,5 milionu eur. Pro srovnání, profesionální poradenství v oblasti dodržování předpisů a implementace nezbytných struktur řízení stojí zlomek této částky. Pro mezinárodně působící společnost s miliardovými tržbami mohou pokuty dosáhnout úrovně, která ohrožuje její samotnou existenci, a to i v případě, že je společnost jinak finančně zdravá. Náklady na regulační riziko spojené s nedodržováním předpisů téměř ve všech realistických scénářích převyšují náklady na implementaci předpisů.

Kdo z nového nařízení těží?

Bylo by jednostranné popisovat zákon EU o umělé inteligenci pouze jako nákladovou zátěž a zdroj rizika. Společnosti, které včas investují do infrastruktury pro dodržování předpisů a interně ji chápou jako standard kvality pro své používání umělé inteligence, získají hmatatelné konkurenční výhody. Zákazníci, zejména institucionální klienti a klienti z veřejného sektoru, si budou při zadávání zakázek stále více vážit schopnosti dodavatele prokázat zodpovědné používání umělé inteligence. V sektoru B2B se označení CE pro systémy umělé inteligence stává ukazatelem kvality, který buduje důvěru a omezuje rizika odpovědnosti.

Regulace navíc nutí společnosti konfrontovat se svými systémy umělé inteligence, čemuž se mnohé dříve vyhýbaly. Ti, kteří vytvoří komplexní inventář umělé inteligence, provedou klasifikaci rizik a zavedou procesy řízení, získají transparentnost ve svých technologických operacích, což vede k lepším manažerským rozhodnutím, nižší chybovosti a větší důvěře mezi všemi zúčastněnými stranami. Dodržování předpisů není samo o sobě cílem, ale spíše vedlejším produktem dobrého řízení společností ve věku umělé inteligence.

Praktický harmonogram na zbývající měsíce

Pro společnosti, které dosud nezačaly se systematickou přípravou, je času málo, ale ještě to není konec. Doporučený implementační plán začíná okamžitou inventarizací všech systémů umělé inteligence ve společnosti, po níž následuje klasifikace rizik každého systému podle kritérií zákona o umělé inteligenci. Druhý krok zahrnuje vyjasnění odpovědností: Jakou roli společnost hraje – poskytovatel, provozovatel, distributor nebo dovozce – a jaké konkrétní povinnosti z toho vyplývají? Souběžně by měly být zavedeny struktury řízení, dokumentační procesy a interní monitorovací mechanismy.

Do jara 2026 by měly být zavedeny alespoň základní struktury řízení, přezkoumány smlouvy s dodavateli umělé inteligence a definovány postupy pro podávání stížností. Do srpna 2026 musí být implementovány povinnosti transparentnosti pro obsah generovaný umělou inteligencí a musí být splněna všechna relevantní opatření podle článku 50 zákona o umělé inteligenci. Spolupráce se specializovanými poradenskými firmami se doporučuje zejména pro středně velké společnosti bez interních právních odborných znalostí v oblasti umělé inteligence. Automatizované monitorovací nástroje, které průběžně kontrolují a dokumentují dodržování předpisů, nejen usnadňují implementaci, ale také výrazně snižují dlouhodobé provozní náklady na dodržování předpisů.

Mezi regulací a inovací: Cesta Evropy do éry umělé inteligence

Zákon EU o umělé inteligenci odráží základní politické přesvědčení, které odlišuje Evropu od ostatních regulačních přístupů k umělé inteligenci: že technologický pokrok a právní ochrana základních práv nejsou protiklady, ale musí být posuzovány společně. Zda tento přístup posiluje, nebo brzdí Evropu v globálním závodě umělé inteligence, je legitimní a obtížná otázka, na kterou neexistuje snadná odpověď. Již dnes je jasné, že regulace přichází, že termíny jsou reálné a že společnosti, které ji berou vážně, jsou v lepší pozici než ty, které čekají.

Pro Xpert.Digital a podobné společnosti v oblasti digitální transformace a technologického poradenství B2B představuje zákon EU o umělé inteligenci strategickou příležitost. Schopnost provést klienty procesem dodržování předpisů, správně klasifikovat systémy umělé inteligence, zavést struktury řízení a prokázat zodpovědné používání umělé inteligence se v nadcházejících letech stane klíčovou oblastí poradenství. Společnosti investující do těchto odborných znalostí dnes budou mít dobrou pozici k podpoře svých klientů v regulačním prostředí, které se v nadcházejících letech stane ještě složitějším. Zákon EU o umělé inteligenci nepředstavuje konec neomezeného používání umělé inteligence; je to začátek zralé a zodpovědné ekonomiky umělé inteligence v Evropě.

☑️ Naším obchodním jazykem je angličtina nebo němčina

☑️ NOVINKA: Korespondence ve vašem rodném jazyce!

Konrad Wolfenstein

Já a můj tým jsme rádi, že vám můžeme být k dispozici jako váš osobní poradce.

Můžete mě kontaktovat vyplněním kontaktního formuláře zde nebo jednoduše zavolat na číslo +49 89 89 674 804 ( Mnichov) . Moje e-mailová adresa je: [email protected]

Těším se na náš společný projekt.

☑️ Podpora malých a středních podniků v oblasti strategie, poradenství, plánování a implementace

☑️ Vytvoření nebo restrukturalizace digitální strategie a digitalizace

☑️ Rozšíření a optimalizace mezinárodních prodejních procesů

☑️ Globální a digitální B2B obchodní platformy

☑️ Průkopnický rozvoj podnikání / Marketing / PR / Veletrhy

Kvazi-interní řešení: Jak Xpert.Digital uzavírá provozní mezery v marketingu a prodeji B2B – Smart Content-Driven Business - Obrázek: Xpert.Digital

Xpert.Digital je datově orientované B2B centrum pro průmysl, které vede Konrad Wolfenstein . Společnost funguje jako externí, kvazi-interní řešení pro průmyslové partnery a odstraňuje provozní mezery v marketingu, obsahu a prodeji – aniž by vyžadovala další zdroje na straně klienta.

Více informací zde:

• Kvazi-interní řešení: Jak Xpert.Digital uzavírá provozní mezery v marketingu a prodeji B2B – Smart Content-Driven Business