EU vs. USA: Konec krádežím dat? Jak má nový zákon EU navždy změnit školení v oblasti umělé inteligence

Přísnější pravidla pro ChatGPT, Gemini a spol. – Nová pravidla EU pro umělou inteligenci

Od 2. srpna 2025 začnou v Evropské unii platit přísnější pravidla pro rozsáhlé systémy umělé inteligence, jako jsou ChatGPT, Gemini a Claude. Tato pravidla jsou součástí nařízení EU o umělé inteligenci, známého také jako AI Act, které postupně nabývá účinnosti. Nová nařízení se konkrétně týkají tzv. univerzálních modelů umělé inteligence, zkráceně GPAI. Patří mezi ně systémy, které jsou všestranné a lze je použít pro různé úkoly – od generování textu přes překlad až po programování.

Poskytovatelé těchto systémů budou v budoucnu povinni dodržovat komplexní povinnosti transparentnosti. Musí zveřejnit, jak jejich systémy fungují, s jakými daty byli proškoleni a jaká opatření přijali na ochranu autorských práv. Obzvláště výkonné modely, které by mohly potenciálně představovat systémová rizika, podléhají dodatečným bezpečnostním opatřením a musí provádět pravidelná hodnocení rizik.

Vhodné pro:

• EU zintenzivňuje regulaci AI: Nejdůležitější otázky a odpovědi na nařízení od srpna 2025

Proč EU zavádí toto nařízení?

Evropská unie sleduje nařízením o umělé inteligenci několik cílů. Na jedné straně má chránit občany před potenciálními riziky umělé inteligence, na druhé straně však má také podporovat inovace a vytvářet právní jistotu pro společnosti. EU si klade za cíl být globálním průkopníkem v regulaci umělé inteligence a stanovit standardy, které by mohly být potenciálně přijaty na mezinárodní úrovni.

Klíčovým problémem je ochrana základních práv. Nařízení si klade za cíl zajistit, aby systémy umělé inteligence byly transparentní, odpovědné, nediskriminační a šetrné k životnímu prostředí. Zároveň se snaží zabránit tomu, aby systémy umělé inteligence byly používány k účelům neslučitelným s hodnotami EU, jako je sociální bodování v čínském stylu nebo manipulativní praktiky.

Jaké konkrétní povinnosti mají poskytovatelé od srpna 2025?

Poskytovatelé modelů GPAI musí od 2. srpna 2025 splnit řadu povinností. Patří sem za prvé komplexní technická dokumentace obsahující podrobnosti o architektuře modelu, metodice školení, zdroji dat pro školení, spotřebě energie a použitých výpočetních zdrojích. Tato dokumentace musí být průběžně aktualizována a na vyžádání zpřístupněna úřadům.

Obzvláště důležitým aspektem je dodržování autorských práv. Poskytovatelé musí vypracovat a implementovat strategii pro dodržování autorských práv EU. Musí zajistit, aby pro školení nepoužívali žádný obsah, k němuž držitelé práv deklarovali právo užití. Musí také připravit a zveřejnit dostatečně podrobný souhrn obsahu použitého pro školení. Evropská komise pro tento účel vypracovala závaznou šablonu, která se od srpna 2025 stane povinnou pro nové modely.

A co autorská práva a tréninkové modely umělé inteligence?

Otázka autorských práv při trénování modelů umělé inteligence je ústředním bodem sporu. Mnoho autorů, umělců a mediálních producentů si stěžuje, že jejich díla byla použita k trénování systémů umělé inteligence bez povolení a že jim umělá inteligence nyní konkuruje. Nová pravidla EU tento problém řeší tím, že od poskytovatelů vyžadují, aby zveřejnili, které webové stránky používají pro přístup k dílům chráněným autorským právem.

Podle článku 53 nařízení o umělé inteligenci musí poskytovatelé prokázat, že mají zavedený funkční systém na ochranu evropských autorských práv. Musí zavést politiku dodržování autorských práv, včetně technologií pro detekci a respektování potenciálních odhlášení autorů. Výjimka pro dolování textu a dat podle směrnice o digitálních a digitálních softwarech (DSM) zůstává v platnosti, ale pokud si držitelé práv svá práva vyhradili, musí poskytovatelé získat povolení k použití.

A co stávající modely umělé inteligence?

Pro modely umělé inteligence, které byly na trhu již před 2. srpnem 2025, platí delší přechodné období. Poskytovatelé jako OpenAI, Google nebo Anthropic, jejichž modely byly dostupné již předtím, nemusí plnit povinnosti vyplývající z nařízení o umělé inteligenci do 2. srpna 2027. To znamená, že ChatGPT, Gemini a podobné stávající systémy mají na přizpůsobení se novým pravidlům ještě dva roky.

Toto postupné zavádění má dát společnostem čas na přizpůsobení jejich systémů a procesů. Nové modely uvedené na trh po srpnu 2025 však musí splňovat požadavky od samého začátku.

Co se stane, když budou nová pravidla porušena?

EU zavedla systém odstupňovaných sankcí, který stanoví přísné tresty za porušení. Výše pokut závisí na závažnosti porušení. Porušení povinností GPAI může vést k pokutám až do výše 15 milionů eur nebo 3 procent celosvětového ročního obratu, podle toho, která částka je vyšší. Poskytnutí nepravdivých nebo zavádějících informací orgánům může vést k pokutám až do výše 7,5 milionu eur nebo 1,5 procenta ročního obratu.

Je však důležité poznamenat, že donucovací pravomoci Evropské komise nabudou účinnosti až 2. srpna 2026. To znamená, že bude existovat jednoleté přechodné období, během kterého se pravidla budou uplatňovat, ale zatím nebudou aktivně vymáhána. Dotčení občané nebo konkurenti však mohou již během tohoto období podat žaloby, pokud zjistí porušení.

Jakou roli hraje dobrovolný kodex chování?

Souběžně se závaznými pravidly EU vypracovala dobrovolný kodex chování, Kodex postupů GPAI. Ten byl vypracován 13 nezávislými odborníky a jeho cílem je pomoci společnostem splnit požadavky nařízení o umělé inteligenci. Kodex je rozdělen do tří oblastí: transparentnost, autorská práva a bezpečnost a ochranná opatření.

Společnosti, které podepíší kodex, mohou těžit ze snížené administrativní zátěže a větší právní jistoty. Do konce července 2025 kodex podepsalo již 26 společností, včetně Aleph Alpha, Amazon, Anthropic, Google, IBM, Microsoft, Mistral AI a OpenAI. Společnost Meta se však výslovně rozhodla kodex nepodepsat a kritizovala kodex za vytváření právní nejistoty a překračování požadavků zákona o umělé inteligenci.

Jak se liší přístupy v EU a USA?

Regulační přístupy v EU a USA se stále více liší. Zatímco EU se spoléhá na přísnou regulaci a jasné pokyny, USA se pod vedením prezidenta Trumpa vydávají cestou deregulace. Krátce po nástupu do úřadu Trump zrušil regulace umělé inteligence svého předchůdce Bidena a jeho plán pro umělou inteligenci se zcela zaměřuje na podporu inovací bez regulačních překážek.

Obzvláště kontroverzní je otázka autorských práv. Trump tvrdí, že modely umělé inteligence by měly mít možnost používat obsah zdarma, aniž by musely dodržovat autorské zákony. Přirovnává to k tomu, jak lidé, kteří čtou knihu, získávají znalosti, aniž by porušovali autorská práva. Tento postoj je v příkrém rozporu s předpisy EU, které výslovně požadují ochranu autorských práv.

Co to znamená pro uživatele systémů umělé inteligence?

Pro koncové uživatele systémů s umělou inteligencí, jako je ChatGPT nebo Gemini, nová pravidla přinášejí především větší transparentnost. Poskytovatelé budou muset jasněji sdělovat, jak jejich systémy fungují, jaká jsou jejich omezení a jaké jsou potenciální chyby. Obsah generovaný umělou inteligencí musí být jako takový jasně označen, například vodoznaky u obrázků nebo odpovídajícími upozorněními u textu.

Systémy by se navíc měly stát bezpečnějšími. Povinná posouzení rizik a bezpečnostní opatření mají zabránit zneužití systémů umělé inteligence ke škodlivým účelům nebo k diskriminačním výsledkům. Uživatelé by měli mít důvěru, že systémy umělé inteligence dostupné v EU splňují určité standardy.

Které praktiky umělé inteligence jsou v EU již zakázány?

Od 2. února 2025 jsou v EU některé aplikace umělé inteligence zcela zakázány. Patří sem tzv. sociální bodování, tj. hodnocení sociálního chování lidí, jak se praktikuje v Číně. Zakázáno je také rozpoznávání emocí na pracovišti a ve vzdělávacích institucích. Zakázány jsou i systémy, které manipulují s lidmi nebo zneužívají jejich zranitelnost k jejich poškození.

Rozpoznávání obličejů ve veřejných prostorách je obecně zakázáno, existují však výjimky pro orgány činné v trestním řízení, které vyšetřují závažné trestné činy, jako je terorismus nebo obchodování s lidmi. Tyto zákazy jsou považovány za praktiky s „nepřijatelným rizikem“ a jejich účelem je chránit základní práva občanů EU.

Jak se sleduje dodržování pravidel?

Monitorování nařízení o umělé inteligenci probíhá na různých úrovních. Na úrovni EU je za monitorování modelů GPAI odpovědný nově zřízený Úřad pro umělou inteligenci Evropské komise. Členské státy musí také určit své vlastní příslušné orgány. V Německu tento úkol přebírá Federální agentura pro sítě ve spolupráci s dalšími specializovanými orgány.

U některých vysoce rizikových systémů umělé inteligence jsou k provádění posuzování shody zapojeny tzv. oznámené subjekty. Tyto subjekty musí být nezávislé a mít potřebné odborné znalosti k posuzování systémů umělé inteligence. Požadavky na tyto subjekty jsou podrobně specifikovány v nařízení.

Jaký to má dopad na inovace a konkurenci?

Názory na dopad nařízení o umělé inteligenci na inovace se liší. Zastánci tvrdí, že jasná pravidla vytvářejí právní jistotu, a tím podporují investice. Evropská komise zdůrazňuje, že nařízení ponechává prostor pro inovace a zároveň zajišťuje, aby umělá inteligence byla vyvíjena zodpovědně.

Kritici, včetně mnoha technologických společností a průmyslových sdružení, varují před „náhlým zastavením inovací“. Obávají se, že rozsáhlé požadavky na dokumentaci a dodržování předpisů by mohly znevýhodnit zejména menší společnosti a startupy. Meta tvrdí, že nadměrná regulace zpomalí vývoj a šíření modelů umělé inteligence v Evropě.

Vhodné pro:

• Pětibodový plán: Tímto způsobem se Německo chce stát tipem AI World – Data Gigafactory a veřejné objednávky pro AI Staups

Jaká jsou další důležitá data?

Harmonogram implementace nařízení o umělé inteligenci zahrnuje několik důležitých milníků. Po 2. srpnu 2025, kdy vstoupí v platnost pravidla GPAI, proběhne další hlavní fáze 2. srpna 2026. Poté vstoupí v platnost úplná pravidla pro vysoce rizikové systémy umělé inteligence a Evropské komisi budou uděleny plné donucovací pravomoci. Členské státy musí do té doby také implementovat svá sankční pravidla a zřídit alespoň jeden sandbox pro umělou inteligenci.

Konečně, 2. srpna 2027 vstoupí v platnost pravidla pro vysoce rizikové systémy umělé inteligence regulované odvětvovými harmonizačními právními předpisy, jakož i pravidla pro modely GPAI zavedené před srpnem 2025. Pro specifické oblasti, jako jsou systémy umělé inteligence v rozsáhlých IT systémech EU, existují další přechodná období do roku 2030.

Jak se pozicionují velké technologické společnosti?

Reakce velkých technologických společností na nová pravidla EU se liší. Zatímco společnosti jako Microsoft a OpenAI signalizovaly obecnou ochotu spolupracovat a podepsaly dobrovolný kodex chování, Meta je mnohem kritičtější. Joel Kaplan, ředitel pro globální záležitosti společnosti Meta, uvedl, že Evropa volí k regulaci umělé inteligence nesprávný přístup.

Společnost Google oznámila, že podepíše kodex postupů, ale zároveň vyjádřila obavy, že by zákon o umělé inteligenci mohl brzdit inovace. Společnost Anthropic, která byla žalována za údajné porušení autorských práv, kodexu rovněž vyjádřila podporu. Rozdílné postoje odrážejí odlišné obchodní modely a strategické směřování společností.

Jaké praktické problémy existují při implementaci?

Implementace nařízení o umělé inteligenci představuje řadu praktických výzev. Klíčovou obtíží je definování toho, které systémy se kvalifikují jako „umělá inteligence“, a spadají tedy pod toto nařízení. Evropská komise oznámila odpovídající pokyny, ale dosud je nezveřejnila v plném znění.

Dalším problémem je složitost požadavků na dokumentaci. Společnosti musí shromažďovat podrobné informace o svých školicích datech, což je obzvláště obtížné, pokud bylo použito velké množství dat z různých zdrojů. Otázka, jak přesně by měly být technicky implementovány výjimky držitelů práv, také dosud nebyla plně vyřešena.

Co to znamená pro evropské společnosti zabývající se umělou inteligencí?

Pro evropské společnosti zabývající se umělou inteligencí představuje toto nařízení jak příležitosti, tak i výzvy. Na jedné straně vytváří jednotný právní rámec v rámci EU, který usnadňuje přeshraniční obchodování. Společnosti, které splňují standardy, to mohou využít jako značku kvality a budovat si důvěru u zákazníků.

Na druhou stranu se mnozí obávají, že přísná pravidla by mohla evropské společnosti znevýhodnit v globální konkurenci. Evropští poskytovatelé by mohli být v nevýhodě, zejména ve srovnání s americkými nebo čínskými konkurenty, kteří podléhají méně přísným předpisům. EU však tvrdí, že nařízení povede v dlouhodobém horizontu k bezpečnějším a důvěryhodnějším systémům umělé inteligence, což by mohlo představovat konkurenční výhodu.

Ki-Gamechanger: Nejflexibilnější platforma AI – řešení na míru, která snižují náklady, zlepšují jejich rozhodnutí a zvyšují účinnost

Nezávislá platforma AI: Integruje všechny relevantní zdroje dat společnosti

• Tato platforma AI interaguje se všemi specifickými zdroji dat
  • Z SAP, Microsoft, Jira, Confluence, Salesforce, Zoom, Dropbox a mnoho dalších systémů správy dat
• Rychlá integrace AI: Řešení AI na míru na míru na míru nebo dny místo měsíců
• Flexibilní infrastruktura: cloudové nebo hostování ve vašem vlastním datovém centru (Německo, Evropa, svobodný výběr umístění)

• Nejvyšší zabezpečení dat: Používání v právnických firmách je bezpečný důkaz
• Používejte napříč širokou škálou zdrojů firemních dat
• Výběr vašich vlastních nebo různých modelů AI (DE, EU, USA, CN)

Výzvy, které naše platforma AI řeší

• Nedostatek přesnosti konvenčních řešení AI
• Ochrana dat a zabezpečení správy citlivých dat
• Vysoké náklady a složitost individuálního vývoje AI
• Nedostatek kvalifikované AI
• Integrace AI do stávajících IT systémů

Více o tom zde:

• AI integrace nezávislé platformy AI pro všechny společnosti pro všechny společnosti pro všechny společnosti

Jak se s regulací umělé inteligence vypořádávají jiné země?

EU je globálním průkopníkem v oblasti komplexní regulace umělé inteligence, ale i další země si vyvíjejí vlastní přístupy. V USA v současné době neexistuje srovnatelná federální regulace, ale jednotlivé státy přijaly své vlastní zákony. Za Trumpovy administrativy se USA spíše ubírají směrem k deregulaci.

Čína volí jiný přístup, který stanoví specifická pravidla pro určité aplikace umělé inteligence, a zároveň prostřednictvím státní podpory podporuje technologie, jako je sociální bodování. Jiné země, jako je Kanada, Spojené království a Japonsko, vyvíjejí vlastní rámce, které jsou často méně komplexní než regulace EU. Tyto odlišné přístupy by mohly vést k fragmentaci regulace a představovat výzvy pro mezinárodní společnosti.

Jakou roli hrají soudy při vymáhání práva?

Soudy budou hrát důležitou roli při interpretaci a vymáhání nařízení o umělé inteligenci. V USA již probíhá několik soudních sporů, které tvrdí porušení autorských práv při školení v oblasti umělé inteligence. Například jeden soud rozhodl ve prospěch autorů, kteří žalovali Anthropic za použití neoprávněných verzí jejich knih při školení Claude.

V EU mohou nyní soukromé osoby a společnosti žalovat, pokud zjistí porušení nařízení o umělé inteligenci. To platí i během přechodného období, než vstoupí v platnost oficiální donucovací pravomoci úřadů. Konečný výklad nařízení však bude na Evropském soudním dvoru, který pravděpodobně v nadcházejících letech vydá přelomová rozhodnutí.

Vhodné pro:

• Zákazy AI a povinnost kompetencí: Zákon EU AI – nová éra při řešení umělé inteligence

Jaké jsou dlouhodobé vyhlídky?

Dlouhodobé dopady nařízení EU o umělé inteligenci je stále obtížné odhadnout. Zastánci doufají, že by se normy EU mohly stát globálním měřítkem, podobně jako obecné nařízení o ochraně osobních údajů (GDPR). Společnosti vyvíjející produkty pro evropský trh by pak mohly tyto normy uplatňovat po celém světě.

Kritici však varují před technologickou odpojeností v Evropě. Obávají se, že přísná regulace by mohla vést k tomu, že inovativní vývoj v oblasti umělé inteligence bude probíhat především mimo Evropu. Čas ukáže, zda se EU podařilo nalézt správnou rovnováhu mezi ochranou a inovacemi.

Co to všechno ve shrnutí znamená?

Nová pravidla EU pro umělou inteligenci představují zlom v regulaci této technologie. Od srpna 2025 budou poskytovatelé rozsáhlých systémů umělé inteligence, jako jsou ChatGPT a Gemini, povinni splňovat komplexní požadavky na transparentnost a bezpečnost. Cílem nařízení je chránit práva občanů a zároveň umožnit inovace.

Praktická implementace ukáže, zda bude tento balancovací akt úspěšný. Zatímco některé společnosti považují pravidla za nezbytná a rozumná, jiné je kritizují jako brzdu inovací. Rozdílné přístupy v EU a USA by mohly vést k fragmentaci globální krajiny umělé inteligence. Pro uživatele znamenají pravidla větší transparentnost a bezpečnost, zatímco pro společnosti ukládají další požadavky na dodržování předpisů. Nadcházející roky budou klíčové pro určení, zda Evropa dokáže úspěšně pokračovat ve své vlastní zvolené cestě regulace umělé inteligence.

Jak funguje technická dokumentace v praxi?

Technická dokumentace, kterou musí poskytovatelé modelů GPAI vytvořit, je složitý úkol. Zahrnuje nejen technické specifikace, ale také podrobné informace o celém vývojovém procesu. Poskytovatelé musí zdokumentovat, jaká rozhodnutí o návrhu byla učiněna, jak je struktura architektury modelu strukturována a jaké optimalizace byly provedeny.

Dokumentace školicích dat je obzvláště náročná. Poskytovatelé musí nejen zveřejnit, které zdroje dat byly použity, ale také jak byla data připravena a filtrována. To zahrnuje informace o procesech čištění, odstraňování duplikátů a zpracování potenciálně problematického obsahu. EU rovněž vyžaduje informace o rozsahu dat, jejich klíčových charakteristikách a o tom, jak byla získána a vybrána.

Jaké zvláštní požadavky platí pro systémově rizikové modely?

Modely umělé inteligence klasifikované jako systémově rizikové podléhají obzvláště přísným požadavkům. K této klasifikaci dochází, když trénování vyžaduje kumulativní výpočetní úsilí více než 10^25 operací s plovoucí desetinnou čárkou nebo když Evropská komise klasifikuje model jako obzvláště rizikový vzhledem k jeho schopnostem.

Tyto modely podléhají dalším povinnostem, jako je provádění hodnocení rizik, testování protichůdných systémů za účelem identifikace zranitelností a implementace opatření ke zmírnění rizik. Poskytovatelé musí také zavést systém hlášení incidentů a neprodleně hlásit závažné incidenty dozorovým orgánům. Tato opatření mají zajistit, aby obzvláště výkonné systémy umělé inteligence nemohly být zneužity ke škodlivým účelům.

Jak vypadá spolupráce mezi EU a jejími členskými státy?

Vymáhání nařízení o umělé inteligenci probíhá v komplexní souhře mezi orgány EU a vnitrostátními orgány. Zatímco Úřad EU pro umělou inteligenci je odpovědný za monitorování modelů GPAI, vnitrostátní orgány hrají důležitou roli při monitorování dalších systémů umělé inteligence a vymáhání pravidel na místní úrovni.

Členské státy měly do listopadu 2024 určit alespoň jeden příslušný orgán a do srpna 2025 zřídit národní notifikační orgány. Tyto orgány jsou odpovědné za akreditaci a monitorování subjektů posuzování shody, které posuzují vysoce rizikové systémy umělé inteligence. Koordinace mezi různými úrovněmi je náročná, ale nezbytná pro zajištění jednotného uplatňování nařízení v celé EU.

Jaký je význam harmonizovaných norem?

Důležitým aspektem nařízení o umělé inteligenci je vývoj harmonizovaných norem. Tyto technické normy mají specifikovat, jak lze abstraktní požadavky nařízení implementovat v praxi. Na vývoji těchto norem pracují evropské normalizační organizace CEN, CENELEC a ETSI, které pokrývají oblasti, jako je kvalita dat, robustnost, kybernetická bezpečnost a transparentnost.

Ačkoli harmonizované normy nejsou závazné, poskytují presumpci shody. To znamená, že společnosti, které tyto normy dodržují, mohou předpokládat, že splňují příslušné požadavky nařízení. To vytváří právní jistotu a výrazně zjednodušuje praktické provádění.

Jak se s těmito požadavky vypořádávají menší firmy?

Rozsáhlé požadavky nařízení o umělé inteligenci představují zvláštní výzvu pro menší společnosti a začínající podniky. Požadavky na dokumentaci, posuzování shody a opatření pro zajištění souladu s předpisy vyžadují značné zdroje, které si ne všechny společnosti mohou dovolit.

EU se pokusila tento problém řešit tím, že v nařízení výslovně vyžaduje zohlednění zájmů malých a středních podniků. Notifikované subjekty mají za cíl vyhnout se zbytečné zátěži a minimalizovat administrativní zátěž pro malé podniky. Živé laboratoře s umělou inteligencí mají navíc malým podnikům nabídnout možnost testovat své inovace v kontrolovaném prostředí.

Co jsou to laboratoře umělé inteligence v reálném světě a jak fungují?

Živé laboratoře umělé inteligence (AI living labs) jsou kontrolovaná prostředí, kde mohou společnosti testovat systémy umělé inteligence v reálných podmínkách, aniž by musely splňovat všechny regulační požadavky. Členské státy jsou povinny do srpna 2026 zřídit alespoň jednu takovou živou laboratoř. Tyto laboratoře mají podporovat inovace a zároveň poskytovat poznatky o rizicích a osvědčených postupech.

V reálných laboratořích mohou firmy testovat nové přístupy a těžit z regulační flexibility. Orgány dohlížejí na testy a získávají cenné poznatky o praktických výzvách regulace umělé inteligence. To má přispět k dalšímu rozvoji právního rámce založenému na důkazech.

Vhodné pro:

• 200 miliard EUR na propagaci gigafaktorů AI a projektů souvisejících s AI v Evropě

Jak se nařízení o umělé inteligenci vztahuje k dalším právním předpisům EU?

Nařízení o umělé inteligenci neexistuje ve vakuu; musí být harmonizováno s ostatními právními předpisy EU. Jeho vztah k obecnému nařízení o ochraně osobních údajů (GDPR) je obzvláště důležitý, jelikož systémy umělé inteligence často zpracovávají osobní údaje. Nařízení o umělé inteligenci doplňuje GDPR a vytváří další požadavky konkrétně pro systémy umělé inteligence.

Nařízení o umělé inteligenci musí být rovněž koordinováno s odvětvovými předpisy, jako je nařízení o zdravotnických prostředcích nebo nařízení o strojních zařízeních. V mnoha případech se oba soubory pravidel uplatňují souběžně, což zvyšuje požadavky na dodržování předpisů pro společnosti. EU pracuje na pokynech, které by objasnily vzájemné působení mezi různými právními akty.

Jakou roli hraje kybernetická bezpečnost v nařízení o umělé inteligenci?

Kybernetická bezpečnost je ústředním aspektem nařízení o umělé inteligenci. Poskytovatelé musí zajistit, aby jejich systémy byly odolné vůči kybernetickým útokům a aby nebyly manipulovatelné. To zahrnuje opatření na ochranu před útoky nepřátel, kdy speciálně vytvořené vstupy mají za cíl oklamat systém umělé inteligence a přimět ho k chybám.

Požadavky na kybernetickou bezpečnost se liší v závislosti na úrovni rizika systému umělé inteligence. Vysoce rizikové systémy a systémově rizikové modely GPAI musí splňovat obzvláště vysoké standardy. Poskytovatelé musí provádět pravidelná bezpečnostní hodnocení a neprodleně odstraňovat zranitelnosti. Bezpečnostní incidenty musí být hlášeny příslušným orgánům.

Jak se řeší přeshraniční problémy?

Globální povaha systémů umělé inteligence vyvolává složité přeshraniční otázky. Mnoho poskytovatelů umělé inteligence sídlí mimo EU, ale své služby nabízí evropským uživatelům. Nařízení o umělé inteligenci se vztahuje na všechny systémy umělé inteligence uvedené na trh nebo používané v EU, bez ohledu na umístění poskytovatele.

To vytváří praktické problémy pro vymáhání práva. EU musí spolupracovat se třetími zeměmi a případně vyjednat dohody o vzájemném uznávání norem. Zároveň evropské společnosti působící na mezinárodní úrovni mohou muset dodržovat různé regulační požadavky na různých trzích.

Jaká podpora je k dispozici pro postižené společnosti?

Aby EU a její členské státy pomohly společnostem s implementací nařízení o umělé inteligenci, zavedly různá podpůrná opatření. Úřad EU pro umělou inteligenci pravidelně zveřejňuje pokyny a vysvětlivky ke klíčovým aspektům nařízení. Tyto dokumenty mají poskytnout praktickou pomoc při interpretaci a uplatňování pravidel.

Poradenství a podporu nabízejí i vnitrostátní orgány. Například v Německu vyvinula Federální agentura pro sítě „Kompas pro dodržování předpisů v oblasti umělé inteligence“, který má společnosti provázet s regulačními požadavky. Průmyslová sdružení a konzultační firmy nabízejí další zdroje a školení.

Jak se bude mezinárodní diskuse dále vyvíjet?

Mezinárodní diskuse o regulaci umělé inteligence je dynamická a složitá. Zatímco EU postupuje se svou komplexní regulací, jiné země vývoj pozorně sledují. Některé zvažují podobné přístupy, zatímco jiné záměrně hledají alternativní cesty.

Mezinárodní organizace jako OECD, G7 a OSN pracují na globálních principech pro zodpovědnou umělou inteligenci. Cílem tohoto úsilí je vytvořit společný rámec, který dokáže překlenout rozdílné regulační přístupy. Výzvou je nalezení konsensu mezi zeměmi s velmi odlišnými hodnotami a prioritami.

Co to znamená pro budoucnost vývoje umělé inteligence?

Nařízení EU o umělé inteligenci nepochybně utváří krajinu vývoje umělé inteligence. Někteří odborníci jej považují za nezbytné opatření k posílení důvěry v systémy umělé inteligence a zajištění jejich zodpovědného rozvoje. Tvrdí, že jasná pravidla povedou v dlouhodobém horizontu k lepším a bezpečnějším systémům umělé inteligence.

Jiní se obávají, že regulace by mohla oslabit inovační sílu Evropy. Poukazují na to, že náklady na dodržování předpisů představují překážku, zejména pro menší společnosti, a že talentovaní vývojáři by mohli potenciálně migrovat na méně regulované trhy. Nadcházející roky ukážou, které z těchto předpovědí se naplní.

Regulační cesta Evropy: ochrana a pokrok v oblasti umělé inteligence

Zavedení přísnějších pravidel pro systémy umělé inteligence v EU představuje historický okamžik v regulaci technologií. S postupným zaváděním nařízení o umělé inteligenci Evropa otevírá nové cesty a stanovuje standardy, které lze replikovat po celém světě. Klíčovou výzvou se stává nalezení rovnováhy mezi ochranou a inovacemi, bezpečností a pokrokem.

Pro všechny zúčastněné – od velkých technologických společností přes startupy až po individuální uživatele – to představuje dobu změn a adaptace. Úspěšná implementace bude záviset na tom, jak dobře se abstraktní principy regulace podaří převést do praktických řešení. Zásadní bude spolupráce mezi všemi zúčastněnými stranami: regulační orgány, podniky, akademická obec a občanská společnost musí spolupracovat, aby zajistily, že umělá inteligence bude moci realizovat svůj pozitivní potenciál a zároveň minimalizovat rizika.

Nadcházející roky ukážou, zda EU svým regulačním přístupem vytvořila model pro svět, nebo zda se alternativní přístupy ukážou jako lepší. Jisté je pouze to, že debata o správné rovnováze mezi inovacemi v oblasti umělé inteligence a regulací bude pokračovat ještě dlouho. Pravidla, která vstoupí v platnost 2. srpna 2025, jsou pouze začátkem delšího vývoje, který bude formovat digitální budoucnost Evropy a možná i světa.

☑️ Podpora MSP ve strategii, poradenství, plánování a implementaci

☑ Vytváření nebo přepracování strategie AI

☑️ Pioneer Business Development

 

Rád posloužím jako váš osobní poradce.

Můžete mě kontaktovat vyplněním kontaktního formuláře níže nebo mi jednoduše zavolejte na číslo +49 89 89 674 804 (Mnichov) .

Těším se na náš společný projekt.

 

 

Xpert.Digital je centrum pro průmysl se zaměřením na digitalizaci, strojírenství, logistiku/intralogistiku a fotovoltaiku.

S naším 360° řešením pro rozvoj podnikání podporujeme známé společnosti od nových obchodů až po poprodejní služby.

Market intelligence, smarketing, automatizace marketingu, vývoj obsahu, PR, e-mailové kampaně, personalizovaná sociální média a péče o potenciální zákazníky jsou součástí našich digitálních nástrojů.

Více najdete na: www.xpert.digital – www.xpert.solar – www.xpert.plus