Potřebuje umělá inteligence pravidla? – Zpráva o umělé inteligenci: Regulace pro ochranu, nebo brzda inovací?

Regulace umělé inteligence (AI) již není vizí budoucnosti. Evropská unie vytvořila s přijetím zákona EU o AI průlomový rámec, který má řešit příležitosti a výzvy spojené s AI. Jak je však tato regulace přijímána v obchodním světě? A jaké bude mít důsledky pro společnost a inovační kapacitu evropských firem?

Zákon EU o umělé inteligenci – Nová éra regulace umělé inteligence

Zákon EU o umělé inteligenci kategorizuje systémy umělé inteligence do čtyř rizikových tříd, čímž pokládá základy pro diferencovanou regulaci:

1. Nepřijatelné riziko: Praktiky, které porušují etické principy, jako je sociální bodování nebo manipulativní technologie, budou zakázány.
2. Vysoké riziko: Aplikace v oblastech kritických z hlediska bezpečnosti, jako je lékařství, doprava nebo vymáhání práva, podléhají přísným předpisům.
3. Omezené riziko: V tomto případě platí povinnosti transparentnosti, zejména pokud jde o používání chatbotů nebo automatizovaných rozhodovacích procesů.
4. Minimální riziko: Pro aplikace s nízkým rizikem neexistují téměř žádná omezení.

S tímto přístupem si zákon EU o umělé inteligenci klade za cíl nejen chránit spotřebitele a podniky, ale také stanovit etické standardy, které by mohly sloužit jako globální model. Tyto ambice však vyvolávají otázky: Chrání zákon EU o umělé inteligenci před zneužitím, nebo brání inovacím?

### Reakce firem: Příležitosti a výzvy

Reakce firem na zákon EU o umělé inteligenci jsou smíšené. Komplexní studie organizace SALT AND PEPPER z léta 2024 ukazuje, jak odlišně firmy hodnotí toto nařízení:

• Pozitivní vnímání: 61 % dotázaných společností vnímá regulaci jako příležitost ke zlepšení nakládání s umělou inteligencí a budování důvěry.
• Obavy: 52,3 % respondentů se však obává, že by jejich inovační příležitosti mohly být omezené.

Je obzvláště patrné, že mnoho společností ještě není dostatečně připraveno:

• Pouze 26,2 % respondentů důkladně prostudovalo požadavky zákona o umělé inteligenci.
• Téměř polovina (48,6 %) uvádí, že dosud neprovedla žádné hloubkové přípravy.

Tato čísla ukazují, že mnoho společností podceňuje výzvy, které s sebou regulace přináší.

Postoj společnosti k regulaci umělé inteligence

Jedním z klíčových zjištění studie je, že 76 % respondentů obecně podporuje regulaci umělé inteligence. Zároveň se 52 % obává, že nadměrná regulace by mohla potlačit potenciál této technologie. Tento rozpor odráží ústřední dilema: zatímco bezpečnost a etika jsou prvořadé, ekonomické příležitosti nesmí být zanedbávány.

Výhody regulace

Zákon EU o umělé inteligenci přináší řadu výhod, které ovlivňují jak spotřebitele, tak podniky:

• Ochrana spotřebitele: Regulace chrání před neetickými praktikami a posiluje práva uživatelů.
• Etika a spravedlnost: Přísná nařízení mají za cíl omezit diskriminační algoritmy.
• Budování důvěry: 34,9 % společností očekává, že regulace zvýší důvěru v umělou inteligenci.
• Právní jistota: Téměř 39 % dotázaných vnímá nová nařízení jako příležitost k jasnějším právním rámcům.

Tyto výhody by mohly z dlouhodobého hlediska pomoci zvýšit přijetí umělé inteligence ve společnosti a lépe postavení evropských společností v globální konkurenci.

Výzvy a kritika

Navzdory výše uvedeným výhodám existují i ​​značné obavy:

• Potlačení inovací: 54 % dotázaných společností označilo regulaci za potenciální překážku inovací. Zejména v dynamických odvětvích, jako jsou IT a startupy, existují obavy, že utrpí konkurenceschopnost.
• Konkurenční nevýhody: Evropa by mohla zaostávat za méně regulovanými trhy, jako jsou USA nebo Čína.
• Byrokracie: Zejména malé a střední podniky (MSP) by mohly být zatíženy vysokými náklady na dodržování předpisů.

Klíčovým požadavkem podnikatelské komunity je proto, aby regulace nebyla nadměrná a ponechávala prostor pro inovace. „Výzva spočívá v nalezení rovnováhy mezi dodržováním předpisů a inovační kapacitou,“ zdůrazňují experti.

Jak z toho mohou firmy těžit?

Navzdory výzvám nabízí zákon EU o umělé inteligenci také příležitosti pro společnosti, které se novým požadavkům přizpůsobí včas:

1. Včasná adaptace: Společnosti, které se rychle přizpůsobí novým předpisům, si mohou zajistit konkurenční výhodu.
2. Důvěra jako konkurenční výhoda: Firmy mohou získat body u zákazníků prostřednictvím transparentních a etických aplikací umělé inteligence.
3. Financování a spolupráce: EU nabízí podporu výzkumu a vývoji, zejména malým a středním podnikům a začínajícím podnikům.

Požadavky a budoucí vyhlídky

Aby se co nejlépe využil potenciál umělé inteligence a zachovala se inovativní kapacita Evropy, odborníci volají po jasné strategii:

1. Investice do výzkumu a vývoje: Evropa si může udržet konkurenceschopnost na globálním trhu pouze díky rozsáhlému financování.
2. Jednotná strategie pro umělou inteligenci: Koordinovaný přístup na národní i unijní úrovni je klíčový.
3. Podpora podniků: Speciální programy pro malé a střední podniky by mohly pomoci snížit regulační zátěž.

Nadcházející roky ukážou, zda bude zákon EU o umělé inteligenci skutečně vnímán jako motor inovací, nebo jako překážka. Klíčovým faktorem bude, zda Evropa dokáže najít rovnováhu mezi bezpečností a pokrokem.

Zákon EU o umělé inteligenci představuje významný krok v regulaci umělé inteligence. Nová pravidla sice posilují ochranu spotřebitelů a etické standardy, ale zároveň představují výzvy pro inovační kapacitu evropských společností. Je na tvůrcích politik, aby připravili cestu pro bezpečné a zároveň budoucnosti odolné používání umělé inteligence. Společnosti, které se včas přizpůsobí, mohou nejen těžit z regulace, ale také se stát průkopníky v eticky odpovědném vývoji umělé inteligence. Debata o zákonu o umělé inteligenci ukáže, zda Evropa dokáže úspěšně vyvážit regulaci a podporu inovací, a tím převzít vedoucí roli v globálním prostředí umělé inteligence.

V době, kdy digitální přítomnost společnosti určuje její úspěch, spočívá výzva ve vytvoření autentické, personalizované a dalekosáhlé prezentace. Xpert.Digital nabízí inovativní řešení, které se pozicionuje jako průnik průmyslového centra, blogu a ambasadora značky. Spojuje výhody komunikačních a prodejních kanálů v jedné platformě a umožňuje publikaci v 18 různých jazycích. Spolupráce s partnerskými portály a možnost publikovat články na Google News a v distribučním seznamu tisku s přibližně 8 000 novináři a čtenáři maximalizuje dosah a viditelnost obsahu. To představuje klíčový faktor v externím prodeji a marketingu (SMarketing).

Více informací zde:

• Autentické. Individuální. Globální: Strategie Xpert.Digital pro vaši společnost

Napětí mezi regulací a inovací

Vypracování komplexního regulačního rámce pro umělou inteligenci, jak jej prosazuje zákon EU o umělé inteligenci, se v současné době těší značné pozornosti tvůrců politik, podniků i společnosti. To odhaluje napětí mezi potřebou ochrany spotřebitelů a etickými pokyny na jedné straně a úsilím o technologickou svobodu inovací na straně druhé. Následovaly živé diskuse, které často vyvolávaly otázku, zda regulace systémů umělé inteligence brzdí technologický pokrok, nebo zda jej ve skutečnosti dlouhodobě posiluje. Následující diskuse toto napětí podrobně zkoumá, reflektuje nejdůležitější aspekty a rozvíjí je o další úvahy.

„Rozvoj umělé inteligence je dvousečná zbraň: Na jedné straně nám umožňuje dosáhnout obrovského pokroku v mnoha odvětvích, ale na druhé straně musíme mít vždy na paměti etické a společenské důsledky.“ Mnoho respondentů, kteří se tématem hlouběji zabývali, vyjadřuje podobné pocity. Právě zde přichází na řadu zákon EU o umělé inteligenci, který se pokouší stanovit jasné směrnice pro další vývoj umělé inteligence v Evropě.

Zákon EU o umělé inteligenci a jeho třídy rizik

Zákon EU o umělé inteligenci (AI Act) je založen na přístupu založeném na riziku, který kategorizuje umělou inteligenci a definuje různé regulační požadavky. Na nejvyšší úrovni se rozlišuje mezi zakázanými, vysoce rizikovými, omezeně rizikovými a minimálně rizikovými aplikacemi. Tato kategorizace je založena na oblastech použití a pro každou z nich předepisuje závazná pravidla. Systémy umělé inteligence v kategorii „nepřijatelné riziko“ jsou zcela zakázány, zatímco vysoce rizikové systémy podléhají přísným regulacím. Například lékařská nebo dopravní řešení umělé inteligence spadají do kategorie vysoce rizikových, protože jejich dopad na lidi, zdraví a komunitu je významný. Pro „omezená rizika“, jako jsou chatboti nebo automatizované zákaznické služby, návrh zákona stanoví povinnosti transparentnosti. Pro aplikace s minimálním rizikem však předpisy zůstávají velmi shovívavé a ponechávají značný prostor pro podnikatelského ducha a kreativitu.

Klíčovou součástí této regulace je rozvoj společného chápání toho, jak dodržovat bezpečnostní a kvalitativní normy. Cílem je chránit podniky i spotřebitele, aniž by se předčasně potlačily průlomové myšlenky. Doufá se, že „pokud řádná regulace vybuduje důvěru, budou z výhod spolehlivé umělé inteligence dlouhodobě těžit jak výrobci, tak uživatelé.“

Nálada v ekonomice

Praktická implementace zákona EU o umělé inteligenci však představuje pro mnoho společností výzvy. Podle komplexního průzkumu více než polovina dotázaných specialistů a manažerů vidí potenciální překážky inovací. Významná část (52 %) se obává, že regulace, zejména v Evropě, by mohla vytvořit konkurenční nevýhodu ve srovnání s méně regulovanými regiony světa. Nicméně 76 % respondentů obecně podporuje regulaci umělé inteligence a přeje si jasné pokyny, které zajistí právní jistotu a spolehlivost. To ukazuje, že mnoho osob s rozhodovací pravomocí si je velmi dobře vědomo rovnováhy mezi ochranou a podporou.

„Na jedné straně nechceme, aby se na trh bez dohledu dostávaly nezodpovědné systémy umělé inteligence. Na druhé straně musíme zajistit, abychom v mezinárodním závodě v inovacích nezaostávali.“ Toto dilema se týká mnoha společností a odvětví. V souladu s tím jsou i konkrétní očekávání rozdělena: 61 % respondentů souhlasí s tím, že zákon o umělé inteligenci může být přínosný pro používání a nakládání s umělou inteligencí. Stejná skupina zdůrazňuje potřebu navrhnout předpisy tak, aby zabránily zneužití a zároveň ponechaly prostor pro nové nápady.

Připravenost – Jak dobře jsou firmy připraveny?

Navzdory obecně pozitivnímu postoji mnoha vedoucích pracovníků k regulaci je jen velmi málo společností plně připraveno. Pouze asi 26 % z nich důkladně prostudovalo požadavky zákona o umělé inteligenci a jejich implementaci. To vyvolává otázky ohledně praktické implementace. Když je zaveden nový legislativní balíček, který může mít dalekosáhlé dopady na obchodní modely nebo výrobní procesy, často není triviální provést potřebné úpravy včas.

Mnoho respondentů vyjádřilo obavy, že byrokratické překážky by mohly obzvláště tvrdě zasáhnout malé a střední podniky (MSP). „Pro velké korporace s celými právními a compliance odděleními je snazší se přizpůsobit novým předpisům. Pro malé a střední podniky, startupy a odštěpky univerzit to však může představovat značnou výzvu.“ Toto napětí dále zhoršují další aspekty, jako je ochrana údajů, etické požadavky a potřeba transparentního zpracování údajů.

Příležitosti plynoucí z regulace

Navzdory všem obavám nabízí regulace systémů umělé inteligence i jasné výhody. Pokud jde o bezpečnost spotřebitelů, může například zákon o umělé inteligenci pomoci eliminovat manipulativní sociální bodování nebo diskriminační systémy umělé inteligence. To nejen chrání jednotlivce, ale také přispívá k posílení důvěry v technologické inovace obecně. V této souvislosti 34,9 % společností zdůrazňuje, že očekávají pozitivní vliv na obecnou důvěru v systémy umělé inteligence, pokud budou tyto systémy transparentnější a ověřitelnější.

Mnoho osob s rozhodovací pravomocí navíc vnímá větší právní jistotu jako výhodu. Zejména v technicky složité oblasti, jako je umělá inteligence, je riziko vstupu do právních šedých zón vysoké. „Jasné předpisy nám pomáhají vyvíjet a prodávat naše řešení na pevných základech od samého začátku. Nejasné zákony často vedou k nedorozuměním a v konečném důsledku zpomalují projekty.“ Tento argument bude pravděpodobně obzvláště přesvědčivý pro společnosti, které investují značné prostředky do výzkumu a vývoje a spoléhají na dlouhodobou jistotu plánování.

Výzvy pro inovace a konkurenceschopnost

Jednou z nejčastěji vyjadřovaných kritik zákona EU o umělé inteligenci je obava, že by technologický rozvoj v Evropě mohl ve srovnání s jinými regiony světa stagnovat. Zatímco systémy umělé inteligence jsou někdy v USA nebo Číně vyvíjeny a testovány volněji, přísnější regulace v Evropě by mohly znamenat, že rozběh nových projektů bude trvat déle. Tuto obavu sdílí 52 % respondentů, kteří ji vnímají jako omezení potenciálu budoucího vývoje.

„Určitá míra regulace je rozumná, ale pokud budeme každý inovativní projekt tlačit byrokratickou cestou, promarníme konkurenční výhodu Evropy.“ Toto hodnocení často vyjadřují technologické společnosti konkurující na mezinárodní úrovni, které se obávají, že investice a talenty budou snadněji proudit do regionů s méně zatěžujícím regulačním prostředím. Cílem většiny zúčastněných stran však není pouhé „méně regulace“. Spíše se jedná o nalezení střední cesty mezi jasnými a spolehlivými standardy a dostatečnou svobodou pro experimentování.

Potenciál pro budoucnost orientovanou oblast umělé inteligence

Možnosti umělé inteligence ve zdravotnictví

Navzdory všem složitostem a diskusím je umělá inteligence vnímána jako významná technologie budoucnosti, která za správných podmínek dokáže vyřešit řadu společenských problémů. Jednou z oblastí, kde může umělá inteligence uvolnit velký potenciál, je zdravotnictví. Vysoce rizikové systémy umělé inteligence pro diagnostiku nebo doporučení terapie musí být spolehlivé a bezpečné. Požadavky stanovené zákonem EU o umělé inteligenci pro takové aplikace jsou proto přísné. Pečlivá regulace může být obzvláště užitečná při ochraně lidských životů a prevenci zneužití.

Pokrok v mobilitě prostřednictvím systémů umělé inteligence

Další klíčovou oblastí je mobilita. Autonomní vozidla, inteligentní systémy řízení dopravy a asistenční systémy pro řidiče jsou založeny na algoritmech, které v reálném čase činí někdy složitá rozhodnutí. Bezpečnost uživatelů přímo závisí na kvalitě těchto systémů. „Pokud chceme někdy povolit provoz vozidel ovládaných umělou inteligencí na silnicích napříč zeměmi, musíme v technologii důvěřovat,“ zdůrazňuje mnoho hlasů z automobilového průmyslu a dodavatelských společností. Dobře promyšlená nařízení spolu s praktickými testovacími fázemi a spolehlivými testovacími postupy mohou být rozhodující pro to, aby se Evropa stala průkopníkem ve vývoji a implementaci bezpečných konceptů umělé inteligence.

Podpora ekonomiky

Potřeba programů financování a poradenství pro firmy

Aby se zabránilo tomu, aby se umělá inteligence v Evropě stala překážkou, odborníci a zástupci průmyslu volají po větší podpoře. To zahrnuje cílené programy financování na pomoc s implementací nových předpisů a poradenské služby speciálně pro menší společnosti. „Ti, kdo vytvářejí pravidla, musí také poskytovat podporu, aby je zúčastněné strany mohly dodržovat, aniž by jim bránily byrokratické překážky.“ To by zajistilo, že startupy a malé výzkumné ústavy nezůstanou pozadu a budou moci i nadále rozvíjet inovativní nápady.

Spolupráce mezi politikou, vědou a podnikáním

Dále je nezbytná úzká spolupráce mezi politikou, vědou a průmyslem. Pouze pokud budou všechny zúčastněné strany spolupracovat, bude možné nejen vyvíjet technologie, ale také je bezpečně a zodpovědně uvádět na trh. Například jednotná strategie pro umělou inteligenci na evropské úrovni by mohla nejen definovat právní rámec, ale také řídit financování výzkumu a budování kapacit. Jedna věc je totiž jasná: umělá inteligence není čistě technický problém, ale transformační proces pro celou společnost.

Hodnota etiky, ochrany údajů a transparentnosti

Problémy způsobené chybnými datovými soubory a diskriminací

Umělá inteligence má potenciál činit rozhodnutí rychleji a často objektivněji než lidé. Za tím vším se však skrývá algoritmus naprogramovaný lidmi a zásobovaný daty. Chyby v datových sadách nebo nejasné cíle mohou vést ke zkreslení. Když například systémy umělé inteligence činí personální rozhodnutí nebo poskytují půjčky, je třeba zajistit, aby nedocházelo k žádné diskriminaci. To vyžaduje důkladné prozkoumání etických principů. „Nesmíme zapomínat, že umělá inteligence je jen tak dobrá, jako data, na kterých je založena. Objektivita není automatická, ale musí být aktivně zajišťována.“

Ochrana údajů a transparentnost jako pilíře rozvoje

Ochrana údajů do tohoto kontextu bezproblémově zapadá. Evropské normy ochrany údajů patří k nejpřísnějším na světě. Obzvláště obecné nařízení o ochraně osobních údajů (GDPR) prokázalo, že je možné sladit technologie a soukromí. Zákon o umělé inteligenci si klade za cíl zajistit, aby citlivé údaje nebyly zneužívány. Zároveň klade důraz na transparentnost. Spotřebitelé by měli vědět, kdy interagují se systémem umělé inteligence a jak jsou jejich data používána. Tento přístup k transparentnosti posiluje důvěru v technologii, ale také vyvíjí tlak na společnosti, protože musí své procesy zveřejňovat otevřeněji.

Průkopník nebo mlýnský kámen kolem krku

Rizika a příležitosti zákona EU o umělé inteligenci

Klíčovou otázkou nakonec je, zda zákon EU o umělé inteligenci a další předpisy týkající se umělé inteligence katapultují Evropu do role průkopníka, nebo zda riskují technologické zaostávání. Pozorovatelé se domnívají, že regulace a inovace se nemusí nutně vzájemně vylučovat. „Pokud máme solidní pokyny, dlouhodobé výhody převáží počáteční překážky. Společnosti se mohou orientovat na jasné standardy a vyvíjet své produkty způsobem, který je v souladu s právními předpisy.“ Mohlo by se dokonce ukázat, že dobře promyšlený právní rámec pomáhá společnostem nabízet udržitelné a globálně konkurenceschopné produkty z dlouhodobého hlediska.

Flexibilní testovací plochy a přizpůsobivost regulace

Tyto obavy však nelze ignorovat. V globálním závodě v inovacích je rychlost klíčovým faktorem. Příliš restriktivní regulace nebo podpůrné struktury, které rostou příliš pomalu, by mohly v některých oblastech brzdit Evropu. V souladu s tím je již na programu možný další rozvoj zákona o umělé inteligenci nebo doplňující legislativy. Mnoho zasvěcených osob prosazuje flexibilní „regulační sandboxy“ – testovací oblasti, kde by nové technologie umělé inteligence mohly být testovány pod dohledem, aniž by bylo nutné okamžitě splňovat všechny požadavky v plném rozsahu. To by umožnilo shromažďování poznatků a v případě potřeby úpravy předpisů.

Vyvažování inovací a etické odpovědnosti

Zákon EU o umělé inteligenci je významným krokem k vytvoření rámce pro pokračující rozvoj umělé inteligence v Evropě. Odráží potřebu sladit inovace a etickou odpovědnost. Na jedné straně existují vysoká očekávání ohledně ochrany spotřebitelů, soukromí údajů a budování důvěry. Na druhé straně se společnosti potýkají s byrokratickými překážkami a potenciálními konkurenčními nevýhodami.

„Technologie nás posune vpřed pouze tehdy, bude-li akceptována a podporována i ve svém sociálním a etickém rozměru.“ Na tomto tvrzení je hodně pravdy: Pouhá deregulace může vytvořit krátkodobé pobídky, ale z dlouhodobého hlediska oslabuje důvěru veřejnosti. Naopak, nadměrná regulace může zabránit slibným nápadům včas se dostat na trh. Klíč tedy spočívá v pečlivém zvážení všech zájmů a ve schopnosti v případě potřeby upravit kurz.

Opatření potřebná k zajištění budoucnosti Evropy

Studie, která tvoří základ této diskuse, poskytuje detailní obraz nálad v německé podnikatelské komunitě: Většina podporuje myšlenku regulace umělé inteligence, ale zároveň se obává o inovační kapacitu evropských společností. Pouze malá část se cítí dostatečně připravena. Vytvoření konkurenceschopného a spolehlivého sektoru umělé inteligence v Evropě vyžaduje další investice, komplexní strategie a praktickou podporu pro všechny typy podniků – od startupů až po velké korporace.

Zda se zákon EU o umělé inteligenci nakonec promítne do konkurenční výhody, závisí do značné míry na vytvoření prostředí, v němž se společnosti mohou spolehnout na právně zdravé rámce a zároveň mít dostatečný prostor pro vývoj nových technologií. Jednotná evropská strategie pro umělou inteligenci, úzce spojená s podporou výzkumu a vývoje, může tuto cestu připravit. Inovace a regulace se nemusí vzájemně vylučovat – v ideálním případě se budou vzájemně posilovat a položí základy pro svět umělé inteligence, kde efektivita, bezpečnost a etika jdou ruku v ruce.

☑️ Podpora malých a středních podniků v oblasti strategie, poradenství, plánování a implementace

☑️ Vytvoření nebo restrukturalizace digitální strategie a digitalizace

☑️ Rozšíření a optimalizace mezinárodních prodejních procesů

☑️ Globální a digitální B2B obchodní platformy

☑️ Průkopnický rozvoj podnikání

 

Rád/a bych sloužil/a jako váš osobní poradce.

Můžete mě kontaktovat vyplněním níže uvedeného kontaktního formuláře nebo mi jednoduše zavolat na číslo +49 7348 4088 965 .

Těším se na náš společný projekt.

 

 

Xpert.Digital je centrum pro průmysl se zaměřením na digitalizaci, strojírenství, logistiku/intralogistiku a fotovoltaiku.

S naším komplexním řešením pro rozvoj podnikání 360° podporujeme renomované společnosti od nových obchodů až po poprodejní služby.

Součástí našich digitálních nástrojů jsou analýzy trhu, s-marketing, marketingová automatizace, vývoj obsahu, PR, mailové kampaně, personalizované sociální sítě a péče o leady.

Více informací naleznete na: www.xpert.digital - www.xpert.solar - www.xpert.plus