Zákazy AI a povinnost kompetencí: EU AI Akt-nová éra při řešení umělé inteligence

Zákon EU o umělé inteligenci: Nová pravidla pro umělou inteligenci od února 2025

Zákon Evropské unie o umělé inteligenci (AI Act) vstoupí v platnost 2. února 2025 a zavádí rozsáhlé změny v používání umělé inteligence (AI) v Evropě. Společnosti, veřejné orgány a vývojáři, kteří v EU používají nebo nabízejí systémy AI, musí dodržovat přísná nařízení. Cílem zákona o AI je zajistit bezpečnost a transparentnost systémů AI, chránit základní lidská práva a posílit ochranu spotřebitelů.

Nová pravidla zahrnují mimo jiné jasné zákazy určitých vysoce rizikových aplikací umělé inteligence, požadavek na školení zaměstnanců a vysoké sankce za porušení.

Vhodné pro:

• Evropská budoucnost AI: Jak může EU AI držet krok v globálním závodě o umělou inteligenci

Zakázané praktiky umělé inteligence (od 2. února 2025)

Některé aplikace umělé inteligence jsou považovány za nepřijatelně rizikové, a proto budou od února 2025 zakázány. Patří mezi ně:

1. Sociální bodování

Hodnocení jednotlivců na základě jejich sociálního chování nebo osobních charakteristik, jako například:

• Analýza dat ze sociálních médií pro posouzení úvěruschopnosti,
• Hodnocení občanů na základě jejich politických názorů nebo náboženského přesvědčení,
• Automatizované úvěrové hodnocení na základě okruhu přátel nebo místa bydliště.

2. Rozpoznávání emocí v citlivých oblastech

Systémy umělé inteligence, které analyzují emoce nebo psychologické stavy v určitých prostředích, jsou zakázány:

• Na pracovišti (např. systémy, které měří stres nebo frustraci na základě výrazů obličeje),
• Ve vzdělávacích institucích (např. umělá inteligence, která sleduje soustředění studentů).

3. Biometrický dohled v reálném čase ve veřejných prostorách

Používání systémů rozpoznávání obličeje a dalších biometrických systémů v reálném čase je zakázáno, například:

• Kamery na vlakových nádražích nebo náměstích pro hromadný dohled,
• Automatické rozpoznávání obličeje pro identifikaci osob bez jejich souhlasu.

Výjimka: Použití je povoleno, pokud je určeno k boji proti závažným trestným činům (např. terorismu) a byl vydán soudní příkaz.

4. Manipulativní umělá inteligence

Systémy, které záměrně zneužívají psychickou zranitelnost lidí k manipulaci s nimi, jsou zakázány. Patří mezi ně:

• Hračky ovládané hlasem, které děti povzbuzují k riskantnímu chování,
• Reklama poháněná umělou inteligencí, která manipuluje lidi k nechtěným nákupům.

5. Prediktivní policejní práce

Systémy umělé inteligence, které klasifikují lidi jako potenciální zločince na základě osobnostních rysů nebo sociálních faktorů, jsou zakázány.

Používání umělé inteligence je i nadále povoleno, pokud je založeno na objektivních skutečnostech, jako jsou například záznamy v trestním rejstříku.

6. Biometrická kategorizace

Automatická klasifikace osob podle kritérií, jako jsou: je zakázána

• Etnický původ,
• sexuální orientace,
• politický názor.

Povinné školení zaměstnanců v oblasti umělé inteligence

Kromě zákazů vysoce rizikové umělé inteligence zákon o umělé inteligenci také nařizuje školení zaměstnanců, kteří pracují se systémy umělé inteligence. Společnosti a vládní agentury musí zajistit, aby jejich zaměstnanci měli dostatečné odborné znalosti.

Obsah školení:

• Technické znalosti používaných nástrojů umělé inteligence,
• Povědomí o rizicích, jako je diskriminace nebo problémy s ochranou osobních údajů,
• Kritická reflexe rozhodnutí v oblasti umělé inteligence.

Dotčené skupiny:

• Vývojáři systémů umělé inteligence (např. startupy v oblasti generativní umělé inteligence),
• Personální oddělení, která využívají umělou inteligenci v náborových procesech,
• Bezpečnostní orgány s dohledovými systémy podporovanými umělou inteligencí,
• Univerzity a veřejná správa využívající analýzu dat s podporou umělé inteligence.

Společnosti jsou povinny dokumentovat vzdělávací opatření a pravidelně je aktualizovat.

Důsledky porušení zákona o umělé inteligenci

Nedodržení nových předpisů bude mít za následek přísné sankce:

• Pokuty až do výše 35 milionů eur nebo 7 % celosvětového ročního obratu,
• Rizika odpovědnosti v případě škod vzniklých v důsledku chybných aplikací umělé inteligence,
• Zákazy provozu, pokud společnost opakovaně porušuje pokyny pro umělou inteligenci.

Za sledování dodržování předpisů budou odpovědné národní regulační orgány, které začnou pracovat v srpnu 2025. V Německu se očekává, že za to bude odpovědná Federální agentura pro sítě.

Mezery a výjimky

Ačkoli zákon o umělé inteligenci zakazuje mnoho rizikových aplikací, existují výjimky:

1. Vymáhání práva

• Používání biometrického dohledu je i nadále povoleno v případech závažných trestných činů (např. boj proti terorismu).
• Policie může používat umělou inteligenci k rozpoznávání obličeje, pokud k tomu získá soudní povolení.

2. Hraniční kontroly

• Umělá inteligence může být použita k analýze emocionálního stavu uprchlíků.
• Některá hodnocení rizik podporovaná umělou inteligencí zůstávají povolena.

3. Výzkum a vývoj

• Některé vysoce rizikové systémy umělé inteligence mohou být vyvíjeny pro vědecké účely, pokud nebudou používány v praxi.

Opatření vyžadovaná od společností

Zákon EU o umělé inteligenci stanoví nové globální standardy pro etické používání umělé inteligence. Společnosti se musí na nová pravidla připravit včas, zejména:

• Testování jejich systémů umělé inteligence z hlediska souladu s předpisy,
• Implementace interních vzdělávacích programů,
• Dokumentace rozhodnutí a posouzení rizik v oblasti umělé inteligence.

Ti, kteří ignorují přísná nařízení, riskují nejen vysoké pokuty, ale také masivní ztrátu důvěry mezi zákazníky a partnery. Je proto vhodné začít již nyní upravovat procesy a pokyny tak, aby splňovaly požadavky zákona o umělé inteligenci.

Od lokálního po globální: Malé a střední podniky dobývají globální trh chytrými strategiemi - Obrázek: Xpert.Digital

V době, kdy digitální přítomnost společnosti určuje její úspěch, je výzvou, jak tuto přítomnost učinit autentickou, individuální a dalekosáhlou. Xpert.Digital nabízí inovativní řešení, které se staví jako průsečík mezi průmyslovým centrem, blogem a ambasadorem značky. Spojuje výhody komunikačních a prodejních kanálů v jediné platformě a umožňuje publikaci v 18 různých jazycích. Spolupráce s partnerskými portály a možnost publikování článků na Google News a tiskový distribuční seznam s cca 8 000 novináři a čtenáři maximalizují dosah a viditelnost obsahu. To představuje základní faktor v externím prodeji a marketingu (SMarketing).

Více o tom zde:

• Autentický. Jednotlivě. Globální: Strategie Xpert.Digital pro vaši společnost

Umělá inteligence pod drobnohledem: Dopad zákona o umělé inteligenci na Evropu

Dnes vstupuje v platnost zákon Evropské unie o umělé inteligenci (AI Act), průlomový zákon, který zásadně restrukturalizuje nakládání s umělou inteligencí (AI). Tento zákon představuje zásadní zlom, protože poprvé zavádí konkrétní zákazy určitých aplikací umělé inteligence a zároveň stanovuje vysoké standardy pro kompetence těch, kteří s těmito technologiemi pracují. Zákon o umělé inteligenci si klade za cíl využít obrovské příležitosti, které umělá inteligence nabízí, aniž by byla ohrožena základní práva občanů nebo tolerována nepřijatelná rizika.

Působnost zákona o umělé inteligenci je široká a ovlivňuje společnosti, veřejné orgány i vývojáře, kteří používají nebo nabízejí systémy umělé inteligence v rámci EU. To znamená, že nová nařízení ovlivní prakticky všechny oblasti naší společnosti, od podnikání a veřejné správy až po sektor vzdělávání. Důsledky tohoto zákona jsou obrovské a přinesou zásadní změny ve způsobu, jakým umělou inteligenci vyvíjíme, používáme a regulujeme.

Zakázané praktiky umělé inteligence: Štít pro občanské svobody

Jádrem zákona o umělé inteligenci jsou jasně definované zákazy určitých aplikací umělé inteligence, které jsou klasifikovány jako obzvláště rizikové nebo škodlivé. Tyto zákazy nemají za cíl potlačit inovace, ale spíše představují nezbytný ochranný mechanismus k ochraně základních práv a lidské důstojnosti v digitálním světě.

Zákaz sociálního bodování

Jeden z nejvýznamnějších zákazů se týká tzv. „sociálního bodování“. To zahrnuje hodnocení jednotlivců na základě sociálních charakteristik, jako jsou politické názory, náboženská příslušnost nebo nákupní chování. „Lidé nesmí být redukováni na pouhé soubory dat,“ varoval během jednání jeden z komisařů EU. Systémy, které takto sociálně hodnotí jednotlivce a zařazují je do jakéhosi žebříčku, jsou považovány za neslučitelné s evropskými hodnotami. K tomuto přísnému postoji přispěly zkušenosti s podobnými systémy v jiných částech světa, které vedly k sociálnímu vyloučení a diskriminaci.

Zákaz rozpoznávání emocí na pracovišti a ve vzdělávacích institucích

Zákon o umělé inteligenci zakazuje používání technologií rozpoznávání emocí na pracovišti a ve vzdělávacích institucích. „Svět práce a vzdělávání se nesmí stát arénou pro sledování,“ zdůraznil poslanec Evropského parlamentu. Zaznamenávání stresu, frustrace nebo únavy systémy umělé inteligence je považováno za zásah do soukromí a osobní autonomie dotčených osob. Obavy jsou, že takové technologie by mohly vést k atmosféře nedůvěry a strachu a mohly by také přispět k nespravedlivému hodnocení výkonu.

Zákaz biometrického sledování v reálném čase ve veřejných prostorách

Používání biometrického sledování v reálném čase ve veřejných prostorách, jako jsou kamery na vlakových nádražích nebo na veřejných náměstích, je rovněž zakázáno. Toto sledování, které často zahrnuje rozpoznávání obličeje, je považováno za masivní narušení soukromí. Neustálý pohled sledovacího státu, jak jej nazývají kritici, je neslučitelný se základními principy svobodné a otevřené společnosti. Pro orgány činné v trestním řízení však existuje důležitá výjimka v případech závažných trestných činů, jako je terorismus. V těchto případech může být použití takových technologií odůvodněno za přísných podmínek a v omezeném rozsahu.

Zákaz manipulativní umělé inteligence

Další zásadní regulace se týká používání manipulativních systémů umělé inteligence. Tyto systémy, které záměrně zneužívají zranitelnosti zranitelných osob, jsou zákonem o umělé inteligenci zakázány. Mezi příklady patří hračky ovládané hlasem, které lákají děti k riskantnímu chování, nebo podvodné hovory poháněné umělou inteligencí, které vedou k finančním potížím starších lidí. Zákonodárce si klade za cíl zajistit, aby systémy umělé inteligence nebyly zneužívány k narušení nebo poškození svobody volby lidí.

Zákaz prediktivní policejní práce

Zákon o umělé inteligenci konečně zakazuje používání prediktivní policejní práce, při které jsou jednotlivci kategorizováni jako potenciální pachatelé na základě osobnostních rysů. Tato praxe je považována za diskriminační a nespravedlivou, protože může být založena na předsudcích a stereotypech. Je však důležité zdůraznit, že používání objektivních faktů, jako jsou záznamy v trestním rejstříku, zůstává povoleno.

Mandát pro kompetence v oblasti umělé inteligence: Základ pro zodpovědné používání umělé inteligence

Kromě zákazů obsahuje zákon o umělé inteligenci také klíčovou složku pro posílení kompetencí v oblasti umělé inteligence. Společnosti a veřejné orgány musí zajistit, aby zaměstnanci pracující se systémy umělé inteligence měli dostatečné odborné znalosti. Tento požadavek na kompetenci má zajistit, aby systémy umělé inteligence byly používány nejen efektivně, ale také eticky a zodpovědně.

Mezi požadované dovednosti patří technické porozumění používaným nástrojům umělé inteligence, povědomí o rizicích, jako je diskriminace nebo úniky dat, a schopnost kriticky hodnotit rozhodnutí týkající se umělé inteligence. Společnosti musí nabízet školení pro zaměstnance, kteří pracují s chatboty, náborovými nástroji nebo analytickými systémy založenými na umělé inteligenci. Toto školení musí být zdokumentováno a zohledňovat specifický kontext použití. Zaměstnanci musí být schopni pochopit, jak systémy umělé inteligence fungují, rozpoznat jejich omezení a identifikovat potenciální chyby nebo zkreslení. Musí zvážit etické důsledky své práce a pochopit dopad svých rozhodnutí na ty, kterých se to týká.

Povinnost prokázat kompetenci se vztahuje nejen na přímé uživatele systémů umělé inteligence, ale také na vývojáře technologií umělé inteligence. Ti musí zajistit, aby jejich systémy byly nejen technicky bezchybné, ale také splňovaly etické a právní požadavky. Musí zohledňovat principy „AI by Design“ a od samého začátku usilovat o minimalizaci rizik a potenciálních škod.

Důsledky porušení: Motivace k dodržování předpisů

Důsledky porušení zákona o umělé inteligenci (AI Act) jsou značné. Společnostem a vládním agenturám mohou být uloženy pokuty až do výše 35 milionů eur, neboli 7 % jejich celosvětového ročního obratu. Kromě toho mohou čelit rizikům odpovědnosti, pokud škody vzniknou v důsledku nedostatečné kompetence zaměstnanců. Obava z vysokých pokut a poškození pověsti má motivovat společnosti a vládní agentury k přísnému dodržování předpisů zákona o umělé inteligenci.

Je důležité zdůraznit, že zákon o umělé inteligenci není jen trestním zákonem, ale také nástrojem na podporu zodpovědného používání umělé inteligence. Tímto zákonem chce EU vyslat signál, že technologie umělé inteligence by měly být využívány ve službu lidstvu, a nikoli na jeho škodu.

Výzvy a otevřené otázky

Přestože je zákon o umělé inteligenci důležitým krokem vpřed, zůstávají některé výzvy a otevřené otázky. Přesné standardy školení a odpovědné regulační orgány je stále třeba dále upřesnit. Očekává se, že bude nějakou dobu trvat, než budou nová nařízení plně implementována a vstoupí v platnost.

Sledování dodržování předpisů bude velkou výzvou. Je třeba zajistit, aby společnosti a orgány dodržovaly předpisy nejen na papíře, ale i v praxi. Orgány dohledu musí být vybaveny potřebnými zdroji a pravomocemi k efektivnímu plnění svých úkolů.

Dalším důležitým aspektem je mezinárodní spolupráce. EU není jediným aktérem, který se zabývá regulací umělé inteligence. Je zásadní dosáhnout globálního konsensu ohledně etické a právní rámce pro umělou inteligenci. Fragmentovaná regulace by mohla vést ke konkurenčním nevýhodám a nerovnoměrnému rozdělení přínosů a rizik umělé inteligence.

Zákon o umělé inteligenci: Evropská vize pro budoucnost umělé inteligence zaměřenou na člověka

Zákon o umělé inteligenci je více než jen zákon. Je vyjádřením evropských hodnot a vizí odpovědné a na člověka zaměřené umělé inteligence. Je to výzva společnosti, aby se aktivně zapojila do příležitostí a rizik umělé inteligence a utvářela budoucnost, v níž budou technologie využívány ve prospěch všech.

Zákon o umělé inteligenci nepochybně přinese zásadní změnu v tom, jak s umělou inteligencí interagujeme. Ovlivní vývoj nových technologií a změní způsob, jakým je integrujeme do našeho každodenního života. Donutí společnosti a vládní agentury přehodnotit své postupy a přijmout k umělé inteligenci zodpovědnější přístup.

Zákon o umělé inteligenci je důležitým krokem k digitální budoucnosti, která slouží lidstvu, a ne naopak. Ukazuje připravenost Evropské unie převzít vedoucí roli při formování revoluce v oblasti umělé inteligence a zároveň upřednostňovat základní práva a lidskou důstojnost. Jedná se o zákon, který bude významný nejen pro Evropu, ale pro celý svět. Představuje pokus o nalezení rovnováhy mezi inovací a ochranou jednotlivce.

Etika a umělá inteligence: Zákon o umělé inteligenci jako ukazatel zodpovědné budoucnosti

Role etiky ve vývoji umělé inteligence

Zákon o umělé inteligenci (AI Act) není jen právním projektem, ale také etickým. Integrace etických principů do vývoje umělé inteligence je klíčová pro zajištění spravedlivých, transparentních a zodpovědných systémů umělé inteligence. Je třeba vést diskusi o etických otázkách týkajících se umělé inteligence, a to jak ve společnosti, tak i v rámci firem.

Důležitost transparentnosti

Transparentnost je klíčovým principem zákona o umělé inteligenci. Způsob fungování systémů umělé inteligence musí být srozumitelný, aby dotčené osoby mohly pochopit, jak se rozhodování činí. To je obzvláště důležité pro systémy umělé inteligence používané v citlivých oblastech, jako je zdravotnictví nebo soudnictví.

Dopad na trh práce

Využívání umělé inteligence bude mít dopad na trh práce. Budou vytvořena nová pracovní místa, ale také budou ztracena. Je důležité, aby se společnost na tyto změny připravila a přijala nezbytná opatření na podporu pracujících.

Role vzdělávání

Vzdělávání hraje klíčovou roli v podpoře kompetencí v oblasti umělé inteligence. Je nezbytné, aby se vzdělávací systémy přizpůsobily výzvám revoluce v oblasti umělé inteligence a poskytovaly potřebné dovednosti. To zahrnuje nejen technické dovednosti, ale také etické a sociální kompetence.

Ochrana soukromí

Ochrana soukromí je klíčovým aspektem zákona o umělé inteligenci. Shromažďování a zpracování dat systémy umělé inteligence musí být odpovědné. Subjekty údajů si musí zachovat kontrolu nad svými údaji a mít právo požádat o jejich smazání.

Podpora inovací

Zákon o umělé inteligenci by neměl být špatně chápán jako brzda inovací. Jeho účelem je spíše poskytnout rámec pro rozvoj odpovědných a eticky zdravých technologií umělé inteligence. Je důležité, aby firmy a výzkumníci i nadále měli příležitost prosazovat inovace v oblasti umělé inteligence.

☑️ Podpora MSP ve strategii, poradenství, plánování a implementaci

☑️ Vytvoření nebo přeladění digitální strategie a digitalizace

☑️ Rozšíření a optimalizace mezinárodních prodejních procesů

☑️ Globální a digitální obchodní platformy B2B

☑️ Pioneer Business Development

Konrad Wolfenstein

Rád posloužím jako váš osobní poradce.

Můžete mě kontaktovat vyplněním kontaktního formuláře níže nebo mi jednoduše zavolejte na číslo +49 89 89 674 804 (Mnichov) .

Těším se na náš společný projekt.

Xpert.Digital je centrum pro průmysl se zaměřením na digitalizaci, strojírenství, logistiku/intralogistiku a fotovoltaiku.

S naším 360° řešením pro rozvoj podnikání podporujeme známé společnosti od nových obchodů až po poprodejní služby.

Market intelligence, smarketing, automatizace marketingu, vývoj obsahu, PR, e-mailové kampaně, personalizovaná sociální média a péče o potenciální zákazníky jsou součástí našich digitálních nástrojů.

Více se dozvíte na: www.xpert.digital - www.xpert.solar - www.xpert.plus