Používání GPT v soukromém chatu versus firemní řešení s umělou inteligencí: Právní rizika a strategické alternativy

Nástroje umělé inteligence v kanceláři: Příležitosti a výzvy pro firmy

Lákadlo je velké: ChatGPT slibuje rychlou podporu pro každodenní úkoly, od psaní e-mailů až po tvorbu textových zpráv. Zatímco mnoho zaměstnanců používá tento nástroj umělé inteligence tajně, firmy čelí strategickému rozhodnutí, zda jej zakázat, tolerovat nebo implementovat vlastní řešení umělé inteligence. Tato analýza ukazuje, že soukromé používání ChatGPT na pracovišti představuje značná právní a bezpečnostní rizika, zatímco firemní řešení umělé inteligence mohou jednak využít inovativní potenciál pracovní síly a jednak zajistit ochranu a dodržování předpisů.

Právní úskalí soukromého používání ChatGPT

Omezení pracovního práva a práva na výuku

Používání ChatGPT prostřednictvím soukromých účtů v práci se nachází v právní šedé zóně. V roce 2024 pracovní soud v Hamburku rozhodl, že soukromé používání nástrojů umělé inteligence obecně nepodléhá právu spolurozhodování, pokud zaměstnavatel nemá přístup k datům. To však neznamená, že zaměstnavatelé musí jeho používání bez omezení tolerovat. V rámci svého práva vydávat pokyny mohou používání ChatGPT v práci jistě zakázat.

Základní problém v pracovním právu spočívá ve vysoce osobní povinnosti vykonávat práci. Podle § 613 odst. 1 německého občanského zákoníku (BGB) musí být služby poskytovány „osobně, pokud existují pochybnosti“. I když je použití nástrojů jistě povoleno, zaměstnanci nesmí svou práci zcela zadávat třetím stranám – nebo v tomto případě systémům umělé inteligence. V každém případě je nepřípustné, aby zaměstnanci nechali svou práci vykonávat výhradně umělou inteligencí bez vědomí zaměstnavatele. Přípustný rozsah použití umělé inteligence silně závisí na konkrétním dlužném pracovním výkonu.

Výzvy v oblasti ochrany dat

Dodržování GDPR při používání ChatGPT představuje pro firmy značné výzvy. V roce 2025 bavorský státní komisař pro ochranu osobních údajů objasnil, že GDPR se vztahuje i na případy, kdy osobní údaje obsahují pouze školicí data. To znamená, že prakticky jakékoli použití velkých jazykových modelů, jako je ChatGPT, musí splňovat předpisy o ochraně osobních údajů.

Nedostatek transparentnosti v algoritmech umělé inteligence je obzvláště problematický. ChatGPT je považován za „černou skříňku“, pokud jde o ochranu údajů, což znamená, že společnosti nemohou poskytovat podrobné informace o zpracování údajů. Získání účinného souhlasu v souladu s článkem 6(1) GDPR je proto prakticky nemožné. Společnosti navíc nemohou plnit své informační povinnosti podle článků 13 a 14 GDPR, protože nemohou poskytnout dostatečné informace o rozsahu, právním základu a příjemcích zpracování údajů.

Rizika autorských práv a odpovědnosti

Nekontrolované používání ChatGPT představuje značná rizika pro autorská práva. Nástroj umělé inteligence generuje texty na základě trénovacích dat, které mohou obsahovat díla chráněná autorským právem. To může vést k neúmyslnému porušení autorských práv, pokud se generované texty podobají existujícím dílům nebo jsou z nich kopírovány. Společnosti mohou být za taková porušení ze strany svých zaměstnanců odpovědné, což může vést k nákladným právním sporům.

Dalším rizikem je nedostatek odpovědnosti za obsah generovaný umělou inteligencí. Pokud ChatGPT poskytuje chybné informace a ty jsou použity bez ověření, může to mít značné následky. To platí zejména ve specializovaných oblastech, kde nesprávné informace mohou vést k obchodním nebo dokonce právním problémům.

Bezpečnostní rizika a ztráta dat

Neúmyslné úniky dat a jejich využití pro školení

Používání ChatGPT pro soukromé účely představuje značná bezpečnostní rizika. Zaměstnanci často nevědomky zadávají do systému důvěrná firemní data, která pak mohou být sdílena s ostatními uživateli. OpenAI tradičně používá historie chatu k trénování nových modelů, což znamená, že k zadaným informacím by teoreticky mohli mít přístup i jiní uživatelé.

Dříve zdokumentované incidenty demonstrují realitu těchto rizik: Ve společnostech Amazon a Samsung se firemní tajemství objevila ve znalostní bázi OpenAI poté, co je zaměstnanci omylem sdíleli prostřednictvím ChatGPT. Přímé úniky dat v ChatGPT také umožnily uživatelům prohlížet si záznamy z historie zpráv jiných uživatelů.

Stínové IT a ztráta kontroly

Průzkumy ukazují, že až 80 procent zaměstnanců používá tzv. stínové IT – software nebo hardware v podnikové síti bez svolení nebo vědomí IT oddělení. Toto nekontrolované používání vede k úplné ztrátě kontroly nad citlivými firemními daty. Kyberzločinci se navíc mohou dostat k účtům zaměstnanců a datům jiných lidí prostřednictvím phishingových útoků nebo zneužití přihlašovacích údajů.

Používání soukromých účtů prakticky znemožňuje firmám vynucovat bezpečnostní zásady nebo sledovat úniky dat. Bez řádného dohledu a školení se organizace vystavují značným rizikům odpovědnosti.

Strategické výhody interních řešení umělé inteligence

Zlepšení efektivity a automatizace

Implementace firemní umělé inteligence nabízí oproti nekontrolovanému soukromému používání značné výhody. Systémy umělé inteligence dokáží provádět opakující se úkoly rychleji a přesněji než lidé, což zaměstnancům umožňuje soustředit se na náročnější a strategičtější úkoly. Automatizací pracovních postupů mohou společnosti zvýšit efektivitu a snížit náklady.

Významná zlepšení jsou patrná zejména v zákaznickém servisu: chatboti s umělou inteligencí dokáží odpovídat na často kladené otázky a zpracovávat dotazy zákazníků, což prokazatelně zvyšuje spokojenost zákazníků až o 20 procent. Umělá inteligence dále umožňuje lepší rozhodování prostřednictvím analýzy velkých datových sad a rozpoznávání vzorců, které by lidští analytici jen těžko rozpoznali.

Personalizace a konkurenční výhody

Proprietární řešení umělé inteligence umožňují firmám vytvářet personalizované a na míru šité nabídky pro zákazníky. Analýzou zákaznických dat mohou firmy lépe porozumět jejich potřebám a preferencím a vytvářet individuální doporučení. Tato personalizace vede k silnější loajalitě zákazníků a z dlouhodobého hlediska ke konkurenčním výhodám.

Společnosti, které úspěšně integrují umělou inteligenci do svých obchodních operací, se mohou jasně odlišit od konkurence. Umělá inteligence není pomíjivá technologie, ale bude udržitelně formovat budoucnost podnikání. Přibližně 15 procent německých firem již získalo konkrétní zkušenosti s implementací umělé inteligence a zaznamenalo pozitivní účinky.

Integrace nezávislé a křížové data zdroje AI pro všechny firemní záležitosti-image: xpert.digitální

Ki-Gamechanger: Nejflexibilnější řešení platformy AI na platformě AI, která snižují náklady, zlepšují jejich rozhodnutí a zvyšují efektivitu

Nezávislá platforma AI: Integruje všechny relevantní zdroje dat společnosti

• Tato platforma AI interaguje se všemi specifickými zdroji dat
  • Z SAP, Microsoft, Jira, Confluence, Salesforce, Zoom, Dropbox a mnoho dalších systémů správy dat
• Rychlá integrace AI: Řešení AI na míru na míru na míru nebo dny místo měsíců
• Flexibilní infrastruktura: cloudové nebo hostování ve vašem vlastním datovém centru (Německo, Evropa, svobodný výběr umístění)

• Nejvyšší zabezpečení dat: Používání v právnických firmách je bezpečný důkaz
• Používejte napříč širokou škálou zdrojů firemních dat
• Výběr vašich vlastních nebo různých modelů AI (DE, EU, USA, CN)

Výzvy, které naše platforma AI řeší

• Nedostatek přesnosti konvenčních řešení AI
• Ochrana dat a zabezpečení správy citlivých dat
• Vysoké náklady a složitost individuálního vývoje AI
• Nedostatek kvalifikované AI
• Integrace AI do stávajících IT systémů

Více o tom zde:

• AI integrace nezávislé platformy AI pro všechny společnosti pro všechny společnosti pro všechny společnosti

Možnosti technické implementace

Řešení umělé inteligence na místě pro maximální kontrolu

Řešení umělé inteligence v místních podmínkách nabízejí firmám úplnou kontrolu nad jejich daty a systémy umělé inteligence. Tyto lokální implementace zajišťují, že citlivé informace neopouštějí externí cloudy, a umožňují firmám definovat bezpečnostní opatření podle vlastních standardů. To firmám umožňuje nabídnout zákazníkům vyšší úroveň důvěry a zároveň plně dodržovat předpisy o ochraně osobních údajů.

Mezi výhody on-premise řešení patří rychlejší inovační cykly, protože firmy mají plnou kontrolu nad vývojem a implementací. Řešení na míru lze přesně přizpůsobit jednotlivým obchodním procesům, což u externích služeb není možné. Nástroje jako OnPrem.LLM umožňují provozovat rozsáhlé jazykové modely zcela lokálně a zároveň v případě potřeby využívat cloudové integrace.

Generování rozšířeného vyhledávání (RAG) pro podnikové aplikace

Systémy RAG kombinují vyhledávání informací s rozsáhlými jazykovými modely, což umožňuje systémům umělé inteligence přistupovat ke specifickým podnikovým datům, místo aby se spoléhaly pouze na trénovací data. To výrazně zvyšuje přesnost a robustnost generovaného obsahu, a proto je vhodný pro kritické obchodní aplikace.

Proces RAG se skládá ze čtyř základních fází: indexování dat, vyhledávání dat, rozšiřování a generování odpovědí. Podniková data jsou transformována do vložených slov a indexována ve vektorových databázích, což umožňuje efektivní využití strukturovaných i nestrukturovaných dat. Tato technologie umožňuje chatbotům přístup k interním podnikovým datům a generování spolehlivých odpovědí založené na zdrojích.

Podniková řešení a hybridní přístupy

ChatGPT Enterprise a podobná podniková řešení nabízejí pokročilé bezpečnostní funkce, neomezený vysokorychlostní přístup a přizpůsobitelné funkce. Tyto platformy zajišťují, že zákaznická data nebudou použita k trénování modelů OpenAI, a poskytují šifrování jak v klidovém stavu, tak i při přenosu.

Pro menší organizace mohou být výhodné hybridní přístupy, kdy jsou lokální modely umělé inteligence nasazovány prostřednictvím REST API s využitím nástrojů, jako jsou vLLM, OpenLLM nebo Ollama. Tato řešení jim umožňují využít výhod podnikové umělé inteligence bez vysokých nákladů na plné implementace v místních podmínkách.

Zapojení zaměstnanců a řízení změn

Podporujte zavádění organické umělé inteligence

Úspěšná implementace podnikové umělé inteligence vyžaduje promyšlenou strategii řízení změn. Zaměstnanci již nyní používají software s umělou inteligencí ve všech odvětvích a regionech, protože vstupní bariéry jsou nízké a výhody jsou rychle patrné. Místo toho, aby firmy bojovaly proti tomuto organickému přijetí, měly by jej aktivně propagovat a zároveň minimalizovat negativní dopady.

Klíčem je zapojení zaměstnanců do pochopení toho, jak a proč chtějí používat umělou inteligenci. Formalizované přístupy umožňují společnostem maximalizovat výhody a zároveň stanovit zábrany pro bezpečné přijetí. To vyžaduje jasné hranice a pravidla, aby se zajistil dopad generativní umělé inteligence, aniž by to bránilo širšímu strategickému úsilí.

Školení a kvalifikace

Když je umělá inteligence v rukou vyškolených a kvalifikovaných zaměstnanců, nenahrazuje lidskou vynalézavost, ale spíše snižuje úsilí a čas potřebný pro generativní procesy. Analýza dat, kódování a údržba obsahu může být zefektivněny umělou inteligencí díky automatickému přístupu k různorodým zdrojům dat pro optimalizaci a škálování opakujících se úkolů.

Úspěšné implementace umělé inteligence vyžaduje, aby byli zaměstnanci zapojeni do transformačního procesu již v rané fázi. Musí mít možnost aktivně přispívat svými zkušenostmi a obavami. Na otázky typu „Kde mohu být jako zaměstnanec zbaven části své pracovní zátěže?“ a „Kde je využití umělé inteligence smysluplné a efektivní?“ by mělo být odpovězeno společně.

Rámce pro dodržování předpisů a správu a řízení

Implementace v souladu s ochranou osobních údajů

Pro implementace umělé inteligence v souladu s GDPR musí společnosti jednat jako správci údajů ve smyslu obecného nařízení o ochraně osobních údajů (GDPR). To znamená, že si musí ponechat plnou kontrolu nad zpracováním údajů a zajistit splnění všech požadavků na ochranu údajů. Při používání umělé inteligence třetích stran ze zemí mimo EU jsou nutná dodatečná opatření pro mezinárodní přenosy dat.

Klíčovou součástí je uzavření smluv o zpracování osobních údajů (DPA) s poskytovateli umělé inteligence. Tyto dohody jsou vždy vyžadovány, pokud poskytovatelé služeb jednající na základě pokynů zpracovávají osobní údaje. Společnosti musí také zajistit, aby mohly plnit své informační povinnosti podle článků 13 a 14 GDPR.

Řízení rizik a bezpečnostní architektura

Proprietární řešení umělé inteligence umožňují implementaci komplexních strategií řízení rizik. Umělá inteligence může pomoci včas identifikovat potenciální rizika a přesně určit bezpečnostní zranitelnosti. Prostřednictvím jejího kontrolovaného použití mohou společnosti zlepšit svá bezpečnostní opatření a chránit data před potenciálními hrozbami.

Bezpečnostní architektura by měla být vícevrstvá, s jasnými kontrolami přístupu, šifrováním a monitorovacími systémy. On-premise řešení nabízejí nejvyšší úroveň kontroly, zatímco cloudová podniková řešení často představují dobrý kompromis mezi zabezpečením a funkčností.

Umělá inteligence na pracovišti: Jak se firmy mohou vyhnout právním a datově ochranářským nástrahám

I když se skryté soukromé používání ChatGPT v práci může z krátkodobého hlediska jevit jako produktivní, pro firmy představuje značná právní, bezpečnostní a ekonomická rizika. Od porušování pracovního práva a porušování GDPR až po neúmyslné úniky dat, nevýhody daleko převažují nad údajnými výhodami tohoto „neviditelného“ použití.

Místo toho by firmy měly strategicky využívat inovační touhu svých zaměstnanců a investovat do kontrolovaných, proprietárních řešení umělé inteligence. Implementace na místě, systémy RAG a podniková řešení nejenže nabízejí nejvyšší bezpečnostní standardy, ale také umožňují vývoj aplikací na míru, které vytvářejí skutečné konkurenční výhody. Prostřednictvím včasného zapojení zaměstnanců a strukturovaného řízení změn mohou organizace využít výhod revoluce umělé inteligence, aniž by ohrozily dodržování předpisů nebo ochranu osobních údajů.

☑️ Podpora MSP ve strategii, poradenství, plánování a implementaci

☑ Vytváření nebo přepracování strategie AI

☑️ Pioneer Business Development

Konrad Wolfenstein

Rád posloužím jako váš osobní poradce.

Můžete mě kontaktovat vyplněním kontaktního formuláře níže nebo mi jednoduše zavolejte na číslo +49 89 89 674 804 (Mnichov) .

Těším se na náš společný projekt.

Xpert.Digital je centrum pro průmysl se zaměřením na digitalizaci, strojírenství, logistiku/intralogistiku a fotovoltaiku.

S naším 360° řešením pro rozvoj podnikání podporujeme známé společnosti od nových obchodů až po poprodejní služby.

Market intelligence, smarketing, automatizace marketingu, vývoj obsahu, PR, e-mailové kampaně, personalizovaná sociální média a péče o potenciální zákazníky jsou součástí našich digitálních nástrojů.

Více se dozvíte na: www.xpert.digital - www.xpert.solar - www.xpert.plus