Bc. Martina Vaňková
Evropská unie chystá zásadní změny v oblasti regulace umělé inteligence, které vstoupí v platnost od 2. srpna 2026. Tato novela, známá jako digitální omnibus, novelizuje již existující AI Act a přináší přísná pravidla pro transparentnost v oblasti komunikace mezi firmami a zákazníky. Firmy budou muset jasně a včas informovat uživatele, pokud komunikují prostřednictvím chatbotů, virtuálních asistentů nebo jiných systémů umělé inteligence. Cílem těchto změn je zajistit, aby spotřebitelé vždy věděli, kdy mají co do činění se strojem, a kdy s člověkem, což je důležitý krok směrem k větší transparentnosti a důvěře v digitální technologie.
Nová pravidla se dotknou nejenom velkých technologických společností, ale i široké škály podniků, které umělou inteligenci využívají. Advokát Jaroslav Kuba z poradenské společnosti Rödl upozorňuje, že firmy budou muset změní svůj přístup k informování zákazníků. Dosud bylo běžné, že firmy tuto informaci zahrnuly do obsáhlých obchodních podmínek, což od srpna nebude dostatečné. Informace o použití AI musí být uvedeny přímo tam, kde k interakci se zákazníkem dochází, což může mít zásadní dopad na způsob, jakým firmy komunikují s veřejností a jakým způsobem prezentují své služby.
Pokuty za porušení pravidel mohou dosáhnout milionů
Za porušení nových pravidel hrozí firmám pokuty až do výše 15 milionů eur, nebo 3 procenta z celosvětového obratu, což představuje významný finanční postih. Tato opatření jsou součástí snahy Evropské unie o regulaci a zajištění bezpečnosti v oblasti umělé inteligence. Pravidla se dotknou i marketingu a reklamy, kde budou muset být jasně označeny veškeré syntetické obsahy, včetně produktových fotografií, které mohou klamat o skutečných vlastnostech zboží. Tímto způsobem se EU snaží zabránit šíření dezinformací a posílit férový přístup k informacím pro všechny spotřebitele.
Firmy, které publikují obsah generovaný umělou inteligencí, budou mít také povinnost uvádět, zda byl tento obsah kontrolován lidským faktorem. Tato nová pravidla reflektují rostoucí obavy o dezinformace a jejich dopad na veřejnost. Expert na umělou inteligenci z Unicornu upozorňuje, že kvalitní data jsou pro fungování AI klíčová, a bez nich může být obtížné zajistit správné fungování těchto technologií. Nové legislativní kroky tak mohou mít dalekosáhlé důsledky nejen pro velké společnosti, ale i pro menší podniky, které se snaží integrovat umělou inteligenci do svých procesů.
Transparentnost jako klíčový prvek nové regulace
Nové povinnosti v rámci regulace AI se zaměřují na zvýšení transparentnosti a důvěry veřejnosti v umělou inteligenci. Firmy budou muset zajistit, aby jejich zákazníci byli informováni o tom, s kým komunikují, a zda se jedná o umělou inteligenci nebo člověka. Tato změna je klíčová pro budování důvěry mezi uživateli a technologiemi, které stále více ovlivňují naše životy. Jak dodává advokát Kuba, více než třetina firem přistupuje k problematice umělé inteligence jen povrchně, což může vést k závažným následkům, pokud nebudou nová pravidla dodržována.
Vzhledem k tomu, že sankce za porušení těchto pravidel nejsou symbolické, firmy budou muset přehodnotit své strategie a procesy v oblasti komunikace se zákazníky. Nová legislativa má za cíl zajistit, aby umělá inteligence byla využívána zodpovědně a transparentně, což přispěje k ochraně spotřebitelů a k zajištění férového trhu. Vzhledem k rychlému rozvoji technologií je klíčové, aby regulace držela krok s inovacemi a zajistila, že umělá inteligence bude sloužit jako nástroj pro zlepšení kvality života, nikoliv jako zdroj dezinformací a nedorozumění.
