Bc. Martina Vaňková
Co je deepfake a proč je v politice tak nebezpečný
Deepfake je syntetický audio nebo video obsah vytvořený pomocí umělé inteligence tak, aby vypadal jako skutečný záznam konkrétní osoby. V politice je problém především rychlost a přesvědčivost: i krátké falešné video může v době sociálních sítí obletět svět dřív, než se stihne ověřit. Zatímco dříve bylo nutné manipulovat s obrazem ručně, dnes stačí několik minut kvalitního tréninkového materiálu a dostupné AI nástroje.
Technicky se nejčastěji používají modely pro generování obličeje, synchronizaci rtů a klonování hlasu. Výsledek nemusí být dokonalý, aby fungoval. Podle různých výzkumů z posledních let lidé často nepoznají falešný videozáznam ani tehdy, když vidí drobné chyby v pohybu rtů, mrkání nebo osvětlení. V praxi tedy nemusí jít o perfektní podvrh, ale jen o obsah dostatečně přesvědčivý pro první vlnu sdílení.
Volební kampaně jsou na podobné útoky mimořádně citlivé, protože pracují s emocemi, časovým tlakem a nízkou ochotou ověřovat informace. Deepfake tak neútočí jen na kandidáta, ale na důvěru v celý proces. A právě to je jeho největší síla.
Jak deepfake mění volební kampaně a mediální prostředí
V kampani deepfake nefunguje jen jako „falešné video“. Je to nástroj pro ovlivnění agendy. Jedno virální video může přehlušit týdny programové komunikace, přesměrovat debatu na skandál a donutit štáby reagovat na něco, co se nikdy nestalo. Kromě přímé manipulace existuje i druhý efekt: erosion of trust, tedy rozklad důvěry. Jakmile voliči uvěří, že „všechno může být podvrh“, je snazší zpochybnit i skutečné důkazy.
Velký problém představuje i tzv. liar’s dividend. To znamená, že veřejný činitel může označit autentický záznam za deepfake, i když je pravý. V politice to vytváří nebezpečnou asymetrii: falešný obsah útočí na reputaci a skutečný obsah se dá zpochybnit stejnou technologií. Výsledkem je informační chaos, ve kterém se veřejnost hůř orientuje.
Podle odhadů analytických firem a bezpečnostních týmů roste počet syntetických útoků v médiích i politice každoročně výrazně dvouciferným tempem. Zároveň klesá bariéra vstupu: dnes už není potřeba filmové studio ani pokročilé znalosti postprodukce. Stačí běžný notebook, několik nástrojů a základní znalost práce s generativní AI.
Reálné příklady z posledních voleb a kampaní
Jedním z nejcitovanějších příkladů je falešný audiozáznam Joea Bidena, který v USA v roce 2024 vyzýval voliče, aby nehlasovali v primárkách. Záznam byl vytvořen jako robocall a měl za cíl snížit účast. Přestože šlo o podvrh, ukázal, jak snadno lze pomocí syntetického hlasu zasáhnout konkrétní skupinu voličů v přesně načasovaném momentu.
V roce 2023 se rozšířilo falešné video s Volodymyrem Zelenským, které mělo navodit dojem, že vyzývá ukrajinské vojáky ke složení zbraní. Video bylo rychle odhaleno, ale opět potvrdilo, že deepfake může být použit nejen proti kandidátům, ale i proti státům během války a krizí. Podobné materiály se šíří hlavně na sociálních sítích, v uzavřených chatových skupinách a přes účty, které vypadají jako lokální média.
V Indii, Indonésii, Slovensku nebo v některých afrických zemích se objevily deepfake audio nahrávky a syntetické projevy politických lídrů v místních jazycích. To je důležité, protože mnoho nástrojů funguje nejlépe v angličtině, ale jazykové modely se rychle zlepšují i pro menší trhy. V praxi to znamená, že útoky už nejsou omezené na velmoci.
- Video deepfake – nejviditelnější, ale technicky náročnější.
- Audio deepfake – velmi nebezpečný pro telefonické podvody, robocall kampaně a „úniky“.
- Textově podporovaný deepfake – video doplněné falešným titulkem, kontextem nebo přepisem, který zvýší věrohodnost.
Jak deepfake vzniká: stručně a prakticky
Moderní deepfake vzniká kombinací několika kroků. Nejprve se shromáždí trénovací data – typicky veřejná videa, rozhovory, tiskové konference, podcasty nebo televizní vstupy. Čím více kvalitního materiálu, tím lépe. U hlasu bývá potřeba jen několik minut čistého zvuku, u videa bývá užitečných více úhlů a různých světelných podmínek.
Poté přichází generování a doladění. U videa jde o výměnu obličeje, animaci mimiky, nebo vytvoření celé syntetické scény. U hlasu systém napodobí barvu, tempo a intonaci. Výsledný obsah se pak často ještě upraví v běžném editoru, aby působil jako „záznam z telefonu“ nebo „uniklé interní video“. To je důležité, protože amatérsky vypadající materiál může být pro veřejnost paradoxně důvěryhodnější než příliš uhlazená produkce.
Pro firmy, redakce i kampaně je praktické sledovat tři signály: nesoulad pohybu rtů, nepřirozené přechody světla a stínů, a hlas, který zní správně po stránce obsahu, ale má umělý rytmus. U audio deepfake bývá varovným znakem příliš stabilní tón bez mikrovariací, nebo naopak zvláštní „kovový“ dozvuk.
Jak se proti deepfake bránit: nástroje, procesy a krizový plán
Obrana není jen o technologii, ale hlavně o procesu. Každý politický tým, redakce nebo veřejná instituce by měl mít předem připravený krizový postup. Pokud se objeví podezřelý obsah, rozhoduje prvních 30 až 60 minut. V této fázi je nutné ověřit původ, porovnat záznam s jinými zdroji a okamžitě připravit stručné stanovisko.
V praxi pomáhá kombinace těchto nástrojů a postupů:
- InVID-WeVerify pro analýzu videa, snímků a metadat.
- Google Lens a reverzní vyhledávání obrazu pro dohledání původního zdroje.
- Amnesty YouTube DataViewer pro ověření času nahrání videa.
- Reality Defender, Hive Moderation nebo podobné detekční nástroje pro syntetický obsah.
- Obsahové watermarky a C2PA pro označování autentických médií a jejich původu.
Pro kampaně je zásadní mít vlastní komunikační „playbook“. Ten by měl obsahovat seznam oficiálních kanálů, schválené mluvčí, vzorové reakce a způsob archivace důkazů. Když se objeví podvrh, nelze improvizovat. Je potřeba rychle publikovat autentické video, ideálně s více kamerami, metadata z originálu a jasným vysvětlením, proč je falešný obsah nepravdivý.
Velmi důležitá je také prevence. Kandidáti by měli minimalizovat veřejně dostupné čisté audio stopy v citlivých situacích, používat vícefaktorové ověřování pro interní komunikaci a zavést pravidlo, že žádný zásadní pokyn nepřichází jen hlasovou zprávou. U telefonátů a nahrávek je vhodné používat předem dohodnutá ověřovací hesla nebo druhý kanál potvrzení.
Co musí sledovat média, marketéři i voliči v roce 2025
Deepfake už není okrajové téma pro technologické blogy. Stal se součástí informační bezpečnosti, volební integrity i reputační ochrany. Pro média to znamená ověřovat zdroj ještě před publikací, pracovat s metadaty a nešířit obsah bez kontextu jen proto, že je virální. Pro marketéry a PR týmy je to lekce z krizové komunikace: reputace se dnes může zlomit během jedné hodiny a smazání příspěvku problém neřeší.
Voliči by měli sledovat jednoduché varovné signály: příliš šokující sdělení, které perfektně zapadá do předvolební polarizace, nejasný původ videa, chybějící potvrzení z více důvěryhodných zdrojů a tlak na okamžitou emoční reakci. Čím větší je snaha přimět publikum, aby sdílelo bez ověření, tím vyšší je pravděpodobnost manipulace.
Budoucnost ochrany bude pravděpodobně stát na kombinaci technických standardů, mediální gramotnosti a rychlé detekce. Kdo dnes pracuje s politickým obsahem, měl by deepfake brát stejně vážně jako phishing nebo útok na účet. Rozdíl je jen v tom, že tentokrát se nekrade přístup do systému, ale důvěra veřejnosti.
