Bc. Martina Vaňková
Co deepfake ve skutečnosti znamená a proč je tak nebezpečný
Deepfake je synteticky vytvořený nebo upravený audio či video obsah, který napodobuje skutečnou osobu natolik přesvědčivě, že může klamat diváka i zkušeného novináře. Nejde jen o „vtipné“ přeuspořádání obličeje ve videu. Moderní modely umí měnit mimiku, tón hlasu, intonaci, tempo řeči i prostředí záznamu. Výsledkem je materiál, který na první pohled působí autenticky, ale ve skutečnosti neodpovídá realitě.
Riziko je obrovské hlavně proto, že média stojí na důvěryhodnosti. Jakmile se jednou začne šířit falešný záznam politika, manažera nebo očitého svědka, škody vznikají během minut. Podle různých bezpečnostních analýz narostl počet deepfake útoků v posledních letech násobně a podvodné audio patří mezi nejrychleji rostoucí formy zneužití generativní AI. V praxi to znamená, že ověřování obsahu už není doplněk, ale základní redakční disciplína.
Kde deepfake nejčastěji ohrožuje média a veřejnou debatu
Nejviditelnější jsou falešná videa veřejně známých osobností. Typický scénář: krátký klip s politikem, který údajně pronáší skandální výrok, se objeví na sociálních sítích, získá tisíce sdílení a až poté se začne ověřovat. V době, kdy redakce vydá opravu, už má původní obsah vlastní život. Podobně fungují i falešné „úniky“ z tiskových konferencí, rozhovorů nebo krizových situací.
Velmi nebezpečné je také podvržené audio. V roce 2024 se objevilo několik případů, kdy byl pomocí AI napodoben hlas manažera nebo člena vedení firmy a zaměstnanci dostali pokyn k převodu peněz. V jednom známém případu z Hongkongu přišla firma o desítky milionů dolarů po videokonferenci, kde byli účastníci přesvědčeni, že hovoří s reálnými kolegy. Pro média je to varování, že útoky nejsou jen reputační, ale i finanční a provozní.
Deepfake navíc nepůsobí pouze jako jednorázový podvod. Jeho dopad je dlouhodobý: oslabuje důvěru v pravost všech videí a nahrávek. Tomu se říká liar’s dividend – tedy situace, kdy skutečný viník může tvrdit, že kompromitující záznam je falešný. Čím kvalitnější deepfake, tím snazší je zpochybnit i autentický důkaz.
Jak deepfake vzniká: technologie, kterou je potřeba znát kvůli obraně
Proti deepfake nelze bojovat efektivně, pokud nerozumíme jeho výrobě. U videa se používají modely pro výměnu obličeje, generování mimiky nebo kompletní syntézu postavy. U hlasu jde hlavně o voice cloning, tedy vytvoření hlasového modelu na základě několika desítek sekund až minut záznamu. Kvalita roste s množstvím trénovacích dat, ale současné modely už zvládnou velmi přesvědčivě napodobit i krátké vzorky.
Technicky se deepfake poznává hůře než dříve, protože mizí staré chyby typu nesoulad rtů a zvuku nebo nepřirozené stíny v obličeji. Dnešní generace modelů lépe drží světlo, pohyb očí i přirozené pauzy v řeči. Podezření často vzbudí spíš drobnosti: příliš hladké přechody mezi snímky, zvláštní práce s prsty, neobvyklá frekvence hlasu nebo sterilní pozadí bez přirozeného šumu.
Redakce, marketéři i správci webů by měli vědět, že detekce není stoprocentní. I kvalitní nástroje pracují s pravděpodobností, nikoli s absolutním důkazem. Proto je nutné kombinovat automatickou analýzu s lidským ověřením a kontextem.
Jak deepfake ověřovat v praxi: postup pro redakce i firmy
Nejlepší obrana je vícevrstvá. Pokud se na webu, v e-mailu nebo v médiích objeví podezřelý audio či video materiál, doporučuje se následující postup:
- Ověřit původ souboru – kdo jej publikoval jako první, na jakém kanálu a v jakém čase.
- Zkontrolovat metadata – u originálního souboru mohou pomoci informace o zařízení, datu a kódování.
- Porovnat s dalšími zdroji – existuje celé video, nebo jen krátký výřez? Je dostupný přepis či přímý přenos?
- Provést vizuální a zvukovou analýzu – nesoulad rtů, zvláštní oční pohyby, artefakty kolem vlasů, přeskakující šum.
- Kontaktovat údajného autora nebo mluvčího – u citlivých témat je přímé potvrzení často rozhodující.
- Nešířit obsah bez kontextu – i s varováním může redakce nechtěně posílit dosah podvrhu.
Pro ověřování lze využít nástroje jako InVID-WeVerify pro analýzu videí, Google Lens nebo TinEye pro reverzní vyhledávání snímků a Adobe Content Credentials pro kontrolu původu digitálního obsahu. U audia se vyplatí pracovat s nástroji typu Auphonic, Audacity nebo specializovanými detektory anomálií, které sledují spektrální nesrovnalosti. V případě redakcí je důležité mít interní checklist, aby ověření nebylo závislé na jedné osobě.
Praktický tip: pokud má video podezřele nízkou kvalitu, neznamená to, že je falešné. Naopak právě nízké rozlišení často slouží k maskování chyb generování. Proto je vhodné získat co nejvyšší dostupnou verzi souboru a porovnat ji s originálem, pokud existuje.
Co mohou dělat média, značky a weby, aby snížily riziko
Média by měla zavést jasná pravidla pro publikaci citlivého obsahu. U krizových zpráv, politických výroků a „exkluzivních“ nahrávek je vhodné vyžadovat minimálně dva nezávislé důkazy. V redakčním workflow se osvědčuje model source verification first: nejprve potvrdit zdroj, až poté publikovat. U rychlých online zpráv je to zásadní, protože virální tempo sociálních sítí svádí k unáhlenému sdílení.
Značky a firmy by měly chránit své vedení i zaměstnance. V praxi to znamená:
- nastavit interní pravidlo pro potvrzování plateb a změn účtů přes druhý kanál,
- školit management i finance na podvodné audio hovory,
- monitorovat zmínky o značce a osobách vedení na sociálních sítích,
- používat digitální podpisy, watermarking a Content Credentials u vlastních videí,
- mít připravený krizový komunikační plán pro případ, že se objeví falešný výrok nebo video.
Pro weby je důležitá i technická stránka důvěryhodnosti. Pomáhá viditelné označení původu obsahu, stránka s metodikou ověřování, jasně uvedený autor, datum aktualizace a kontakt na redakci. To sice deepfake sám o sobě nezastaví, ale zvyšuje to šanci, že uživatel pozná rozdíl mezi ověřeným a neověřeným materiálem. V době AI Overviews a zero-click vyhledávání je důvěryhodnost signálem, který ovlivňuje nejen čtenost, ale i citace ve vyhledávání.
Budoucnost: autenticita jako konkurenční výhoda médií
Deepfake nezmizí, naopak bude dostupnější, levnější a přesnější. Obrana proto musí stát na kombinaci technologií, procesů a transparentnosti. Do hry vstupují standardy pro ověřování původu obsahu, kryptografické podpisy, detekce generativních artefaktů a také edukace publika. Pokud uživatelé pochopí, že ne každé video je důkaz, sníží se dopad manipulací na veřejnou debatu.
Pro média i weby z toho plyne jasný závěr v praxi: rychlost publikace už nesmí být důležitější než ověření. V prostředí, kde lze během minut vytvořit falešný hlas prezidenta, šéfa firmy nebo oblíbeného moderátora, se důvěra stává nejcennějším aktivem. A právě schopnost doložit původ, kontext a pravost obsahu bude rozhodovat o tom, komu lidé uvěří příště.
