Video Petra Fialy zneužito v deepfake podvodu

Na facebooku se šíří video, které působí jako úryvek ze zpravodajství CNN Prima News. Na začátku videa moderátorka informuje o „novém státním produktu, který automaticky vydělává peníze s pomocí umělé inteligence“. Na platformu údajně upozornil premiér Petr Fiala.

V následujícím klipu na první pohled hovoří Petr Fiala a zve obyvatele k investování do státní platformy, na které lze obchodovat s akciemi a kryptoměnami. Petr Fiala ve videu uvádí, že „pro spuštění systému je potřeba minimální investice přes šest tisíc korun“. Jméno platformy ovšem ve videu nezazní a není uvedeno ani u námi ověřovaného facebookového příspěvku. Podařilo se nám však dohledat, že příspěvek byl původně sdílen jako reklama a obsahoval odkaz na podvodnou stránku.

Deepfake video vs. realita

Video je vytvořené s pomocí umělé inteligence. Jedná se o tzv. deepfake, neboli digitálně upravené video, jehož autoři se snaží přesvědčivě napodobit vybraného člověka a často mu do úst vloží slova, která nikdy neřekl. Deepfake lze rozpoznat prozkoumáním detailů videa, které mohou působit nerealisticky.

V ověřovaném videu na první shlédnutí především nelze přeslechnout podezřelou zvukovou stopu. Projev moderátorky se v několika momentech zasekne (video, čas: 0:07 a 0:10) a na konci vstupu jsou její slova useknuta v polovině věty (video, čas: 0:11). Hlas Petra Fialy zní nepřirozeně, nepřeslechnutelná je ale především výslovnost „obyvatelstvo Česka“ (video, čas: 0:21) a naprostá změna hlasu ve dvou momentech nahrávky (video, čas: 0:33–0:34, a 0:39). Také některé věty, které Petr Fiala na obrazovce pronese, nedávají smysl.

Z vizuální stránky si můžeme všimnout, že pohyby úst jak premiéra, tak moderátorky, na videu neodpovídají tomu, co říkají. Vzhled a mimika obou je také nepřirozená. Lidé v deepfake videích mívají často nerealistické vlasy či vousy, příliš hladkou nebo vrásčitou pleť nebo nepřirozeně mrkají. Obličej moderátorky vypadá uměle upravený a pohyby premiéra Petra Fialy, především jeho úst, působí strojeně a v některých momentech mu nepřirozeně protahují obličej.

Deepfake videa lze vytvořit různými způsoby pomocí metod umělé inteligence a strojového učení. Může se např. jednat pouze o nepatrnou úpravu skutečného videa, „nasazení“ obličeje někomu jinému, rozpohybování modelu obličeje podle nahrávky jiného řečníka, nebo dokonce vytvoření nového videa bez konkrétní předlohy.

Změny původních záběrů

Použité záběry Petra Fialy pochází z jeho projevu (video) na Ideové konferenci Projekt Budoucnost, která se konala 13. května 2023. Jako předseda strany ODS měl Petr Fiala úvodní a závěrečné slovo. Autoři deepfake videa použili záběry z Fialova více než třicetiminutového vystoupení na konferenci.

Autoři manipulace také napodobují grafiku a formát CNN Prima News. Především používají logo zpravodajské stanice u lišty s titulkem. Ačkoliv logo odpovídá designu, lišta s titulkem se od skutečné grafiky stanice liší. V původním videu sice nebyla lišta obsahující titulek zprávy, při porovnání s tradičním vzhledem lišty CNN Prima News ale můžeme rozpoznat rozdílnost fontu a velikosti písma, absenci červeného pruhu dole a modrého proužku na levé straně lišty. Podobnou manipulaci s grafikou CNN Prima News jsme ověřovali například již zde.

Upřesněme, že původní video někdejší moderátorky CNN Prima News Gabriely Laškové pochází z 8. března 2022. Konkrétně se jedná o zprávu informující o obvinění bývalého politika Dominka Feriho ze znásilnění.

Sponzorované příspěvky a phising

Deepfake video bylo 24. listopadu 2023 zveřejněno facebookovou stránkou Marketing Invision. Podle příspěvků stránka nabízí poradenství v oblasti marketingu, od založení profilu 24. srpna 2022 však nejsou dohledatelné žádné novější příspěvky stránky.

Marketing Invision u facebookového příspěvku uvádí, že video zobrazuje „Úryvek rozhovoru s Petrem Fialou, kterého se bojí všechny banky.“ Video na stránce není na první pohled dohledatelné. Demagog.cz se pomocí knihovny reklam na Facebooku podařilo zjistit, že stránka deepfake původně sdílela jako sponzorovaný příspěvek, tzn. reklamu. V původním zobrazení se pod příspěvkem nacházel odkaz, jenž uživatele zavedl na podvodnou stránku.

Stránka na první pohled vypadá jako web CNN Prima NEWS. Obsahuje článek s titulkem „Petr Fiala úspěšně spustili platformu pro Čechy, která už pomohla vydělat peníze více než 12 000 lidí v České republice.“ Text článku, podobně jako deepfake video, láká na investování do kryptoměn pro jednoduché vydělání peněz. Obsahuje mimo jiné „návod“ jak začít vydělávat s pomocí umělé inteligence.

Že se jedná o falešný web, lze rozeznat jednak při podrobném přečtení webové adresy, jednak podle použité grafiky. Ta se sice do určité míry originálu podobá, v řadě detailů se od něj ale liší. Například horní lišta vedle loga CNN Prima News je graficky odlišná od originálu a podvodný web používá odlišné formátování písma (na některých místech je odlišné podbarvení nebo chybí podtržení).

Podivně působí i samotný titulek, který obsahuje gramatické chyby, ostatně je nalezneme i ve zbytku textu. Na podvodné stránce také chybí postranní lišta s nabídkou jiných článků k přečtení. Na stránce také kompletně chybí inzerce. Co ale přebývá je diskuzní fórum, které na skutečném webu CNN Prima News nenalezneme. V diskuzi svoji zkušenost kladně hodnotí údajní předchozí zákazníci. Jedná se ovšem o bezejmenné, falešné účty, které jako profilové fotografie používají ilustrační snímky z fotobanky.

Podezřelé investice

Samotná investiční platforma, o které je v upraveném videu řeč, je nedůvěryhodná a výrazně netransparentní. Na jejích dvou anglickojazyčných webech ani na české verzi například není uvedeno, kdo platformu provozuje. Platforma také prezentuje možnost podezřele vysokého zhodnocení investic.

Většina odkazů na webu vede místo dalších podstránek jen na formulář, do nějž mají uživatelé zadat své osobní údaje: jméno, příjmení, e-mailovou adresu nebo telefonní číslo. Vedle těchto osobních informací mohou obdobné stránky po uživatelích nakonec požadovat i vyplnění hesla nebo bankovních údajů. To potom může vést buď přímo k odcizení peněz z účtu, nebo ke zneužití totožnosti uživatele k dalšímu šíření falešných zpráv.

Jedná se tedy o tzv. phishing: podvodníci umístili na sociální sítě návnadu v podobě zdánlivé příležitosti ke zbohatnutí a dále se zaměřují na uživatele, kteří se chytnou a předají své osobní údaje. I když je na začátku na první pohled neškodná registrace, autoři podvodu ji využijí k tomu, aby z oběti vylákali další, citlivější osobní údaje.

Dodejme, že facebooková stránka Marketing Invision vedle deepfake videa zneužívá Petra Fialu i v jiných sponzorovaných příspěvcích. Například zneužívají grafiku zpravodajského portálu iDNES.cz nebo se jiným způsobem snaží působit jako důvěryhodné médium. Pro zajímavost také uveďme, že při kliknutí na odkaz z některých zemí se uživatel může dostat přímo na webovou stránku, která obsahuje formulář pro zadání osobních údajů a vyhne se tak podvodnému webu, který napodobuje CNN Prima News.

Závěr

Facebookový příspěvek obsahuje videa, která byla upravena pomocí deepfake metod. Slova, která ve videu zazněla ani Petr Fiala ani moderátorka Prima CNN News ve skutečnosti nikdy neřekli. Video láká uživatele na podvodnou stránku, která napodobuje vzhled známého média a snaží se z lidí vylákat osobní údaje nebo rovnou peníze.

V rámci naší spolupráce se sociální sítí Facebook jsme tak proto video označili jako pozměněné. Doplňme, že podobné případy deepfake videí, ve kterém je český politik zneužit k propagaci investičních platforem, jsme ověřovali již několikrát v souvislosti s Andrejem Babišem.