Deepfake podvod využívá tváře českých miliardářů

Na facebooku se objevilo video, které svým zpracováním připomíná televizní zpravodajství CNN  Prima News. Na začátku se v něm objevují záběry moderátora Romana Šebrleho doplněné poměrně zvláštně znějícím titulkem „Všem Čechům už není třeba pracovat“. Tuto pomyslnou reportáž pak moderátor uvádí slovy, že se miliardáři Andrej Babiš, Pavel Tykač a Daniel Křetínský „spojili pro společný cíl dát možnost každému Čechovi pasivně vydělávat“. 

Následují průstřihy na samotné miliardáře, kteří představují novou investiční platformu. Andrej Babiš ve videu tvrdí, že do rozvoje uvedeného projektu investoval stovky milionů eur. K podobnému kroku podle moderátora přistoupil i Daniel Křetínský, který ve videu nabádá lidi, aby do platformy vložili peníze. Pavel Tykač dokonce oznamuje, že služeb platformy sám využil a po měsíci „vydělal 130 tisíc Kč“.

Na původních záběrech miliardáři o platformě vůbec nemluvili

Zmíněné video je uměle upravené –⁠ jedná se o tzv. deepfake. Jeho autor pomocí umělé inteligence moderátorovi i podnikatelům vložil do úst slova, která ve skutečnosti nikdy neřekli. Toho si lze všimnout především při detailnějším zkoumání záběrů. V některých částech totiž například pohyb rtů jednotlivých řečníků neodpovídá tomu, jaká slova lze na videu slyšet. Nejvíce je to patrné v případě Daniela Křetínského (video, čas 0:53).

K vytvoření zmanipulované reportáže použil její autor hned několik různých videí. Záběry s Andrejem Babišem pochází z jeho rozhovoru v pořadu Partie na CNN Prima News, který televize odvysílala 29. října (video, čas 1:13). V něm v řadě bodů kritizoval současnou vládu nebo mluvil o tématu migrace, investiční platformu ale nezmiňoval.

Záběry Pavla Tykače, které autoři následně upravili, byly také převzaty z rozhovoru pro CNN Prima News. Ten vznikl v květnu roku 2022 a primárně se věnoval otázkám energetické krize (video).

Poslední část reportáže, v níž mluví Daniel Křetínský, používá upravené záběry z videa, které v květnu 2018 na YouTube zveřejnil fotbalový klub AC Sparta Praha. Křetínský, který je spolumajitelem týmu, se v původním videu vyjadřuje jen k rozhodnutí fotbalisty Davida Lafaty ukončit fotbalovou kariéru.

V rozhovorech, které autor zmanipulovaného videa využil, se dotyční vyjadřují například k politickým, energetickým nebo sportovním otázkám. V žádném z nich nicméně nezazněly slova o zázračné investiční platformě. Ve veřejně dostupných zdrojích nelze najít ani žádné jiné zmínky o tom, že by Babiš, Křetínský nebo Tykač tuto platformu podporovali.

Nepřesnosti ve falešné reportáži

Že je televizní reportáž falešná, je navíc zřejmé i z jazykové úrovně textu na spodní liště obrazovky, pomocí které se video snaží graficky imitovat skutečné televizní vysílání CNN Prima News.

Poněkud podivně působí například i úvodní, nezvykle rychlé průstřihy na ilustrační fotografie podnikatelů. Další zvláštností je časový údaj  10:45, který lze pozorovat v pravém dolním rohu videa. Ten se totiž po celou dobu nezmění, ačkoliv reportáž trvá déle než minutu.

Podezřele působí i diskuze pod videem, ve které několik profilů sdílí své údajné pozitivní zkušenosti s platformou. Objevují se např. komentáře, ve kterých si uživatelé pochvalují, jak si díky projektu mohli dovolit koupi nového auta či trávit více času s rodinou. 

Při rozkliknutí profilů lze ale dohledat, že většina jejich aktivity na facebooku je relativně nedávná a v poslední době jen sdíleli cizí příspěvky o Praze. Nejstarší profilové fotografie účtů také často zjevně neodpovídají identitě, za kterou se v současnosti vydávají. Jeden z těchto údajně českých profilů například prokazatelně zneužívá totožnost jiného muže z amerického státu Utah.

Facebookový profil Česky Idnes, který deepfake sdílí, se paradoxně snaží imitovat zpravodajský portál iDNES.cz, ačkoliv reportáž napodobuje zpravodajství CNN Prima News. Stránka v nedávné době několikrát sdílela skutečné články portálu iDNES, zřejmě proto, aby působila důvěryhodněji.

Většina starších příspěvků profilu Česky Idnes navíc láká na akce v argentinských nočních klubech, proto lze usuzovat, že stránka dříve sloužila ke zcela jinému účelu.

Podvodná stránka

Pokud uživatel klikne na odkaz pod deepfake videem, dostane se na stránku imitující web CNN Prima NEWS. Obsahuje článek s titulkem „Ve světě investic dochází ke skutečné revoluci, která začíná v České republice“. Jeho text, podobně jako deepfake video, pomocí tváří tří českých miliardářů láká na investování do kryptoměn pro jednoduché vydělání peněz. Obsahuje mimo jiné „návod“, jak začít vydělávat s pomocí umělé inteligence. 

Že se jedná o falešný web, lze rozeznat jednak při podrobném přečtení webové adresy, jednak podle použité grafiky. Ta se sice do určité míry podobá originálu, v řadě detailů se od něj ale liší. Například horní lišta vedle loga CNN Prima News je graficky odlišná od té originální a podvodný web používá odlišné formátování písma (na některých místech se liší podbarvením nebo chybí podtržení).

Na podvodné stránce chybí postranní lišta s nabídkou jiných článků k přečtení a také na ní kompletně chybí inzerce. Co ale přebývá, je diskuzní fórum, které na skutečném webu CNN Prima News nenalezneme. V diskuzi údajní předchozí zákazníci kladně hodnotí svou zkušenost. Jedná se ovšem o falešné účty, které jako profilové fotografie zneužívají snímky jiných, skutečných lidí, například aktivisty a zastánce práv Romů Miroslava Brože.

Podezřelé investice

Samotná investiční platforma, o které je v upraveném videu řeč, je nedůvěryhodná a výrazně netransparentní. Na jejích dvou anglickojazyčných webech ani na české verzi například není uvedeno, kdo platformu, která prezentuje možnost podezřele vysokého zhodnocení investic, provozuje.

Většina odkazů na webu vede místo dalších podstránek jen na formulář, do nějž uživatelé mají zadat své osobní údaje: jméno, příjmení, e‑mailovou adresu nebo telefonní číslo. Vedle těchto osobních informací obdobné stránky po uživatelích ale nakonec mohou požadovat i vyplnění hesla nebo bankovních údajů. To potom může vést buď přímo k odcizení peněz z účtu, nebo ke zneužití totožnosti uživatele k dalšímu šíření falešných zpráv.

Jde tedy o tzv. phishing: podvodníci umístili na sociální sítě návnadu v podobě zdánlivé příležitosti ke zbohatnutí a dále se zaměřují na uživatele, kteří se chytnou a předají své osobní údaje. I když je na začátku na první pohled neškodná registrace, autoři podvodu ji využijí k tomu, aby z oběti vylákali další, citlivější osobní údaje.

Závěr

Video, ve kterém Andrej Babiš a podnikatelé Tykač a Křetínský lákají lidi, aby poslali peníze „nové investiční platformě“, je zmanipulované a jedná se o tzv. deepfake. Autor při jeho výrobě zneužil starší záběry zmíněných tří mužů, kteří na nich ale ve skutečnosti o této platformě vůbec nemluvili. Kromě toho tato smyšlená reportáž také zneužívá grafiku zpravodajské stanice CNN Prima News. V rámci naší spolupráce se sociální sítí Facebook jsme proto video označili jako pozměněné. 

Dodejme, že podobné případy deepfake videí, ve kterých byl Andrej Babiš zneužit k propagaci podobné investiční platformy, jsme v průběhu listopadu ověřovali už několikrát.