Deepfake videa odborníků a celebrit lákají na neexistující přípravek na hubnutí

Videa tvrdí, že je „hubnutí nyní snažší než kdykoliv předtím“. Propagují údajně účinnou metodu, která „nevyžaduje žádné oběti a úsilí“ a zahrnuje zázračný přípravek, který „zvyšuje metabolismus, pomáhá spalovat kalorie i v klidu a odvádí z těla přebytečné tekutiny“. Ve videích jsou zobrazeny známé osobnosti, které zázračnou metodu buď přímo samy propagují, nebo lidé ve videu o jejich údajném zhubnutí mluví (video, čas: 0:48; video, čas: 0:03–0:19).

Na konci všech videí je upoutávka na produkt a účinkující zdůrazní, ať si divák nenechá ujít přiležitost a přejde na webové stránky, kde se dozví více informací. Údaje ve videích přitom zobrazují, že v současnosti lze přípravek zakoupit ve slevě (video, čas: 0:54; video, čas: 0:45, video, čas: 0:39). Odkaz na webové stránky pak vede na web FitMe –⁠⁠⁠⁠⁠⁠ Český stravovací plán, kde ale informace k přípravku nejsou a nelze jej ani koupit.

Deepfake Petra Havlíčka

Nejsdílenější je video s výživovým specialistou Petrem Havlíčkem, které má na facebooku kolem 100 tisíc přehrání. Video na první pohled a poslech působí přesvědčivě, jedná se ovšem o tzv. deepfake, neboli digitálně upravené video, jehož autoři se snaží přesvědčivě napodobit vybraného člověka a často mu do úst vloží slova, která nikdy neřekl. Deepfake videa lze vytvořit různými způsoby pomocí metod umělé inteligence a strojového učení. Může se  jednat jen o nepatrnou úpravu skutečného videa, „nasazení“ obličeje někomu jinému, rozpohybování modelu obličeje podle nahrávky jiného řečníka, nebo dokonce vytvoření nového videa bez konkrétní předlohy. Deepfake lze rozpoznat prozkoumáním detailů videa, které mohou působit nerealisticky.

Ve zmíněném videu si na první pohled můžeme všimnout, že slova, která Petr Havlíček říká, neodpovídají pohybu jeho úst. Lidé v deepfake videích mívají často nerealistické vlasy či vousy, příliš hladkou nebo vrásčitou pleť nebo nepřirozeně mrkají. Až na začátek videa je Havlíčkův obličej nepřirozeně vyretušováný, především co se týče vrásek a vousů. Také neobvykle rychle mrká. I Havlíčkův hlas a intonace působí nepřirozeně a strojeně. Při porovnání Havlíčkova hlasu ve videu s jeho skutečným mluveným projevem je rozdíl ještě patrnější (video).

Záběry v deepfake videu pocházejí z Havlíčkova YouTube kanálu, který provozuje spolu se zakladatelem Pražkého kulinářského institutu Romanem Vaňkem. Jedná se tedy o manipulaci, při které bylo již existující video upraveno pomocí umělé inteligence.

Podle Petra Havlíčka v deepfake videu byl blíže nepojmenovaný zázračný přípravek testován herečkou a zpěvačkou Monikou Absolonovou (video, čas: 0:48). Ta sice v minulosti propagovala balíčky s jídlem na hubnutí, nejednalo se ale o „zázračnou“ metodu zmíněnou ve videu. Absolonová byla už na začátku roku 2024 zneužita k obdobné deepfake propagaci kapek na hubnutí.

Deepfake Martina Haluzíka

Obdobné video se šíří s přednostou centra diabetologie pražského IKEMu Martinem Haluzíkem. Že se jedná o deepfake naznačuje hned začátek videa, kdy se Haluzík představuje jako „odbornice na výživu“ (video, čas: 0:04). Ani některé následující Haluzíkovy věty nepůsobí přirozeně a nedávají větnou skladbou smysl, např. „klinické testy ukázaly, že každý účastník ztratil každý týden 30 % své nadváhy“ (video, čas: 0:14).

Haluzíkův hlas ve videu, podobně jako v případě Petra Havlíčka, zní nepřirozeně. Profesor Haluzík navíc ve skutečnosti občas ráčkuje (video) a tato porucha výslovnosti v upraveném videu naprosto zmizela.

Haluzík má nasazený respirátor a nejsou tak vidět pohyby jeho úst nebo přesná mimika. Přesto se dá poznat, že pronesená slova neodpovídají tomu, co ve skutečnosti říkal. Především podle pokyvování a kroucení hlavou, které neodpovídá tomu, co říká. Původní, pravé video, které bylo zneužito pro tvorbu deepfaku, pochází z února 2021 a bylo publikováno na YouTube kanálu Institutu klinické a experimentální medicíny (IKEM) po jmenování Haluzíka jako přednosty Centra diabetologie.

Kombinace deepfake videií

Šíří se i video, ve kterém vystupuje více známých tváří, vedle fyziologa Petra Fořta, také zpěvačka Monika Bagárová, herečka Anežka Rusevová nebo influencerka Anna Šulcová. Jedná se o kompilaci několika videí upravených umělou inteligencí. Jako hlavní postava vystupuje opět odborník, v tomto případě výživový expert Petr Fořt. Začíná obdobnou větou jako Petr Havlíček: „Hubnutí je snadnější něž kdykoli předtím“ (video).

Větná struktura projevu Petra Fořta sice dává smysl, jeho hlas je ale stejně jako ve výše zmíněných případech strojený a intonace nepřirozená. Slova, která říká, také neodpovídají pohybům jeho úst (video, čas: 0:20). Původní záběry pochází z jeho rozhovoru pro kanál NYADERM na YouTube.

Původní videa Anežky Rusevové a Anny Šulcové se nám dohledat nepodařilo. Podle formátu a kvality deepfake videí ale můžeme usoudit, že se jedná o starší příspěvky ze sociálních sítí. V obou případech pohyby úst neodpovídají tomu, co říkají. V jednom ze záběrů Šulcové dokonce umělá inteligence nepřirozeně zkřivila obličej (video, čas: 0:18). Jako v ostatních případech, i jejich hlasy mají nepřirozenou intonaci a liší se od jejich skutečné rétoriky.

Facebooková stránka

Všechny příspěvky zveřejnila facebooková stránka Mgr. Antonín Řezníček. Podle popisku se jedná lékaře, který „pomáhá dosáhnout požadované hmotnosti bez přísných diet a vyčerpávajícího cvičení“. Má poskytovat individuální přístup a zaručovat rychlé výsledky.

Při bližším pohledu na profilovou fotografii údajného lékaře Řezníčka si lze všimnout podivně vypadajícího stetoskopu a hodinek. Software k detekci umělé inteligence odhalil, že je tento obrázek s 99% pravděpodobností vytvořen právě pomocí AI. Při snaze dohledat údajného lékaře se stejným jménem jsme narazili pouze na amerického doktora působícího v New Yorku, který se léčbou obezity zabývá. Vzhledově ale neodpovídá fotografii vytvořené umělou inteligencí.

Tato facebooková stránka byla založena v srpnu 2022, první příspěvek ale pochází až z dubna 2024. Nejvíce příspěvků je ze srpna 2024, přičemž se ve všech případech jedná o deepfake videa, která odkazují na výše zmiňovanou stránku FitMe. Ta údajně nabízí „český stravovací plán“, recepty, při kterých by zájemci měli zhubnout. Dole na webové stránce je umístěna tzv. nutriční kalkulačka, při zadání hodnot se ale nic nevypočítá. Nelze ani najít konkrétní informace nebo jméno zmíněného zázračného přípravku a ani jej koupit.

Závěr

Deepfake videa, která šíří facebooková stránka údajného lékaře Antonína Řezníčka, propagují neexistující zázračné příspěvky na hubnutí. Zneužívají k tomu tváře známých českých odborníků na výživu Petra Havlíčka, Martina Haluzíka a Petra Fořta a také celebrit jako zpěvačky Moniky Bagárové nebo herečky Anežky Rusevové.

Všechna videa byla ale vytvořena za pomoci umělé inteligence a žádná ze zmíněných osobností takovou metodu nepropagovala a na výše zmíněnou webovou stránku FitMe neodkazovala. V rámci naší spolupráce se sociální sítí Facebook jsme proto videa označili jako pozměněná.