„Teď všichni jedou Block Tower. Stavíš věž patro po patře, nováčci mají 400 pokusů zdarma,“ lákalo video s tváří Annette Marie na hru. Jenže zmíněná influencerka nikdy takové video nenatočila. Stejně jako další se stala obětí deepfakeu.
Autoři falešné reklamy na hru zneužili její povídací video o dovolené ve Španělsku. Z něj sestavili věrohodně vypadající reklamu, ve které Annette Marie nemluví o svém výletu, ale o hře. „Jelikož video neobsahovalo žádné efekty ani střihy, posloužilo tvůrcům jako snadný podklad pro vygenerování deepfaku. Výsledek působil natolik věrohodně, že měli i mí blízcí přátelé potíže rozpoznat, že jde o podvrh,“ vysvětlila nám Anette Marie, která kromě influencingu spolupracuje také s Refresherem.
O videu, které ihned nahlásila a vybídla k tomu i své okolí, se doslechla od přátel i svých fanoušků a fanynek. „O celém incidentu jsem se dozvěděla od svých sledujících prostřednictvím soukromých zpráv na Instagramu a komentářů na TikToku. Jako první mě na to upozornila kamarádka, záhy jsem však zjistila, že mi se stejným zjištěním píše podstatně více lidí. Podle mých dosavadních informací existuje pouze tato jedna podvodná reklama,“ říká influencerka.
Obětí jsou i další
Na videích se neobjevila jen Anette Marie, sledující ji upozornili, že terčem stejného typu deepfake reklamy se stal i Honza Michálek. „Spojila jsem se s ním. Potvrdil mi, že o situaci ví,“ doplňuje Anette, která situaci aktivně řeší. „Své sledující jsem prostřednictvím příběhů na Instagramu informovala o tom, že jde o zneužití mé tváře, a vyzvala je, aby reklamu v případě zobrazení ve feedu nahlásili a zablokovali,“ popsala.
„Doufám, že se podobné útoky nebudou šířit dál, protože jde o velmi nepříjemný zásah, který nikomu nepřeji. Dlouhodobí sledující sice vědí, jak funguji a že bych propagaci podobné hry nikdy nepřijala, pro lidi, kteří mě tolik neznají, to však může vytvořit mylný dojem a negativně ovlivnit mou profesní budoucnost. Poslední upozornění na reklamu mi dorazilo v neděli (25.10. pozn. redakce) a od té doby se nikdo další neozval, takže věřím, že už je video odstraněno. Pokud by se však objevilo znovu, plánuji situaci řešit právní cestou,“ dodává.
Na co video vlastně láká?
Ve videu tváře lákají na hru Block Tower. Jenže žádnou takovou jsme na Google Play nenašli. Jména se buď lehce lišila, nebo neseděla grafika. Video bylo navíc nahrané z účtu s anonymním názvem a nulovou historií.
Video s Annette Marie po čase zmizelo. Existující indicie ale nasvědčují, že šlo o phishingovou návnadu. Jak upozornila bezpečnostní analýza serveru DomainTools, podvodníci často využívají takzvané wrapper aplikace – naoko neškodné hry, které se v telefonu promění v nelegální kasino.
V českém prostředí pak na masivní zneužívání deepfake videí pro tyto účely opakovaně upozorňují nejen bezpečnostní experti. Už dříve se stal obětí třeba i samotný prezident Petr Pavel, v jehož falešných videích jeho podobizna lákala na investice.
Ani zneužití tváří influencerů a influencerek není žádná novinka. V minulosti se proti deepfakes bránil Jan Kraus, dotkly se i moderátora Jakuba Železného, Kazmy nebo zesnulého Petra Kellnera. Podle odborníka Jindřicha Karáska, kterého citoval server HlídacíPes.org, vedly stopy některých těchto podvodů až do Ruska.
Tomu, že video od Anette Marie lákalo na podvod, nasvědčuje hned několik věcí:
- Video nese audiovizuální známky deepfaku.
- Známá tvář v něm nabízí něco, co neodpovídá její předchozí tvorbě/činnosti.
- Klip láká na mobilní hru/aplikaci.
- Nabídka vytváří dojem zvýhodnění pro nově příchozí.
Stále dokonalejší deepfakes
Na rostoucí počet a větší promyšlenost deepfaků nedávno upozornila i policie. Ta sestavila patero doporučení. Varovala především před sdílením jakýchkoliv osobních údajů a vkládáním citlivých informací, jako je rodné číslo nebo zdravotní stav, do AI. Policie navíc varuje, že deepfakes dnes už často nelze na první pohled poznat, nástroje se totiž stále zdokonalují.
U videa Annette Marie bys při troše zkoumání něco divného přece jen našel*našla – pohyb rtů přesně nesedí na to, co říká. Na první a letmý pohled na to ale nespoléhej. Samotné Annette se stalo, že video ukazovala kolegům a kolegyním z médií, a i ti žasli. „V ten moment jsem byla na cestě do Vídně na press trip. Jeli se mnou v autě další redaktoři z konkurenčních médií, tak jsem se ptala, jestli to rozpoznají. Oni řekli, že ne. To mě trošku vyděsilo,“ uzavírá Anette Marie.
1) Počítat s tím, že text, obraz, zvuk i video mohou být uměle vytvořené
2) Nevěřit, že deepfake lze vždy poznat
3) Neposkytovat osobní ani platební údaje
4) Nevkládat citlivá data do AI nástrojů
5) Nahlásit každý podvod, i pokud je škoda nízká
