Lákají na známé tváře a slibují rychlé zbohatnutí. Jak vznikají podvodná deepfake videa?

Čtěte také

„Stačí program za pár korun.“ Jak vzniká hrozba jménem deepfakes a co falešná videa odhalí

„Ten scénář je přibližně takový: při brouzdání na sociální síti člověk narazí na příspěvek – často sponzorovaný, tedy takový, za jehož šíření někdo, v tomto případě podvodník, zaplatil. A v příspěvku je video, kde nějaká známá sportovkyně nebo třeba politik mluví o mimořádné příležitosti ke zbohatnutí. Má jít například o investici do nějaké nové kryptoměny či do akcií známé společnosti,“ popisuje Cibulka.

Video pak prý obvykle doprovází odkaz, který vede na podvodnou webovou stránku, kde je možné založit falešný investiční účet. „Pokud si zde člověk ten účet vytvoří a převede na něj peníze, tak následně opravdu vidí, jak údajná investice nabývá na hodnotě. Trik je samozřejmě v tom, že pachatelé tomu člověku ukazují smyšlená čísla. Problémy nastanou ve chvíli, kdy bude si chtít údajné zisky vybrat. V takovou chvíli z něj pachatelé nejspíš zkusí vylákat další peníze jako údajný poplatek za výběr a pochopitelně mu žádné finance neodešlou,“ vysvětluje.

Nejjednodušší trik jsou falešné titulky

Čtěte také

Politici lákající na investice? S jistotou to bude podvod, varují redaktoři pořadu Antivirus

Jan Cibulka s Janou Magdoňovou si dokonce zkusili podobné video sami vytvořit a výsledek ukázali na festivalu v Karlových Varech. „Začali jsme příspěvkem na Instagramu, kde šéfredaktor Martin Samek zval veřejnost na doprovodný program festivalu. A toto video jsme s Martinovým souhlasem z toho Instagramu ukradli, tedy pomocí volně dostupného nástroje na stahování videí z webu stáhli. A následně jsme vyzkoušeli několik triků, které pachatelé využívají při tvorbě podvodných videí,“ popisuje proces Cibulka.

Které triky tedy redaktoři vyzkoušeli? „Ten nejjednodušší z nich, ale velmi účinný, jsou trochu překvapivě falešné titulky. Z videa jsme odstranili zvuk, nahradili ho moderní veselou hudbou a titulky napsali tak, aby to vypadalo, že náš šéfredaktor propaguje investice do nové fiktivní kryptoměny.“ Pachatelé v takovém případě využívají nepozornosti uživatelů. „Nepotřebují nějaký super realisticky vytvořený falešný video obsah, protože lidé to video vidí jen v rychlosti na mobilním telefonu, třeba v autobuse, cestou do práce nebo cestou do školy. A právě často s vypnutým zvukem,“ vysvětluje Cibulka. Pro pachatele je pak podstatné, že se nachytá alespoň hrstka oslovených uživatelů.

Za stokorunu slušně znějící napodobenina

Čtěte také

Na Facebook raději běžnou platební kartu nezadávejte, doporučuje Antivirus. Jak se ubránit podvodům?

Jan Cibulka s Janou Magdoňovou ale u falešných titulků nezůstali a pro publikum na karlovarském festivalu přichystali i druhou verzi za použití nejnovějších široce dostupných technologií. „Tam jsme hlas našeho šéfredaktora opravdu tzv. naklonovali a nechali tohoto robotického klona náš podvodný inzerát opravdu přečíst. Ani toto nebylo technicky složité. Na internetu je řada služeb, kam nahrajete ukázku hlasů a za poplatek kolem stokoruny dostanete vcelku slušně znějící napodobeninu. A ve chvíli, kdy si text takového podvodného inzerátu ještě necháte vymyslet nějakým nástrojem, jako je třeba GPT, můžete tyto podvody vyrábět s minimálními náklady jeden za druhým a ani se u toho příliš nenadřete,“ líčí Jan Cibulka.

A jak se proti takovým podvodům bránit? „Nabídka úžasné a bezpracné investice za vámi určitě nepřijde jako inzerát na sociálních sítích a platí, že pokud nemáte s klasickým investováním zkušenosti, tak o to jednodušeji vás někdo podvede online. Proto byste takové nabídky měli jednoduše ignorovat,“ radí redaktor. V případě pochybností pak doporučuje poradit se s blízkými. „Důležité je všechny tyto finanční operace dělat po rozmyslu,“ dodává.