Antivirus: Sociální sítě zaplavují falešná videa z války USA a Íránu. Mnohá vytvořila umělá inteligence

Pokud si otevřeme sociální síť X, dříve Twitter, TikTok nebo Facebook, pravděpodobně velmi rychle na takové vygenerované fotografie nebo videa natrefíme. Na problém upozorňuje třeba list The New York Times.

Čtěte také

Magazín Experiment: Jak umělá inteligence vrátila hlas zpěvákovi Ladislavu Kerndlovi? A stane se vodík palivem budoucnosti?

Prakticky každý dnes může takové falešné video nebo fotografii snadno vygenerovat, nástroje jsou dostupné online, a to za malý poplatek nebo úplně zdarma.

„Stačí tedy napsat, co má na videu být a kde se má odehrávat, a během chvíle uživatel dostane video, co na úplně první pohled vypadá jako vcelku realistický amatérský záběr z mobilního telefonu, který zachycuje dopady raket nebo výbuch na palubě letadlové lodi,“ přibližuje redaktorka Jana Magdoňová.

Dalším příkladem jsou uměle vytvořená videa zachycující například údajné zajaté americké nebo izraelské vojáky, kteří pláčou a prosí o milost. „Část generovaných materiálů si pak o realističnost vůbec nesnaží, jde o parodie, které zesměšňují jednu ze stran konfliktu, případně jinou vyzdvihují, je to zkrátka otevřená propaganda,“ doplňuje redaktor Jan Cibulka.

Kdo videa vyrábí?

„Hned na začátku konfliktu se sociální sítě začaly plnit propagandou zejména nahrávající Íránu. Ten je v konfliktu slabší stranou a je to pro něj jedna z cest, jak alespoň ve veřejném prostoru trochu vyrovnat skóre s daleko silnějšími USA a Izraelem,“ říká redaktorka.

Kromě otevřené propagandy, která například zesměšňuje amerického prezidenta Donalda Trumpa, ukazují fotky a videa údajné válečné přípravy Iránských revolučních gard nebo to, jak americkou letadlovou loď Abraham Lincoln zasahují nepřátelské rakety.

Čtěte také

Falešná nahota a Grok na síti X: Člověk svlečený umělou inteligencí je oběť, upozorňuje Antivirus

„Na zájem lidí o detaily z válečného konfliktu se ale snaží přiživit další uživatelé, kteří sdílejí neověřené nebo úplně smyšlené informace, a doprovázejí je generovanými videi a fotografiemi.“

Reklama a peníze

„Důvodem je nabrat sledující, nebo si přímo vydělat: sociální sítě dnes platí tvůrcům, jejichž příspěvky nasbírají hodně zhlédnutí nebo komentářů. Lidé se tak snaží vydělávat na tom, co zrovna veřejnost zajímá. A válka je jedna z takových věcí.“

Ale proč s přívalem nepravdivých informací sociální sítě něco nedělají? „Protože jim to vydělává peníze. Sociální sítě prodávají reklamu, a čím více času zde lidé tráví, tím více reklam vidí,“ vysvětluje redaktor, podle kterého je jedno, jestli koukají na příspěvky, ve kterých je zábava, zprávy nebo propaganda.

„Tvorbu virálních příspěvků i podporují právě přes programy pro tvůrce. Meta, která provozuje Instagram a Facebook, pak dokonce dává k dispozici AI nástroje pro tvorbu videí a fotek.“

Jak falešné příspěvky poznat?

Vyhodnocování a mazání falešných příspěvků vyžaduje lidskou práci, která je nákladná. Navíc všechny velké sociální sítě jsou americké firmy, a ty pod tlakem prezidenta Donalda Trumpa od moderace obsahu do značné míry ustoupily.

Čtěte také

Samolepka smajlíka místo obličeje? Soukromí dítěte tím neochráníte. Raději fotky nezveřejňujte, radí Antivirus

„Právě Trumpova administrativa AI propagandu využívá ke zesměšňování svých protivníků a kritiků, a pokusy o moderaci na sociálních sítích označuje za cenzuru.“

Přitom právě Trump si aktuálně před médii na AI generovanou propagandu Iránu postěžoval.

Generovaná videa někdy nápadně připomínají hollywoodský film, výbuchy jsou velké ohnivé koule a všechno se děje za jasného dne. „V realitě dopady munice zanechávají spíš kouř, a navíc jsou viditelnější v noci,“ doplňuje Jan Cibulka.

Jelikož se autoři snaží, aby bylo hned každému jasné, o jaký konflikt jde, tak jsou v záběrech vidět až nerealisticky jasně a čistě vlaky, ať už ta íránská, nebo ta izraelská či americká.

Čtěte také

Antivirus: AI od Googlu radí lidem o zdraví chybně, někdy i nebezpečně, varuje The Guardian

Role médií

Jenže tohle funguje jen částečně: některé generované materiály mohu vypadat velmi realisticky, a navíc na sociálních sítích je vidíme jen chvilku, a na malé obrazovce telefonu. „Na to, že je poznáme pohledem, potom už nemůžeme spoléhat. Nepomohou nám ani komentáře pod příspěvky, zhusta také automaticky generované.“

Proto roste role běžných médií, které to, co zveřejňují, systematicky ověřují.

„Sice se zde informace mohou oproti sítím objevit i se zpožděním, ale to je často způsobené právě tím, že redakce zjišťují, zda nejde o výmysl. Sociální sítě tuhle roli dnes hrát nemohou,“ uzavírá Jana Magdoňová.