Antivirus: Politické strany využívají umělou inteligenci v předvolební kampani. Jak rozpoznat generovaný obsah?

„Dobrý příklad jsou nedávné volby v Německu. V těch hlavně strana Alternativa pro Německo používala generátory obrázků a videí, kterými vyplnila své účty na sociálních sítích,“ říká Jana Magdoňová.

Čtěte také

Hledání semaforů nebo opisování různě velkých písmen. Podvodníci používají falešné CAPTCHA testy k odcizení dat

„Vznikaly tak například líbivé spoty, kde se směje blonďaté batole nebo šťastné děti jedou autobusem do školy. Nikdo z těch lidí ale nebyl reálný, všechny vygenerovala umělá inteligence,“ upozorňuje Jan Cibulka.

Jana Magdoňová zdůrazňuje, že může jít problém ve chvíli, kdy strany používají umělou inteligenci k inscenování situací, které se nikdy nestaly, ale podporují například rasové stereotypy.

„V případě zmíněné německé AfD strana na své sociální sítě dávala obrázky, které byly temné až výhružné. Měly znázorňovat temnou budoucnost Německa v případě, že AfD nevyhraje. Na obrázcích byly například skupiny zamračených mužů, kteří upírali pohled přímo do fotoaparátu, a podle popisku obrázků to měli být imigranti ze Sýrie,“ popisuje Cibulka.

Nulové náklady

Čtěte také

Sledovací aplikace v mobilu? Možná ji máte, ani o tom nevíte, varuje Antivirus. Jak si zkontrolovat mobil?

Strany sice něco podobného mohly dělat už v minulosti, ale díky umělé inteligenci se dají náklady na takové obrázky nebo videa srazit k nule. „Straničtí marketéři proto takového materiálu můžou vyrobit prakticky neomezené množství a zaplavit tím své sociální sítě,“ varuje redaktorka.

„Pokud se jim navíc podaří přesvědčit své příznivce třeba nějakou soutěží o dárek, aby materiál sdíleli a sami šířili, stane se virálním. Dostane se tak k velkému množství lidí, kteří vůbec nemusí patřit k příznivcům strany,“ doplňuje Cibulka.

Vygenerovat podobné obrázky nebo videa je opravdu snadné. Řada generátorů je dostupná online za malý poplatek nebo úplně zdarma. „Pak jen záleží na tom, jaké zadáte umělé inteligenci požadavky,“ říká Magdoňová. „Některé tyto systémy se snaží bránit proti generování obrázků, které jsou rasistické nebo se sexuálním podtextem, ale není příliš složité tyto ochrany obejít. Anebo si stáhnout model generativní umělé inteligence, který můžete spustit přímo ve vašem počítači. Ten taková omezení neobsahuje.“

S problémem se setkáváme už i v Česku. Jak připomíná Jan Cibulka, mediálně sledovaná je kauza šéfa SPD Tomia Okamury. „Toho Poslanecká sněmovna v polovině února vydala k trestnímu stíhání kvůli dvojici plakátů. Jeden z nich zobrazoval výhružně se tvářícího mladého muže tmavé pleti se zakrvaveným nožem v ruce. Podle policie plakát podněcoval nenávist k některé rase, etnické skupině,“ popisuje redaktor Antiviru.

Jak poznat AI obrázky?

Poznat, zda video či obrázek vytvořila umělá inteligence, je přitom stále složitější. Přepočítávání prstů na rukou už nemusí spolehlivě fungovat, zdůrazňuje Cibulka. „Modely generativní umělé inteligence se rychle zdokonalují. Spoléhat nemůžeme ani na to, že video nebo obrázek sociální síť označí jako vygenerovaný umělou inteligencí nebo jako volební kampaň. Strany spoléhají na sdílení takových materiálů svými fanoušky, a tím mohou označování za volební kampaň efektivně obcházet.“

Čtěte také

Léčivé přípravky, reklamy a breaking news. Podvodníci na internetu využívají i informační pustiny

„Je potřeba dávat si pozor na příspěvky na sociálních sítích, které vyvolávají emoce, strach nebo posměch,“ říká Jana Magdoňová. Redaktorka radí zaměřit se na to, co se snaží příspěvek sdělit a zda není vytvořený tak, aby nahrával volební kampani konkrétní strany.

„Ani programy na rozpoznávání materiálů, které vytvořila umělá inteligence, nefungují spolehlivě. Je potřeba myslet na to, že volby se blíží a takových věcí bude zkrátka na sociálních sítích přibývat,“ uzavírá Jan Cibulka.