Z fotky lze dnes vyrobit pornografickou nahrávku. Lidé se tím druhým mstí, říká student ze Stanfordu

Váš výzkumný úkol se jmenuje Generativní umělá inteligence v souvislosti s nekonsensuální pornografií. Přibližte nám tohle téma.

Je to jenom jedno z několika téma, kterým se věnujeme. V laboratoři se zabýváme umělou inteligencí a tím, jaké má vlivy na veřejný diskurz. Dnes se dají jednoduše podle textového popisu vygenerovat obrázky, videa nebo audio, což může pomáhat dezinformacím a manipulaci.

Téma pornografie je k tomu přidružené, protože dneska už existují modely a nástroje, které umožňují komukoliv – a je to veřejně dostupné na internetu – vložit do systému fotku kohokoliv plus přiložit popisek, a ten systém z toho vytvoří pornografickou nahrávku. A to je problém.

Nás tedy zajímá, jak můžeme minimalizovat škody tím způsobené, protože dneska už existuje spousta lidí v Česku i v zahraničí, kteří se stali obětmi takové praktiky. Lidé to často dělají třeba proto, aby se pomstili.

Takovou nahrávku pak snadno rozšíří sociální sítě. Je to pro hlavní hráče digitálního světa škodlivé? Proč by se měli domlouvat na nějakých pravidlech?

Čtěte také

Umělá inteligence bude rozumět emocím, lidskou podobu bychom měli tabuizovat, zamýšlí se kybernetik

Celkově proto, že pokud se budou technologie dál vyvíjet, poroste i míra takových falešných příspěvků na sociálních sítích, což výrazně naruší uživatelskou zkušenost. Pokud půjdu na sociální sítě a uvidím, že většina příspěvků je falešná nebo nějak zmanipulovaná, asi tam přestanu chodit. Takže si myslím, že v zájmu sítí je, aby zaručily, že je většina příspěvků důvěryhodná. A aby toho docílily, je potřeba přijmout sdílené protokoly, díky kterým se bude dařit rozlišovat videa a obrázky s velkou úspěšností.

Umělá inteligence pronikla i do filmového byznysu. Může třeba nechat oživnout mrtvé herce, je to tak?

Je to přesně, jak říkáte. AI je vlastně jedno z hlavních témat dvou stávek, které byly v Hollywoodu. Jedna producentů a druhá herců, kteří po odborech chtěli zaručit, aby studia nevyužívala umělou inteligenci k nahrazování herců. Stávka skončila minulý týden, ale v návrhu dohody zatím nic podobného není.

AI umí „rozanimovat“ herce do filmu na základě fotek – byť by z toho ještě dnes nebyl celovečerní film, v budoucnu určitě ano.

A jak říkáte, generativní umělá inteligence může nechat oživnout mrtvé herce, ale může třeba i „rozanimovat“ herce do filmu na základě jeho fotek. Byť by z toho ještě dneska nebyl celovečerní film, tak v budoucnosti určitě ano a nebude to zadlouho. Dovedu si představit také dobu, kdy se na Netflixu nebo jiné platformě vytvoří personalizovaný film podle toho, jak se cítíme, jaké máme oblíbené herce, případně i zařadit do filmu nás.

Napadá mě kacířská věta, že sociální sítě nás načaly a umělá inteligence nás dorazí. Co byste mi na to řekl?

Já bych s vámi možná souhlasil. Umělá inteligence dává lidem do rukou moc. Možnost sdílet nějakou informaci, obrázek, video, které se dostanou i k miliardám lidí, bez editorského zásahu, to je obrovské riziko.

Čtěte také

Největší překážka studia v zahraničí? Aby to člověka vůbec napadlo, usmívá se student z Dublinu Jan Hrebík

Dává nám moc zneužívat lidských vlastností, apeluje na naše city. Využívá třeba toho, že máme tendenci klikat na bulvární věci. Bez sociálních sítí bychom tento problém řešili ve výrazně menší míře, protože pokud by tok informací regulovala média, byť i mezi nimi se najdou nekvalitní a bulvární, tak by to minimálně ta mainstreamová média mohla regulovat.

Klíčová otázka, jak si mám ověřit, že jsem mluvil s opravdovým Matyášem?

Generátor zatím moc neumí smích. Takže to, že jsem se smál, je dobrý indikátor toho, že jste mluvil opravdu se mnou. Ale nikdy nevíte. Třeba jsem byl deepfake!

Jak se Matyáš Boháček dostal na Stanfordovu univerzitu? Co dělá ve volném čase v Kalifornii? A plánuje se někdy vrátit do Česka? Poslechněte si celý inspirativní rozhovor.