Magazín Experiment: Jak rozpoznat deepfake videa? A může fungovat fotosyntéza ve vesmíru?
- 00:00 témata magazínu
- 00:15 jak rozpoznat deepfake?
- 04:15 Rozhovor s Janem Fridrichovským z demagog.cz
- 08:10 včelaření a moderní technologie
- 10:00 fotosyntéza v kosmu
- 13:50 české experimenty pro ISS
- 17:17 Světový den bez tabáku
Doba, kdy umělá inteligence generovala deset prstů na jedné ruce, je pryč. Dnes zachycuje věrně mimiku, mrkání, dech, napodobuje hlas, a to už téměř dokonale. Pro rozpoznání deepfake videí nám proto už nestačí pouhý pohled. Je zapotřebí použít proti technologii jinou technologii, která falešná videa dokáže spolehlivě odhalit. Pracují na ní vědci a vědkyně z Fakulty elektrotechnické Českého vysokého učení technického.
Čtěte také
„Díváme se na něco, co vypadá jako klasická scéna v televizních zprávách, ale ve skutečnosti se jedná o čistě syntetický obsah. Tito lidé vlastně nikdy neexistovali a nikdy neřekli to, co říkají,“ komentuje záběry, které vytvořil nejnovější model od firmy Google, Jan Čech z ČVUT. Rozpoznat pouhým okem, že jde o deepfake video, jde podle experta na jejich odhalování, jen velice těžko.
„Video je pro cinematické účely, pro filmmakery, a věřím, že to má v umělecké komunitě značnou hodnotu. Velice rychle vytvoříte film, na který se lidé můžou dívat, a nebude to stát miliony dolarů, Pro podporu kreativity je to cenné, ale je to zneužitelné, to je ten problém,“ zdůrazňuje.
Deepfake videa můžou šířit dezinformace, ovlivňovat veřejné mínění, poškozovat reputaci lidí nebo být zneužité k vydírání a podvodům. Jak si pomoct s odhalováním deepfake videí a jaká je jejich budoucnost?
Poslechněte si rozhovor s šéfeditorem serveru demagog.cz Janem Fridrichovským v záznamu celého Magazínu Experiment.
AI vs AI
Vytvořit věrohodné video za použití umělé inteligence přitom s trochou znalostí a zkušeností zvládne i laik. Paradoxně platí, že čím jednodušší je falešné video vytvořit, tím těžší je ho odhalit. Vzniká tak pomyslný závod mezi tvůrci deepfaků a jejich detekcí – podobně jako mezi viry a antiviry.
„Je to těžší a těžší a za chvíli už bude zcela nemožné to poznat. Budu potřebovat nějaký nástroj, ale ten mi dává spolehlivost zase jen na generátor, které zná, a u těch, které nezná, to poznat nedokáže,“ konstatuje Jan Čech a dodává, že to znamená jediné – ani ty nejlepší detektory zatím nefungují stoprocentně spolehlivě.
Jsou totiž natrénované hledat v obraze neviditelné stopy. Ale i ony fungují jen tehdy, pokud už mají příklady podobných videí, na kterých se mohly takzvaně učit.
„Máme několik přístupů. Jeden je naučit model, detektor, na sadě generovaných obrázků, rozpoznat, který je který. To funguje dobře. Pokud ale nemám v sadě generátor, který chci detekovat, tak nemám šanci,“ vysvětluje. „Další věc je, že neučím model od nuly, ale používám foundation model – velký model, který viděl v zásadě celý internet a poskytuje reprezentaci, která je vhodná k detekci.“
Ohrožená generace?
Vědci tedy ve zkratce proti umělé inteligenci využívají taky umělou inteligenci a snaží se s nejnovější technologií udržet krok. Deepfaky zkoumají taky na Univerzitě Karlově. Ve výzkumu, kterého se zúčastnilo asi 3 tisíce respondentů, zjistili, že Češi jsou v odhalování falešných videí poměrně úspěšní.
Čtěte také
„Pouze 15 % jich selhává s tím, že tohle měření máme naměřené víckrát a to číslo zůstává konstantní,“ říká datový analytik Lukáš Kutil, podle kterého jsou v odhalování deepfake nejúspěšnější Češi ve středním věku.
„Hůře identifikují deepfake paradoxně ti nejmladší pod 24 let – ti nejmladší z generace Z a nejstarší z generace alfa. Nevíme, proč to je, ale pracujeme s tím, že tito lidé mají mnohem méně kontextu pro sledování videí než starší generace, z nichž mnozí vyrostli ještě v analogové době.“
Rozpoznávání deepfaků tedy bude podle expertů čím dál složitější. O to důležitější je zůstávat obezřetní a ověřovat informace z více zdrojů.
Co brání astronautům v tom, aby dokázali získávat v kosmu kyslík produkovaný zelenými řasami? Jaké experimenty chystají čeští vědci pro misi na ISS? V čem pomáhají včelařům moderní technologie? A jak může věda usnadnit odvykání kouření? Poslechněte si celý Magazín Experiment.
Mohlo by vás zajímat
Nejposlouchanější
Více z pořadu
Zprávy z iROZHLAS.cz
-
OVĚŘOVNA: ‚Sežrala‘ pražské labutě ‚zahraniční menšina‘? ‚Mají křídla, spíš odletěly,‘ říkají ornitologové
-
Spisovatel Palán: Na plochou Zemi nikdo nevěří. Ve skutečnosti se dělíme na lidi šťastné a nešťastné
-
Desítky tisíc Čechů bez práce. Trumpova cla budou mít rozsáhlý dopad na zaměstnanost, míní ekonom
-
Hold mizejícímu umění zůstat sám sebou. Vítězným snímkem Varů je český dokument o poustevnících