Antivirus: Oběťmi nahých fotomontáží jsou i děti. Obrátit se můžete na Linku bezpečí

Jak může nějaká aplikace svléknout osobu na fotce? Určitý program vezme vloženou fotografii a upraví ji tak, že osoba na ní vypadá jako nahá. „Zkrátka k ní vygeneruje nahou postavu, která odpovídá postojem a tělesnými proporcemi oběti na původní fotografii. A podobně tyto nástroje zvládnou vyrobit i kratší jednoduché video,“ objasňuje redaktor Jan Cibulka.

V minulosti lidé vytvářeli například fotomontáže celebrit tak, aby vypadaly jako nahé, nedávno byl medializovaný případ zpěvačky Taylor Swift.„Nicméně rozmach služeb založených na generativní umělé inteligenci tyhle nástroje udělal dostupné doslova každému, a nejsou třeba žádné znalosti grafických programů,“ dodává redaktorka Jana Magdoňová.

Trestný čin

A internet zažívá boom takových aplikací: nabízené jsou skrze online reklamu nejen na pornostránkách, ale například i na sociálních sítích včetně Twitteru nebo TikToku. Najde je i kdokoli s pomocí webového vyhledávače. „Jejich použíti typicky stojí několik dolarů, případně nabízí úpravu několika fotografií zdarma jako ukázku.“

Čtěte také

Na deepfake pornografii musíme reagovat. Měl by to být trestný čin, říká k návrhu náměstek ministra

Je něco takového vůbec legální? Pokud je předlohou dítě, tedy osoba mladší 18 let, pak jde velmi pravděpodobně o trestný čin výroby dětské pornografie. U dospělých je situace složitější, v některých případech by mohlo jít o poškození cizích práv.

„Novela trestního zákoníku, kterou nyní předložilo ministerstvo spravedlnosti, ale zavádí nový trestný čin, který by postihoval přímo právě zneužití něčí podoby pro tvorbu pornografie. Tedy i tvorbu deepfakes.“

Kyberšikana

Dle očekávání tyhle aplikace používají třeba školáci. V drtivé většině případů jsou oběťmi dívky, a materiál pak slouží ke kyberšikaně. „Světová média už informovala o případu ve Španělsku nebo USA, server iROZHLAS už loni psal o příbězích dívek z Česka,“ říká Jana Magdoňová.

O většině případů se nejspíš nedozvíme - oběti se stydí svěřit.

O většině případů se ale nejspíš nedozvíme, oběti se cítí jako v případě jiných sexualizovaných útoků, zahanbené a zneužité, a proto se často nikomu nesvěří. „Dopad na psychiku dospívajícího dítěte tak může být zvlášť tvrdý,“ upozorňuje Cibulka.

Jak se můžeme bránit? Právě to je problém, oběti takovému útoku ani při největší snaze nemůžou předejít. „Fotografie jsou dnes úplně běžně dostupné online: na sociálních sítích, na stránkách školy, ve fotogalerii z rodinné dovolené,“ říká Magdoňová.

Školy musí reagovat

Odpovědnost je tedy zejména na školách a rodičích. Školy musí být připravené na to, že k něčemu takovému dojde a musí umět reagovat, poskytnout pomoc obětem a situaci řešit, v krajním případě i s policií. „Pokud se vygenerované fotografie šíří na nějaké sociální síti, je možné požádat o jejich odstranění, ale to je jen částečná náplast.“

U rodičů pak platí to, co tady v Antiviru zaznívá pravidelně: s dětmi se bavte o tom, co dělají online, a dejte jim najevo, že jim vždycky pomůžete, a to i v případech, kdy budou mít děti pocit, že si za problémy mohou sami.

„Aby se vám nebály svěřit, když se jim stane něco, s čím si nebudou umět samy poradit. A nezapomeňte, že vaše dítě nemusí být jen oběť, ale může být i svědkem takové kyberšikany, nebo pachatel. Obrátit se můžete třeba na Linku bezpečí,“ uzavírá Magdoňová.