Falešná nahota a Grok na síti X: Člověk svlečený umělou inteligencí je oběť, upozorňuje Antivirus

Čtěte také

Antivirus: AI od Googlu radí lidem o zdraví chybně, někdy i nebezpečně, varuje The Guardian

Grok a podobné služby fungují na principu generativní umělé inteligence, to znamená, že můžou generovat text i obrázky podle toho, co jim uživatel zadá.

„Takový nástroj se dá použít i k úpravě skutečných fotografií, a právě to někteří uživatelé začali zneužívat k úpravě fotografií dívek a žen tak, že na obrázcích pak vypadají jako nahé nebo v bikinách,“ objasňuje redaktor Jan Cibulka.

Je důležité zdůraznit, že podoba nahého těla na takových obrázcích není skutečná, ale je odhadnutá AI modelem podle tělesných proporcí zachycených na původní fotografii. „Nicméně výstupy z AI modelu vypadají uvěřitelně – což má na oběti drtivý dopad,“ dodává redaktorka Kateřina Gruntová.

Výstupy z AI modelu vypadají uvěřitelně, na oběti to má drtivý dopad

A aby toho nebylo málo, někteří uživatelé takto generují i pornografické materiály zobrazující děti.

„Evropská komise to ústy svého mluvčího odsoudila, generování nahých fotek je podle ní nelegální, nepřijatelné a nechutné. Mluvčí zároveň dodal, že podle DSA, tedy evropského nařízení o digitálních službách, má Elon Musk povinnost tento problém řešit,“ říká redaktorka.

Také Ofcom, tedy britský úřad, který má na starost regulaci online služeb, začal minulé pondělí sociální síť X šetřit, aby zjistil, jestli platforma splnila svou povinnost ochránit obyvatele Spojeného království před nelegálním obsahem. „A některé země, třeba Filipíny, Indonésie nebo Malajsie přístup ke Groku úplně zakázaly.“

Jak reaguje síť X?

Sociální síť X přístup k AI chatbotu Grok částečně omezila, a to tím, že ho teď můžou používat jenom uživatelé, kteří si zaplatí za ověření svého profilu. „A X tvrdí, že přidávají další ochranné prvky. Jak ale zjistili novináři britského deníku the Guardian, nahé fotky jdou přes Grok generovat i přesto,“ upozorňuje Cibulka.

Čtěte také

Antivirus: Austrálie zakázala sociální sítě dětem do 16 let. Čeká něco podobného i Česko?

Nejde o první případ, kdy ke generování takovýchto obrázků dochází. „Generativní AI modely to obecně umožňují a pravděpodobně jim v tom nikdy nebude možné spolehlivě zabránit. Na internetu existuje řada služeb, které se přímo na generování nahých obrázků specializují,“ dodává Cibulka.

Forma šikany  

A může se vůbec člověk nějak bránit, aby se nestal obětí? „V praxi by to vyžadovalo, aby neměl žádnou svou fotografii online a nikdo ho ani nevyfotil, jenže to není reálné. Tento problém tak bude muset řešit celá společnost.“

V Česku je to ale nově trestné. Může jít o trestný čin poškození cizích práv nebo zneužití identity k výrobě pornografie. „A pokud by na takovém obrázku či videu bylo zobrazené dítě, může se jednat o trestný čin výroby dětské pornografie,“ upozorňuje redaktor.

Čtěte také

Antivirus: Rekordní pokuta pro síť X? Nejde o cenzuru, ale o data, reklamy a modré fajfky

A redaktorka připomíná, že je potřeba si uvědomit, že k výrobě takových materiálů dochází často mezi dětmi ve školách jako forma šikany. Proto je důležité, aby se v této oblasti vzdělávali rodiče i učitelé a uměli tyto případy rozpoznat a řešit.

„Zejména je důležité si uvědomit, že člověk ,svlečený‘ umělou inteligencí je oběť. A podle toho se k němu chovat,“ uzavírá redaktorka.