Soukromí, děti a umělá inteligence: technologické výzvy roku očima Antiviru

Letos se Evropská komise znovu pokusila prosadit takzvaný Chat Control, tedy povinnou automatickou kontrolu všech zpráv, které si mezi sebou lidé vyměňují online.

Čtěte také

Antivirus: Austrálie zakázala sociální sítě dětem do 16 let. Čeká něco podobného i Česko?

„Podle komise mělo jít o ochranu dětí před sexuálním zneužíváním online. V plánu byla povinná automatická kontrola všech zpráv, které si mezi sebou lidé v Evropské unii posílají. Algoritmy a následně policie v nich měly hledat obrázky či videa se sexuálním zneužíváním dětí,“ připomíná Kateřina Gruntová.

Online konverzace

Návrh čelil silné kritice ochránců soukromí i lidí, kteří se věnují kybernetické bezpečnosti. „Automatická kontrola je totiž náchylná k velkému množství chyb a její provádění by znamenalo de facto konec důvěrné konverzace online. A je nasnadě, že nejčastěji by takové filtry označovali legální sexting mezi dospělými lidmi. A ten by následně museli kontrolovat policisté či jiní státní zaměstnanci,“ dodává Jan Cibulka.

Čtěte také

Antivirus: Rekordní pokuta pro síť X? Nejde o cenzuru, ale o data, reklamy a modré fajfky

V současné době v legislativním procesu postupuje osekaná verze, která technologickým firmám doporučuje takové kontroly provádět, není to ale povinné. „Takže konverzaci v aplikacích jako Signal nebo WhatsApp dál chrání šifrování.“

Regulace mobilů?

Dalším velkým tématem letos bylo omezování přístupu dětí k technologiím, ať už jsou to sociální sítě, nebo mobilní telefony. Tyto debaty budou nepochybně pokračovat i příští rok. „Novopečený ministr školství Robert Plaga za hnutí ANO už avizoval, že chce vydat doporučení pro školy, jak by měly technologie regulovat. Do zákona se to ale zatím dávat nechystá,“ přibližuje Cibulka.

První pokusy o regulaci mobilů nebo sociálních sítí už vidíme v zahraničí. „Nicméně pořád chybí dostatek vědeckých studií, které jasně popíšou a dokážou, které konkrétní technologie a jak přesně jsou škodlivé,“ upozorňuje Gruntová.

Čtěte také

Antivirus: První mobil pod stromečkem. Kdy ho dětem pořídit a jak je chránit?

Podle Cibulky je bez přesného pochopení těžké regulaci dobře nastavit. „A navíc, když dojde na zákazy, tak musíme pamatovat na to, že i děti mají právo třeba na svobodu projevu,“ dodává.

Zpravodajství a AI

Velkým tématem je umělá inteligence. Většina velkých technologických firem s AI spojila svou budoucnost a vehementně se ji snaží prosazovat ve všech svých produktech.

„V letošním roce jsme se věnovali spíš negativním dopadům, které této technologie přináší. Český rozhlas se účastnil velké mezinárodní studie, která ukázala, že AI asistenti systematicky zkreslují zpravodajství a poskytují lidem nepřesné nebo úplně nepravdivé informace,“ říká redaktor.

Z druhé strany si tuto technologii oblíbili lidé, kteří vydělávají na zaplavování sociálních sítí obskurním obsahem generovaným AI.

Čtěte také

Chatboti nejsou spolehlivý zdroj zpráv. Odkazují na neexistující weby a uvádějí nepravdivé informace, varuje Antivirus

„Příkladem můžou být falešná videa, kde různá zvířata skáčou na trampolíně. Když se takové video stane virálním, sociální síť jeho tvůrci zaplatí. V důsledku ale generovaný obsah vytlačuje skutečné příspěvky od vašich přátel,“ uvádí redaktorka.

A umělou inteligenci taky používají ke generování podvodných online reklam kriminálníci.

„Ti své oběti loví také právě na sociálních sítích, často při tom zneužívají známé osobnosti jako třeba prezidenta nebo premiéra. Odtud oběti vedou na podvodnou stránku, kde z ní třeba pod záminkou investice do kryptoměn vylákají platební údaje a okradou ji,“ přibližuje jeden z příkladů redaktor.