Chat Control představuje riziko pro naše svobody. Plošné šmírování konverzací není řešení, míní europoslankyně Gregorová

Návrh, který vyvolal v posledních dnech v Česku hodně pozornosti, předložila Evropská komise už v roce 2022. Jde o nařízení, kterým se stanoví pravidla pro předcházení pohlavnímu zneužívání dětí a boj proti němu. Co má nařízení fakticky zavést? Koho a čeho, pokud jde o elektronickou komunikaci, se má týkat?

Čtěte také

Váhá kolem třetiny voličů, ovlivní je chyby a slogany. Žádná strana nemůže být v klidu, říká sociolog Buchtík

Nařízení by podle návrhu komise – tady upřesním, že se ještě nejedná o nic schváleného, mohlo by to být předmětem kompromisu – znamenalo, že by v podstatě všechny online komunikační platformy měly na straně klienta, tedy ve vašem telefonu předtím, než to odešlete, skenovat, co jste napsal.

Tvrdí, že by to byla jenom videa, obrázky a odkazy. Nicméně abyste rozpoznal, že jde o url odkaz, musíte identifikovat, jestli to není text. Takže ve výsledku by se musely číst texty a následně by se to muselo povinně ukládat na nějaké servery online platforem. Na základě vyjádření soudu by se potom musely vydat konverzace někoho, kdo by byl podezřelý z šíření dětské pornografie.

Zároveň, a to je snad ještě horší, návrh počítá s tím, že by nahrávací filtry, které technologicky ještě neexistují, byly zavedeny tak, že by platformy musely samy označovat policii a orgánům v trestněprávním řízení, že detekovaly něco, co by mohlo být šíření dětské pornografie. To by mohlo samozřejmě také znamenat označování nevinných uživatelů.

Na cloudových úložištích jsme poprvé zaznamenali nejdrastičtější příklad toho, jak to celé může selhat.

Hodně se mluví o komunikačních platformách typu WhatsApp, Signal a tak dále. Týkalo by se to i sociálních sítí nebo cloudových úložišť?

Ten návrh s tím počítá. Online komunikace je ve skutečnosti rozšíření ze strany komise, úplně původně se počítalo právě s cloudovými úložišti. A je zajímavé, že na cloudových úložištích jsme poprvé zaznamenali nejdrastičtější příklad toho, jak to celé může selhat.

Čtěte také

Čeští politici prodlužují krize až o dva roky. Reagují regresivní změnou daní, což je chyba, míní sociolog Prokop

Cloudové úložiště Google Drive, které jistě mnoho posluchačů používá, kdysi takto zablokovalo účet a nahlásilo na policii muže, který tam nahrál fotku svého malého syna, který měl nějakou vyrážku na genitáliích, pro svého pediatra. A oni to označili jako šíření dětské pornografie.

Jelikož na to nebyly tehdy žádné precedenty, tak se ten muž domáhal své nevinnosti a svého práva asi rok a bylo to samozřejmě pro něj i rodinu velmi mentálně zatěžující. A to chtěl jenom od doktora vyjádření k nemoci svého syna.

Z toho, co jste říkala, je zřejmé, že jste proti návrhu. Na druhé straně, pokud se podíváme do průvodního textu Evropské komise, který odkazuje na mezinárodní studie, píše se tam, že nejméně každé páté dítě se stane v dětství obětí sexuálního násilí a že podle celosvětové studie z roku 2021 více než třetina lidí byla v době svého dětství požádána, aby udělala něco jednoznačně sexuálního online. Více než polovina lidí zažila nějakou formu pohlavního zneužívání dětí online. Nejsou toto dostatečné argumenty pro ten návrh?

Rozhodně to nejsou dostatečné argumenty pro plošné prolamování šifrované komunikace všech obyvatel. To je skutečně, jestli si můžu dovolit to říct cynicky, vylévání vaničky i s dítětem. Zvlášť ve chvíli, kdy je v samotném návrhu, ačkoliv se jedná o online prostředí, tedy něco řekněme nového pro mnoho generací rodičů, jen velmi málo zmiňovaná třeba prevence, vzdělávání, opatření k tomu, aby se děti dokázaly pohybovat v online prostoru informovaně…

Čtěte také

Evropa bezemisní zdroje potřebuje. Každé zdržení ohrožuje naši ekonomickou bezpečnost, míní eurokomisař Síkela

A pokud jsou na to buď moc malé, nebo je to prostředí, v němž by se pohybovat neměly, rodiče by měli mít nad tím, co tam děti vidí, kontrolu. Myslím si, že to jsou prvotní kroky. Když toto ještě nemáme, je naprosto bizarní tvrdit, že plošné šmírování všech konverzací to vyřeší.

Pokud se například bojím, že někdo bude nějakým způsobem kontaktovat nebo obtěžovat moje dítě přes WhatsApp, nebudu mu dovolovat WhatsApp nebo ho nebudu umožňovat tak, aby se k němu dostal kdokoli jiný.

Prolamování soukromí

V diskusích na sociálních sítích někteří zastánci návrh přirovnávají ke kamerám na křižovatkách, které také sledují všechny. Také automaticky zaznamenají každého, kdo projede nebo projde, ale řeší se následně jenom porušování zákonů, třeba jízda na červenou. Není toto adekvátní příměr?

Je to výborný příměr, protože ve skutečnosti tyto kamery typicky nemají v České republice z většiny tzv. biometrické rozpoznávání obličeje. Pokud se tedy na nějaký konkrétní případ nezapne. Výjimku má myslím letiště, a i tam se to nyní bude do nějaké míry vypínat, respektive omezovat.

Protože to je právě ochrana plošného soukromí – že si kdokoliv nebude moct třeba hacknutím stáhnout záznamy a trvale vás sledovat. Nebo, abych to řekla úplně naplacato, nejčastější případ zneužití v zahraničí je, že například nějaký policista takto sleduje svoji expartnerku a následně si ji někde odchytne, vyhrožuje nebo dokonce napadne na základě tohoto sledování.

Přišly nám tisícovky e-mailů. Ten veřejný odpor je totožný.

Samozřejmě to jsou všechno nebezpečná prolamování soukromí. U kamer na ulicích to nechceme, velmi se proti tomu bojuje a vždycky, když se někdo pokusí protlačit biometrické sledování, je proti tomu velký veřejný odpor. A toto je to samé, přišly nám tisícovky e-mailů. Myslím si, že mně i českým politikům – proto někteří změnili pozici. Ten veřejný odpor je totožný. 

Může Chat Control projít současným europarlamentem? Proč si návrh coby prioritu vybralo dánské předsednictví? A jak sledování uživatelů ovlivní další rozvoj umělé inteligence? Poslechněte si celý rozhovor.