Pokuta až 35 milionů eur. AI Act se týká především firem a úřadů, vysvětluje vládní zmocněnec

Pravidla se vztahují na fotky a videa pro komerční účely neboli v rámci profesní činnosti. Můžete popsat, na koho se pravidla vztahují a na koho ne?

Čtěte také

iROZHLAS

Školy přizpůsobují vzdělávání umělé inteligenci. Praxe se pomocí AI ,nafejkovat’ nedá, zní z univerzit

Vztahují se primárně na tvůrce nebo poskytovatele AI systémů, na firmy, jako jsou například OpenAI, Google nebo Microsoft, a také na všechny firmy nebo úřady, které AI využívají ke své práci. Ti musí zajistit, aby systémy AI byly bezpečné a transparentní.

Pravidla se nevztahují například na výzkum a na vývoj a do jisté míry se nevztahují také na fyzické osoby, které umělou inteligenci používají čistě pro osobní nebo neprofesionální účely.

Takže když si třeba dva lidé mezi sebou pošlou fotku vygenerovanou AI, tak ta označená být nemusí? Pro jaké případy to ještě třeba platí?

Ve chvíli, kdy i v soukromé komunikaci využiji AI, abych dělal něco klamavého, manipulativního, co může zásadně narušit chování druhé osoby nebo mu způsobit újmu, tak to je všechno zakázané.

Stejně tak jsou zakázané praktiky, které pomocí AI generují sexuálně explicitní obsah nebo takzvané deepfakes intimních partií bez výslovného souhlasu dotčené osoby, nebo cokoliv, co je dnes trestným činem. Pokud AI použiji v soukromých vztazích k vydírání, kyberšikaně nebo obecně poškozování cizích práv, tak to je všechno zakázané.

V Česku bude na dodržování pravidel dohlížet Český telekomunikační úřad. Ten by měl rozhodovat i o sankcích. Jak vysoké můžou být?

Mohou být velmi vysoké, až sedm procent ročního obratu firmy, nebo 35 milionů eur, cílem je odradit všechny od toho, aby umělou inteligenci zneužívali.

Jaká jsou evropská pravidla pro využívání umělé inteligence? Poslechněte si celý rozhovor