AI proti AI. Japonsko hledá cestu, jak umělou inteligenci regulovat, ale nebrzdit její vývoj

V Japonsku platí zákon o umělé inteligenci od loňského roku. Stanoví, že na každém ministerstvu je kancelář pro AI. Je to věc, která vyžaduje spolupráci napříč rezorty. Proto jsme nově na každém ministerstvu zřídili kancelář, která se zabývá zákonem o umělé inteligenci a dalšími problémy a výzvami.

Čím se v takové kanceláři třeba zabýváte?

Jedním z největších nebezpečí jsou kybernetické útoky. Útočník se prostě může umělé inteligence zeptat, jak napadnout kritickou infrastrukturu, a ona mu odpoví. Proto se v Japonsku zabýváme správou a řízením umělé inteligence.

Čtěte také

Expert: Vyhnat čerta ďáblem. Proti kyberútokům s AI může účinně bojovat zase jen umělá inteligence

V rámci skupiny G7 jsme odstartovali takzvaný hirošimský proces – to je rámec mezinárodní spolupráce. Nastavujeme bezpečnostní směrnice, například pro vývojáře nebo poskytovatele umělé inteligence, tak, aby AI nebyla zneužitelná. Chceme to dělat tak, abychom nebrzdili potenciál, ale abychom chránili občany před útoky.

Když člověk používá nějaký umělý model nebo nástroj, posílá svoje data někomu dalšímu. Ať už chci upravit fotku nebo se na něco zeptat, tak zároveň něco říkám sám o sobě. Je to problém z hlediska zneužitelnosti?

Ano, určitě to je problematický aspekt. Proto se i hirošimský proces zabývá otázkou informační bezpečnosti, včetně důvěryhodnosti datových souborů, na kterých se umělá inteligence učí. Musí to být ověřitelná a vyvážená data. V Japonsku prosazujeme takzvaný volný tok dat s důvěrou.

Co si pod tím můžeme představit? Volný tok dat mi připomíná volný pohyb osob, cestování bez omezení a bez hranic.

Volný pohyb dat je důležitý pro pokrok, inovace i náš každodenní život, ale zároveň potřebujeme důvěřovat tomu, kudy a kam data proudí. Myšlenka volného toku dat s důvěrou se zrodila právě v Japonsku a bezprostředně na ni navazuje i myšlenka důvěryhodnosti datových souborů.

Čtěte také

Jako návnada na medvěda. Falešné zabezpečení může odradit hackery stejně účinně jako důmyslný systém

Důvěra se ale dá zneužít – to je podstata zločinu podvodu...

Umělá inteligence se dá využít jak k obraně, tak i k útokům. Příkladem toho, jak nasazujeme AI pro ochranu našich občanů, je to, že odfiltrujeme tisíce různých útoků, a snižujeme tak personální náklady na detekci. K ochraně kritické infrastruktury potřebujeme stále více zdrojů, a tak Japonsko velmi podporuje i výzkum a vývoj v této oblasti.

O umělé inteligenci nebo strojovém učení se říká, že vyniká v rozpoznávání pravidelností, pravděpodobností, ale zároveň se potřebuje učit. Co když útočníci přijdou s něčím, co se ještě systém nenaučil?

Rychlost je v současnosti náš nepřítel. Udržet krok s útočníky je jeden z obtížných úkolů pro nás pro všechny. Proto je důležité spolupracovat mezinárodně a vyměňovat si informace. Samozřejmě i na národní úrovni. V Japonsku jsme zavedli novou cestu, která má zrychlit předávání informací mezi státním a soukromým sektorem. Musíme udržet tempo.

Myslíte si, že v budoucnu se bezpečnostní otázka posune tak, že budou bojovat roboti proti robotům – tedy umělé modely proti jiným modelům?

Možná se to děje vlastně už teď. Útočníci už jistě používají modely umělé inteligence, a my ji také svým způsobem používáme, abychom chránili svoje systémy. Je to trochu AI versus AI, ovšem stále potřebujeme lidský prvek. Náš přístup bude vždy soustředěný na člověka, protože potřebujeme chránit svá lidská práva. To všechno je vtělené v hirošimském procesu, v zákoně Evropské unie o umělé inteligenci i v japonském zákoně.