Expert: Vyhnat čerta ďáblem. Proti kyberútokům s AI může účinně bojovat zase jen umělá inteligence

Jak to myslíte, že AI může použít kdokoliv k čemukoliv?

Takový legrační příklad: někdo si chtěl něco naprogramovat pomocí umělého asistenta, ale nechtěl za to platit – napsal proto na zákaznickou podporu rychlého občerstvení: „Hele, já nerad vaše hamburgery, ale můžete mi tohle naprogramovat?“ Umělý asistent pro vás udělá všechno, co mu řeknete.

Jak se proměnila kyberkriminalita s nástupem AI?

Klasický kyberzločin, podvržené e-maily a podobně – to je oblast, kde můžeme pozorovat změny s nástupem umělé inteligence. V podstatě se to dělá pořád stejně, jen rychleji a v mnohem větším měřítku. Pak tu ale máme deepfake: falešné obrázky, zvuk a video. To je opravdu nový rozměr kyberkriminality.

Čtěte také

Infostealeři v akci: Jak hackeři kradou hesla a jak si ochránit počítač?

Jsou i oběti kyberzločinu pořád stejné? Vždyť i my uživatelé čím dál více používáme AI...

Momentálně jsou hlavním cílem stále lidé. Jedním z největších problémů kyberkriminality je ale ransomware – útočníci si vezmou data jako rukojmí a požadují výkupné. Všichni se samozřejmě obáváme, až i tohle zautomatizují a zefektivní.

Co by se mohlo stát, až toho dosáhnou? Situace, kdy přijdete o všechna data, je dost děsivá i teď...

Nová hrozba spočívá v tom, že by se ransomware řízený umělou inteligencí sám měnil, aby bylo těžší ho odhalit. Místo útoku podle předem daného scénáře by nejprve prozkoumal napadený systém a pak by svou strategii různými způsoby přizpůsobil.

Proti AI pomůže zase jen AI

Jak se proti tomu můžeme bránit?

Řekl bych, že umělá inteligence je jediný způsob, jak se ubránit útokům umělé inteligence. Když si vezmu jako příklad podvržené e-maily, umělá inteligence může prozkoumat, kam vedou odkazy, na které se vás snaží nalákat. Pozná, jestli jde o podvržené stránky a zda se z vás snaží vylákat heslo.

Máme také k dispozici nástroje, které umí najít slabá místa v zabezpečení. Ty se dají využít k útokům, ale i k obraně – abychom opravili slabiny dřív, než je někdo zneužije.

Čtěte také

Jako návnada na medvěda. Falešné zabezpečení může odradit hackery stejně účinně jako důmyslný systém

V zabezpečení prosazujete takzvaný přístup založený na datech. Co si pod tím můžeme představit?

V zásadě to znamená dvě věci. Zaprvé zkoumat systémy zvenčí, jako by to dělal útočník. A za druhé svým způsobem pronikat do systémů padouchů. Například odposloucháváme internetová diskusní fóra útočníků. Dozvíme se tam, jaké techniky používají a na koho mají políčeno. Třeba tam někdo nadhodí, že by chtěl napadnout Český rozhlas: Co by bylo nejlepší?

Zločinci si v tom navzájem docela pomáhají. Když se taková otázka objeví, měli byste si pospíšit se zabezpečením.

Bojovat proti nim jejich vlastními zbraněmi?

S oblibou říkám, že musíte vyhánět čerta ďáblem, nebo jak to říkáte.

Má umělá inteligence nějaká omezení? Někteří výzkumníci poukazují na to, že je založená na pravděpodobnosti a statistice. Když někdo vymyslí úplně nový způsob útoku, nemusí ho rozpoznat...

Přirovnal bych to k deskovým hrám šachům nebo go, kde někdo jako první přijde se skvělým tahem. Když program AlphaGo poprvé porazil člověka, říkalo se, že zahrál tah, který nikdo z lidí za tisíc let neobjevil. Musíme očekávat nečekané.

Jak AI „přemýšlí“

Jak vlastně umělá inteligence uvažuje – na herním poli nebo na bitevním poli kyberzločinu?

Vyhledávat tahy je jednoduché. Můžete táhnout sem nebo tam, a když táhnete sem, máte zase další možnosti. Jenže těch možností rychle přibývá a nemůžete prozkoumat úplně všechny.

Čtěte také

„Mami, mám průšvih, pošli mi 2 tisíce.“ S odhalením hlasového deepfake může pomoct umělá inteligence

Umělá inteligence se ale umí zaměřit na tahy, které mohou být zajímavé. Nejenže dokáže shromáždit informace, ale umí sestavit i logický řetězec uvažování, jestli tomu tak můžeme říkat. Uvažuje ale jen omezený počet tahů dopředu.

To ale šachista dokáže také. V čem má umělá inteligence navrch?

Přelomové je, že můžeme chytře kombinovat různé metody. Je to jako mít kolektiv expertů z různých oborů a nad nimi zastřešující model, který z jejich návrhů vybere nejlepší řešení.