Umělá inteligence v citlivých odvětvích? Máme k tomu v EU dobrý přístup, myslí si eurokomisařka

Evropská unie by měla usilovat o to být konkurenceschopná na poli umělé inteligence, navzdory očividnému náskoku Spojených států a Číny, zní současné krédo Evropské komise.

Eurokomisařka pro technologie a bezpečnost Henna Virkkunenová|foto:OLIVIER HOSLET / EPA / Profimedia

„První veřejný velký jazykový model byl vydaný 30. listopadu 2022, takže méně než čtyři roky zpátky. A za tyhle čtyři roky, kolik se toho změnilo? Kolik dalších hráčů se objevilo a pokořilo ten předchozí model? Takže vidíme, že je to velmi dynamické a měnící se prostředí,“ míní ředitel kyberúřadu Evropské unie Lepassaar s tím, že by nemuselo trvat dlouho, kdy evropský model vyvstane jako jeden z nejvýkonnějších.

„Myslím si, že zejména pokud jde o technologie, je velmi důležité, aby Evropa budovala vlastní kapacity. Máme také velmi jasná pravidla, která musí respektovat každý, kdo působí v Evropské unii,“ říká Henna Virkkunenová, eurokomisařka pro technologickou suverenitu, bezpečnost a demokracii.

S pořadem Bruselské chlebíčky mluvili Virkkunenová a Lepassaar na mezinárodní bezpečnostní konferenci GLOBSEC minulý měsíc v Praze.

Lidé musejí mít důvěru

Oba se shodují, že posouvající se nové modely AI jsou dvojsečné – dávají nové možnosti potenciálním útočníkům v kyberprostoru, stejně jako umožňují obráncům, třeba národním kybernetickým úřadům, rychleji hledat slabiny ve vlastních systémech.

Čtěte také

Továrna na AI je pro Česko klíčová, jinak zůstaneme pozadu. Investice se vrátí do sedmi let, věří expert Kavalírek

„I když se základy kyberbezpečnosti nemění, rychlost jejích procesů je teď – a v budoucnu to bude ještě horší – stále větší. To také znamená, že lidé už na některé tyhle věci nejsou dost rychlí,“ myslí si šéf evropské kyberbezpečnostní agentury. Pozitiva vidí v tom, že vývojáři mohou své produkty díky AI snadněji testovat, než je vpustí na trh.

Co se užívání systémů založených na umělé inteligenci týče, Virkkunenová apeluje i na jejich testování, a to především v citlivých oblastech: „Myslím, že k tomu máme v Evropské unii dobrý přístup, protože máme Akt o umělé inteligenci, který nyní postupně vstupuje v platnost.“

„Některá užití stran uživatelů jsme v Evropě zcela zakázali. Jedním z nich je rozpoznávání obličeje v reálném čase, které v Evropě není povoleno používat na ulicích. Dalšími příklady jsou, když umělá inteligence rozhoduje o tom, kdo dostane práci, kdo dostane bankovní úvěr nebo když umělá inteligence řídí dopravní systém nebo provozuje nemocnici,“ říká eurokomisařka.

Jak předejít tomu, aby datová centra v Evropě příliš zatěžovala infrastrukturu? A představují velké jazykové modely, které pocházejí ze zahraničí, pro Evropu nějakou hrozbu? Poslechněte si celý díl pořadu Bruselské chlebíčky v úvodu článku nebo v libovolné podcastové aplikaci.