Spojené státy mají zbraně ve vesmíru. Jde o „game changer“ srovnatelný s jadernou bombou, míní Bříza

Britský král Karel III. varoval řídící pracovníky v oblasti umělé inteligence před existenčními nebezpečími, která tato technologie může představovat, pokud se dostane do nesprávných rukou. Co myslíte, hrajeme si s ohněm?

Do určité míry tomu tak může být. Pojďme ozřejmit posluchačům, co znamenají ona existenciální rizika. Není to o tom, že nám umělá inteligence vezme práci, to není to klíčové. Obava spočívá v tom, že umělá inteligence by za určitých okolností mohla trvale zničit schopnost lidstva rozhodovat o své budoucnosti, případně dokonce přispět k vyhynutí lidstva. Možností je celá řada. Určitě se stane to, že umělá inteligence bude čím dál tím inteligentnější, až se stane superinteligentní. A může se stát, že její cíle se budou rozcházet s našimi lidskými zájmy. A potom je několik scénářů.

Čtěte také

Rusko svými útoky v Německu testuje reakční dobu a soudržnost Evropy, míní Bříza

To, čeho se obávají někteří vývojáři z podniků nebo uskupení, které umělou inteligenci vyvíjejí, je, že některé státy propojí umělou inteligenci s autonomními zbraněmi a válkou. Ostatně již dnes, abychom nemluvili o vzdálené budoucnosti, jsou technologie, kdy dron, který je vybaven umělou inteligencí, může vlétnout do místnosti, kde bude například 50 lidí. Ten dron nasnímá všechny objekty, předměty v místnosti a na základě předem daných algoritmů se rozhodne, na který objekt nebo člověka v místnosti zaútočí. Ten algoritmus může být například podle hodnosti, věku, důležitosti osoby, bohatství, čehokoliv. A to se bavíme o dnešku, jsme teprve na začátku.

Takže při představě, že by umělá inteligence byla napojena na systém velení, řízení a včasné výstrahy jaderných zbraní, může být scénář takový, že by umělá inteligence mohla dát mylnou zprávu do vedení jaderných zbraní v tom smyslu, že je proti jaderné supervelmoci veden jaderný útok a političtí představitelé by stáli před tím, zdali by ho měli opětovat. To je jeden konkrétní scénář, který byl zmíněn.

Ostatně když se podíváme do minulosti, určitě si mnozí posluchači pamatují film Terminátor z roku 1984, kde podobná představa byla zmíněna v počítačové síti Skynet a tam zrovna tento konkrétní případ nastal. V té době tomu nikdo nevěřil a podívejme se, jak jsme se dokázali za pár desítek let posunout.

Můžeme zmínit i něco, co je konkrétnější. Například biologické a chemické zbraně. Dnes to je velice složitý obor, ale ty modely, které superinteligentní umělá inteligence bude schopna vykonat v reálném čase, se budou stupňovat. Představte si, že by se k tomu potom dostali teroristi. Kybernetická eskalace, ztráta kontroly, rychlý růst schopností, to všechno jsou rizika, která dneska vypadají abstraktně, ale během několika málo let mohou být konkrétní.

Vývoj umělé inteligence je překotný. Možná už jenom během vaší první odpovědi se zase dostal o kousek dál. Těžko si představit, že hlavní hráči v oblasti AI své počítače a datová centra třeba z výše zmíněných obav vypnou a zahodí. Co bude podle vás dál? Je možná nějaká globální reakce, regulace toho fenoménu?

Máte pravdu, určitě i během těchto pár minut vývoj pokročil. Nicméně co se regulace týče, jsem spíše skeptický, protože pokud jde například o kontrolu zbrojení, zůstaneme-li u nejničivějších zbraní světa, jaderných zbraní, tak to jsou přece jenom fyzické prostředky, které můžete eliminovat tím, že máte kontroly na místě, inspekce a dohodu prostě nějak uzavřete.

Ale představte si tuto abstraktní situaci, vývoj umělé inteligence, což nejsou žádné konkrétní velké hotové zbraně, a obavu velmocí, že nějaká jiná ji bude i přes dohodu dál vyvíjet, například Čína. Nedovedu si představit, že by na něco podobného přistoupila. A kdyby přistoupila, a to je i ta obava Spojených států, nemohlo by přesto být uvěřeno v tom smyslu, že někde něco nevyvíjí, aby získala dominantní náskok.

Takže tento začarovaný kruh, kdy jedna strana se bude bát, že druhá strana na tom nadále pracuje a získá tím náskok, který nepůjde dohnat, podle mého názoru zamezí nějakým zásadním dohodám o tom, že by se umělá inteligence neměla dostat do nějakého super pokročilého stavu.

Zbraně ve vesmíru

Když už jsme byli ve světě filmu přes paralelu s Terminátorem, tak Hvězdné války – Spojené státy poprvé potvrdily, že mají ve vesmíru zbraně. To není únik informací, ale oficiální sdělení. Komu je určené?

Řekli to záměrně abstraktně, jestli jste si všiml, pane Pokorný. Velitel to nazval tak, že Spojené státy umístily „on-orbit space control weapons“.

Zbraňové systémy pro kontrolu vesmíru.

Čtěte také

Bříza: Schůzky šéfa CIA s ruským protějškem nesly vždy mimořádně důležitá poselství. Nyní jsou tři možnosti

Děkuji, přesně tak. V tom není obsaženo vůbec nic ve smyslu, že nám řekli, o jaký konkrétní zbraňový prvek se jedná. Důvod je ale jednoduchý. Jednak je to forma strategické komunikace, je to součástí odstrašení, a konečně je to oznámení světu, že Spojené státy mají technologický náskok v této oblasti – jsme první, kteří to dokázali, máme na orbitu nějaký zbraňový systém, který je aktivní.

To znamená, že to nejsou jenom senzory a radary, ale může to být například nějaký prvek elektronického boje, laserová zbraň nebo nějaký konkrétní projektil. Případně se dnes již vyvíjí družice, které jsou schopny se přiblížit k jiným satelitům a vyřadit je z provozu. Takže si pod tím můžeme představit cokoliv. Bylo to záměrně řečeno abstraktně, abychom byli a žili v otaznících.

Co to jsou americké vesmírné síly?

Americké vesmírné síly jsou relativně novým druhem americké zbraně vedle námořnictva, námořní pěchoty, letectva, pozemních jednotek. Je vidět, že Spojené státy tomu kladou velký důraz a v tomto musím souhlasit, že ten prvek bude čím dál důležitější. Používám přirovnání, že to, co byly balistické rakety a jaderné zbraně v druhé polovině 20. století, jaký „game changer“ to byl z hlediska vedení válek, tak si troufám tvrdit, že v 21. století to bude opravdu vesmír.

Určitě se posuneme od fáze, kdy v druhé polovině 20. století vesmír sloužil především k pozorování a včasné detekci. To znamená prostředky, které na orbitě byly umístěny, vydávaly komunikační zprávy, zprávy včasné výstrahy, zdali nejsou používány nějaké zbraňové systémy proti dané zemi. Teď se ale posuneme k tomu, že tam budou aktivní zbraňové prvky, které budou tyto zbraně ničit.

Je to úzce provázáno s Trumpovým plánem na tzv. Golden Dome, což je jakási obdoba izraelské Železné kopule v tom smyslu, že by měla zabránit pronikavším mezikontinentálním balistickým raketám, aby se dostaly do vzdušného prostoru Spojených států právě na základě prvků rozmístěných ve vesmíru, třeba prvků elektronického boje, laserových zbraní nebo fyzických projektilů.

Ve chvíli, kdy by se toto podařilo zhmotnit a ten deštník by byl opravdu neprodyšný, mohlo by se stát, že by došlo k narušení jaderné rovnováhy, která v tuto chvíli na světě panuje. A potom by to mohlo znamenat pokušení nějakého státu ten konflikt otevřít. To znamená, že vesmír bude hrát podstatně větší roli, než si dovedeme představit.