O umělé inteligenci musíme přemýšlet jako o mimozemšťanovi, připomínat si její ne-lidskost, říká novinář Koubský

Jak dobře v sobě mají tito roboti zakódovanou etiku? Můžeme jim sdělit, že nesmí ublížit člověku, a oni se tím budou řídit?

Bohužel to tak není. Ne proto, že ti, co stroje vytvářejí, by byli šílení, zlovolní vědci, kteří by to udělat nechtěli. Ale protože se to udělat nedá.

Čtěte také

Nejlepší jsme v tom, že jsme lidi. Lidský kontakt umělá inteligence nikdy nenahradí, říká kybernetik

Když řekneme ,neublížit‘, řídíme se tím, že jsme lidé, že máme spoustu zabudovaných instinktů, které vyplývají z toho, že jsme živé bytosti. Stroji něco takového nesdělíte.

Když mu uložíte příkaz minimalizovat riziko pro lidstvo, narazí na člověka, který trpí nějakou vážnou nakažlivou nemocí, a vyhodnotí, že optimální způsob je zlikvidovat ho, aby nemohl nikoho nakazit. My lidé takto neuvažujeme. 

Budeme si tu věc antropomorfizovat, budeme o ní uvažovat jako o člověku, ale nemá s námi nic společného.

Máme v sobě zakódováno, že toto není přípustné řešení. Takže jednoduchá odpověď na etiku? Žádná tam není.

Co je podle vás důležité v souvislosti s tím, co se aktuálně děje, zmínit?

Myslím si, že si pořád musíme připomínat tu ne-lidskost. Ono to vypadá jako hodně obecná odpověď, ale týká se úplně všeho, na co v této oblasti narazíme. Budeme si tu věc antropomorfizovat, budeme o ní uvažovat jako o člověku. Ale její logika, její způsob uvažování, její motivace je úplně jiná, nemá s námi nic společného. 

Je podle mě velice užitečné o té věci přemýšlet jako o mimozemšťanovi, který přiletěl na Zemi a naučil se mluvit naším jazykem, ale vůbec nechápe, co ty pojmy znamenají.

A my robotovi rozumíme?

V tom je ta potíž. My moc dobře nerozumíme tomu, jak ta věc uvnitř funguje. Vím, že to zní divně, že je to špatně přijatelné tvrzení a že má člověk chuť okamžitě vyskočit, běžet do centrály Microsoftu nebo Googlu a říct jim – prosím vás, honem to vypněte, a jestli to neuděláte, tak já tady mám železnou tyč a rozbiju vám to v zájmu záchrany lidstva. Ale opravdu to tak je. Jsou velice dobře známy principy, na kterých to funguje, ale dneska už nikdo na světě neumí sáhnout dovnitř a ukázat, proč ta věc dělá právě to, co dělá.

Přinese to nějaké nové zjištění o tom, kým jsme my?

Možná se o sobě teď dozvíme něco víc, než jsme dosud věděli. Právě proto, že nebylo srovnání. Teď najednou srovnání máme. Jde o první zkušenost lidstva s inteligentní bytostí, která není člověk. To by nám mohlo ledacos říct o nás samých, ale bude chviličku trvat, než si to zpracujeme.

Zaniknou kvůli umělé inteligence některé pracovní pozice? A budou za nás roboti psát diplomové práce? Poslechněte si celý rozhovor.