Umělá inteligence bude rozumět emocím, lidskou podobu bychom měli tabuizovat, zamýšlí se kybernetik

Lidé, kteří pracují s umělou inteligencí, ji učí, aby byla hodná? A mají nějaký vliv?

Čtěte také

Půjčí si váš vzhled, ale přemýšlí sám. Digitální dvojče bude mít časem každý, věří experti na AI

Spousta lidí, která v oblasti umělé inteligence je, popírá, že by tento problém existoval. V komunitách dochází k obrovské polarizaci. V komunitě umělé inteligence bohužel dochází k obrovským ideologickým bojům.

Je nějaká skupina lidí, kteří říkají: „Pozor, je to potencionálně nebezpečné, kam se řítíme, měli bychom AI udělat bezpečnou.“ – To mi přijde jako legitimní požadavek. A proti stojí ještě větší skupina lidí z oblasti AI, která říká: „Ne, jste všichni alarmisti a blázni a děláte si na tom marketing.“ Někdo se snaží dělat větší, silnější vodítka, to je docela dobré pro umělou inteligenci, ale problém je, že nevíme, jak ji správně vytvořit, aby její hodnoty byly naprosto a stoprocentně sladěné s hodnotami nás, lidí. My umíme jen vodítka a příkazy.

Musíme se zabývat tím, jak umělou inteligenci udělat tak, aby její hodnoty nebyly v rozporu s hodnotami lidstva. Jakým způsobem se takováto věc programuje, když jsem od některých odborníků na AI slyšela, že už do toho nemůžu moc zasáhnout, protože ta věc si to dělá sama?

To je právě ten problém – my to neumíme tomu systému nějak vtělit. Jako příklad bych mohl uvést GPT, to je obrovská umělá neuronová síť, která se učila tak, že když ji předhodíte nějakou sekvenci slov, třeba Ema mele, tak se ji zeptáte, co přijde dál. A ona řekne maso, nebo nesmysly… A ta neuronová síť se to naučila na internetu, nikdo ji nevysvětloval, jak to ve světě chodí, co by měla a neměla umět. Tyto věci tam vyvstaly samy od sebe.

Je reálné z vnějšku pozastavit vývoj umělé inteligence?

My nesmíme pozastavit vývoj umělé inteligence jako vědecky výzkumný pokrok, musíme pozastavit trénování daleko větších jazykových a dalších modelů. Teď mají bilion parametrů, a my se musíme zaměřit v AI výzkumu na to, že při stávajících velikostech, vezměme třeba GPT-4, možná GPT-5, až vyjde, tak to nebudeme dál rozvíjet, ale uděláme tam brzdy a volant pro takhle vzniklé zařízení. A jestli to jde, nebo nejde? To nevíme.

Věřím, že v oblasti umělé inteligence může být něco, na čem se domluví vláda s opozicí.
Jan Romportl

Chcete mi říct, že jedeme brutálně vytuněným autem se silným motorem, které nemá brzdy?

Přesně, takhle dnes vzniká vývoj AI. Děláme metaforickým příměrem auta, kterým montujeme větší a větší motor – to jsou ty větší a větší jazykové modely – ale do těch aut nedáváme volant a brzdy. A když někdo poznamená: „Neměli byste tam dávat volant a brzdy?“, v automobilismu by nikdo neřekl, že to je nějaký zpátečník, který zastavuje rozvoj automobilového průmyslu. Ale v AI to řeknou. Když přijdou lidi a řeknou: „Zkuste zpomalit další a větší modely a větší výpočetní zdroje,“ tak spousta lidí řekne: „Vy jste zpátečník, zastavujete pokrok AI.“

Čtěte také

Umělou inteligenci by měli učitelé vzít v potaz a nezakazovat ji, radí vedoucí z Digitalizace ve vzdělávání

Víte, co je pro mě na tom to nejsmutnější? Že to poslouchám, ale nemůžu udělat vůbec nic…

Myslím si, že už teď děláte relativně hodně v tom, že můžete šířit zprávu: AI potřebujeme, ale nepotřebujeme v tuto chvíli GPT-5 ani GPT-6, dokud pro ně nevymyslíme volant a brzdy.

Měl by mít ten stroj lidskou podobu?

Neměl. Jedna z podstatných věcí, kterou bychom měli zabezpečit pro budoucí soužití s AI, je úplně zakázat antropomorfizaci AI. To znamená, aby AI vypadala jako člověk. Mýlka je, že si lidé myslí, že AI nebude schopná rozumět emocím, nebo emoce navenek dávat najevo. Bude stejně jako člověk rozumět lidským emocím. A to, aby je sama demonstrovala, že tady bude umělý robot, který bude předstírat, že jste vy, bude technicky možné, ale měli bychom to tabuizovat.

Kde by měl skončit vývoj umělé inteligence? A co se stane, až bude lepší než člověk? Poslechněte si celý rozhovor.