Umělá inteligence bude rozumět emocím, lidskou podobu bychom měli tabuizovat, zamýšlí se kybernetik
Kybernetik a filosof Jan Romportl si už svět bez umělé inteligence nedovede představit. „AI potřebujeme, abychom udrželi osmimiliardovou civilizaci důstojně pokupě,“ říká v rozhovoru s Lucií Výbornou. Zároveň ale upozorňuje, že AI je nutné tvořit tak, aby její hodnoty byly sladěné s hodnotami lidí. „Politici o AI moc erudovaně nemluví. Pochopte základy, jak AI funguje, pak požadujte, aby politici jasně deklarovali svůj názor,“ doporučuje.
Lidé, kteří pracují s umělou inteligencí, ji učí, aby byla hodná? A mají nějaký vliv?
Čtěte také
Spousta lidí, která v oblasti umělé inteligence je, popírá, že by tento problém existoval. V komunitách dochází k obrovské polarizaci. V komunitě umělé inteligence bohužel dochází k obrovským ideologickým bojům.
Je nějaká skupina lidí, kteří říkají: „Pozor, je to potencionálně nebezpečné, kam se řítíme, měli bychom AI udělat bezpečnou.“ – To mi přijde jako legitimní požadavek. A proti stojí ještě větší skupina lidí z oblasti AI, která říká: „Ne, jste všichni alarmisti a blázni a děláte si na tom marketing.“ Někdo se snaží dělat větší, silnější vodítka, to je docela dobré pro umělou inteligenci, ale problém je, že nevíme, jak ji správně vytvořit, aby její hodnoty byly naprosto a stoprocentně sladěné s hodnotami nás, lidí. My umíme jen vodítka a příkazy.
Musíme se zabývat tím, jak umělou inteligenci udělat tak, aby její hodnoty nebyly v rozporu s hodnotami lidstva. Jakým způsobem se takováto věc programuje, když jsem od některých odborníků na AI slyšela, že už do toho nemůžu moc zasáhnout, protože ta věc si to dělá sama?
To je právě ten problém – my to neumíme tomu systému nějak vtělit. Jako příklad bych mohl uvést GPT, to je obrovská umělá neuronová síť, která se učila tak, že když ji předhodíte nějakou sekvenci slov, třeba Ema mele, tak se ji zeptáte, co přijde dál. A ona řekne maso, nebo nesmysly… A ta neuronová síť se to naučila na internetu, nikdo ji nevysvětloval, jak to ve světě chodí, co by měla a neměla umět. Tyto věci tam vyvstaly samy od sebe.
Je reálné z vnějšku pozastavit vývoj umělé inteligence?
My nesmíme pozastavit vývoj umělé inteligence jako vědecky výzkumný pokrok, musíme pozastavit trénování daleko větších jazykových a dalších modelů. Teď mají bilion parametrů, a my se musíme zaměřit v AI výzkumu na to, že při stávajících velikostech, vezměme třeba GPT-4, možná GPT-5, až vyjde, tak to nebudeme dál rozvíjet, ale uděláme tam brzdy a volant pro takhle vzniklé zařízení. A jestli to jde, nebo nejde? To nevíme.
Věřím, že v oblasti umělé inteligence může být něco, na čem se domluví vláda s opozicí.
Jan Romportl
Chcete mi říct, že jedeme brutálně vytuněným autem se silným motorem, které nemá brzdy?
Přesně, takhle dnes vzniká vývoj AI. Děláme metaforickým příměrem auta, kterým montujeme větší a větší motor – to jsou ty větší a větší jazykové modely – ale do těch aut nedáváme volant a brzdy. A když někdo poznamená: „Neměli byste tam dávat volant a brzdy?“, v automobilismu by nikdo neřekl, že to je nějaký zpátečník, který zastavuje rozvoj automobilového průmyslu. Ale v AI to řeknou. Když přijdou lidi a řeknou: „Zkuste zpomalit další a větší modely a větší výpočetní zdroje,“ tak spousta lidí řekne: „Vy jste zpátečník, zastavujete pokrok AI.“
Čtěte také
Víte, co je pro mě na tom to nejsmutnější? Že to poslouchám, ale nemůžu udělat vůbec nic…
Myslím si, že už teď děláte relativně hodně v tom, že můžete šířit zprávu: AI potřebujeme, ale nepotřebujeme v tuto chvíli GPT-5 ani GPT-6, dokud pro ně nevymyslíme volant a brzdy.
Měl by mít ten stroj lidskou podobu?
Neměl. Jedna z podstatných věcí, kterou bychom měli zabezpečit pro budoucí soužití s AI, je úplně zakázat antropomorfizaci AI. To znamená, aby AI vypadala jako člověk. Mýlka je, že si lidé myslí, že AI nebude schopná rozumět emocím, nebo emoce navenek dávat najevo. Bude stejně jako člověk rozumět lidským emocím. A to, aby je sama demonstrovala, že tady bude umělý robot, který bude předstírat, že jste vy, bude technicky možné, ale měli bychom to tabuizovat.
Kde by měl skončit vývoj umělé inteligence? A co se stane, až bude lepší než člověk? Poslechněte si celý rozhovor.
Související
-
Oživlý hlas Lennona. Do éteru putuje nová píseň kapely The Beatles, dotvořila ji umělá inteligence
Dnes zazní v éteru nová píseň kapely The Beatles, a to i s hlasem Johna Lennona. Demo verzi ze sedmdesátých let dokázali ostatní členové upravit díky umělé inteligenci.
-
Umělá inteligence je větší převrat než průmyslová revoluce. Dojde k civilizační změně, říká odborník
Učitel Karel Kostka je mimo jiné výjimečný tím, že je jedním z lidí s IQ přes 200. Dá ale na intuici, nebojí se chyb: „Největší chyba našich škol je, že za chybu trestáme.“
-
Umělá inteligence: Odložit stranou lidské rozhodování a úsudek je nebezpečné, varuje belgický etik
Belgický filozof Mark Coecklbergh spolu s dalšími odborníky poukazuje na konkrétní rizika i přínosy umělé inteligence.
Více z pořadu
E-shop Českého rozhlasu
Víte, kde spočívá náš společný ukrytý poklad? Blíž, než si myslíte!
Jan Rosák, moderátor
Slovo nad zlato
Víte, jaký vztah mají politici a policisté? Kde se vzalo slovo Vánoce? Za jaké slovo vděčí Turci husitům? Že se mladým paním původně zapalovalo něco úplně jiného než lýtka? Že segedínský guláš nemá se Segedínem nic společného a že známe na den přesně vznik slova dálnice? Takových objevů je plná knížka Slovo nad zlato. Tvoří ji výběr z rozhovorů moderátora Jana Rosáka s dřívějším ředitelem Ústavu pro jazyk český docentem Karlem Olivou, které vysílal Český rozhlas Dvojka.