Antivirus: Na robotického lékaře se spolehnout nedá. Chatbot jen generuje text

„Chatovací aplikace nabízejí chat s někým, kdo se vydává za lékaře. Ve skutečnosti ale odpovídá známý jazykový model ChatGPT. K němu se může jakýkoli programátor za poplatek napojit na takzvané API a skrze ně nechat ChatGPT odpovídat v jeho vlastní aplikaci,“ vysvětluje Jana Magdoňová.

Čtěte také

Většina Čechů řeší své zdravotní potíže na internetu. „Dozví se ale jen část mozaiky, a mnohdy jen to nejhorší,“ varuje lékař

Ale ChatGPT není lékař, proč se za něj vydává? Protože mu tvůrci takových aplikací dají takové zadání. To se nazývá prompt a může třeba znít: „Jsi Jakub Zdravý, vystudoval jsi 1. lékařskou fakultu Univerzity Karlovy v Praze a v roce 2010 jsi obhájil diplomovou práci na téma Prevence chronických onemocnění a význam zdravého životního stylu.“

Jazykový model se následně tohoto příběhu drží a chová se podle zadání. Tohle ale z chatbota lékaře neudělá. Jen se bude snažit napodobit odpovědi lékaře s takovou minulostí.

Jazykové modely nepracují s pojmy jako pravda nebo lež. Ony jen generují text tak, aby zněl co nejvíc pravděpodobně.

„Když jsme jednu takovou aplikaci zkoušeli, chatbot působil velmi suverénně. Odhadoval, co můžou naše symptomy znamenat, a dával nám rady, jak postupovat dál,“ popisuje Jana Magdoňová.

Čtěte také

Antivirus: Dochutit špagety benzínem nebo do pizzy lepidlo. Co všechnu umí poradit chatbot?

„Dokonce když jsme ho konfrontovali s otázkou, zda náhodou není chatbot, vytrvale to popíral a tvrdil nám, že je skutečný lékař. Vymýšlel si, jakou školu vystudoval a kdy, ale odmítal nám například poslat svou diplomovou práci. Pouze nám řekl, jak se měla jmenovat, ale v repozitáři závěrečných prací Univerzity Karlovy nikdo toho jména nepublikoval,“ dodává Jan Cibulka.

Robot znalosti jen předstírá

Jazykové modely totiž nepracují s pojmy jako pravda nebo lež nebo správné a nesprávné. Ony jen generují text tak, aby zněl co nejvíc pravděpodobně. Proto někdy mohou poskytnout i správnou odpověď, ale spolehnout se na ně nedá. „Z pohledu modelu totiž není mezi jednotlivými odpověďmi žádný rozdíl,“ upozorňuje Jana Magdoňová.

Určitě není správné, že chatbot nepřizná, že je pouze program a ne skutečný lékař. Ve chvíli, kdy člověk hledá lékařskou pomoc, je často ve stresu, má strach a nemusí správně odhadnout, že jde jen o aplikaci, která lékařské znalosti jen předstírá a ve skutečnosti se odpovědi vůbec nemusí zakládat na realitě.

Čtěte také

Chatování s AI je jen zlomek. Obrovských změn ve společnosti se dočkáme do deseti let, předpovídá publicista Koubský

„V případě aplikace, kterou jsme zkoušeli my, chatbot používá obrázek mladého usměvavého lékaře v bílém plášti se stetoskopem kolem krku, kterého ale opět vygenerovala umělá inteligence,“ říká Jan Cibulka.

Diagnóza padesát na padesát

Dá se ale na robotického lékaře spolehnout? Právě takové použití ChatGPT jako lékaře zkoumala aktuální studie, která vyšla v časopise Plos One.

Výzkumníci jazykovému modelu předložili 150 vzorových příkladů včetně laboratorních výsledků pacientů. Ty se používají při tréninku studentů medicíny a budoucích skutečných lékařů. Zkoumali v kolika případech ChatGPT stanoví správnou diagnózu a poskytne odpovídající radu.

„Model uspěl jen v polovině případů. Což bychom u skutečného lékaře jen těžko mohli tolerovat. Autoři studie zdůrazňují, že model samozřejmě dokáže velmi dobře napodobovat odpovědi, které by mohl poskytnout opravdový lékař, ale chybí mu porozumění medicíny, které mají skuteční lékaři,“ upozorňuje Jan Cibulka.

Tvůrci aplikací si to nejspíš uvědomují, protože jejich výtvory obvykle pacientům zdůrazňují, že by se měli obrátit na svého lékaře.

Čtěte také

Magazín Experiment: Chirurgické roboty čeká v Česku boom. A jak využít AI při individuální výuce?

Medicína na dálku

Takže se nedá na online léčbu spoléhat a budu muset vždy do čekárny ke svému praktikovi? „Už během pandemie covidu19 se začala prosazovat medicína na dálku. Třeba lékaři můžou přes nejrůznější aplikace posílat elektronické recepty na léky, které běžně užíváte, a třeba vám došlo balení, takže kvůli tomu nemusíte do ordinace,“ říká Jana Magdoňová.

Objevují se i experimenty s telemedicínou. Pacient si s lékařem zavolá přes videochat. V jednodušších případech tak lékař může i diagnostikovat. Jeden takový program teď ohlásil například Jihočeský kraj.

Rozdíl mezi chatbotem a telemedicínou je ale v tom, že chatbot pouze generuje realisticky vypadající text. Zatímco v telemedicíně pracují skuteční lékaři, kteří využívají moderní technologie k efektivnější práci.