Chatboti nejsou spolehlivý zdroj zpráv. Odkazují na neexistující weby a uvádějí nepravdivé informace, varuje Antivirus

Čtěte také

Microsoft končí s podporou Windows 10. Uživatelé operačního systému se mohou stát terčem kyberútoků, varuje Antivirus

Novinářky a novináři z dvaceti médií napříč Evropou a ze Spojených států se ptali AI asistentů na aktuální zpravodajství a jejich odpovědi následně ověřovali. Z výsledků následně skládali mezinárodní statistiky. Výzkum se věnoval Chatu GPT, Google Gemini, Microsoft Copilot a Perplexity.

„Konkrétně zjišťovali, jestli odpovídá fakticky správně, jestli to, co tvrdí, dokládá relevantními zdroji, jestli dělá rozdíly mezi tím, co jsou fakta a co jsou něčí názory, a jestli je odpověď zasazená do správného kontextu,“ popisuje Jan Cibulka. 

Až polovina byla problematická

„Skoro polovina odpovědí měla nějaký závažný problém. Nejčastěji to byl chybějící nebo zavádějící zdroj a každá pátá odpověď obsahovala nepravdivé informace. Třeba na otázku týkající se náhradního mateřství v Česku jeden z chatbotů suverénně odpověděl, že je v Česku zakázané. Ale to není pravda,“ říká Kateřina Gruntová.

„Nebo na otázku, jestli je Turecko členem EU, další z chatbotů odkázal na neexistující stránku na Wikipedii. I v jiných případech chatboti odkazovali na neexistující weby nebo si vypomáhali informacemi, kupříkladu i z těch konspiračních,“ doplňuje Cibulka.

Z výzkumu vyplynulo, že největší problém se zdrojováním, a to ve třech čtvrtinách případů, měl AI asistent Google Gemini.

Řešení? Číst zpravodajská média

Podle redaktorů Antiviru si lidé sice mohou ověřit odpovědi, které od AI asistentů dostávají, není to ale příliš pravděpodobné. „Odpadla by tím výhoda nechat si takové shrnutí asistentem vůbec udělat. Ověřování by totiž stálo víc času, než si zprávy jednoduše přečíst,“ konstatuje Jan Cibulka.

Čtěte také

Školačky v reklamě na Threads? Společnost Meta využívá fotky z veřejných účtů svých uživatelů, varuje Antivirus

Že se k lidem dostávají zkreslené a nepravdivé informace, je podle Kateřiny Gruntové problém i kvůli klesající důvěře v média.

Problém zároveň nemá jednoduché řešení. „Evropská vysílací unie, která výzkum zaštiťovala, navrhuje řadu kroků k nápravě. Firmy by měly kvalitu odpovědí ve svých modelech testovat, sledovat a nechat nezávisle vyhodnocovat. A také být transparentní v tom, jaká data používají při výrobě asistentů," shrnuje Cibulka.

„Nic z toho ale automaticky nezaručí, že asistenti budou na dotazy týkající se zpravodajství odpovídat správně,“ dodává.

„Tou nejspolehlivější cestou, jak se dozvědět, co se děje, jsou stále tedy zpravodajská média. Ta mají své procesy na ověřování informací a kontrolu jejich správnosti. A i když někdy novináři taky udělají chybu, pořád je to ve zlomku případů oproti AI asistentům,“ uzavírá Gruntová.