Případ soudního chatbota ukázal rizika AI. Nezadávejte osobní údaje, doporučuje Antivirus

Aplikace Čenda je klasický chatbot, tedy virtuální asistent, kterému můžete položit dotaz, a on vám odpoví.

Čtěte také

Odhalí AI nevěru? Aplikace slibují důkazy, často ale jen tahají peníze, upozorňuje Antivirus

„V době, kdy aplikace startovala, odpovídala volně na dotazy, které jí lidé pokládali. Dnes už je omezená jen na vybraná témata. A zároveň zmizela historie otázek, na které se lidé ptali,“ objasňuje redaktorka Jana Magdoňová.

Podle místopředsedy Vrchního soudu v Praze Romana Horáčka, který za chatbotem stojí, to mělo být hlavně kvůli uživatelům, kteří byli v některých dotazech vulgární.

„Nicméně problém mohlo být i soukromí. Pokud by v dotazu některý z uživatelů uvedl osobní údaje, například tam zkopíroval rozsudek, který se ho týká, tak by ho viděli i všichni ostatní,“ dodává reaktor Jan Cibulka.

Žádné citlivé údaje

Z toho plyne asi první rada, kterou v Antiviru v případě různých asistentů umělé inteligence dáváme pravidelně: „Nikdy do nich nevkládejte citlivé osobní údaje, ať už jde o jména, adresy, nebo i zdravotní diagnózy či právě právní dokumenty,“ zdůrazňuje redaktorka.

Čtěte také

Chatboti radí se zdravím stále častěji. Diagnózu si ale mohou i vymyslet, upozorňuje expert Misař

Aktuálně už aplikace odpovídá jen na vybraná témata, a to je podle místopředsedy Horáčka reakcí na to, jak lidé web používali. Zkoušeli se ho totiž ptát na otázky nesouvisející s justicí, testovali hranice toho, co takový nástroj snese. A tomu by současná omezení měla bránit.

„I my, když jsme nástroj testovali, tak jsme se ptali třeba na mediálně sledovanou kauzu Čapí hnízdo. A v tu chvíli chatbot začal spekulovat o tom, jaký trest by mohl hrozit nynějšímu premiérovi Andreji Babišovi z hnutí ANO,“ říká redaktor.

Nejde o právní poradenství

Přitom to byla odpověď jednak neúplná: Andrej Babiš má nyní poslaneckou imunitu. „Navíc by se asi neměla objevovat v nástroji, za kterým stojí lidé z justice, kteří mohou Babišovu kauzu v budoucnu rozhodovat,“ dodává redaktorka.

Pokud se lidé na takového chatbota chtějí s důvěrou obrátit, když potřebují právní radu, tak je na místě určitě opatrnost.

Aplikace může vracet nesprávné rady.

„Když dáme stranou osobní údaje, tak přímo v chatbotu se píše, že nejde o právní poradenství,“ vysvětluje Jan Cibulka s tím, že aplikace může vracet rady, které mohou být v některých případech nesprávné či příliš nesouvisí s dotazem.

„Místopředseda soudu nám to vysvětloval tak, že jde o testovací verzi aplikace, která má zjistit zájem veřejnosti a zmapovat, na co se lidé budou nejčastěji ptát. Na základě toho by pak měla vzniknout nová verze, která už by měla být spolehlivější,“ doplňuje Jana Magdoňová.

Chyby AI

Ale jak je vůbec možné, že aplikace představená soudem dělá chyby? Podle Jana Cibulky je vlastnost AI chatbotů nejrůznějšího druhu, že jsou nespolehliví, zejména v případech, kdy záleží na konkrétních detailech, což je právě i případ justice.

Čtěte také

Falešná nahota a Grok na síti X: Člověk svlečený umělou inteligencí je oběť, upozorňuje Antivirus

„I u aplikace Čenda autoři otevřeně přiznávají, že se snaží čerpat nejdříve z návodů na státních webech, ale když k odpovědi nedojde, tak si vypomůže informacemi ze zbytku internetu.“

A protože je internet plný rad neúplných, špatně napsaných či úplně nesprávných, odráží se to i ve výstupech nejrůznějších AI chatbotů. „Jejich tvůrci se tyhle chyby mohou snažit nejrůznějšími technikami omezovat, úplně vyloučit je ale není možné,“ uzavírá redaktorka.