S právními problémy za umělou inteligencí? Klienti ji často vnímají jako místo pravdy, říká advokátka

Čtěte také

Dohoda USA a Číny o regulaci AI je nepravděpodobná. Chybí jim vzájemná důvěra, míní expert Turcsányi

Jak často se vám stane, že do advokátní kanceláře přijde klient a vysvětluje vám, co mu řekla umělá inteligence? A jak nejlépe jeho problém řešit?

Musím bohužel říci, že v poslední době se čím dál častěji setkáváme s tím, že klienti nejdřív svůj právní problém konzultují s umělou inteligencí.

To samozřejmě asi nezastavíme a je to určitě v pořádku. Ale bohužel to často vnímají jako pravdu a snaží se nás přesvědčit, že to, co jim tvrdí umělá inteligence, je daná konstanta. Pak se jim poměrně těžko vysvětluje, že je to jinak.

K čemu můžu běžně dostupné nástroje AI použít jako laik?

Určitě ji mohou použít pro úvodní konzultaci. Celkem se nabízí přirovnání třeba k lékařským službám, kdy zkonzultujete nějaké své příznaky, ale určitě byste jako jedinou pravdu nebral diagnózu, kterou vám sdělí umělá inteligence. S právními problémy je to podobné.

A co nedělat nikdy? Napadá mě třeba asi nesdílet své osobní údaje, případně konzultovat nějaké smluvní podmínky.

Čtěte také

Romportl: AI do pěti let ohrozí polovinu profesí. Člověk ale bude pořád potřebovat člověka

Konzultovat smluvní podmínky v obecné rovině si myslím, že je přípustné. Ale určitě není vhodným prostředkem nahrát smlouvu, včetně všech osobních i věcných údajů do veřejně dostupného nástroje.

Je nutné počítat s tím, že jakmile se to tak stane, tak se údaje v podstatě stanou veřejně dostupnými, respektive nástroj se na nich natrénuje a vlastně je to takový Black Box (černá skříňka), kam ty svá data pouštíte. To bych určitě nedoporučovala.

Umělou inteligenci se postupně učí využívat také soudci. Například podle místopředsedy Vrchního soudu v Praze Romana Horáčka může pomoct v insolvenčních řízeních. „Je jasné, že v trestním řízení bude dopad nejpomalejší, protože tam je největší ochrana osoby, poškozeného i obžalovaného. Tam musí být ochrana nejsilnější, a jednání nebo řízení je tam nejuzavřenější,“ řekl Radiožurnálu. Chcete na to nějak reagovat?

My s justicí spolupracujeme v tichých digitalizačních a snahách o využívání umělé inteligence, byť pro nás to je tak trošku z druhé strany. Ale určitě tato slova můžu podpořit a snahy justice vnímám.

Technologická revoluce v právu

Jak mění umělá inteligence vaši práci, tedy práci advokátů?

Můžeme to určitě označit za jistou technologickou revoluci. Setkáme se s tím, že i advokáti při své práci používají umělou inteligenci čím dál tím častěji.

Ani advokát nemůže výstup z umělé inteligence brát jako nezávislý zdroj pravdy

Nicméně se jako advokátní komora snažíme regulovat její užití a poskytnout vodítka a pravidla, jak by to naši kolegové advokáti měli dělat. Mluvím ze své pozice členky představenstva, kde mám tuto agendu na starosti.

Při této příležitosti jsme nedávno vydali i stanovisko k užití umělé inteligence, kde se snažíme nastolit základní pravidla.

Pojďme se ještě vrátit k tomu, co už trošku zaznělo, a sice důvěrnost. Advokát má povinnost mlčenlivosti. Nevadí tedy, když mu s případem pomáhá umělá inteligence?

K tomu pravidla do značné míry směřují. Na zachování mlčenlivosti a důvěrnosti se samozřejmě nic nemění, ani pokud advokát užívá umělou inteligenci. Směřujeme k tomu, jakým způsobem to zajistit.

Advokáti využívají zejména ty ne úplně veřejně dostupné nástroje, případně přistupují k pseudonymizaci či anonymizaci údajů, které do nástrojů vkládají.

Už se také objevily případy, kdy byl třeba ve stížnosti citován neexistující paragraf, který napsala umělá inteligence. Může být i problém s falešnými důkazy? Generovat jdou kromě textu i fotky a videa.

Určitě to bude velké téma. Co se špatně užitých judikátů, tak si myslím, že pravidlo je celkem jasné.

Čtěte také

Zpomalíme tempo vývoje AI modelů? Koubský: Firmy se nedomluví mezi sebou v Americe, natož s Čínou

Ani advokát nemůže výstup z umělé inteligence brát jako nezávislý zdroj pravdy, ale musí vždycky ověřovat zejména existenci judikátu, na které se výstup odkazuje.

V dalších letech bude podle mě do advokacie a justice do jisté míry promlouvat i problematika falešně vygenerovaných důkazů. To zase nějakým způsobem reguluje třeba legislativa v podobě AI Actu (nařízení Evropské unie, které stanovuje jednotná pravidla pro vývoj, dovoz, uvádění na trh a používání některých systémů umělé inteligence - pozn. red.), kde se požadavek transparentnosti reguluje. 

Legislativa už dnes zná trestný čin maření spravedlnosti. To znamená, že advokát samozřejmě nesmí použít důkazy, které jsou uměle vygenerované nebo nepravdivé.