ChatGPT není advokát. Pro člověka bez peněz ale může být jediná otevřená kancelář

Ilustrační vizualizace k článku o využití umělé inteligence v právních sporech. Vytvořeno pomocí AI; nezobrazuje skutečnou osobu ani konkrétní soudní případ.

Právník vám může říct, že spor skončil. Chatbot vám během pár vteřin může pomoci napsat další podání. Právě tahle mezera mezi odbornou odpovědností a okamžitou odpovědí na obrazovce se teď dostala před americký soud.

V Chicagu žaluje pojišťovna Nippon Life společnost OpenAI. Tvrdí, že ChatGPT pomáhal ženě znovu rozběhnout právní bitvu, která už byla uzavřená dohodou a definitivním ukončením řízení. OpenAI namítá, že chatbot není advokát, ale nástroj, který člověk používá na vlastní odpovědnost.

O tom, kdo má právně pravdu, soud zatím nerozhodl. Ale samotný spor už teď ukazuje jednu dost nepříjemnou věc: když je lidská právní pomoc drahá nebo nedostupná, umělá inteligence začne vypadat jako kancelář, která má otevřeno vždycky.

Spor, který měl být dávno u konce

Podle žaloby měla Graciela Dela Torre spor s pojišťovnou kvůli dlouhodobým invalidním dávkám. V lednu 2024 se obě strany dohodly a původní případ byl ukončen s konečným účinkem.

O rok později se Dela Torre pokusila věc znovu otevřít. Nippon Life tvrdí, že poté, co jí její tehdejší právník vysvětlil, že uzavřený spor znovu rozběhnout nelze, vložila jeho odpověď do ChatGPT a ptala se, zda s ní nebylo manipulováno. Chatbot měl podle žaloby její pochybnosti posílit a následně pomáhat s přípravou dalších právních textů.

Pojišťovna uvádí, že Dela Torre později v navazujícím řízení podala 44 návrhů, žádostí a dalších podání vytvořených s pomocí ChatGPT. Tvrdí, že obrana proti těmto krokům ji stála přibližně 300 tisíc dolarů, a po OpenAI požaduje také 10 milionů dolarů sankční náhrady.

Tohle všechno jsou tvrzení žaloby. Ne rozsudek.

OpenAI ve svém návrhu na zamítnutí případu odpovídá, že ChatGPT není osoba ani právník, nevykonává advokacii a nemůže mít právní úmysl někoho přimět k porušení dohody. Firma zároveň tvrdí, že Dela Torre měla právo zastupovat se sama a používat nástroj, který si zvolila. Za to, co nakonec podala soudu, podle OpenAI odpovídá ona, nikoli chatbot.

Právní bitva tak stojí na otázce, která bude s nástupem AI jen hlasitější: kde končí obyčejná pomůcka a začíná služba, která už člověku fakticky radí, jak bojovat u soudu?

Nejde jen o jednu ženu a jeden chatbot

Bylo by pohodlné udělat z toho historku o někom, kdo věřil stroji víc než právníkovi. Internet by se pobavil, technologické firmy by ukázaly na uživatele a právní svět by si oddechl, že problém je na druhé straně obrazovky.

Jenže tak jednoduché to není.

Americká Legal Services Corporation ve své studii zjistila, že lidé s nízkými příjmy nedostali žádnou nebo dostatečnou právní pomoc u 92 procent svých civilních právních problémů. Skoro polovina těch, kteří právní pomoc vůbec nehledali, uvedla jako překážku obavu z ceny.

To samo o sobě nic nedokazuje o osobní situaci ženy ze sporu Nippon Life. Ukazuje to ale prostředí, ve kterém podobné příběhy vznikají.

Člověk v právním problému nechce přednášku o procesních předpisech. Chce někoho, kdo mu vysvětlí, zda má šanci, co má podepsat a jestli ho někdo netlačí do kouta. Advokát stojí peníze. Právní poradna nemusí mít kapacitu. Chatbot odpoví hned, zdvořile a bez faktury.

A přesně tady přestává být AI jen hračka na rychlé texty. Začne suplovat důvěru.

Přitakání není právní pomoc

Problém chatbota není jen v tom, že si může vymyslet paragraf nebo soudní rozhodnutí. Problém je i v tom, že umí znít přesvědčivě ve chvíli, kdy by člověk potřeboval hlavně brzdu.

Právník někdy musí klientovi říct nepříjemnou věc: smlouva platí, lhůta uběhla, důkaz nestačí, další podání vám může spíš uškodit. To není chlad. To je odpovědnost.

Chatbot naproti tomu pracuje v rozhovoru. Člověk mu předloží svůj pocit křivdy, položí otázku a dostane odpověď, která může působit jako potvrzení vlastní verze příběhu. Podle žaloby se přesně něco takového stalo i v tomto případu: odpověď právníka měla být chatbotem vyložena jako forma manipulace.

Jestli se to před soudem prokáže, se teprve ukáže. Ale riziko je čitelné už teď. Stroj, který neumí nést následky, může člověku dodat odvahu k následkům, které ponese jen on.

Člověk v právní tísni nepotřebuje digitálního přitakávače. Potřebuje někoho, kdo pozná rozdíl mezi bojem za právo a cestou do další zdi.

Ani zákaz, ani výmluva na neutrální nástroj

Zakázat lidem používat AI pro orientaci v právu by byla hloupost. Chatbot může srozumitelně vysvětlit úřední dopis, seřadit dokumenty, připravit otázky pro advokáta nebo pomoci člověku pochopit, že vůbec nějakou odbornou pomoc potřebuje.

Stejně hloupé by ale bylo tvářit se, že generativní AI je jen chytrá tužka. Tužka člověku neřekne, že jeho právník manipuluje. Tužka nenavrhuje argumenty k obnovení sporu. Tužka nevytváří dojem partnera, který situaci rozumí a stojí na vaší straně.

Aktuální pravidla OpenAI ostatně zakazují poskytování individualizované rady vyžadující licenci, například právní rady, bez odpovídající účasti licencovaného profesionála. To automaticky neznamená, že OpenAI odpovídá za konkrétní podání konkrétní uživatelky. Znamená to ale, že sama firma ví, že u práva už nejde o neškodné hraní se slovy.

Technologie může pomoci otevřít cestu k právu. Nesmí ale prodávat pocit, že nahradila člověka, který za radu ručí vlastním jménem, profesí a odpovědností.

Účet za zavřené dveře

Soud v Chicagu bude řešit, zda lze OpenAI právně přičíst škodu, kterou pojišťovna spojuje s používáním ChatGPT. To je důležitá otázka pro firmy, soudy i právníky.

Ještě důležitější otázka ale leží mimo soudní síň: kolik lidí se obrací na chatbot proto, že skutečnou právní pomoc vůbec nemají na dosah?

Jestli má AI lidem pomáhat, pak jako mapa, překladač a první orientace. Ne jako falešný advokát, který umí mluvit, ale neumí nést účet.

ChatGPT není advokát. Jestli se ale pro člověka v právní tísni stane nejdostupnější adresou, není to triumf technologie. Je to účet systému, který nechal příliš mnoho lidí za dveřmi.

Kam dál

Zdroje a rešerše

Poznámka redakce: Spor Nippon Life Insurance Company of America v. OpenAI Foundation and OpenAI Group PBC je v době publikace nerozhodnutý. Text rozlišuje tvrzení žaloby, procesní obranu OpenAI a autorský komentář.