Umělá inteligence přinese změny do mnoha profesí, včetně té právnické. Zároveň ale její využívání ohrožuje lidi, kteří schopnostem umělé inteligence až příliš důvěřují.
Patří mezi ně i Zachariah Crabill, který byl přetíženým začínajícím právníkem v advokátní kanceláři v Colorado Springs, když v květnu podlehl pokušení používat ChatGPT, píšou na serveru Yahoo Finance.
Chatbot s umělou inteligencí mu během několika minut pomohl sepsat návrh, čímž mu ušetřil hodiny práce, jak v červnu informovala místní rozhlasová stanice KRDO. Poté co dokument podal u coloradského soudu, si však uvědomil, že něco není v pořádku: Několik citací ze žaloby vygenerovaných ChatGPT bylo vymyšlených.
ChatGPT si případy vytváří ze vzduchu
ChatGPT společnosti OpenAI je známý tím, že se sebevědomě mýlí, a v tomto případě jednoduše vytvořil ze vzduchu případy, které zněly přesvědčivě. Crabill si před odesláním své práce neověřil, zda jsou případy skutečné.
Ke své chybě se právník následně přiznal soudci, který ho nahlásil celostátnímu úřadu, a v červenci byl mladý právník propuštěn z práce ve společnosti Baker Law Group.
Ve svém prohlášení pro soud, v němž přiznal svou chybu, Crabill napsal: „Cítil jsem, že moje nedostatečná zkušenost s právním výzkumem a psaním, a tudíž i moje efektivita v tomto ohledu by mohla být exponenciálně zvýšena ve prospěch mých klientů urychlením časově náročné výzkumné části vypracování návrhu.“
Za použití ChatGPT pokuta 5 tisíc dolarů
Crabill není jediným právníkem, který ChatGPT příliš důvěřuje. V červnu federální soudce v New Yorku pokáral dva právníky a uložil jim pokutu 5 000 dolarů (přes 112 tisíc korun) za to, že předložili právní spis, v němž se rovněž odvolávali na neexistující případy.
Ve vyjádření ke kauze Stevena A. Schwartze a Petera LoDuca z advokátní kanceláře Levidow, Levidow & Oberman soudce napsal: „Technologický pokrok je běžný a na používání spolehlivého nástroje umělé inteligence k výpomoci není ze své podstaty nic nevhodného. Stávající pravidla však ukládají advokátům roli hlídače, aby zajistili správnost svých podání.“
„Nepochopil jsem, že ChatGPT může případy vykonstruovat,“ řekl Schwartz soudci dříve.
Crabill se však navzdory traumatické zkušenosti nástrojů umělé inteligence nevzdává. „ChatGPT stále používám v každodenním životě, podobně jako většina lidí používá Google v práci,“ řekl pro Business Insider. Od té doby totiž založil společnost, která poskytuje právní služby prostřednictvím AI.
„Nemá smysl být odpůrcem nebo být proti něčemu, co se nevyhnutelně stane cestou budoucnosti,“ uzavřel Crabill.
Autor: Jiří Böhm
