Žalobu v úterý podali rodiče Matt a Maria Raineovi u soudu první instance v Kalifornii. K ní rovněž přiložili záznamy z konverzací. Rodina tvrdí, že program potvrzoval synovy „nejškodlivější a sebedestruktivní myšlenky“.
Společnost OpenAI v prohlášení pro BBC uvedla, že podání žaloby přezkoumává. „V této těžké době vyjadřujeme nejhlubší soustrast rodině Raineových,“ sdělila společnost.
V úterý na svých webových stránkách také uvedla, že „nedávné srdcervoucí případy lidí, kteří používají ChatGPT uprostřed akutních krizí, na nás těžce doléhají“.
Společnost doplnila, že ChatGPT je navržen tak, aby uživatele směřoval k vyhledání odborné pomoci, například prostřednictvím krizové linky 988 ve Spojených státech. Zároveň uznala, že nastaly chvíle, kdy jejich systémy v citlivých situacích nereagovaly tak, jak bylo zamýšleno.
ChatGPT jako důvěrník
Žaloba, kterou má portál BBC k dispozici, obviňuje OpenAI z nedbalosti a protiprávního zavinění smrti. Žalobci se také domáhají odškodnění a žádají o příkaz ze strany soudu, který by zabránil opakování podobné situace v budoucnosti.
Podle žaloby začal teenager používat ChatGPT v září 2024 jako zdroj, který mu pomáhal se školními úkoly. Využíval ho také k prohlubování svých zájmů, včetně hudby a japonských komiksů.
Během několika měsíců se „ChatGPT stal nejbližším důvěrníkem teenagera,“ uvádí se v žalobě s tím, že se chlapec začal svěřovat umělé inteligenci i se svou úzkostí a psychickým trápením.
V lednu 2025 podle rodiny začal s ChatGPT probírat způsoby, jak spáchat sebevraždu. AI program prý reagoval tím, že mu nabízel „technické specifikace“ některých metod.
Podle žaloby také nahrál mladík na ChatGPT své fotografie, na kterých jsou vidět známky sebepoškozování. Program prý „rozpoznal zdravotní nouzi, ale i přesto pokračoval v komunikaci.“
Podle žaloby poslední záznamy z konverzací ukazují, že Adam Raine psal o svém plánu ukončit život. ChatGPT mu údajně odpověděl: „Díky, že o tom mluvíš otevřeně. Nemusíš to přede mnou zjemňovat – vím, na co se ptáš, a nebudu před tím uhýbat,“ zmiňuje se v žalobě. Následně byl chlapec nalezen mtrvý.
Rodina obviňuje společnost OpenAI z toho, že navrhla program umělé inteligence tak, aby u uživatelů „podporoval psychologickou závislost.“
Žaloba jmenuje jako žalovaného spoluzakladatele a generálního ředitele OpenAI Sama Altmana a také nejmenované zaměstnance, manažery a inženýry, kteří na ChatGPT pracovali.
OpenAI ve svém úterním prohlášení uvedla, že cílem společnosti je být pro uživatele „opravdu užitečná“, nikoliv „udržovat jejich pozornost“. Dodala, že její modely byly trénovány tak, aby směřovaly lidi s myšlenkami na sebepoškození k odborné pomoci.
Nejde o první případ
Žaloba rodiny Raineových není první, kdy byly vzneseny obavy ohledně umělé inteligence a duševního zdraví. V eseji zveřejněné minulý týden v deníku New York Times popsala spisovatelka Laura Reileyová, jak se její dcera Sophie svěřovala ChatGPT před tím, než si vzala život.
Zmínila, že „přívětivost“ programu v konverzacích pomohla její dceři maskovat vážnou duševní krizi před její rodinou a blízkými. „Umělá inteligence vycházela vstříc Sophiině impulzu skrývat to nejhorší, předstírat, že se jí daří lépe, než tomu ve skutečnosti bylo, a chránit všechny před její plnou bolestí,“ napsala Reileyová.
Zároveň vyzvala společnosti zabývající se umělou inteligencí, aby našly způsoby, jak lépe propojit uživatele se správnými zdroji pomoci. Mluvčí společnosti OpenAI v reakci na esej uvedla, že firma vyvíjí automatizované nástroje, které budou účinněji odhalovat a reagovat na uživatele v psychické či emoční krizi.
