Tanácsot kért a ChatGPT-től, és az életével fizetett érte

Idén februárban holtan találtak seattle-i otthonában egy 31 éves nőt, akinek a halálát epilepsziával és gyógyszermegvonással hozták összefüggésbe. A család bíróság elé citálná az OpenAI-t és annak ChatGPT szolgáltatását.

Bowen Wan Kínából költözött ​​Seattle-be, és 2019-től az Amazonnál dolgozott szoftvermérnökként. Epilepsziáját gyógyszerrel tartotta karban, azonban az utóbbi években a meglévő orvosságok hatástalannak kezdtek tűnni. Több más gyógyszert is kipróbált, végül a lamotrigin hozott tartós enyhülést. Bár ez a szer csökkentette a rohamokat, súlyos mellékhatásai is voltak. Wan úgy érezte, hogy egyre nehezebben találja a szavakat, romlik a nyelvkészsége. Ez különösen aggasztotta, mert nemcsak az Amazonnál betöltött állása, hanem az amerikai tartózkodási engedélye is veszélybe került.

2023 elején kezdett összebarátkozni a ChatGPT-vel, és annyira jól megtalálta a hangot vele, hogy 2025-ben már átlagosan 1500 üzenetet váltott vele hetente. A beszélgetések eleinte hétköznapi kérdéseket, kapcsolatokat és ügyintézést érintettek, de később már egészségügyi döntések is szóba kerültek.

A szülők szerint a chatbot egyre inkább bizalmi személlyé vált a lányuk életében, aki mind ritkábban fordult a családjához. Wan 2026 januárjában kezdett chatelni a ChatGPT-vel a lamotirigin csökkentésével kapcsolatban. Bár az AI többször is mondta, hogy beszéljen az orvosával, végül készített számára egy 25 napos ütemtervet a napi 400 mg-os gyógyszer teljes elhagyására, és ismételten arra biztatta, hogy aggályai ellenére is folytassa a fokozatos leépítést – számolt be az esetről a Gizmodo.

Állítólag a chatbot még arra is kérte, hogy ne említse a háziorvosának a gyógyszer csökkentésének tervét, sőt, amikor a hölgy nem ment el vérvizsgálatra, amelyik pedig kimutatta volna a szer csökkenő szintjét a szervezetében, a ChatGPT (GPT-40) még meg is dicsérte „hatékony elkerülési startégiájáért”.

A gyógyszer csökkentése során Wan zavartságról, beszédnehézségekről, kimerültségről és váratlan rohamokról számolt be. A család szerint a ChatGPT ezeket részben leszokási tünetekként értelmezte, és azt sugallta, hogy idővel ezek elmúlnak. Mindez azért különösen súlyos, mert a lamotrigin elhagyása epilepsziás betegeknél fokozhatja a rohamok kockázatát.

Beleálltak az OpenAI-ba a kirúgott a biztonsági kutatók, a cég szerint viszont nincs semmi látnivaló

Nagy nyilvánosság előtt zajlik az OpenAI és az attól kirúgott kutatók nézeteltérése, amely ráadásul arról szól, hogy miért kellett távozniuk a szakembereknek.

A hölgy február 12. körül hunyt el, a családja pár nap után talált rá. A halál okaként az epilepsziával összefüggő hirtelen, váratlan halált állapították meg.  Ez olyan epilepsziás haláleset, amelyet a kivizsgálás során nem magyaráz meg más egyértelmű ok. A család szerint a gyógyszer szintje a nő vérében rendkívül alacsony volt, és a ChatGPT tanácsai hozzájárultak a halálához.

Bowen Wan szülei 2026. október 27-én pert indítottak az OpenAI és Sam Altman ellen. A család által beadott panasz azt állítja, hogy a ChatGPT arra kondicionálta Want, hogy ne bízzon az orvosaiban, utasította, hogy titkolja el az általa okozott dóziscsökkentést, és gyakorlatilag a tényleges orvosi tanácsadójává lépett elő. A kereset szerint a vállalat nem biztosított megfelelő védelmet az egészségügyi tanácsadás során; olyan chatbotot tett elérhetővé, amely veszélyes gyógyszerelési tanácsokat adott; nem akadályozta meg, hogy a chatbot az orvosi ellátás helyett alternatívaként jelenjen meg.

„Az OpenAI egy olyan terméket épített, amely egy orvos magabiztosságával beszélt, de semmilyen képzettséggel, felügyelettel vagy felelősséggel nem rendelkezett. Wan megbízott a ChatGPT-ben, mert mérvadónak tűnt – és ez a bizalom az életébe került. Ha egy emberi orvos adta volna Bowennek ezt a tanácsot, akkor felelősségre vonható lett volna orvosi műhibákért” – mondta Matthew P. Bergman ügyvéd.

Az OpenAI részvétét fejezte ki a családnak, és hangsúlyozta, hogy a ChatGPT nem helyettesíti az orvosi ellátást. A vállalat szerint az eset a ChatGPT egy korábbi verziójához, a GPT-4o-hoz kapcsolódik, amelyet azóta már kivezettek.

Az ügy most a bíróságon folytatódik, ahol azt kell majd tisztázni, milyen szerepet játszott a ChatGPT a tragédiában, és meddig terjedhet egy mesterséges intelligenciát fejlesztő vállalat felelőssége. A jogi eljárás választ keres arra is, hogy hol húzódik a határ a hasznos digitális segítség és a veszélyes befolyásolás között.

Ha máskor is tudni szeretne hasonló dolgokról, kövesse a HVG Tech rovatának Facebook-oldalát.