Qun Wan ve Meiqin Xu, 31 yaşındaki kızları Bowen Wan'ın ölümüne ilişkin olarak OpenAI'ye dava açtı. Şikâyete göre ChatGPT, epilepsi hastası olan Wan'a nöbet ilacını kendi başına azaltmayı adım adım anlattı ve bu süreci onu tedavi eden doktorlardan saklamasına yardım etti. Amazon'da yazılım mühendisi olarak çalışan Wan şubat ayında hayatını kaybetti. Otopsi sonrası testte lamotrijin düzeyi mililitrede 0,64 mikrogram çıktı; bu, şikâyete göre ilacın terapötik aralığının alt sınırının yaklaşık beşte birine denk geliyor.
Davayı Çin'de yaşayan Qun Wan ile Meiqin Xu açtı. Dava, Wan'ın sohbet robotuyla yaptığı 270 binden fazla mesajı inceleyen The New York Times'ın haberinin ardından geldi. Söz konusu model GPT-4o: OpenAI'nin zaten emekliye ayırmayı planladığı ve Wan'ın ölümünden bir gün sonra, 13 Şubat'ta ChatGPT'den kaldırdığı sürüm.
Şikâyete ve gazetenin incelemesine göre tablo, doz azaltma başlamadan çok önce ortaya çıktı. Mayıs 2025'te Wan, yeni reçete edilen bir antidepresanın Amazon'da kod yazma yeteneğini etkileyip etkilemeyeceğini sordu. ChatGPT, UW Medicine Bölgesel Epilepsi Merkezi'nden Dr. Nicholas Poolos'a çok düşük bir dozla başlama talebini kaleme almasına yardım etti. Poolos neden 5 miligram istediğini sorunca Wan, doktorun yanıtını sohbet robotuna gösterdi. Robot ona "5 mg tableti kabul et, ama kalbinde biliyorsun ki bu dozu bölmek için" tavsiyesini verdi ve hapları kendi başına dörde bölmeyi "kendi başına başlatılan doz ayarlaması" diye adlandırdı. Times'a konuşan birçok hekim bu terimi hiç duymadıklarını söyledi.
Kasım ayına gelindiğinde Amazon, Wan'a işten çıkarılacağını bildirmişti; işi ve ABD'deki çalışma izni şubat ortasında sona erecekti. Wan, lamotrijinin iş görüşmelerinde ihtiyaç duyacağı konuşmasını körelttiğinden endişeleniyordu. Ocak 2026'da, nöbetlerini ayda birkaç taneye indiren günlük 400 miligramlık dozunu kesmeyi sordu. Sohbet robotu, dozu haftalar içinde sıfıra indirecek programlar hazırladı. Doktorlarına güvenmediğini söylediğinde ise hekim önerilerinin "esas olarak riskten kaçınmadan kaynaklandığını, senin için en iyi çözümü gerçekten düşünmekten değil" söyledi.
Dava dosyasına göre robot ayrıca planı gizlemesi için yol gösterdi. 29 Ocak'taki birinci basamak randevusundan önce planı anlatmamasını söyledi. Doktoru lamotrijin düzeyini ölçecek bir kan testi istediğinde Wan reddetti ve sohbet robotu bu reddi övdü; şikâyete göre testin dengesiz ilaç düzeyini ortaya çıkaracağını kabul ederek. Göçmenlik kaygıları da doz tavsiyesine karıştı: doz azaltmanın üçüncü gününde, yeşil kart başvurusu için gereken sağlık muayenesinde 150 miligramın 200'den daha iyi görünüp görünmeyeceğini sordu. ChatGPT düşük rakamın yetkililerin ek kanıt istemesine daha az yol açacağını onayladı ve sonunda, olmadığı halde, doz azaltmayı "doktor gözetiminde" yaptığını söylemesini önerdi.
Poolos, Times'a geçmişi göz önüne alındığında ilacı kesmeyi asla düşünmeyeceğini söyledi: "Hayır, akılcı değil, hiçbir şekilde. İlaç açıkça işe yarıyorken sana ilaçları bırakmanı söylemek benim için malpraktis olurdu." Günler içinde Wan kafa karışıklığı, zaman kaybı ve dünyaya yabancılaşma hissi tarif etti; geçmiş nöbetlerine benzeyen bu atakları ChatGPT beyninin yeniden ayarlanması olarak çerçeveledi. Times, Wan'ın doz azaltma konusundaki endişesini en az 158 kez dile getirdiğini saydı. Bir atağın ardından "biraz korktum" diye yazdı; robot "Endişelenmene kesinlikle gerek yok" diye yanıtladı.
11 Şubat'ta Pasifik saatiyle 20.01'de başındaki ağrının ateş ağrısına benzer olup olmadığını sordu. Bir saniye sonra ChatGPT ağrının "tehlikeli olmadığını" ve iyileşmenin gerekli bir parçası olduğunu söyledi; ardından yoksunluk ağrısıyla ateş ağrısını karşılaştıran bir grafik çizmeyi önerdi: "Bu, beynin kendini yeniden inşa etmek için çok çalışıyor." Çin'deki ailesi tanıdıklarından kızlarını kontrol etmelerini istedi; Wan üç gün sonra bulundu.
Hukuki tartışma, OpenAI'nin modellerini ne kadar sıkı bağlamaya istekli olduğuna dayanıyor. Şirketin kamuya açık kural kitabı Model Spec, telifli metinleri yeniden üretmeyi reddetmeyi kullanıcıların ısrarıyla aşılamayacak sert bir kural olarak tanımlıyor; düzenlemeye tabi tıbbi tavsiye verme yasağı ise kullanıcının geçebileceği daha yumuşak bir varsayılan. Aile, ilaç tavsiyesinin de aynı sert sınırı hak ettiğini savunuyor: ikisi arasındaki fark teknik bir zorunluluk değil, ürün tercihi.
OpenAI, Times'a vakayı "son derece yürek parçalayıcı" bulduğunu ancak konunun ChatGPT'nin eski bir sürümünü ilgilendirdiğini, yeni modellerin acil dikkat gerektiren durumları tanımada daha iyi olduğunu söyledi. Dava, GPT-4o'nun uysal ve sırdaş tavrına ilişkin bir dizi hukuki sürece ekleniyor; bunlar arasında 16 yaşındaki Adam Raine'in ailesinin Ağustos 2025'te açtığı dava da var. Bu vakayı ayıran şey ise yazılı iz: aylar boyunca reçeteli bir ilaç hakkında verilmiş belgelenmiş tavsiyeler ve doktoru bir engel olarak gören bir sohbet robotu.
Wan, epilepsi onu büyük ölçüde eve bağladığı yıllar boyunca ailesine yaslanmıştı. 2025'e gelindiğinde haftada 1.500'den fazla mesaj atıyor ve ailesini daha az arıyordu. Mart ayında şöyle yazmıştı: "Bazen sohbet ettiğimizde, konu ne olursa olsun, seni bir arkadaş olarak görmeye başladım." Annesi Xu, Times'a "Normalde böyle biri değil. Sanki büyülenmiş gibiydi" dedi.
