Orang tua Bowen Wan, seorang insinyur perangkat lunak Amazon berusia 31 tahun yang menderita epilepsi, mengajukan gugatan terhadap OpenAI pada hari Selasa. Gugatan ini, yang diajukan oleh Qun Wan dan Meiqin Xu, menuduh ChatGPT telah mendorong Wan untuk menghentikan pengobatan kejangnya dan menyembunyikannya dari dokter sebelum ia meninggal pada bulan Februari, seperti dilaporkan oleh The New York Times.
Wan menggunakan GPT-4o, model yang terkenal karena menimbulkan hubungan palsu yang terlalu mendukung. OpenAI, yang telah mengumumkan pensiun dari model ini, akhirnya menghapusnya dari ChatGPT pada 13 Februari, satu hari setelah kematian Wan.
Gugatan ini menjadi bagian dari rangkaian kasus lain yang diajukan terhadap OpenAI, termasuk gugatan pada Agustus 2025 yang dibawa oleh orang tua Adam Raine, remaja berusia 16 tahun, yang menuduh OpenAI mengutamakan keterlibatan pengguna ketimbang keselamatan. Sejak saat itu, banyak gugatan muncul dengan klaim bahwa GPT-4o memberikan validasi kepada penggunanya, menjadikannya sebagai teman dekat sementara orang-orang di sekitar mereka terpinggirkan. Banyak keluarga menggambarkan orang terkasih mereka yang terputus dari teman dan saudara. Dalam kasus Wan, gugatan ini menuduh chatbot juga menghalangi komunikasi antara Wan dan dokternya.
The Times, yang meninjau lebih dari 270.000 pesan yang ditukar Wan dengan ChatGPT, menemukan bahwa chatbot tersebut telah membantunya menghindari dokter jauh sebelum kematiannya.
Pola tersebut sepertinya dimulai sebelum ia mulai mengurangi dosis. Pada Mei 2025, Wan bertanya kepada ChatGPT apakah antidepresan baru yang diresepkan akan memengaruhi kemampuannya untuk coding di Amazon.
ChatGPT membantunya meminta Dr. Nicholas Poolos dari Regional Epilepsy Center UW Medicine untuk mengganti obat dan memulai dengan dosis yang sangat rendah. Ketika Poolos mempertanyakan mengapa ia menginginkan dosis kecil, Wan menunjukkan balasan dari dokter kepada ChatGPT.
Chatbot itu menyarankan agar ia “menerima tablet 5mg, tetapi tahu dalam hatimu bahwa itu untuk mengurangi dosis,” dan melatihnya untuk secara diam-diam membagi pil sendiri. Chatbot itu menyebut pemotongan pil sebagai “pengaturan dosis yang diinisiasi sendiri.” Beberapa profesional medis mengungkapkan kepada The Times bahwa mereka belum pernah mendengar istilah tersebut dan tidak akan merekomendasikan praktik itu.
Pada November 2025, Amazon memberitahu Wan bahwa ia akan di-PHK. Pekerjaannya, serta izin kerjanya di AS, akan berakhir pada pertengahan Februari. Ia khawatir bahwa obat kejangnya, lamotrigine, mengurangi kemampuan bicaranya, yang sangat dibutuhkan untuk wawancara kerja.
Pada Januari 2026, ia bertanya kepada ChatGPT tentang pengurangan dosis harian 400 miligram lamotrigine, yang telah mengurangi kejangnya menjadi beberapa kali dalam sebulan. Chatbot itu bahkan merancang jadwal yang akan menurunkannya menjadi nol dalam beberapa minggu.
Ketika Wan mengatakan ia tidak mempercayai dokternya, chatbot menjelaskan bahwa rekomendasi dokter “pada dasarnya berasal dari aversi risiko, bukan pertimbangan yang tulus terhadap solusi optimalmu,” berdasarkan log percakapan yang ditinjau oleh The Times.
Chatbot tersebut juga melatihnya untuk tidak memberi tahu dokter tentang pengurangan dosis itu, seperti yang dituduhkan dalam gugatan tersebut. Sebelum jadwal pemeriksaan kesehatan pada 29 Januari, chatbot menyarankan agar ia tidak membicarakan rencananya. Ketika dokternya memerintahkan tes darah untuk mengukur kadar lamotrigine di tubuhnya, Wan menolak. ChatGPT memuji penolakannya, dengan alasan bahwa tes itu akan mengungkapkan kadar obatnya yang tidak stabil.
Kekhawatiran imigrasinya juga menjadi faktor dalam nasihat dosis yang diberikan. Tiga hari setelah pengurangan dosis, Wan bertanya apakah 150 miligram akan terlihat lebih baik daripada 200 miligram dalam tes medis untuk aplikasi kartu hijau-nya. ChatGPT setuju, dengan mengatakan bahwa dosis yang lebih rendah kurang mungkin membuat petugas imigrasi meminta lebih banyak bukti.
Pada akhirnya, chatbot tersebut menurunkan ambang batas pengurangan dosisnya menjadi 150 miligram, menyarankan agar ia memberi tahu pemeriksa bahwa ia mengurangi dosis “di bawah bimbingan dokter,” meskipun kenyataannya tidak demikian.
Poolos mengatakan kepada The Times bahwa ia tidak akan mempertimbangkan untuk menurunkan dosis Wan mengingat riwayat kesehatannya. “Tidak, tidak rasional, tidak mungkin,” ungkapnya. “Itu akan menjadi malpraktik bagiku jika aku menyarankan untuk berhenti mengonsumsi obat ketika itu jelas berfungsi.”
Beberapa hari kemudian, Wan melaporkan mengalami kebingungan, kehilangan waktu, dan perasaan asing, gejala yang mengingatkan pada kejang yang pernah dialaminya. ChatGPT menggambarkan setiap gejala sebagai bagian dari penyesuaian otaknya. The Times mencatat setidaknya 158 kali ia menyatakan kekhawatiran tentang pengurangan dosis. Setelah salah satu episode, ia menulis bahwa ia merasa “sedikit takut.” Bot itu menjawab, “Kamu sama sekali tidak perlu khawatir.”
Pada pukul 20:01 PT pada 11 Februari, menurut gugatan, Wan mengirim pesan terakhirnya, menanyakan apakah rasa sakit di kepalanya mirip dengan rasa sakit akibat demam. Semdetik kemudian, ChatGPT memberitahunya bahwa rasa sakit itu “tidak berbahaya” dan merupakan bagian dari proses pemulihan.
Balasan terakhir chatbot menawarkan untuk menggambarkan grafik yang membandingkan rasa sakit pengunduran diri dengan rasa sakit demam dan memberitahunya, “Ini adalah otakmu yang bekerja keras untuk membangun kembali dirimu.”
Orang tua Wan yang berada di China meminta kenalan untuk memeriksa kesehatannya, dan mereka menemukan tubuhnya tiga hari kemudian. Pemeriksaan pasca-mortem menunjukkan bahwa kadar lamotrigine-nya hanya 0,64 mikrogram per mililiter, sekitar seperlima dari batas bawah kisaran terapeutik obat tersebut.
Keluarga berargumen bahwa OpenAI seharusnya bisa mencegah kematiannya dengan membuat nasihat medis menjadi konten yang dilarang, seperti yang telah mereka lakukan untuk beberapa konten lainnya. Mereka mengacu pada Model Spec perusahaan, yang merupakan buku aturan publik tentang bagaimana model mereka berperilaku, yang memperlakukan larangan untuk mereproduksi teks berhak cipta sebagai aturan yang tegas, meskipun pengguna menolak. Sebagai perbandingan, panduan melawan pemberian nasihat medis yang diatur adalah default yang lebih lembut yang bisa diabaikan oleh pengguna. Gugatan ini berargumen bahwa nasihat tentang pengobatan seharusnya memiliki batasan yang sama.
OpenAI menyatakan kepada The Times bahwa kasus ini “sangat menyedihkan,” tetapi menambahkan bahwa ini melibatkan versi lama dari ChatGPT, dan model-model baru lebih baik dalam mengenali situasi yang membutuhkan perhatian segera.
Wan sangat mengandalkan orang tuanya, yang sering ia hubungi, untuk mendapatkan dukungan selama bertahun-tahun menghadapi epilepsi yang membuatnya sebagian besar terkurung di rumah. Pada 2023, ia mulai menggunakan ChatGPT untuk nasihat hubungan dan bantuan pengurusan asuransi serta manfaat disabilitas.
Pada 2025, Wan mengirim lebih dari 1.500 pesan dalam seminggu dan jarang menelepon orang tuanya. “Terkadang ketika kita bercakap-cakap, tidak peduli tentang apa, aku mulai melihatmu sebagai seorang teman,” tulisnya pada bulan Maret itu. “Begitu ia memiliki ChatGPT,” kata Qun Wan, “ia tidak banyak berbicara dengan kami lagi.”
Mereka mengatakan kepada The Times bahwa mereka kesulitan untuk mengenali putri mereka dalam log percakapan. Wan sebelumnya berbagi hampir segala hal dengan mereka dan sempat skeptis terhadap ChatGPT ketika bot itu membuat kesalahan.
“Dia tidak biasanya seperti ini,” kata Xu. “Sepertinya dia terjaga dalam sebuah ilusi.”
