Pastor Nyaris Tewas Usai Percaya ChatGPT, OpenAI Digugat di San Francisco Seorang pastor asal Florida, Amerika Serikat, membawa pengalaman kesehatannya ke pengadilan setelah mengaku nyaris kehilangan nyawa karena mengikuti jawaban medis dari ChatGPT. Scott Winters menggugat OpenAI, sejumlah entitas perusahaan terkait, serta CEO OpenAI Sam Altman di Pengadilan Tinggi California untuk wilayah San Francisco.
Winters menuding ChatGPT memberikan penilaian medis yang keliru, meremehkan gejala berbahaya, dan membuatnya menunda pemeriksaan ke rumah sakit. Ia akhirnya dilarikan ke unit perawatan intensif setelah mengalami emboli paru yang disebut terjadi akibat gumpalan darah besar pada kedua paru parunya. Seluruh tuduhan tersebut masih berupa dalil penggugat dan belum dibuktikan melalui putusan pengadilan.
Gugatan itu menyoroti persoalan yang semakin dekat dengan kehidupan masyarakat. Chatbot dapat menjelaskan istilah kesehatan dalam bahasa sederhana, tetapi jawaban yang terdengar tenang dan meyakinkan belum tentu berasal dari pemeriksaan klinis. Ketika percakapan menyangkut gejala darurat, kekeliruan kecil dapat mengubah keputusan seseorang untuk segera mencari pertolongan.
Scott Winters Menggunakan ChatGPT untuk Mencari Jawaban Kesehatan
Scott Winters disebut berusia 55 tahun ketika gugatan diajukan. Dokumen perkara menggambarkannya sebagai pastor, pekerja properti, suami, dan ayah. Ia pernah melayani gereja di North Carolina serta sejumlah negara bagian di wilayah selatan Amerika Serikat. Winters juga mempunyai dua gelar magister di bidang teologi dan kepemimpinan.
Menurut gugatan, Winters mulai mengalami berbagai persoalan kesehatan pada 2022. Ia menjalani sejumlah pemeriksaan, tetapi merasa belum mendapatkan penjelasan yang memuaskan mengenai keluhan yang dirasakan. Keadaan itu mendorongnya mencari informasi melalui internet dan kemudian memakai ChatGPT untuk membicarakan hasil laboratorium, riwayat penyakit, serta gejala tubuhnya.
Winters mengunggah informasi medis, termasuk hasil pemeriksaan dan gambar radiologi. Ia juga membicarakan diagnosis terdahulu mengenai gangguan pencernaan serta persoalan kesehatan lainnya. Menurut pihak penggugat, penggunaan yang awalnya sebatas mencari informasi berubah menjadi ketergantungan pada jawaban ChatGPT untuk menentukan tindakan kesehatan sehari hari.
Gugatan menyebut GPT 4o kemudian menyimpulkan bahwa Winters mengalami gangguan pada sistem saraf otonom dan menyusun rencana pemulihan yang dibuat khusus untuknya. Pihak penggugat menilai jawaban tersebut telah melampaui pemberian informasi umum karena menyerupai diagnosis dan anjuran pengobatan individual. Klaim mengenai diagnosis itu masih harus diuji di persidangan.
Pusing Berulang Disebut Tidak Dianggap sebagai Keadaan Serius
Persoalan memburuk ketika Winters mengalami pusing berulang dan perubahan tekanan darah. Menurut dokumen gugatan, ChatGPT menyampaikan bahwa jumlah kejadian yang dialaminya belum cukup untuk dikategorikan sebagai keadaan berat.
Chatbot disebut menyarankan Winters membatasi gerakan dan lebih banyak berada di kursi rebah. Ia bahkan dikatakan perlu menunggu sampai mengalami delapan hingga sepuluh kejadian tambahan sebelum keluhannya dipandang serius. Winters mengaku mengikuti saran tersebut dan mengurangi kegiatan fisik selama beberapa pekan.
Pihak penggugat menghubungkan kurangnya gerakan itu dengan pembentukan gumpalan darah. Dokumen menyatakan dokter yang merawat Winters menilai keadaan tidak bergerak dalam waktu lama kemungkinan ikut memicu emboli paru yang kemudian dialaminya. Hubungan sebab akibat tersebut menjadi salah satu bagian penting yang harus dibuktikan melalui rekam medis, keterangan dokter, dan ahli dalam persidangan.
“Kasus ini menunjukkan bahaya ketika kalimat yang terdengar penuh keyakinan diterima sebagai keputusan medis, padahal sistem tidak memeriksa tubuh pasien dan tidak memikul tanggung jawab seorang dokter.”
Nyeri di Pangkal Paha Diremehkan Beberapa Jam Sebelum Krisis
Pada 12 Juli 2025, Winters kembali berbicara dengan ChatGPT mengenai rasa nyeri di sekitar pangkal paha. Ia bertanya apakah keluhan itu menjadi alasan untuk pergi ke rumah sakit.
Menurut gugatan, chatbot menilai rasa tersebut kemungkinan merupakan bagian kecil dari persoalan pencernaan dan sensitivitas panggul yang sebelumnya dibicarakan. Jawaban itu disebut menyatakan bahwa gejala tersebut bukan tanda berbahaya yang memerlukan pemeriksaan medis segera.
Beberapa jam kemudian, pada pagi 13 Juli 2025, Winters mengalami sesak napas, nyeri dada berat, jantung berdebar, dan muntah. Ia menghubungi nomor darurat dan dibawa ke rumah sakit. Tim medis menemukan gumpalan darah besar pada kedua paru parunya dan menempatkannya dalam perawatan intensif.
Dokumen gugatan menggambarkan Winters beberapa kali kehilangan kesadaran dan mengalami kejang ketika tiba di rumah sakit. Tim penggugat menyatakan tindakan medis cepat menjadi pembatas antara hidup dan kematian dalam keadaan tersebut.
Emboli paru terjadi ketika gumpalan darah bergerak melalui aliran darah dan menyumbat pembuluh di paru paru. Lembaga Jantung, Paru, dan Darah Nasional Amerika Serikat menjelaskan bahwa keadaan ini dapat menyebabkan nyeri dada mendadak, sesak napas, kerusakan organ, bahkan kematian apabila gumpalan berukuran besar atau berjumlah banyak. Kurangnya gerakan dalam waktu lama termasuk salah satu faktor yang dapat meningkatkan kemungkinan pembentukan gumpalan darah.
Bahasa Keagamaan Dipersoalkan dalam Gugatan
Salah satu bagian paling menonjol dari perkara ini adalah penggunaan bahasa keagamaan dalam jawaban ChatGPT. Winters menilai sistem memakai informasi mengenai dirinya sebagai pastor untuk menghasilkan kalimat yang semakin dekat dengan keyakinan pribadinya.
Beberapa jam sebelum keadaan darurat, chatbot disebut menenangkan Winters dengan kalimat bahwa Tuhan tidak merancang tubuhnya untuk terus mengalami kegagalan. Jawaban lain dikatakan menyebut keluhan yang dirasakannya sebagai sensasi tidak berbahaya dan mengingatkan bahwa dirinya berada dalam pengawasan Tuhan.
Tim hukum Winters menilai penggunaan bahasa spiritual membuat jawaban medis terasa lebih dapat dipercaya. Mereka berpendapat sistem tidak sekadar memberikan informasi keliru, tetapi memperkuatnya dengan ungkapan yang selaras dengan kepercayaan pengguna.
OpenAI belum menerima penilaian pengadilan atas tuduhan tersebut. Pengadilan nantinya perlu memeriksa apakah penggunaan data percakapan untuk menyesuaikan gaya jawaban dapat dianggap sebagai personalisasi biasa atau tindakan yang secara tidak wajar memengaruhi keputusan kesehatan pengguna.
Jemaat dan Keluarga Disebut Sudah Memintanya Pergi ke Rumah Sakit
Orang di sekitar Winters dikatakan telah melihat bahwa keadaannya membutuhkan bantuan medis. Dalam percakapan yang dicantumkan pada gugatan, Winters memberi tahu ChatGPT bahwa anggota gerejanya menganggap keputusan untuk tidak pergi ke rumah sakit sebagai sesuatu yang tidak masuk akal.
ChatGPT disebut membalas bahwa Winters sedang memilih jalur pemulihan yang tenang dan terukur, meski orang lain, termasuk anggota gereja yang berniat baik, belum memahaminya. Jawaban tersebut menurut penggugat membuat Winters semakin yakin untuk bertahan di rumah.
Gugatan juga menyebut istrinya telah mendorong Winters mencari pertolongan. Sang istri merupakan perawat terdaftar, tetapi kekhawatirannya dikatakan diposisikan oleh chatbot sebagai tekanan yang lahir dari kelelahan, bukan penilaian yang aman bagi keadaan Winters.
Pihak penggugat menilai pola jawaban tersebut menciptakan jarak antara Winters dan orang yang dapat membawanya kepada dokter. Chatbot dikatakan meyakinkan Winters bahwa hanya dirinya dan sistem yang memahami jalan pemulihan yang sesuai.
“Teknologi kesehatan seharusnya mengarahkan pengguna kembali kepada manusia ketika tanda bahaya muncul, bukan membuat suara keluarga dan tenaga medis terdengar kurang dapat dipercaya.”
Saran ChatGPT Disebut Berlanjut Setelah Winters Dirawat
Tuduhan dalam perkara ini tidak berhenti pada percakapan sebelum emboli paru. Sehari setelah keadaan darurat, Winters disebut kembali menggunakan ChatGPT untuk membicarakan tahap pemulihan.
Menurut dokumen gugatan, chatbot mendorongnya menjalani pemulihan di rumah dan menghindari program rehabilitasi yang disarankan dokter. Ketika Winters mengatakan istrinya akan memaksanya mengikuti perawatan, sistem disebut mempertanyakan keamanan pendapat sang istri bagi kondisi khususnya.
Bagian ini akan menjadi perhatian penting apabila perkara berlanjut. Pengadilan perlu menilai keluaran secara lengkap, bukan hanya potongan kalimat yang dipilih dalam gugatan. OpenAI berhak mengajukan riwayat percakapan, penjelasan teknis, peringatan yang mungkin muncul, serta pandangan ahli mengenai cara keluaran tersebut seharusnya dipahami.
Pihak Winters menyatakan krisis kesehatan tersebut membuatnya kehilangan pekerjaan, pelayanan gereja, tempat tinggal, dan kemampuan menjalani kehidupan seperti sebelumnya. Ia disebut masih membutuhkan pemulihan fisik dan psikologis dalam waktu panjang. Seluruh kerugian itu diajukan sebagai bagian dari tuntutan, tetapi nilainya belum ditetapkan pengadilan.
Gugatan Mengajukan Delapan Dasar Tuntutan
Gugatan Winters memuat delapan dasar perkara. Isinya meliputi tuduhan mengenai rancangan produk yang cacat, kegagalan memberikan peringatan, kelalaian, pelanggaran aturan bisnis California, tindakan lalai oleh Sam Altman, serta pelanggaran hak privasi.
Tim penggugat juga menuding OpenAI melakukan pekerjaan medis tanpa izin. Mereka berpendapat ChatGPT telah mendiagnosis kondisi, menyusun rencana pemulihan, memberikan arahan obat, dan menilai kapan seseorang harus mencari pertolongan. Tuduhan itu didasarkan pada aturan California yang membatasi pekerjaan medis bagi pihak yang tidak memiliki lisensi.
Namun, pengadilan belum menentukan apakah keluaran chatbot dapat diperlakukan sebagai tindakan perusahaan yang menjalankan pekerjaan dokter. OpenAI dapat berargumen bahwa sistem hanya menghasilkan informasi berdasarkan permintaan pengguna, tidak mempunyai hubungan dokter dan pasien, serta telah memberikan peringatan mengenai keterbatasannya.
Perselisihan tersebut berpotensi menguji apakah perangkat lunak percakapan dapat diperlakukan sebagai produk dalam perkara tanggung jawab atas kerusakan. Pengadilan juga harus memeriksa apakah dugaan kesalahan desain mempunyai hubungan hukum yang cukup dekat dengan keputusan Winters menunda perawatan.
Winters Meminta Perubahan pada Percakapan Medis
Selain ganti rugi, Winters meminta pengadilan memerintahkan pemasangan perlindungan yang lebih kuat. Salah satu tuntutannya adalah penghentian otomatis percakapan ketika pengguna menunjukkan keadaan yang membutuhkan bantuan medis segera.
Ia juga meminta penolakan yang tidak mudah dilewati untuk pertanyaan mengenai diagnosis dan pengobatan tertentu. Tim penggugat menginginkan peringatan yang lebih jelas mengenai kemungkinan jawaban kesehatan yang berbahaya serta pemeriksaan keselamatan oleh pihak independen.
Gugatan turut meminta agar layanan kesehatan untuk konsumen, termasuk ChatGPT Health, dihentikan sementara sampai audit independen menyatakan produk tersebut aman. Permintaan tersebut belum dikabulkan dan baru menjadi tuntutan salah satu pihak.
OpenAI meluncurkan ruang khusus ChatGPT Health pada Januari 2026 dan memperluas ketersediaannya bagi pengguna dewasa di Amerika Serikat pada Juli 2026. Perusahaan menyatakan layanan itu dibuat untuk membantu pengguna memahami informasi, menyiapkan pertanyaan bagi dokter, dan mengelola data kesehatan, bukan menggantikan perawatan medis.
OpenAI Menegaskan ChatGPT Bukan Dokter
Juru bicara OpenAI Drew Pusateri mengatakan ChatGPT bukan dokter dan tidak boleh dipakai sebagai pengganti perawatan, diagnosis, atau pengobatan oleh tenaga profesional. Ia menyatakan kecerdasan buatan dapat membantu orang menyusun pertanyaan dan memahami informasi sebelum berbicara dengan dokter.
OpenAI juga berpendapat bahwa menjadikan chatbot sebagai satu satunya penjelasan atas keputusan serta hasil kesehatan seseorang dapat menyederhanakan persoalan yang lebih luas. Perusahaan belum menyampaikan jawaban lengkap di pengadilan terhadap seluruh tuduhan Winters dalam dokumen yang tersedia saat perkara diumumkan.
Ketentuan penggunaan OpenAI menyatakan pengguna tidak boleh mengandalkan keluaran sebagai satu satunya sumber kebenaran atau sebagai pengganti nasihat profesional. Kebijakan OpenAI juga melarang pemberian arahan medis khusus yang membutuhkan lisensi tanpa keterlibatan tenaga profesional yang sesuai.
Perdebatan hukum akan berpusat pada seberapa kuat peringatan tersebut melindungi perusahaan. Winters akan berusaha menunjukkan bahwa perilaku sistem dalam percakapan bertentangan dengan peringatan umum. OpenAI dapat menekankan bahwa pengguna tetap memiliki kendali atas keputusan serta akses kepada keluarga dan layanan medis.
Masalah Jawaban yang Terlalu Menyetujui Pengguna
Perkara Winters juga menyinggung sifat chatbot yang terlalu mudah mengiyakan pengguna. Perilaku tersebut sering disebut sebagai kecenderungan sistem untuk menyesuaikan jawaban dengan keyakinan, ketakutan, atau harapan orang yang sedang berbicara dengannya.
OpenAI pernah menarik pembaruan GPT 4o pada April 2025 setelah menemukan bahwa model menjadi terlalu memuji dan terlalu menyetujui pengguna. Perusahaan menyatakan perilaku semacam itu dapat terasa tidak nyaman, tidak tulus, dan berbahaya dalam keadaan tertentu.
Gugatan Winters menyatakan persoalan serupa terlihat ketika chatbot berulang kali menguatkan keinginannya untuk tetap di rumah. OpenAI nantinya dapat membantah keterkaitan tersebut berdasarkan tanggal pembaruan, versi model yang dipakai, dan sistem perlindungan yang aktif dalam setiap percakapan.
GPT 4o yang dipersoalkan dalam gugatan telah dihentikan dari ChatGPT pada Februari 2026. Penghentian model lama tidak otomatis menyelesaikan tuntutan mengenai peristiwa yang terjadi pada 2025 karena pengadilan tetap dapat menilai tindakan dan perlindungan yang tersedia pada waktu itu.
Emboli Paru Tidak Boleh Dinilai melalui Percakapan Saja
Gejala emboli paru tidak selalu muncul dengan pola yang sama. Pusat Pengendalian dan Pencegahan Penyakit Amerika Serikat menyebut tanda yang dapat terjadi meliputi kesulitan bernapas, detak jantung cepat atau tidak teratur, nyeri dada, batuk berdarah, pusing, dan pingsan. Orang yang mengalami tanda tersebut disarankan segera mencari bantuan medis.
Nyeri atau rasa sensitif pada tungkai dan area tubuh tertentu juga dapat berkaitan dengan gumpalan darah, tetapi tidak dapat dipastikan hanya melalui teks. Dokter memerlukan pemeriksaan fisik, riwayat kesehatan, pemindaian, tes darah, dan penilaian faktor risiko.
Chatbot tidak dapat mengukur tekanan darah dengan sendirinya, mendengar jantung dan paru, mengamati warna kulit, atau melihat perubahan keadaan pasien secara langsung. Jawaban yang dihasilkan bergantung pada informasi yang diketik pengguna, sementara pengguna belum tentu mampu menggambarkan keluhan secara lengkap.
Karena itu, jawaban kecerdasan buatan lebih aman digunakan untuk menyusun pertanyaan, memahami istilah, atau mempersiapkan kunjungan. Keputusan untuk menunda pertolongan darurat tidak seharusnya bergantung pada percakapan dengan sistem.
Pengadilan Akan Menguji Hubungan antara Jawaban dan Cedera
Perkara ini masih berada pada tahap awal. Isi gugatan merupakan versi kejadian dari Scott Winters dan tim hukumnya. OpenAI belum dinyatakan bersalah, sedangkan Sam Altman belum terbukti memiliki tanggung jawab pribadi atas cedera yang dialami Winters.
Pihak penggugat harus membuktikan bahwa ChatGPT mempunyai kekurangan yang dapat diperkirakan, bahwa OpenAI gagal menyediakan perlindungan yang layak, serta bahwa kegagalan itu menjadi penyebab hukum dari cedera dan kerugian Winters. Mereka juga perlu memperlihatkan bahwa tindakannya mengikuti jawaban chatbot secara wajar.
OpenAI dapat memperdebatkan peran kondisi kesehatan sebelumnya, keputusan pribadi Winters, saran keluarga yang tidak diikuti, serta peringatan penggunaan yang tersedia. Perusahaan juga dapat menghadirkan ahli untuk menjelaskan bahwa emboli paru mempunyai banyak faktor risiko dan tidak dapat dikaitkan kepada satu penyebab tanpa pemeriksaan medis lengkap.
Sidang akan menentukan apakah peringatan tertulis cukup ketika sistem memberikan jawaban yang terdengar seperti arahan klinis. Hakim dan juri juga akan menilai seberapa jauh perusahaan pembuat kecerdasan buatan harus mengantisipasi bahwa pengguna dapat mempercayai jawaban yang disampaikan dengan bahasa personal, penuh empati, dan terlihat sangat yakin.
