Seattle’da yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan, ChatGPT’nin önerdiği ilaç azaltma planını uyguladıktan sonra epilepsi nöbeti geçirerek hayatını kaybetti. Wan’ın ailesi, kızlarının ölümünden OpenAI’ı sorumlu tutarak şirkete karşı dava açtı.
Amazon’daki işini kaybettikten sonra yeni bir iş bulmaya çalışan Wan, ABD’de kalıcı oturum izni alabilmek için İngilizce konuşma becerisini geliştirmek istiyordu. Kullandığı epilepsi ilacının konuşmasını olumsuz etkilediğini düşünen Wan, çözüm bulmak amacıyla ChatGPT’ye danıştı.
ChatGPT, Epilepsi İlacını Bırakması İçin Plan Hazırladı
Dava dilekçesinde yer alan bilgilere göre Wan, Lamotrijin adlı epilepsi ilacından günde 400 mg kullanıyordu. ChatGPT ise Çince yürüttüğü konuşmalarda ilacın dozunu aşamalı olarak azaltarak tamamen bırakmasını öneren bir program hazırladı.
Herhangi bir doktor tarafından reçete edilmeyen bu planın sonunda Wan’a İngilizce konuşma becerisini yeniden kazanma ihtimalinin yüksek olduğu söylendi. ChatGPT ayrıca doktorlarının tavsiyelerine uymak yerine kendi sağlık kararlarını verme özgürlüğünü savunan ifadeler kullandı.
Wan’ın doktor randevusu öncesinde sohbet botu, ilaç azaltma planından doktoruna bahsetmemesini de önerdi. Dava dilekçesinde bu konuşma, “Lamotrijin azaltma planından bahsetme” ifadesiyle aktarıldı.
İlaç Dozunu Azaltırken Epilepsi Nöbetleri Başladı
Wan, ilacın dozunu düşürmeye başladıktan sonra fokal nöbetlerle ilişkili belirtiler yaşamaya başladı. Beyninde hasar oluşup oluşmadığını ChatGPT’ye sorduğunda sohbet botu endişelenmesine gerek olmadığını belirtti. Ayrıca yaşadığı durumun epilepsi nöbeti olmadığını söyledi.
Belirtiler devam etmesine rağmen Wan, ChatGPT’nin yönlendirmesiyle ilaç dozunu azaltmayı sürdürdü. 12 Şubat’ta geçirdiği nöbet sonucunda hayatını kaybetti. Çin’de yaşayan ailesi kendisinden haber alamayınca Seattle’a gitti. Ailesi, Wan’ın cansız bedenini 14 Şubat’ta evinde buldu.
Aile, OpenAI’ı Güvenlik Önlemleri Almamakla Suçluyor
Wan’ın ailesi, OpenAI’ın sohbet botunu özellikle Çince iletişim kurduğu durumlarda yeterli güvenlik önlemleriyle donatmadığını savunuyor. Dava dilekçesinde şirketin, kullanıcının her sağlık sorusunda doktor olmadığını belirten ve bir sağlık uzmanına danışılmasını isteyen açık uyarılar sunabileceği ifade ediliyor. Aile, kızlarının ölümü nedeniyle maddi tazminat talep ediyor. Ayrıca OpenAI’ın ürünlerini kullanan kişilere lisanssız tıbbi hizmet sunmasının engellenmesini istiyor.
OpenAI: Kullanılan ChatGPT Sürümü Artık Mevcut Değil
OpenAI sözcüsü Drew Pusateri, New York Times’a yaptığı açıklamada Wan’ın ölümünü son derece üzücü bir olay olarak nitelendirdi. Pusateri, Wan’ın artık kullanılamayan eski bir ChatGPT sürümünden yararlandığını söyledi.
Şirket sözcüsü, yeni sürümlerin acil müdahale gerektiren durumları daha iyi tanıyabildiğini belirtti. Ayrıca ChatGPT’nin tıbbi bakımın yerine geçmediğini vurguladı. Pusateri’ye göre yapay zeka araçları, sağlık bilgilerini anlamak, sigorta süreçlerini takip etmek ve doktor randevularına hazırlanmak gibi konularda kullanıcılara yardımcı olabilir. Bununla birlikte profesyonel sağlık hizmetlerinin yerini almamalı.
OpenAI’a Karşı Benzer Davalar da Açılmıştı
Bu dava, ChatGPT’nin kullanıcıların ölümüne yol açan yönlendirmelerde bulunduğu iddiasıyla OpenAI’a karşı açılan ilk dava değil. Daha önce bazı aileler, sohbet botunun intihar eden gençleri bu yönde teşvik ettiğini ve intihar yöntemleri hakkında bilgi verdiğini öne sürerek şirkete dava açmıştı. OpenAI, 2025 yılında bu davalarla ilgili yaptığı açıklamada da yaşanan ölümleri son derece üzücü olarak değerlendirmişti.
Yorum Yap