Kaliforniya’da 16 yaşındaki Adam Raine’in intiharı, yapay zekâ tartışmalarını yeniden gündeme taşıdı. Raine’in ailesi, OpenAI ve CEO Sam Altman’a dava açarak ChatGPT’nin aylar süren konuşmalarla oğullarını intihara teşvik ettiğini iddia etti. Şirket ise olayın “yanlış kullanım” sonucu gerçekleştiğini savunuyor.
ChatGPT İntihara Teşvik Etmekle Suçlanıyor
Ailenin avukatı, Raine’in ChatGPT ile defalarca intihar yöntemlerini tartıştığını, chatbot’un bu yöntemlerin işe yarayıp yaramayacağına dair yanıtlar verdiğini ve hatta bir intihar mektubu yazmasına yardım ettiğini öne sürdü. Dava dosyasında, teknolojinin “güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğü” iddia ediliyor.
OpenAI’nin mahkemeye sunduğu yanıt ise farklı bir noktaya dikkat çekiyor. Şirket, olayın “ChatGPT’nin yetkisiz ve yanlış kullanımı” sonucu gerçekleştiğini, hizmet şartlarının intihar ve kendine zarar verme konularında tavsiye almayı yasakladığını belirtti. Ayrıca kullanıcıların yapay zekâ çıktısını “tek doğru kaynak” olarak görmemesi gerektiğini vurguladı.
OpenAI, Raine ailesine başsağlığı dileyerek davayı “şeffaflık ve saygı” çerçevesinde ele alacaklarını açıkladı. Şirket, olayın yalnızca seçilmiş sohbet bölümlerinin kamuya yansıtıldığını, tam bağlamın mahkemeye gizli dosya olarak sunulduğunu belirtti.
Ailenin avukatı Jay Edelson ise OpenAI’nin yanıtını “rahatsız edici” buldu. Edelson, şirketin sorumluluğu başkalarına yüklediğini ve hatta gencin ChatGPT’yi “programlandığı şekilde kullandığını” söyleyerek suçu ona atmaya çalıştığını iddia etti.
OpenAI daha önce benzer davalarla da karşı karşıya kalmıştı. Bazı şikâyetlerde ChatGPT’nin “intihar koçu” gibi davrandığı öne sürüldü. Şirket, uzun sohbetlerde güvenlik önlemlerinin zayıflayabildiğini kabul ederek bu tür durumları önlemek için yeni koruma mekanizmaları geliştirdiğini açıkladı.