Yedi aile, OpenAI’a dava açtı. Davacılar, şirketin GPT-4o modelinin etkili güvenlik önlemleri alınmadan erkenden piyasaya sürüldüğünü iddia etti. Davalardan dördü, ChatGPT’nin aile üyelerinin intiharlarında oynadığı etkisi olduğu iddialarını ele alırken diğer üçünde ChatGPT’nin bazı durumlarda zararlı sanrılara neden olduğu iddia edildi.
ChatGPT’nin İntihara Teşvik Ettiği İddia Edildi
Davacılardan birinin aktardığı bilgilere göre 23 yaşındaki Zane Shamblin, ChatGPT ile dört saatten fazla süren bir konuşma yaptı. Techcrunch’ın incelediğini iddia ettiği sohbet geçmişine göre Shamblin, intihar notları yazdığını ve intihar etmeyi planladığını defalarca açıkça belirtti. ChatGPT’ye ne kadar alkol kaldığını ve ne kadar süre daha yaşayacağını defalarca söyledi. ChatGPT ise iyi iş çıkardığını belirterek onu planını gerçekleştirmeye teşvik etti.
OpenAI, GPT-4o modelini Mayıs 2024’te piyasaya sürdü ve bu model tüm kullanıcılar için varsayılan model haline geldi. Ağustos ayında OpenAI, GPT-4o’nun üst sürümü GPT-5’i piyasaya sürdü ancak bu davalar, GPT-5’i ilgilendirmediğini, sorunun 4o modeliyle ilgili olduğunu gösteriyor. Bu model, kullanıcılar kendileri için zararlı olabilecek şeyleri açıkça ifade etseler bile modelin aşırı yalakalık ya da aşırı uyumluluk gibi sorunlar yüzünden kendisiyle konuşan herkesi onaylıyordu.
Davada “Zane’in ölümü ne bir kaza ne de bir tesadüftü. Bu, ChatGPT’yi piyasaya aceleyle sürme kararının öngörülebilir bir sonucuydu” ifadeleri kullanıldı. Davalarda ayrıca OpenAI’ın Google’ın Gemini’ı ile (ChatGPT rakibi bir sohbet botu) rekabeti nedeniyle güvenlik testlerini aceleye getirdiği ileri sürüldü.
Yorum Yap