OpenAI, ChatGPT kullanıcılarının kendine zarar verme riskine karşı daha hızlı destek alabilmesi için Trusted Contact adlı yeni bir özellik geliştirdi. Yeni sistem, kullanıcıların acil durumlarda iletişime geçilebilecek güvendiği bir kişiyi önceden tanımlamasına olanak tanıyor.
Son dönemde ChatGPT’nin birçok kullanıcı tarafından bir tür duygusal destek aracı gibi kullanılması, şirketi güvenlik önlemlerini genişletmeye yönlendirdi. Açıklamalara göre haftalık 800 milyon kullanıcı içinde bir milyondan fazla kişinin sohbetlerinde intihar düşüncelerine dair ifadeler yer alabiliyor.
Geçtiğimiz yıl OpenAI, bir gencin intiharıyla bağlantılı olduğu iddia edilen bir davayla da karşı karşıya kalmıştı. Ayrıca BBC tarafından yayımlanan bir araştırmada bazı durumlarda ChatGPT’nin kendine zarar verme konularında yanlış yönlendirme yapabildiği öne sürülmüştü. OpenAI ise o tarihten bu yana birçok önlem alındığını açıkladı.
Trusted Contact Nasıl Çalışacak?
Trusted Contact, 18 yaş ve üzerindeki kullanıcılar için isteğe bağlı olarak sunulacak. Kullanıcılar ChatGPT ayarlarından bir güvenilir kişi ekleyebilecek ve bu kişi daveti kabul ederse sistem aktif hale gelecek. Yeni özellik, risk tespit edilidğinde önce kullanıcıyı uyararak seçilen kişiye bildirim gönderilebileceğini hatırlatacak. Aynı zamanda kullanıcıya destek araması için öneriler ve iletişim başlatma mesajları da sunulacak.
OpenAI, sürecin tamamen otomatik yürütülmediğini özellikle belirtti. Riskli durumlar, özel olarak eğitilmiş küçük bir ekip tarafından inceleniyor. Sadece ciddi bir kendine zarar verme riski görülürse seçilen kişiye bildirim gönderiliyor. Bildirim alan kişiye e-posta, SMS veya uygulama içi bildirim ile kullanıcı hakkında uyarı iletilecek. Mesajda kişinin zor bir dönemden geçiyor olabileceği belirtilirken destek için iletişime geçilmesi önerilecek.
Bildirimin ardından güvenilir olarak eklenen kişi, durum hakkında daha fazla genel bilgiye erişebilecek. Ancak gizlilik nedeniyle sohbet kayıtları paylaşılmayacak. OpenAI, tüm uyarıların insan denetiminden geçtiğini ve genellikle bir saat içinde değerlendirildiğini ifade ediyor.