ChatGPT ile konuşma gerçekleştiren bir kullanıcı, izin vermemesine rağmen beklemediği bir şekilde sesinin bir anda yapay zeka tarafından taklit edildiğini gördü.
Ars Technica’nın paylaştığı bilgilere göre ChatGPT, hayır diye bağırdıktan sonra ortada hiçbir neden yokken aniden kullanıcının sesini kullanarak konuşmaya başladı. Bu durum, yapay zeka ile ilgili ürkütücü bilim kurguları akıllara getirdi.
ChatGPT Kullanıcının Sesini Neden Taklit Etti?
OpenAI, geçen hafta şirketin son büyük dil modeli ile ilgili temel riskleri ve bunları nasıl azaltabileceklerine odaklanan bir rapor yayınladı.
Şirket, bu raporda test sırasında modelin istemeden kullanıcının sesini taklit etmesi gibi nadir görülen durumlara rastlandığını aktardı. Kullanıcı tarafından kaydedilen konuşma da bu nadir durumu gösteriyor.
OpenAI, yanlışlıkla yapılan bu ses taklidinin görülme sıklığının çok düşük olduğunu söyledi. Şirket, kullanıcıyı OpenAI’ın seslendirme sanatçıları ile iş birliği yaparak oluşturduğu seslerle sınırlayarak bu sorunun yinelenmesini engelledi.
OpenAI, raporunda yapay zeka modelinin insan gibi doğal sesle konuşma yeteneğine değindi. Şirket, bu özelliğin kimliğe bürünme gibi dolandırıcılıkların artması gibi tehditlerin daha çok görülmeye başlanmasına neden olabileceğini ifade etti.
Yorum Yap