İngiltere’de yapılan bir deney, insanların deepfake videoları gerçeklerinden ayırt etmekte genel olarak zorlandığını ortaya koydu. Tamamı gerçek videolar izleyen katılımcılar, gerçek ve deepfake karışımı izleyenler kadar sıklıkla bir tuhaflık fark ettiklerini bildirdiler. Beş video arasından deepfake olanı seçmeleri istendiğinde, katılımcıların sadece %21,6’sı manipüle edilmiş videoyu doğru tespit edebildi.
Royal Society Open Science dergisinde yayımlanan araştırma, deepfake’lerin tespitinde ciddi zorluklar yaşandığını gösteriyor. Deepfake’ler, yapay zekâ kullanılarak yüzleri değiştiren, sesleri taklit eden ve gerçek kişilerin aşırı gerçekçi taklitlerini yaratan videolardır.
Araştırmacılar Andrew Lewis ve ekibi, insanların deepfake videoları tanıyıp tanıyamadığını incelediler. Uyarı olmadan ve uyarı verilerek deepfake’lerin tespit edilip edilemediğini araştırdılar.
Deney, 1.093 İngiltere sakini üzerinde yapıldı. Katılımcılar üç gruba ayrıldı. İlk grup sadece gerçek videolar izledi. İkinci grup, bir deepfake içeren aynı videoları izledi ama uyarılmadı. Üçüncü grup ise deepfake hakkında bilgilendirildi ve en az bir videonun sahte olduğu söylendi.
Sonuçlar, katılımcıların deepfake’leri tespit etmekte büyük ölçüde başarısız olduğunu gösterdi. Sadece gerçek videolar izleyen gruptakilerin %34’ü, farkında olmadan bir deepfake izleyen gruptakilerin ise %33’ü bir tuhaflık fark ettiklerini bildirdi.
Deepfake uyarısı alan grupta bile, katılımcıların %78,4’ü manipüle edilmiş videoyu doğru tespit edemedi. Katılımcılar genellikle gerçek videoları deepfake sanma eğilimindeydi.
Araştırmacılar, “İnsanların doğal tarama ortamlarında bir deepfake ile karşılaştıklarında olağandışı bir şey fark etme olasılıklarının düşük olduğunu gösteriyoruz,” diye belirttiler. Ayrıca, içerik uyarılarının bile çoğu insanın deepfake’leri gerçek videolardan ayırt etmesine yardımcı olmadığını vurguladılar.