Yapay zeka ile oluşturulan influencer özellikle Instagram gibi sosyal medya platformlarında âdeta bir akım hâline geldi. Yeni yapılan bir araştırma, AI influencer yaratma sürecinde gerçek modellerin ve hatta sosyal medya fenomenlerinin bedeninin kullanıldığını ortaya çıkardı.
404media.co tarafından tespit edilen bazı hesaplar incelendiğinde yapay zeka tarafından oluşturulan yüzün gerçek insanların bedenine yerleştirildiği, bunların önemli bir kısmının ücretli hizmetler tanıtma gibi amaçlarla kullanıldığını görülüyor.
İnanılmaz derecede ürkütücü AI modellerinden birinde kullanıcının hayranlara özel içeriklerin sunulduğu bir web sitesindeki profiline yönlendirilen bir bağlantı da yer alıyor.
Instagram hesabındaki fotoğraflardan bazıları tamamen yapay zeka görüntü oluşturucusu tarafından oluşturulduğu açıkça ortada ancak bunu tehlikeli kılan nokta, deepfake kullanılarak düzenlenen fotoğraf ve videoları da içermesi.
Gerçek İnsanı Taklit Eden AI Influencerların Hesapları Silindi
Bedeni kullanılan kişilerin arasında milyonlarca takipçisi olan çok sayıda sosyal medya fenomeni bulunuyor. Örneğin bunlardan biri olan Ella Cervetto’nun TikTok ve Instagram’da 1 milyonu aşkın takipçisi bulunuyor.
Söz konusu hesaplar Meta’nın sosyal medya platformlarından bildirildikten sonra kaldırıldı. Bu arada söz konusu girişimlerin önünü kesmek için yapay zeka tarafından oluşturulan içeriklere yeni bir etiket eklemeye hazırlanıyor. Mayıs 2024’te tüm AI ile oluşturulan görüntülere yapay zeka ile oluşturulduğuna dair bir etiket ekleneceğini duyurdu.