Google, bir görselin yapay zeka ile oluşturulup oluşturulmadığını anlamak için görünmez bir filigran eklemek için geliştirilen SynthID’yi duyurdu.
Şirketin paylaştığı bilgilere göre araç, insan gözüyle görülemeyen dijital bir filigranı doğrudan bir görüntünün piksellerine yerleştiriyor. SynthID, ilk olarak Google’ın bulut tabanlı yapay zeka araç yelpazesinde bulunan görsel üreticisi Imagen’i kullanan sınırlı sayıda kullanıcıya sunulacak.
Yapay Zeka ile Oluşturulan Görüntüler Anlaşılacak
Üretken yapay zeka ile ilgili en büyük sorunlardan biri, gerçek kişilerin aslında yapmadığı şeyleri yapıyor ya da içinde bulunmadığı durumların bir parçasıymış gibi görünmesine neden olan görüntüler elde etmek için kullanılmasıydı.
Bu teknoloji ile özellikle ünlü kişiler hedef alınıyor. Yapay zeka tarafından üretilen görsellerin insanların aleyhine kullanılması, her şeyden önce o kişilerin itibarına zarar veriyor. Bu nedenle Beyaz Saray, yapay zekanın kötüye kullanımı hakkında bu alanın öncü şirketleri ile daha önce toplantı gerçekleştirmişti.
Üst düzey yöneticilerin katılım sağladığı toplantıda güvenlik üzerinde duruldu. Mevcut riskler üzerine ne zaman tamamen eğilmeye başlanacağı ise merak ediliyordu. Görünüşe göre alanda kayda değer adımlardan ilki Google’dan geliyor.
SynthID Nasıl Çalışıyor?
Google, SynthID’nin teknik tarafına çok fazla girmedi ancak filigranın basit düzenleme teknikleriyle kolayca kaldırılamayacağını söyledi.
Aktarılan bilgiler arasında SynthID’nin görüntü kalitesinden ödün vermeyecek şekilde tasarlanması yer aldı. Anlatılanlara göre görüntüye ne kadar filtre eklenirse eklensin, renklerde ne kadar değişiklik yapılırsa yapılsın, görüntü ne kadar sıkıştırılırsa sıkıştırılsın, tüm bu değişikliklerden sonra bile filigran tespit edilebilecek şekilde var olmaya devam edilebilecek.