OpenAI, Avrupa Birliği’nin yapay zeka kurallarına uyum için yeni bir sistem hazırlıyor. Şirket, AB’de ChatGPT ve Codex ile üretilen uygun metin ve kodlara görünmez bir filigran ekleyecek.
OpenAI, textGrain adını verdiği sistemle içeriklerin yapay zeka tarafından üretildiğini tespit etmeyi hedefliyor. Sistem bazı içeriklerde yüksek doğruluk sağlasa da kısa metinlerde, matematik içeriklerinde ve düzenlenmiş metinlerde daha düşük sonuç veriyor.
⚡ Özet Bilgi
- OpenAI, AB’de ChatGPT ve Codex ile üretilen uygun metin ve kodlara görünmez filigran ekleyecek.
- textGrain adlı sistem, kelime seçimlerine istatistiksel sinyal ekleyecek. Kısa metinlerde tespit başarısı yaklaşık yüzde 80’e düşüyor.
- OpenAI, textGrain’i açık kaynak yapmayı planlıyor. Dedektöre ilk aşamada sadece belirli araştırmacılar ve kuruluşlar erişebilecek.
OpenAI’nin Filigran Sistemi Nasıl Çalışacak?
OpenAI, textGrain adlı kendi sistemini kullanacak. Sistem, modelin kelime seçimlerine görünmez bir istatistiksel sinyal ekleyecek. Özel bir algılama aracı da bu sinyali inceleyerek içerikte filigran olup olmadığını belirleyecek.
Şirket, textGrain testlerinde SynthID gibi metin filigranı yöntemleriyle benzer veya daha yüksek performans aldığını belirtiyor. Şirket yine de sistemin her kullanım koşulunda aynı sonucu vermeyeceğini söylüyor.
Kısa metinlerde tespit oranı yaklaşık yüzde 80 seviyesine düşüyor. Matematik içeren içeriklerde de doğruluk azalıyor. Kullanıcı metni düzenlediğinde tespit başarısı daha da düşüyor. OpenAI, textGrain sistemini açık kaynak hâline getirmeyi planlıyor. Böylece araştırmacılar ve geliştiriciler sistemi inceleyip değiştirebilecek.
Filigran Her Çıktıda Kullanılmayacak
OpenAI, filigranı tüm kullanıcılar için varsayılan hâle getirmeyecek. Avrupa Birliği’nde ChatGPT ve Codex tarafından üretilen uygun metin çıktılarında sistem devreye girecek. Şirket ayrıca bazı modeller için isteğe bağlı katılım sunacak. OpenAI, küresel kullanıcılara hangi modellerin sunulacağını henüz açıklamadı.
Filigranı tespit eden yazılım için erişim daha sınırlı olacak. İlk aşamada yalnızca belirli araştırmacılar ve kuruluşlar sisteme erişebilecek. OpenAI, gizlilik açısından endişeleri olanları da düşünüyor. Öyle ki dedektör kullanıcıyı ortaya çıkarmayacak. Kullanıcının komutlarını veya konuşma geçmişini de göstermeyecek.
OpenAI’ın Hamlesi Özellikle AB Yasasından Kaynaklı
Avrupa Birliği’nin Yapay Zeka Yasası, üretken yapay zeka sistemlerinin oluşturduğu metinlerin makine tarafından okunabilir şekilde tanımlanmasını istiyor. Yasanın 50. maddesi bu yükümlülüğü düzenliyor. Yeni şirketler için kurallar yürürlüğe girerken daha önce faaliyet gösteren şirketlerin 2 Aralık tarihine kadar uyum sağlaması gerekiyor.
OpenAI bu kapsamda kurallara uyum sağlayacak şirketler arasında yer alıyor. Anthropic de benzer bir filigran sistemi üzerinde çalışıyor. Microsoft, Google ve Meta da yeni kurallara tabi şirketler arasında bulunuyor.