The Wall Street Journal’ın aktardığı bilgilere göre yapay zeka araştırma şirketi OpenAI, neredeyse 1 yıldır ChatGPT’nin oluşturduğu metinler için filigran sistemine sahip. Ayrıca bu filigranın tespit edilmesini sağlayan bir araç da geliştirdi. Ancak şirket, bu sistemi hayat geçirmek ile geçirmemek arasında ikilemde kaldı.
OpenAI, aracı kullanıma sunduğunda ChatGPT ile üretilen metinler otomatik olarak tespit edilebilecek. Bu araç olmadan insan okuyucular tarafından tespit edilemeyen filigran, şirketin yaptığı testlere göre çıktı kalitesini olumsuz bir şekilde de etkilemiyor.
ChatGPT’nin Dedektörü %99,9 Doğru Sonuç Veriyor
ChatGPT çıktılarını tespit eden araç yüzde 99,9 oranında doğru sonuç veriyor. Metin olduğu gibi kopyalanıp yapıştırıldığında ya da üzerinde küçük düzenlemeler yapıldığında filigran kaldırılmıyor.
Bu özellikle öğrencilerin ödevinin ChatGPT ile yapılıp yapılmadığının doğru ve hızlı bir şekilde belirlenebilmesi açısından son derece faydalı olsa da OpenAI kendi içinde ikiye bölünmüş durumda. Bazı OpenAI çalışanları aracın yayınlanmasını isterken diğerleri ise bunun bir hata olacağını düşünüyor.
Aracın yayınlanmasını istemeyenler, ChatGPT’nin ne kadar sık kullanıldığı göz önünde bulundurulacak olursa yüzde 99,9 doğrulukta bile aracın bazen yanlış sonuç verebileceği görüşünü öne sürüyor.
Küçük bir hata payı elbette bir felakete dönüşebilir. Sayısız ödevin içinden sadece birinin yanlışlıkla ChatGPT ile hazırlanmış olarak algılanma ihtimali elbette gölgede bırakılmamalı. Bu, öğrencinin emeğinin hiçe sayılmasına neden olabilir.
OpenAI tarafından yayınlanan blog yazısında ayrıca filigranın şimdiki hâliyle kaldırılmasının kolay olduğu da belirtiliyor. Örneğin başka bir modele yeniden yazdırma ya da her kelimenin arasına özel bir karakter eklemesini isteme ve daha sonra bu karakterleri silme gibi geniş çaplı girişimler karşısında filigran sistemi hiçbir işe yaramayabilir.