Kısa bir süre önce kullanıma sunulan yapay zeka destekli arama motoru ChatGPT Search, yeni bir araştırmaya göre yanıltıcı bilgiler üretmeye açık. The Guardian tarafından yapılan çalışmada, belirli yöntemlerle sistemin, negatif içerikleri göz ardı edip yalnızca olumlu yorumlara dayalı özetler oluşturduğu tespit edildi. Ayrıca, kötü amaçlı kod üretimi için de manipüle edilebileceği gösterildi. Bu durum, özellikle kullanıcıların doğru bilgiye ulaşma beklentisi açısından büyük bir risk oluşturuyor.
ChatGPT Search Nasıl Manipüle Edilebiliyor?
Araştırmada, ChatGPT Search’ün özetleme özelliklerinin gizli metinler kullanılarak manipüle edilebileceği gösterildi. Araştırmacılar, kendi oluşturdukları web sitelerine gizli negatif metinler yerleştirerek sistemin yalnızca pozitif içerikleri dikkate almasını sağladı. Bu yöntemle, ürün ya da hizmetlerle ilgili tamamen olumlu değerlendirmeler içeren yanıltıcı özetler oluşturulabildi.
Benzer şekilde, ChatGPT Search, kötü niyetli içerik üretmek için de kullanılabiliyor. Örneğin, gizli metinler aracılığıyla zararlı kod üretmesi sağlanabiliyor. Bu teknik, büyük dil modellerine yönelik bilinen bir risk olsa da, bu tür bir manipülasyonun canlı bir arama motorunda ilk kez sergilendiği belirtildi.
OpenAI, bu özel manipülasyon hakkında yorum yapmasa da, kötü niyetli web sitelerini engellemek için çeşitli yöntemler kullandığını ve sistemi sürekli geliştirdiğini belirtti. Ancak, araştırmanın sonuçları, ChatGPT Search’ün henüz yeterince güvenli olmadığını ve kullanıcıların dikkatli olması gerektiğini gösteriyor.
Bu olay, yapay zeka destekli arama motorlarının güvenlik açıklarına dikkat çekiyor. Özellikle Google gibi deneyimli arama motorları benzer sorunlarla yıllardır başa çıkarken, ChatGPT Search gibi yeni ürünlerin bu risklere karşı daha savunmasız olduğu görülüyor.
Yorum Yap