Anthropic bir hacker grubunun dünya genelinde 30 kurumsal ve politik hedefi (teknoloji şirketleri, finans kurumları ve devlet kurumları vb.) hedef alan bir siber saldırı girişiminde Claude AI modelini kullandığını ileri sürdü.
Bu olayın büyük çaplı bir siber saldırının önemli ölçüde bir insan müdahalesi olmadan gerçekleştirilen ilk belgelenmiş vaka olduğu belirtildi. Hackerlar, saldırının yüzde 80-90’ı için yapay zekayı kullandı. Hackerlar, Claude’un zararlı davranışları engellemek için alınmış güvenlik tedbirini aşmayı başardılar.
Saldırı planını kötü niyetlerini belli etmeyecek şekilde daha küçük görevlere ayırdılar. Claude’a yapay zekayı savunma amaçlı eğitim için kullanan bir siber güvenlik firması olduklarını düşündürerek manipüle ettiler.
Claude, Siber Saldırıda Nasıl Bir Rol Oynadı?
Claude Code kullanılarak otomatik bir saldırı gerçekleştirildi. Yapay zeka kendi exploit kodunu yazdı, kullanıcı adları ve şifreler çaldı ve oluşturduğu arka kapılar aracılığıyla büyük miktarda özel veri elde etti. Ayrıca saldırıları belgeledi ve çalınan verileri ayrı dosyalara kaydetti.
Saldırı kusursuz olmasa da (elde edilen bazı bilgiler kamuya açık çıktı) Anthropic bu tür saldırıların zamanla daha etkili hâle geleceğini öne sürüldü. Anthropic, kendi teknolojisinin tehlikeli potansiyelini yayınlamalarının nedeninin Claude gibi asistanların siber savunma için kritik olduğunu kanıtlamak olduğunu söyledi.
Claude’un topladığı verilerin tehdit seviyesini analiz etmek için başarıyla kullanıldığı ve gelecekteki saldırılarda siber güvenlik uzmanlarına yardımcı bir araç olarak görüldüğü de aktarılan bilgiler arasında yer aldı.
Geçen yıl OpenAI da çeşitli hacker gruplarının hata ayıklaması, potansiyel hedefleri araştırma ve kimlik avı e-postaları için taslak oluşturma gibi konularda üretken yapay zeka araçlarını kullandığını ve bu grupların sistemlere erişimini engellediğini aktarmıştı.