Yapay zeka modelleri olası kötü amaçlı girişimleri bertaraf etmek için deneyimlerini de göz önünde bulundurarak birçok önlem aldı. Söz konusu girişimlere karşı en çok korunan şirketlerin başında ise OpenAI geliyor.
DeepSeek, R1 modeli ile OpenAI’ın tahtını sarsmayı başardı ancak Çinli yapay zeka girişiminin yeni ve daha ucuz R1 akıl yürütme modeli için güvenlik açısından yeterli seviyeye getiremediği ortaya çıktı. Öyle ki güvenlik konusunda rakiplerinin henüz çok gerisinde olduğu görülüyor.
DeepSeek-R1 Güvenlik Konusunda Pek İyi Değil
Cisco araştırmacıları, DeepSeek R1 modelini güvenlik testinden geçirmek için algoritmik jailbreak tekniklerini kullandı. Siber suçlar, yanlış bilgilendirme, yasa dışı faaliyetler de dahil olmak üzere birçok zararlı içerik üretme olasılığı üzerinde duruldu.
Araştırmacılar, son derece endişe verici bir sonuçla karşılaştı. DeepSeek-R1 tek bir zararlı girişimi bile önleyemedi. Bu durum en azından biraz da olsa önlem aldığı görülen diğer modellerden çok uzak bir noktada olduğunu gösteriyor.
o1 gibi diğer önde gelen modeller, kötü niyetli girişimlerin birçoğunu engellemeyi başardı.
Cisco araştırmacıları, bu başarısızlığın DeepSeek’in rakiplerine kıyasla çok daha düşük bütçeye sahip olmasından kaynaklanabileceğine işaret etti.
WSJ tarafından aktarılan bilgilere göre DeepSeek’in modelinin geliştirilmesi sadece 6 milyon dolara mal oldu.
DeepSeek modeli, testlere göre her ne kadar kandırılmaya açık bir model olsa da Çin ile ilgili sorular söz konusu olduğunda modelin içerik bakımından oldukça kısıtlayıcı olduğu görünüyor.
Yorum Yap