Anthropic, yapay zeka alanındaki artan güvenlik endişelerinin ardından yapay zeka destekli sohbet botu Claude AI’ın kullanım politikasını güncelledi. Bu doğrultuda insanların artık Claude ile bazı konuları daha konuşmaya başlamadan sohbetin sonlanması sağlanıyor.
Şirket daha önce Claude’un insan hayatına zarar vermek ya da kayba neden olmak için yapılmış silahlar, tehlikeli maddeler ve diğer şeyleri üretmek, değiştirmek, tasarlamak, pazarlamak ve dağıtmak için kullanılmasını yasaklamıştı.
Yeni güncelleme, bunun kapsamını biraz daha genişleterek özellikle biyolojik, nükleer, kimyasal vb. silahların yanı sıra güçlü patlayıcıların yapılmasını yasaklıyor.
Anthropic Claude İçin Güvenliği Arttırdı
Anthropic, Mayıs ayında Claude Opus 4 modelinin lansmanıyla birlikte “AI Güvenlik seviyesi 3” korumasını uygulamaya koydu. Bu güvenlik önlemleri, model üzerinde jailbreak yapılmasını zorlaştırmanın yanı sıra CBRN silahlarının geliştirilmesine yardımcı olmasını önlemeyi hedefliyor.
Yayınlanan gönderide Claude’un kullanıcının bilgisayarını kontrol etmesini sağlayan Computer Use ve Claude’u doğrudan geliştiricinin terminaline yerleştiren Claude Code gibi AI agent araçlarının oluşturduğu riskler de kabul edildi:
“Bu güçlü özellikler, yaygın kötüye kullanım, kötü amaçlı yazılım oluşturma ve siber saldırılar gibi yeni riskler getiriyor.”
Anthropic, olası risklere yanıt olarak kullanımpolitikasına “Do Not Compromise Computer or Network Systems” başlıklı yeni bir bölüm ekledi.
Bu bölüm, Claude’un güvenlik açıklarını keşfetmek, bunlardan yararlanmak, kötü amaçlı yazılım geliştirmek veya dağıtmak, hizmet reddi (DoS) saldırıları için araç geliştirmek ve benzeri eylemleri hayata geçirmek için kullanılmasını yasaklayan birtakım kurallar içeriyor.
Buna ek olarak, Anthropic, siyasi içerik konusundaki politikasını gevşetiyor. Claude artık siyasi kampanyalarla ilgili her türlü içeriğin oluşturulmasını yasaklamak yerine sadece Claude’un demokratik süreçleri yanıltıcı ya da sekteye uğratıcı veya seçmen hedefleme kullanımlarını yasaklayacak.
Şirket ayrıca Claude’un bireylere veya müşterilere önerilerde bulunmak için kullanıldığı yüksek riskli tüm kullanım senaryolarına ilişkin gerekliliklerin sadece son kullanıcıya yönelik durumlarda geçerli olduğunu ifade etti. Ticari kullanımlar için geçerli olmadığına netlik kazandırıldı.