Anthropic, ABD hükûmetinin aldığı bir emre uymak için yeni yapay zeka modelleri Fable 5 ve Mythos 5’in kullanımının engellendiğini açıkladı. Şirket, diğer tüm modellerin etkilenmediğini ve normal şekilde çalışmaya devam ettiğini belirtti.
Şirketin açıklamasına göre ABD hükûmeti, ulusal güvenlik gerekçeleriyle yalnızca belirli ülkelerden değil, yabancı uyruklu tüm kullanıcıların Fable 5’e erişiminin kesilmesini talep etti. Bu kısıtlama, kullanıcıların ABD içinde ya da dışında olmasının da (hatta Anthropic çalışanları için bile geçerli olacak şekilde) bir öneminin içermemesi nedeniyle büyük soruna neden oldu.
Kararın Fable 5’e yönelik olası bir jailbreak yöntemi hakkında hükûmetin edindiği iddialar sonrası alındığı düşünülüyor. Anthropic, Fable 5’in 9 Haziran’da piyasaya sürüldüğünü ve daha önce yalnızca seçilmiş Project Glasswing ortaklarına açık olan Mythos 5’in bazı yeteneklerini herkese sunduğunu açıklamıştı. Şirket ayrıca Fable 5’in performansının önceki modellerin üzerine çıktığını hatta testlerde Pokemon FireRed oyununu tamamlayabildiğini, buna rağmen Claude’un Pokemon Red’de başarısız olduğunu belirtti.
Claude Fable 5 Neden Engelledi?
Şirket, modelin güvenliğini sağlamak için kapsamlı önlemler uyguladığını ve özellikle siber güvenlik amaçlı kötüye kullanımı azaltmak için kapsamlı kısıtlamalar getirdiğini ifade etti. Anthropic, bu önlemlerin bazı kullanıcılar tarafından fazla kısıtlayıcı bulunacak kadar sıkı olduğunu da kabul etti.
Şirket ayrıca hiçbir yapay zeka modelinin jailbreak girişimlerine karşı tamamen güvenli olamayacağını vurguladı. Açıklamada hedeflerinin jailbreak yöntemlerini ya dar kapsamlı hale getirmek ya da geliştirilmesini son derece maliyetli yapmak olduğu, bunun yanında sürekli izleme ile başarılı saldırıların hızlıca tespit edilip engellenmesinin amaçlandığı belirtildi.
Anthropic’e göre hükûmet, kimliği açıklanmayan bir kaynağın paylaştığı olası bir jailbreak tekniğine dair sözlü kanıtlar sundu. Şirket, önümüzdeki 24 saat içinde daha fazla ayrıntı paylaşacağını ancak tek bir jailbreak iddiası nedeniyle bir modelin geri çekilmesi gerektiği görüşüne katılmadığını da ifade etti. Anthropic, daha önce de güvenlik ve yapay zeka denetimi konusunda daha sıkı düzenlemeleri desteklediğini vurgulamıştı. Şirket son açıklamasında ise bu müdahalenin şeffaf, teknik temelli ve adil bir süreç içinde gerçekleşmediğini savunarak mevcut uygulamaya itiraz etti.