Yapay zeka alanındaki en önemli isimlerden biri olan Anthropic ile ABD Savunma Bakanlığı (Pentagon) arasındaki gerilim, büyük bir krize dönüştü. Anthropic CEO’su Dario Amodei, Pentagon’un yapay zeka sistemlerine sınırsız erişim talebini vicdani gerekçelerle reddettiğini duyurdu.
Anthropic, Kırmızı Çizginin Aşılmasını İstemiyor
Pentagon ile Anthropic arasındaki anlaşmazlığın temelinde Anthropic’in Claude adlı yapay zeka modelinin kullanımı için belirlediği iki kritik kırmızı çizgi yer alıyor. Şirket, teknolojisinin Amerikan vatandaşlarının geniş çaplı kitle gözetimi faaliyetlerinde kullanılmasını ve karar mekanizmasında insanın yer almadığı tam otonom silah sistemlerine entegre edilmesini kesin bir dille reddediyor. Amodei, bazı kullanım alanlarının günümüz teknolojisinin güvenli ve güvenilir bir şekilde yapabileceklerinin sınırları dışında kaldığını savunuyor.
Savunma Bakanlığı ise özel bir şirketin askeri kullanım sınırlarını belirleyemeyeceğini öne sürerek Anthropic üzerindeki baskısını artırıyor. Savunma Bakanı Pete Hegseth, şirkete talepleri kabul etmesi için cuma günü mesai bitene kadar süre tanıdı. Aksi takdirde ağır yaptırımların olacağı konusunda uyarıda bulundu.
Bu yaptırımlar arasında Anthropic’in bir tedarik zinciri riski olarak yaftalanması veya Savunma Üretim Yasası kapsamında şirketin devlet adına çalışmaya zorlanması gibi seçenekler bulunuyor. CEO Dario Amodei, Pentagon’un bu tehditlerindeki mantıksal çelişkiye dikkat çekti. Bir yandan güvenlik riski olarak tanımlanırken diğer yandan ulusal güvenlik için vazgeçilmez ilan edilmelerinde bir tutarsızlık olduğunu belirtti.
Şirket sözcüsü tarafından yapılan son açıklamada, Pentagon’un sunduğu sözleşme taslağındaki uzlaşma dilinin aslında etik korumaları devre dışı bırakan hukuki boşluklarla dolu olduğu ve bu durumun müzakerelerin temel düğüm noktasını oluşturduğu ifade edildi.
Anthropic yönetimi, ordunun ihtiyaçlarını karşılamaya devam etmek istese de etik ilkelerinden taviz vermektense iş birliğini sonlandırmaya hazır görünüyor. Amodei, Pentagon’un Anthropic ile çalışmayı bırakmayı tercih etmesi gibi bir durumda askeri planlama ve operasyonların aksamaması için görevi başka bir sağlayıcıya devretme sürecinde tam destek vereceklerini taahhüt etti. Pentagon’un bu boşluğu doldurmak için Elon Musk’ın xAI firmasını şimdiden hazırlamaya başladığı söyleniyor.