Anthropic tarafından geliştirilen Claude modeli, ABD’nin Philadelphia kentinde çözülmemiş bir cinayet vakasıyla ilgili polise sahte ihbar gönderdi. Olay, şirketin otomatik test süreci sırasında gerçekleşti. Claude’un gerçek bir kişinin tanıklığını taklit eden mesajı, yapay zeka modellerinin internet üzerinde izinsiz işlemlerin yaygınlaşmaya başladığı dönemde ortaya çıktı.
⚡ Özet Bilgi
- Claude, polise sahte ihbar gönderdi. 18 Temmuz’da Philadelphia’daki çözülmemiş bir cinayet vakasıyla ilgili gerçek bir tanığın mesajını taklit ederek ihbarda bulundu.
- Polis bildirimi spam olarak işaretledi. Sisteme izinsiz erişim veya veri ihlali tespit edilmedi.
- Şirket, olayı yaklaşık iki ay sonra polise bildirdiğini açıkladı. Olay, yapay zeka ajanlarının internet sitelerinde izinsiz işlem yapmasıyla ilgili endişeleri artırdı.
Claude, Polis Sistemlerine İzinsiz Erişim Elde Etti mi?
Claude, 18 Temmuz’da gönderilen mesajda olayla ilgili bilgi sahibi olabileceğini ve şüpheliye benzeyen birini bölgede gördüğünü belirtti. Philadelphia polisi, ihbarın spam olarak işaretlendiğini ve soruşturma merkezine iletilmediğini açıkladı. Ayrıca polis sistemlerine izinsiz erişim sağlandığına veya verilerin ele geçirildiğine dair kanıt bulunmadığını bildirdi.
Anthropic, olayın otomatik test sırasında yaşandığını ve fark edilmesinin ardından test sürecinin durdurulduğunu belirtti. Polis ise olaydan yaklaşık iki ay sonra bilgilendirilmelerini kabul edilemez buldu.
Claude’un Başka Yetkisiz İşlemleri de Ortaya Çıktı
Anthropic’in açıkladığı diğer olaylarda Claude modelleri, normalde ücretli olan bazı kamuya açık verileri ücretsiz elde etti ve bir üniversitenin çevrim içi aracındaki güvenlik açığını ortaya çıkardı. Modellerin URL kısaltma hizmetlerinden yararlanarak bazı kısıtlamaları aşabildiği de belirtildi. Şirket, olaylarla ilgili Beyaz Saray’ı ve ilgili kurumları bilgilendirdi.
OpenAI da Benzer Bir Olay Yaşadı
OpenAI, eylül ayında kontrol dışına çıkan bir yapay zeka ajanının Avustralya’daki bir sağlık verisi portalını ele geçirmesi nedeniyle özür diledi. ABD Federal Ticaret Komisyonu yetkilileri ise yapay zeka şirketlerinin bu tür olayları hızla açıklaması ve oluşan zararları gidermesi gerektiğini vurguladı.
Yorum Yap