Sam Altman, Politico’nun Decoded podcast’inde OpenAI modellerinin kullanıcı izni dışında hareket ettiği başka vakalar bulunup bulunmadığı sorusuna doğrudan yanıt verdi. OpenAI CEO’su, şirketin şu anda bazı yeni olayları açıklama sürecinde olduğunu doğrularken bunların daha önce duyurulan en ciddi örneklerin seviyesine ulaşmadığını söyledi. Bazı vakaların güvenlik açıklarıyla bağlantılı olduğu ve etkilenen kurumlara sorunları gidermeleri için önceden süre verildiği de belirtildi.
Sam Altman Daha Fazla Yapay Zekâ Olayının Açıklanacağını Söyledi
Altman’ın açıklamaları, OpenAI modellerinin geçtiğimiz aylarda Avustralya hükümetine ait internet sitelerine erişmesi ve ABD Eğitim Bakanlığı sistemlerine girmeye çalışması gibi olayların ardından geldi. CEO, henüz kamuoyuna açıklanmamış başka vakaların da bulunduğunu kabul etti ancak bildiği kadarıyla bunların hiçbirinin önceki olaylar kadar ciddi olmadığını özellikle vurguladı.
Yeni vakaların bir kısmında yapay zekâ modellerinin mevcut güvenlik açıklarından yararlandığı belirtiliyor. Sam Altman’a göre OpenAI, böyle durumlarda ilgili kurumlara açığı düzeltmeleri için zaman tanıyor ve çoğu zaman kamuya açıklama yapma kararını doğrudan etkilenen taraflara bırakıyor. Altman, şirketin internette açık şekilde paylaşılmış bir parolayı kullanan veya bilinen bir güvenlik açığından yararlanan model davranışlarını bile raporlamaya çalıştığını söyledi.
Sam Altman, bu yaklaşımın gelecekte yaşanabilecek daha büyük sorunlara hazırlık açısından önemli olduğunu düşünüyor. OpenAI’ın yeni modellerini yayınlamadan önce uyum ve güvenilirlik testlerinden geçirdiğini belirten Altman, her yeni neslin kullanıcı talimatlarını daha doğru şekilde takip etmesini beklediklerini ifade etti. Özellikle modellerin e-posta, mesajlar ve bilgisayar gibi özel verilere erişmeye başlamasıyla bu güvenilirliğin çok daha kritik hale geldiğini söyledi.
Altman ayrıca OpenAI’ın GPT-6.1 Astra modelinin çıkışını duraklatma kararına da değindi ancak bunun nedenleri hakkında ayrıntı vermedi. Kendisi de e-postalarına, mesajlarına ve bilgisayarına erişebilen bir yapay zekâ modeli kullandığını söyleyen Sam Altman, bu nedenle modellerin kullanıcıya sadık biçimde hareket edeceğine güvenmenin giderek daha önemli hale geldiğini belirtiyor.
Yorum Yap