OpenAI, yeni bir bağımsız denetim komitesinin kurulması da dahil olmak üzere güvenlik üzerine birtakım önemli değişiklikler duyurdu.
OpenAI CEO’su Sam Altman artık güvenlik komitesinin bir parçası değil. Bunun da önceki yapıdan kopuşun önemli göstergesi olabileceği düşünülüyor.
Yeni kurulan SSC’ye (Safety and Security Committee) Carnegie Mellon Üniversitesi Makine Öğrenimi Bölümü Direktörü Zico Kolter önderlik edecek. Diğer önemli üyeler arasında ise Quora CEO’su Adam D’Angelo, emekli ABD Orgeneral Paul Nakasone ve Sony Corporation’ın eski Genel Müdür Yardımcısı ve Genel Danışmanı Nicole Seligman bulunuyor.
Yeni Komitenin Eskisinden Ne Farkı Var?
Yeni güvenlik komitesi, Haziran 2024’te kurulan ve içinde Altman’ın da yer aldığı önceki komitenin yerini alacak. İlk komitenin görevi, OpenAI projeleri ve operasyonları için kritik güvenlik ve emniyet kararlarına yönelik önerilerde bulunmaktı.
SSC artık sadece tavsiyelerde bulunmakla sınırlı kalmayacak. Bununla beraber büyük modeller için güvenlik değerlendirmelerini denetleme ve model lansmanlarını kontrol etme yetkisine sahip olacak. Komite, güvenlik endişeleri yeterince ele alınana kadar bir lansmanı erteleme hakkına da sahip olacak.
OpenAI’ın gittiği bu yeniden yapılanma, gözlerin şirketin yapay zeka güvenliğine olan bağlılığı üzerine çevrilmesinden sonra gerçekleşti. Altman’ın güvenlik komitesinden çıkarılması ise şirketin güvenlik denetimindeki olası çıkar çatışmalarıyla ilgili endişeleri ele alma çabası olarak değerlendirilebilir.