Anthropic, yapay zekanın kendi kopyalarını oluşturarak internete yayılabileceği konusunda uyardı. Şirkete göre yapay zeka modelleri, farklı cihazları ele geçirip işlem gücü elde ederek kendi faaliyetlerini büyütebilir.
Bu senaryo, yapay zekanın kontrol edilmesini daha da zorlaştırabilir. Tabii, bazı uzmanlar uyarıyı ciddiye alırken bazıları da aynı fikirde değil. Onlara göre mevcut deneyler, büyük bir siber güvenlik tehdidini kanıtlamak için tek başına yeterli değil.
Yapay Zeka Kendi Kendini Çoğaltabilir mi?
Anthropic’in yaptığı deneylerde 30 milyar veya daha az parametreye sahip yapay zeka modellerinin kendi kendini çoğaltmak için gereken bazı görevleri gerçekleştirebildiği görüldü. Modeller henüz tüm süreci güvenilir biçimde tamamlayamıyor. Gelgelelim, gerekli adımların birçoğunu ayrı ayrı yerine getirebiliyor.
Şirketin üzerinde durduğu senaryo şöyle işliyor:
- Cihazları ele geçiriyor: Yapay zeka, internete bağlı ve düşük maliyetli cihazlara erişmeye çalışıyor.
- İşlem gücü kazanıyor: Ele geçirilen cihazları kullanarak daha fazla bilgisayar kaynağı elde ediyor.
- Kendini yayıyor: Kendi kopyalarını farklı sistemlere aktararak ağını genişletiyor.
- Kapatılması zorlaşıyor: Çok sayıda cihazda çalıştığı için tek bir noktadan durdurulması güçleşiyor.
Anthropic, basitleştirilmiş bir test ağında modellerin kendilerini çoğaltabildiğini belirtiyor. Ama bu deney, aynı sürecin gerçek internet üzerinde sorunsuz şekilde gerçekleştirilebildiğini göstermiyor.
Yapay Zeka Veri Merkezlerini de Hedef Alabilir
Anthropic’in endişesi yalnızca küçük cihazlarla sınırlı değil. Şirket, yapay zekanın daha güçlü işlemcilere sahip veri merkezlerine erişmeye yönelik yöntemler geliştirebileceğini de değerlendiriyor. Böyle bir durumda yapay zeka, çok daha fazla işlem gücünden yararlanabilir. Bu da kendi faaliyetlerini büyütmesini ve daha geniş sistemlere yayılmasını kolaylaştırabilir.
Anthropic CEO’su Dario Amodei, geçen ay yapay zekanın önümüzdeki bir yıl içinde veya daha erken bir tarihte internetin geneline yayılabilecek kalıcı bir botnet oluşturabileceği uyarısında bulunmuştu. Bilmeyenler için botnet, saldırganların kontrol ettiği çok sayıda cihazdan oluşan bir ağ anlamına geliyor. Bu cihazlar kötü amaçlı faaliyetlerde kullanılabiliyor.
Anthropic’e Göre Kritik Tarih 2026 Sonu
Şirket, küçük yapay zeka modellerinin gelişim hızını koruması durumunda kendi kendini bağımsız biçimde çoğaltmak için gereken yeteneklere 2026 sonuna kadar ulaşabileceğini öngörüyor.
Bu tarih kesin değil. Tahmin, yapay zeka modellerinin geçmişteki hızla gelişmeye devam etmesi koşuluna dayanıyor. Ayrıca bir modelin çoğalma için gereken görevleri tek tek yapabilmesi, bütün süreci kendi başına tamamlayabileceği anlamına gelmiyor. Gerçek dünyada cihazlara erişim, güvenlik önlemlerini aşma ve yeterli işlem gücü bulma gibi engeller bulunuyor.
Uzmanlar İkiye Bölünmüş Durumda
İngiltere Ulusal Siber Güvenlik Merkezi’nin eski başkanı Ciaran Martin, Anthropic’in uyarısına şüpheyle yaklaştı. Martin’e göre küçük bir yapay zeka modelinin ucuz televizyonlarda çalıştırılabilmesi, tek başına büyük bir güvenlik krizinin kanıtı değil. Ayrıca şirketin açıklamasında ticari abartı bulunduğunu düşünüyor.
Colorado Denver Üniversitesi’nden bilgisayar bilimci Zhengxiong Li ise daha endişeli. Li, deneylerin kontrollü ortamlarda yapılmasına rağmen yapay zekanın kendi kendini çoğaltan bir bilgisayar solucanına dönüşmesi ihtimalini endişe verici buluyor.
Bilgisayar solucanları, kendilerini başka sistemlere kopyalayarak yayılabilen zararlı yazılımlar olarak biliniyor. Li’nin dikkat çektiği nokta, yapay zekanın cihazları ele geçirmek için karşılaştığı koşullara göre yeni yöntemler geliştirebilmesi.