NVIDIA, Amazon Web Services ile yaptığı yeni çalışmalarla yapay zekayı yalnızca deneme projelerinde değil, doğrudan üretim ortamlarında çalıştırmak isteyen şirketlere daha güçlü bir altyapı sunmayı hedefliyor. Büyük ölçekli yapay zeka sistemleri düşük gecikmeli çıkarım, hızlı vektör arama, güçlü GPU fiyat-performansı ve yönetmesi kolay bulut altyapısı gerektiriyor. NVIDIA ve AWS işbirliği de tam olarak bu ihtiyaçlara odaklanıyor.
NVIDIA ve AWS Yapay Zeka Altyapısını Daha Pratik Hale Getiriyor
NVIDIA, AWS üzerindeki yeni Amazon EC2 G7 örnekleriyle yapay zeka çıkarımı, grafik iş yükleri, video, veri analitiği ve uzamsal bilişim gibi alanlara daha güçlü bir seçenek ekliyor. Bu örnekler, NVIDIA RTX PRO 4500 Blackwell Server Edition GPU’larla geliyor ve şirketlerin kendi GPU platformlarını yönetme yükünü azaltarak üretim odaklı iş yüklerine daha hızlı geçmesini sağlıyor.
AWS’ye göre G7 örnekleri, önceki G6 örneklerine kıyasla yapay zeka çıkarımında 4,6 kata kadar, grafik performansında ise 2,1 kata kadar artış sunabiliyor. Ayrıca NVIDIA cuDF kütüphanesiyle Amazon EMR üzerinde GPU hızlandırmalı veri analitiği tarafında da daha yüksek performans hedefleniyor. Sekiz GPU’ya kadar destek, toplam 256 GB GPU belleği, 700 Gbps EFA destekli ağ bağlantısı ve 7,6 TB’a kadar yerel NVMe SSD depolama gibi seçenekler, şirketlerin iş yüküne göre daha doğru yapılandırma yapmasına imkân tanıyor.
İşbirliğinin bir diğer önemli ayağı ise Amazon OpenSearch Serverless tarafında karşımıza çıkıyor. NVIDIA cuVS kütüphanesi, vektör koleksiyonları için GPU hızlandırmalı vektör indekslemeyi varsayılan seçenek haline getiriyor. Bu, özellikle retrieval-augmented generation, semantik arama, öneri sistemleri ve agentic AI uygulamaları geliştiren ekipler için büyük kolaylık sağlayabilir. AWS, bu yapıyla vektör indekslemenin CPU tabanlı kurulumlara göre 10 kata kadar daha hızlı ve dörtte bir maliyetle yapılabileceğini belirtiyor.
AWS’nin NVIDIA GB300 için NVIDIA Exemplar Cloud statüsüne ulaşması da eğitim iş yükleri açısından önemli bir güven göstergesi olarak öne çıkıyor. Bu statü, AWS’nin NVIDIA’nın referans mimarisiyle karşılaştırılan performans eşiklerini karşıladığını gösteriyor. Kısacası bu işbirliği, yapay zekayı üretimde ölçeklendirmek isteyen şirketlere yalnızca daha fazla güç değil, daha yönetilebilir ve daha verimli bir altyapı da sunuyor.
Yorum Yap