Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!
Nvidia, yapay zeka performans ölçümlerinde referans kabul edilen MLPerf Inference v6.0 testlerine yeni nesil Blackwell Ultra mimarisi ile gövde gösterisi yaptı. Açıklanan sonuçlara göre Blackwell Ultra, tüm rakiplerin toplamına karşı belirgin bir üstünlük ortaya koydu. Nvidia, özellikle en yüksek yapay zeka üretim kapasitesi (AI factory throughput) ve en düşük token maliyeti iddiasıyla öne çıkıyor.
MLPerf’in 6.0 sürümü önceki versiyonlara kıyasla çok daha geniş bir kapsam sunuyor. MLCommons tarafından geliştirilen yeni test paketi DeepSeek-R1, GPT-OSS-120B ve Mixtral 8x7B gibi güncel modelleri desteklerken aynı zamanda yoğun büyük dil modelleri (LLM), üretken öneri sistemleri ve görsel-dil modelleri gibi farklı iş yüklerini de kapsıyor. Dolayısıyla test sadece donanım gücünü değil, aynı zamanda sistem bütünlüğünü de sınıyor.
Performans artışı sadece donanım kaynaklı değil
Açıklanan veriler Nvidia’nın yalnızca donanım tarafında değil, yazılım optimizasyonlarında da ciddi ilerleme kaydettiğini gösteriyor. Şirket, birkaç ay önce DeepSeek-R1 testleriyle başlayan süreçte herhangi bir donanım değişikliği olmadan token üretim hızını 2.7 kat artırmayı başardı. Bu durum, yazılım ve sistem optimizasyonlarının performans üzerindeki kritik etkisini ortaya koyuyor.
Donanım tarafında ise Blackwell Ultra’nın performansı dikkat çekici seviyede. Nvidia’nın önceki nesil GB200 NVL72 platformuna kıyasla 2.77 kata kadar hız artışı sağladığı belirtiliyor. Bu da yeni mimarinin yalnızca teorik değil, pratikte de ciddi kazanımlar sunduğunu gösteriyor.
9 kata kadar daha yüksek performans
Nvidia’nın paylaştığı verilere göre şirket, MLPerf Inference testlerinde en yakın rakibine kıyasla 9 kata kadar daha yüksek performans elde etti. Özellikle token/saniye/GPU metriğinde görülen bu fark, veri merkezi ölçeğinde çalışan yapay zeka sistemleri için kritik bir avantaj anlamına geliyor.
Şirket ayrıca, geçen yıl MLPerf Inference kapsamında DeepSeek-R1 sonuçlarını paylaşan tek firma olduğunu ve yeni sürümle birlikte bu liderliğini sürdürdüğünü vurguluyor.
Nvidia’nın başarısının arkasında yalnızca güçlü GPU’lar değil, uçtan uca tasarım yaklaşımı bulunuyor. Şirket, çip tasarımından sistem mimarisine, veri merkezi altyapısından yazılım katmanına kadar tüm bileşenleri birlikte optimize ederek maksimum verim elde ettiğini belirtiyor. Bu yaklaşım sayesinde Nvidia, yalnızca performans değil, aynı zamanda token başına maliyet ve toplam sahip olma maliyeti (TCO) gibi kritik metriklerde de avantaj sağlıyor.
AMD ne durumda?
AMD de MLPerf Inference v6.0’a Instinct MI355X GPU’ları ile katıldı ve özellikle multinode ölçeklemelerde etkileyici sonuçlar elde etti. Llama 2 70B ve GPT-OSS-120B modellerinde yapılan testlerde, AMD 1 milyon token/saniye barajını aşarak üretim sınıfı performans sergiledi. Tek düğümde B200 ve B300 GPU’lara karşı rekabetçi sonuçlar elde eden MI355X, multinode ölçeklemelerde de Offline, Server ve Interactive testlerinde yüzde 93-98 verimlilik sağlayarak yüksek ölçeklenebilirlik ve tutarlı performans sundu.
