Hoşgeldin Misafir

NVIDIA Vera Rubin NVL72 Testlerde Sahneye Çıktı: Yeni AI Altyapısı Neler Getiriyor?

masterkey

Türkiye
6 Nis 2023
314 Mesaj
TIM Görevleri
1

Aktiflik

Seviye

Deneyim

TIM / GÖREV:

NVIDIA Vera Rubin NVL72 Testlerde Sahneye Çıktı: Yeni AI Altyapısı Neler Getiriyor?​


Yapay zekâ modelleri büyüdükçe yalnızca daha güçlü GPU'lara değil, GPU'ların birbirleriyle iletişiminden belleğe, ağ altyapısından yazılım optimizasyonlarına kadar tüm veri merkezi mimarisine ihtiyaç duyuluyor. NVIDIA'nın yeni nesil Vera Rubin NVL72 platformu da tam olarak bu yaklaşım üzerine kuruluyor.


16 Eylül 2026'da yayımlanan MLPerf Inference v6.1 sonuçlarında Vera Rubin NVL72 ilk kez benchmark sonuçlarıyla görünür hale geldi. NVIDIA'nın paylaştığı sonuçlara göre sistem, bazı testlerde önceki nesil GB300 NVL72'ye göre 3,7 kata kadar daha yüksek throughput elde etti.


Bu sonuçlar yalnızca yeni bir GPU'nun hızını değil, AI veri merkezlerinin nasıl tasarlanacağına ilişkin daha büyük bir değişimi de gösteriyor.




🟢 Vera Rubin NVL72 Nedir?​


Vera Rubin NVL72, tek başına bir ekran kartı veya klasik bir sunucu olarak düşünülmemeli. NVIDIA'nın yaklaşımı, onlarca GPU'nun yüksek hızlı bağlantılarla aynı hesaplama alanı içerisinde çalıştığı rack-scale AI sistemi oluşturmak.


NVIDIA'nın teknik tanımına göre bir NVL72 sistemi:


  • 72 adet Rubin GPU
  • 36 adet Vera CPU
  • ConnectX-9 SuperNIC'ler
  • BlueField-4 DPU'lar
    1. nesil NVLink
  • NVLink Switch altyapısı

gibi bileşenleri tek bir sistem içerisinde bir araya getiriyor.


Buradaki temel fikir oldukça basit:


AI modeli büyüdükçe GPU sayısını artırmak yeterli değil; GPU'ların birbirleriyle çok hızlı iletişim kurabilmesi gerekiyor.



🔴 MLPerf Testlerinde Vera Rubin​


Vera Rubin NVL72'nin dikkat çekmesinin en önemli nedenlerinden biri, MLPerf Inference v6.1 sonuçlarında ilk kez yer alması.


MLCommons tarafından yayımlanan v6.1 sonuçları, 30 farklı katılımcıdan toplam 120 sistemin benchmark sürecine dahil olduğunu gösteriyor. Bu sürümde ayrıca End-to-End RAG ve Edge Agentic Inference gibi yeni testler de sisteme eklendi.


Vera Rubin NVL72 ise iki önemli AI iş yükünde preview sonuçları sundu:


TestKullanılan yazılımVera Rubin sonucu
Qwen3-VLvLLM + NVIDIA DynamoGB300 NVL72'ye göre 3,7 kata kadar
DeepSeek-R1TensorRT-LLMGB300 NVL72'ye göre 2,5 kata kadar

Bu rakamlar NVIDIA'nın 16 Eylül 2026 tarihli açıklamasındaki MLPerf Inference v6.1 sonuçlarına dayanıyor. Sonuçların özellikle preview submission olarak sunulduğunu belirtmek önemli.




🟢 1. Qwen3-VL'de 3,7 Kata Kadar Daha Yüksek Throughput​


Vera Rubin NVL72'nin en dikkat çekici sonuçlarından biri Qwen3-VL testinde ortaya çıktı.


NVIDIA'nın açıklamasına göre sistem, offline, server ve interactive senaryolarında GB300 NVL72'ye göre 3,7 kata kadar daha yüksek throughput sağladı. Bu testlerde vLLM ve NVIDIA Dynamo kullanıldı.


Buradaki "throughput" değerini basitçe şöyle düşünebiliriz:


Aynı süre içerisinde daha fazla AI çıktısı üretmek.


Bu özellikle büyük dil modelleri ve multimodal modeller için önemli.


Çünkü gerçek dünyada veri merkezleri yalnızca "bir sorguya ne kadar hızlı cevap veriliyor?" sorusuna değil;


  • aynı anda kaç kullanıcıya hizmet verilebildiğine,
  • saniyede kaç token üretilebildiğine,
  • enerji başına ne kadar iş yapılabildiğine,
  • GPU kaynaklarının ne kadar verimli kullanıldığına

bakıyor.




🔴 2. DeepSeek-R1 Performansı​


İkinci önemli test DeepSeek-R1 oldu.


NVIDIA'nın MLPerf Inference v6.1 sonuçlarında Vera Rubin NVL72'nin DeepSeek-R1 üzerinde GB300 NVL72'ye göre 2,5 kata kadar daha yüksek throughput sunduğu bildiriliyor. Bu testte TensorRT-LLM kullanıldı.


Bu sonuç özellikle reasoning / akıl yürütme modelleri açısından dikkat çekici.


Yeni nesil AI sistemlerinde model yalnızca tek bir cevap üretmek yerine:


  1. problemi analiz ediyor,
  2. ara adımlar oluşturuyor,
  3. araç çağırabiliyor,
  4. sonuçları kontrol ediyor,
  5. gerektiğinde tekrar hesaplama yapıyor.

Dolayısıyla tek bir kullanıcı isteği bile önceki nesil chatbot kullanımından çok daha fazla hesaplama gerektirebiliyor.




🟢 3. NVLink 6: Sistemin Omurgası​


Vera Rubin NVL72'nin en önemli teknolojilerinden biri GPU'ları birbirine bağlayan 6. nesil NVLink.


NVIDIA'nın teknik verilerine göre Vera Rubin NVL72'de:


ÖzellikDeğer
GPU sayısı72
GPU başına çift yönlü NVLink bant genişliği3,6 TB/s
Rack toplam GPU bant genişliği260 TB/s
Paket hızıGeleneksel Ethernet'e göre 10 kata kadar
GecikmeGeleneksel Ethernet'e göre 3 kata kadar düşük
In-network compute130 TFLOPS




Bu rakamların anlamı şu:


GPU'lar yalnızca kendi hesaplamalarını yapmakla kalmıyor; birbirleriyle çok büyük miktarda veriyi son derece hızlı paylaşabiliyor.


Özellikle Mixture-of-Experts yani MoE mimarisine sahip büyük modeller için bu kritik.




🔴 4. Neden Sadece GPU Gücü Yetmiyor?​


Büyük AI modellerinde hesaplama yükünün önemli bir bölümü GPU'lar arasında dağıtılıyor.


Örneğin bir model:



Kullanıcı
↓
AI Modeli
↓
GPU 1 ─── GPU 2
│ │
GPU 3 ─── GPU 4
│ │
GPU 5 ─── GPU 6
↓
Sonuç



şeklinde onlarca GPU üzerinde çalışabilir.


GPU'lar arasındaki iletişim yavaşlarsa güçlü GPU'ların önemli bir bölümü veri beklemek zorunda kalabilir.


Bu nedenle yeni nesil AI altyapısında:


GPU + CPU + Bellek + Network + DPU + Yazılım


birlikte tasarlanıyor.


Vera Rubin'in temel yaklaşımı da bu.




🟢 5. NVFP4 ile Daha Fazla AI İşlemi​


Vera Rubin platformunda dikkat çeken teknolojilerden biri de NVFP4 düşük hassasiyetli hesaplama yaklaşımı.


AI modellerinde sayısal hassasiyeti düşürmek, bellekte daha az alan kullanılmasını ve aynı donanım üzerinde daha fazla veri işlenmesini sağlayabiliyor.


NVIDIA, Vera Rubin'in yeni Transformer Engine tasarımının NVFP4 inference performansını artırmak için adaptif sıkıştırma kullandığını belirtiyor.


Bu özellikle:


  • model ağırlıkları,
  • attention işlemleri,
  • KV cache,
  • uzun context pencereleri

gibi yüksek bellek tüketen işlemlerde önem kazanıyor.




🔴 6. Prefill ve Decode Ayrıştırılıyor​


Modern LLM inference süreçlerinde iki farklı işlem öne çıkıyor:


Prefill​


Kullanıcının gönderdiği uzun prompt'un işlenmesi.


Decode​


Modelin cevabı token token üretmesi.


Bu iki işlem aynı donanım üzerinde yürütüldüğünde kaynakların verimli kullanılması zorlaşabiliyor.


Vera Rubin benchmarklarında disaggregated serving yaklaşımı kullanıldı. Yani prefill ve decode işlemlerinin birbirinden ayrıştırılmasıyla kaynakların iş yüküne göre daha verimli kullanılmasına çalışılıyor.


Bu yaklaşım özellikle uzun context kullanan AI agent sistemlerinde önem kazanıyor.




🟢 7. AI Agent Dönemi İçin Tasarlanıyor​


Vera Rubin'in asıl hedeflerinden biri yalnızca chatbot çalıştırmak değil.


Yeni nesil AI agent sistemleri:


  • kullanıcı isteğini analiz ediyor,
  • internet veya veri tabanından bilgi arıyor,
  • başka modelleri çağırıyor,
  • kod yazıyor,
  • araç kullanıyor,
  • sonuçları değerlendiriyor,
  • gerektiğinde işlemi tekrarlıyor.

MLCommons da yeni benchmark çalışmalarında bu değişimi dikkate almaya başladı. MLPerf Inference v6.1'e Edge Agentic Inference ve End-to-End RAG testlerinin eklenmesi bunun göstergelerinden biri.


Yani benchmark dünyası bile artık sadece:


"Model saniyede kaç token üretiyor?"


sorusundan daha fazlasını ölçmeye başlıyor.




🔴 8. 30 Kata Kadar Fark Nereden Geliyor?​


Vera Rubin hakkında son dönemde dikkat çeken başka bir benchmark da SemiAnalysis AgentX.


NVIDIA'nın Ağustos 2026'da yayımladığı test sonuçlarına göre Vera Rubin NVL72, belirli bir DeepSeek V4-Pro AgentX senaryosunda GB300 NVL72'ye kıyasla megawatt başına 30 kata kadar daha yüksek AI-factory throughput gösterdi.


Ancak burada önemli bir ayrım var:


Bu sonuç MLPerf Inference v6.1 sonucu değildir.


NVIDIA, AgentX sonuçlarının kendi ölçümleri olduğunu ve SemiAnalysis incelemesinin beklendiğini belirtiyor. Bu nedenle 30x rakamı, 16 Eylül'deki MLPerf sonuçlarından ayrı değerlendirilmelidir.


Bu ayrım özellikle benchmark haberlerinde önem taşıyor.




🟢 9. AI Fabrikası Kavramı Değişiyor​


Vera Rubin ile birlikte NVIDIA'nın kullandığı önemli kavramlardan biri:


"AI Factory"​


Geleneksel veri merkezlerinde temel birim genellikle:


Sunucu → Rack → Veri Merkezi


şeklinde düşünülebilir.


Yeni AI altyapısında ise yaklaşım giderek:


GPU → Rack → POD → AI Factory


haline geliyor.


NVIDIA'nın Vera Rubin platformu beş farklı rack tipini bir araya getirerek POD seviyesinde çalışan büyük bir AI sistemi olarak tasarlanıyor.


Bu yapı içerisinde yalnızca GPU bulunmuyor.



Vera Rubin AI Factory

AI Workload
│
┌──────▼──────┐
│ Rubin GPU │
└──────┬──────┘
│
┌──────▼──────┐
│ Vera CPU │
└──────┬──────┘
│
┌────────▼────────┐
│ NVLink / Network│
└────────┬────────┘
│
┌──────▼──────┐
│ BlueField │
│ DPU │
└──────┬──────┘
│
Storage / Data



Bu nedenle Rubin'i yalnızca "yeni NVIDIA GPU'su" olarak değerlendirmek eksik kalıyor.




🔴 10. Enerji Verimliliği Daha Önemli Hale Geliyor​


AI altyapısında performans kadar önemli başka bir konu da enerji tüketimi.


Milyonlarca GPU'nun bulunduğu veri merkezlerinde birkaç puanlık verimlilik artışı bile büyük işletme maliyetleri oluşturabiliyor.


Bu nedenle yeni nesil AI sistemlerinde:


  • performans / watt,
  • token / watt,
  • throughput / megawatt,
  • cost / token

gibi ölçümler daha fazla önem kazanıyor.


Vera Rubin'in tasarımında da GPU, CPU, network, DPU ve yazılımın birlikte optimize edilmesi bu nedenle kritik.




🟢 11. Yazılım En Az Donanım Kadar Önemli​


Vera Rubin'in performansını yalnızca donanıma bağlamak doğru olmaz.


Benchmarklarda:


  • vLLM
  • NVIDIA Dynamo
  • TensorRT-LLM
  • NCCL
  • CUDA
  • DeepGEMM
  • çeşitli kernel optimizasyonları

gibi yazılım katmanları da rol oynuyor.


Bu durum önemli bir gerçeği ortaya çıkarıyor:


Geleceğin AI performans yarışı yalnızca daha güçlü çip üretme yarışı olmayacak.

Asıl rekabet;


çip + bellek + bağlantı + ağ + yazılım + soğutma + enerji + model optimizasyonu


bütününün birlikte ne kadar verimli çalıştırılabildiği üzerinden şekillenecek.




🔴 12. Vera Rubin Son Kullanıcıya Ne Getirecek?​


Vera Rubin doğrudan tüketicilerin bilgisayarlarına takacağı bir GPU değil.


Etkisi daha çok bulut servisleri ve büyük AI platformları üzerinden görülecek.


Potansiyel olarak:


Daha hızlı AI servisleri​


Uzun yanıtların ve karmaşık reasoning işlemlerinin daha yüksek throughput ile çalıştırılması mümkün olabilir.


Daha fazla eşzamanlı kullanıcı​


Aynı veri merkezi kapasitesiyle daha fazla AI isteği işlenebilir.


Daha büyük modeller​


Daha yüksek GPU belleği ve hızlı GPU-GPU iletişimi, büyük modellerin dağıtık çalıştırılmasını kolaylaştırabilir.


AI Agent'larda daha fazla işlem​


Tek bir kullanıcı isteğinin onlarca veya yüzlerce işlem başlatabildiği agent sistemleri için daha yüksek inference kapasitesi sağlanabilir.


Daha verimli veri merkezleri​


Amaç yalnızca maksimum performans değil, aynı zamanda enerji başına daha fazla AI işi üretmek.




🟢 Vera Rubin NVL72'nin Öne Çıkan Teknolojileri​


TeknolojiTemel amacı
72 Rubin GPUBüyük AI modellerini çalıştırmak
36 Vera CPUGenel ve AI odaklı işlem yüklerini desteklemek
NVLink 6GPU'lar arasında yüksek hızlı iletişim
NVLink SwitchRack seviyesinde GPU iletişimi
NVFP4Daha verimli düşük hassasiyetli AI hesaplama
Transformer EngineTransformer modellerinde performans
BlueField-4 DPUVeri hareketi ve altyapı işlemlerini hızlandırmak
ConnectX-9Yüksek hızlı ağ bağlantısı
NVIDIA DynamoDağıtık inference ve agentic AI servisleri
TensorRT-LLMLLM inference optimizasyonu
vLLMBüyük modellerin servis edilmesi






🔴 Peki Bu Sonuçlar Ne Kadar Önemli?​


Burada benchmark sonuçlarının nasıl okunması gerektiğine dikkat etmek gerekiyor.


MLPerf Inference v6.1, sistem performansını standartlaştırılmış ve yeniden üretilebilir ölçümlerle değerlendirmek amacıyla kullanılan bir benchmark ailesi. MLCommons bu sonuçların AI sistemleri satın alan ve kuran kuruluşlar için karşılaştırılabilir teknik veri sağlamayı amaçladığını belirtiyor.


Ancak bir benchmark sonucu:


"Her gerçek dünya uygulamasında aynı performans alınacak"


anlamına gelmez.


Gerçek performans;


  • kullanılan model,
  • batch size,
  • context uzunluğu,
  • kullanıcı sayısı,
  • yazılım,
  • quantization,
  • network yapısı,
  • veri erişimi,
  • güç limiti

gibi birçok değişkene bağlıdır.


Bu nedenle Vera Rubin'in 3,7x veya 2,5x sonuçları, belirli benchmark koşullarındaki ölçümler olarak değerlendirilmelidir.




🟢 Sonuç: AI Altyapısında Yeni Bir Dönem​


NVIDIA Vera Rubin NVL72'nin MLPerf Inference v6.1'de sahneye çıkması, AI donanım yarışının yeni bir aşamaya geçtiğini gösteren önemli teknik gelişmelerden biri.


Burada dikkat çeken nokta yalnızca Rubin GPU'nun ham işlem gücü değil.


Asıl değişim;


72 GPU'nun tek bir yüksek hızlı hesaplama alanı gibi çalışması, NVLink 6 ile GPU iletişiminin hızlandırılması, NVFP4 ile bellek ve hesaplama verimliliğinin artırılması, prefill/decode ayrıştırılması ve AI agent iş yüklerine göre tüm sistemin optimize edilmesi.


16 Eylül 2026 tarihli MLPerf Inference v6.1 sonuçlarında Vera Rubin NVL72'nin Qwen3-VL'de 3,7 kata kadar, DeepSeek-R1'de ise 2,5 kata kadar GB300 NVL72 throughput'una ulaştığı bildirildi.


Bunun yanında benchmark dünyasının da RAG ve agentic AI gibi daha karmaşık iş yüklerine yönelmesi, gelecekte AI altyapısının değerlendirilmesinde ham GPU gücünden çok sistem seviyesindeki gerçek iş kapasitesinin önem kazanacağını gösteriyor.


Kısacası Vera Rubin, yalnızca yeni bir GPU nesli değil; NVIDIA'nın AI veri merkezini tek tek sunuculardan, yüksek düzeyde entegre çalışan bir "AI fabrikasına" dönüştürme yaklaşımının önemli bir parçası.