台灣脈絡

輝達Vera Rubin量產倒數 效能實測飆10倍

已沉寂
1報告2篇2家追蹤自
AICoreWeaveDeepInfraVera Rubin輝達
初始報導
重點摘要
  • 輝達Vera Rubin NVL72加速量產,合作夥伴已開始部署
  • DeepInfra實測Vera CPU代理協調速度達x86基準2.2倍[1]
  • CoreWeave實測Vera Rubin每兆瓦Token吞吐量為前代GB200十倍[1]
  • 平台整合七款晶片,組裝時間由數小時縮至1分鐘
  • 微軟與Mistral將導入Vera Rubin打造AI平台[2]
展開完整內容

(綜合壹蘋新聞網、聯合報報導)

輝達(NVIDIA)下一代AI平台「Vera Rubin NVL72」加速邁向全面量產,CoreWeave、Google Cloud、Microsoft Azure及Oracle Cloud Infrastructure等合作夥伴已開始運行相關機架,新一代AI基礎設施正式進入部署階段。輝達表示,Vera Rubin的機架級供應鏈橫跨30個國家、超過350座工廠,是歷來規模最大的供應鏈布局。

Vera Rubin採用全新機架級共同設計架構,整合Vera CPU、Rubin GPU、Spectrum-6交換器及BlueField-4等七款晶片。其中,Vera CPU採用全新Olympus核心架構,單執行緒效能較競爭產品提升2倍、核心間頻寬增加3倍,記憶體延遲降低40%,專為代理型AI等高負載工作設計。

雲端運算業者DeepInfra取得Vera早期硬體後,以自家實際運行的AI代理及真實流量自行設計測試,在相同條件下與三款AMD及英特爾CPU比較。結果顯示,Vera在所有受測項目中均居首,代理協調速度最高達x86基準的2.2倍;在相同CPU資源及回應時間、錯誤率要求下,Vera可同時維持256個AI代理運作,其他受測CPU約為160至192個,換算最多可多支援六成代理[1]。

CoreWeave在6月完成Vera Rubin NVL72部署及驗證後,7月21日首度公布實體晶片成績。在相同互動回應目標下,以DeepSeek R1運行推論,Vera Rubin NVL72每兆瓦每秒生成的Token數量,最高為GB200 NVL72的十倍[1]。壹蘋新聞網報導則指出,在相同100萬瓦功耗下,Vera Rubin NVL72的詞元輸送量較Grace Blackwell NVL72提升10倍,對電力受限的AI資料中心更具優勢[2]。

網路方面,平台搭載第六代NVLink及Spectrum-X乙太網路,處理複雜AI工作負載時,輸送量較傳統乙太網路提升逾2倍、延遲降低3倍。輝達同步推出新一代Spectrum-6乙太網路交換器,傳輸速率達102.4Tb/s,容量較前一代提升2倍,已開始部署於全球百萬瓩級AI工廠。CoreWeave、微軟、xAI及Tesla等AI基礎設施業者均已率先導入Spectrum-6交換器。

Vera Rubin也大幅提升部署效率。透過三代機架共同設計,運算托盤取消纜線、風扇與水管配置,組裝時間由數小時縮短至1分鐘;45度高溫液冷設計可直接搭配乾式冷卻運作,新建百萬瓦級AI工廠每年可節省數百萬加侖用水。

輝達也宣布,Vera Rubin將成為微軟與法國AI新創Mistral擴大合作的核心平台。Mistral將導入數千顆Vera Rubin GPU,打造新一代Mistral Compute平台;微軟則結合Azure與Foundry平台,推動符合歐洲法規的主權AI基礎設施[2]。

本事件已沉寂,相關脈絡見「相關事件」