(綜合壹蘋新聞網、聯合報報導)
輝達(NVIDIA)下一代AI平台「Vera Rubin NVL72」加速邁向全面量產,CoreWeave、Google Cloud、Microsoft Azure及Oracle Cloud Infrastructure等合作夥伴已開始運行相關機架,新一代AI基礎設施正式進入部署階段。輝達表示,Vera Rubin的機架級供應鏈橫跨30個國家、超過350座工廠,是歷來規模最大的供應鏈布局。
Vera Rubin採用全新機架級共同設計架構,整合Vera CPU、Rubin GPU、Spectrum-6交換器及BlueField-4等七款晶片。其中,Vera CPU採用全新Olympus核心架構,單執行緒效能較競爭產品提升2倍、核心間頻寬增加3倍,記憶體延遲降低40%,專為代理型AI等高負載工作設計。
雲端運算業者DeepInfra取得Vera早期硬體後,以自家實際運行的AI代理及真實流量自行設計測試,在相同條件下與三款AMD及英特爾CPU比較。結果顯示,Vera在所有受測項目中均居首,代理協調速度最高達x86基準的2.2倍;在相同CPU資源及回應時間、錯誤率要求下,Vera可同時維持256個AI代理運作,其他受測CPU約為160至192個,換算最多可多支援六成代理[1]。
CoreWeave在6月完成Vera Rubin NVL72部署及驗證後,7月21日首度公布實體晶片成績。在相同互動回應目標下,以DeepSeek R1運行推論,Vera Rubin NVL72每兆瓦每秒生成的Token數量,最高為GB200 NVL72的十倍[1]。壹蘋新聞網報導則指出,在相同100萬瓦功耗下,Vera Rubin NVL72的詞元輸送量較Grace Blackwell NVL72提升10倍,對電力受限的AI資料中心更具優勢[2]。
網路方面,平台搭載第六代NVLink及Spectrum-X乙太網路,處理複雜AI工作負載時,輸送量較傳統乙太網路提升逾2倍、延遲降低3倍。輝達同步推出新一代Spectrum-6乙太網路交換器,傳輸速率達102.4Tb/s,容量較前一代提升2倍,已開始部署於全球百萬瓩級AI工廠。CoreWeave、微軟、xAI及Tesla等AI基礎設施業者均已率先導入Spectrum-6交換器。
Vera Rubin也大幅提升部署效率。透過三代機架共同設計,運算托盤取消纜線、風扇與水管配置,組裝時間由數小時縮短至1分鐘;45度高溫液冷設計可直接搭配乾式冷卻運作,新建百萬瓦級AI工廠每年可節省數百萬加侖用水。
輝達也宣布,Vera Rubin將成為微軟與法國AI新創Mistral擴大合作的核心平台。Mistral將導入數千顆Vera Rubin GPU,打造新一代Mistral Compute平台;微軟則結合Azure與Foundry平台,推動符合歐洲法規的主權AI基礎設施[2]。
系統持續蒐集本事件新進文章,資訊充足時將整合至下一份追蹤報導