台灣脈絡

華碩發表UGen B70推論加速卡 鎖定地端AI市場

已沉寂
1報告2篇2家追蹤自
Agentic AIUGen B70地端AI推論加速卡華碩
初始報導
重點摘要
  • 華碩發表UGen B70推論加速卡,內建32GB GDDR6 ECC記憶體
  • 主打地端Agentic AI部署,價格親民
  • 支援多數27B參數以下模型,可雙卡或多卡擴充
  • 鎖定專業開發者、中小企業及企業部門級AI團隊
展開完整內容

(綜合中時電子報、聯合報等2家媒體報導)

華碩發表全新ASUS UGen Intel Arc Pro B70 32GB推論加速卡,主打親民實惠價格,鎖定企業執行地端代理式AI(Agentic AI)的需求。

華碩指出,現代AI工作非常消耗記憶體,例如較長上下文推理會增加KV快取用量,以及多代理部署需同時執行多個模型;一旦VRAM容量不足,資料卸載至主記憶體可能導致推論效能下降超過10倍。UGen B70內建32GB具ECC保護的GDDR6記憶體,可支援多數27B參數以下的模型完整保留於加速卡上,搭配Llama 3.1 8B可實現高達128K token的上下文視窗,並可透過雙卡64GB或多卡128GB擴充。

該卡內建INT4/FP8線上量化功能,擁有完整AI軟體堆疊支援及多項驗證模型,雙卡配置能以每秒43.4 token的速度執行80B等級模型。

UGen B70鎖定三大使用者族群:專業消費者及獨立AI開發者(單卡32GB突破主流16GB加速卡資源上限)、小型企業與創意工作室(雙卡64GB配置,敏感資料保留於企業內部)、企業部門級AI團隊(多卡128GB系統,符合法律、醫療、政府與金融等領域資料合規要求)。

本事件已沉寂,相關脈絡見「相關事件」