台灣脈絡

輝達發表開源AI模型Nemotron 3.5 Lightning

已沉寂
1報告5篇4家追蹤自
Nemotron輝達開源AI模型黃仁勳
初始報導
重點摘要
  • 輝達發布首款開源AI模型Nemotron 3.5 Lightning
  • 該輕量化模型可在個人電腦單一GPU上運作
  • 企業可免費下載、使用或修改,無須付費
  • 輝達同步釋出模型路由庫NeMo Switchyard
  • 黃仁勳力挺開源,稱有利於晶片銷售[1]
  • 下一代Nemotron 4開發中,最大模型參數逾1兆[2]
展開完整內容

(綜合中央社、自由時報等2家媒體報導)

輝達(Nvidia)於8月11日發布其首款開源AI模型Nemotron 3.5 Lightning,並同步釋出模型路由庫NeMo Switchyard。此舉距執行長黃仁勳首次公開力挺開源AI模型不到三週。

Nemotron 3.5 Lightning被定位為「輕量化」模型,可在個人電腦的單一GPU上運作,企業可免費下載、使用或修改,無須取得輝達許可或支付費用。該模型特別為代理型AI(能在後台自主運作的AI程式)開發,CrowdStrike、CodeRabbit與Harvey等企業已進行測試與客製化[1]。模型可在HuggingFace及輝達網站取得。

此外,輝達也公布NeMo Switchyard,這是一款開源模型路由庫,可自動將AI任務引導至最適合的模型[2]。

報導指出,輝達此舉有助於其晶片銷售,因開源模型仍需在輝達的GPU上運作。黃仁勳上月受訪時曾表示,「免費的AI有利於硬體、有利於晶片(銷售)」[1]。

另據The Information報導,輝達正在開發新一代AI模型家族Nemotron 4,最大模型預計擁有至少1兆個參數,目標挑戰全球頂尖開源模型。該模型尚未完成最終訓練,最早可能在秋季末準備就緒[2]。

本事件已沉寂,相關脈絡見「相關事件」