台灣脈絡

中國AI開發商僅3.6%模型公布安全測試

已沉寂
1報告2篇2家追蹤自
AI安全SemiAnalysis中國深度求索阿里巴巴
初始報導
重點摘要
  • 中國9大AI業者857個模型中僅3.6%公布安全測試結果
  • 另有1.1%模型在發表前後公布相關結果
  • 813個模型完全未揭露安全資訊
  • 尚無中國業者發表前沿模型的安全測試結果
展開完整內容

(綜合中央社、壹蘋新聞網等2家媒體報導)

科技研究機構SemiAnalysis發布報告指出,中國主要AI開發商對已發表模型的安全測試資訊揭露極不充分。研究審視阿里巴巴、字節跳動、騰訊、百度、深度求索(DeepSeek)、月之暗面(Moonshot AI)、智譜(Z.AI)、MiniMax及階躍星辰(StepFun)等9家業者,在2021年至今年9月15日期間合計發表的857個模型中,僅31個公開可與具體模型對應的安全評估結果,占比3.6%。另有9個模型在發表或發表前即已公布此類結果,占比1.1%。

研究人員指出,813個模型未揭露任何安全相關資訊,但這些企業仍可能在內部進行測試。SemiAnalysis對「資訊揭露」的定義,是指與特定模型關聯的具體測試結果,包括有害輸出、越獄防禦、毒性、隱私、拒絕回應或危險功能等,不包含已接受安全訓練或評估的一般聲明。報告補充,目前尚無中國主要開發商發表涵蓋網路安全、生物安全或失控風險等公開測試結果的前沿文字模型。

本事件已沉寂,相關脈絡見「相關事件」