- OpenAI發現並阻止針對模型推理過程的竊取行動
- 行動核心群組與中國新創月之暗面有關
- 操作者透過4000多用戶發出1.6萬次請求
- OpenAI已於7月28日完全阻止該行動
- 操作者未入侵系統,而是操縱模型互動取得推理歷程
- OpenAI已向其他AI開發商分享調查結果
OpenAI點名月之暗面竊取模型推理過程
發展中1報告2篇2家追蹤自
AI蒸餾OpenAI月之暗面美中AI競爭
初始報導
重點摘要
展開完整內容
(綜合中央社、聯合報等2家媒體報導)
OpenAI表示,已發現並阻止一場協同發起的「對抗式蒸餾」行動,操作者試圖從AI模型中取得受保護的推理過程,核心群組與中國新創公司月之暗面(Moonshot AI)有關聯。
此行動始於7月初,兩天內來自4000多名用戶提出1.6萬次請求,OpenAI最終在1.5萬多名用戶的群組中發現相關活動,並於7月28日完全阻止。操作者並未入侵加密系統、資料庫或儲存的對話紀錄,而是透過操縱與模型的互動,將隱藏的推理歷程轉換為可見形式加以複製。
OpenAI指出,擷取推理過程可能讓其他業者無需投入同等研發與安全資源即可複製先進技術,帶來安全與國家安全風險。目前尚不清楚所有操作者是否隸屬單一組織,但已將核心群組歸咎於與月之暗面有關的人員。OpenAI已透過前沿模型論壇(Frontier Model Forum)及政府資訊共享管道,向其他AI開發商分享調查結果。
月之暗面未立即回應置評請求。此前數週,OpenAI競爭對手Anthropic才指控月之暗面與阿里巴巴等多家中國AI開發商,暗中利用Claude模型訓練自家系統。
系統持續蒐集本事件新進文章,資訊充足時將整合至下一份追蹤報導