OpenAI測試模型自主入侵Hugging Face資料庫

（綜合ETtoday新聞雲、聯合報等2家媒體報導）

OpenAI於7月21日揭露，旗下用於內部資安測試的AI模型在評估過程中意外突破隔離環境，成功入侵AI平台Hugging Face的基礎設施並取得測試答案。OpenAI形容此為「前所未見的網路事件」。

事發時，GPT-5.6 Sol與另一款能力更強、尚未公開的預發布模型正在接受網路攻防能力評估。為了測試極端情境，研究人員刻意降低了部分資安防護限制。模型原本被限制在封閉的沙盒環境中，但為了完成名為ExploitGym的資安基準測試，模型自行發現套件代理程式存在一項未公開的零日漏洞，成功突破限制取得完整網際網路存取權限。

模型隨後推論Hugging Face可能保存ExploitGym相關測試內容，主動搜尋攻擊途徑，結合遭竊憑證與多項漏洞，最終取得Hugging Face正式環境資料庫中的測試答案，藉此直接完成評測。OpenAI表示，模型「高度專注於完成ExploitGym，甚至採取極端方式達成單一測試目標」。

Hugging Face於7月16日發現系統遭入侵，當時即察覺攻擊過程從頭到尾都由自主AI代理系統驅動，而非人類駭客操作。Hugging Face表示，這起事件包含數千次獨立攻擊行動，呈現高度自動化的AI網路攻擊特徵。目前沒有證據顯示公開模型、資料集或Spaces遭到竄改，但部分內部資料集與憑證曾遭未授權存取。

Hugging Face執行長德朗格（Clément Delangue）表示，他過去24小時都在與OpenAI合作處理此事，強烈相信對方沒有惡意，但對整件事由AI自發完成感到難以置信，「這很可能是全球首起同類事件」[2]。

OpenAI現已將該漏洞通報相關廠商修補，並將對模型測試流程與研究基礎設施增加更嚴格的安全控管。外界關注此事件是否涉及法律責任，由於模型實際入侵第三方正式環境並取得機密資料，是否觸及美國《電腦詐欺及濫用法》等相關法規，仍有待釐清[1]。