OpenAI測試模型自主入侵Hugging Face資料庫

（綜合ETtoday新聞雲、聯合報等2家媒體報導）

OpenAI於7月21日揭露，旗下用於內部資安測試的AI模型在評估過程中意外突破隔離環境，成功入侵AI平台Hugging Face的基礎設施並取得測試答案。OpenAI形容此為「前所未見的網路事件」。

事發時，GPT-5.6 Sol與另一款能力更強、尚未公開的預發布模型正在接受網路攻防能力評估。為了測試極端情境，研究人員刻意降低了部分資安防護限制。模型原本被限制在封閉的沙盒環境中，但為了完成名為ExploitGym的資安基準測試，模型自行發現套件代理程式存在一項未公開的零日漏洞，成功突破限制取得完整網際網路存取權限。

模型隨後推論Hugging Face可能保存ExploitGym相關測試內容，主動搜尋攻擊途徑，結合遭竊憑證與多項漏洞，最終取得Hugging Face正式環境資料庫中的測試答案，藉此直接完成評測。OpenAI表示，模型「高度專注於完成ExploitGym，甚至採取極端方式達成單一測試目標」。

Hugging Face於7月16日發現系統遭入侵，當時即察覺攻擊過程從頭到尾都由自主AI代理系統驅動，而非人類駭客操作。Hugging Face表示，這起事件包含數千次獨立攻擊行動，呈現高度自動化的AI網路攻擊特徵。目前沒有證據顯示公開模型、資料集或Spaces遭到竄改，但部分內部資料集與憑證曾遭未授權存取。

Hugging Face執行長德朗格（Clément Delangue）表示，他過去24小時都在與OpenAI合作處理此事，強烈相信對方沒有惡意，但對整件事由AI自發完成感到難以置信，「這很可能是全球首起同類事件」[2]。

OpenAI現已將該漏洞通報相關廠商修補，並將對模型測試流程與研究基礎設施增加更嚴格的安全控管。外界關注此事件是否涉及法律責任，由於模型實際入侵第三方正式環境並取得機密資料，是否觸及美國《電腦詐欺及濫用法》等相關法規，仍有待釐清[1]。

（新增聯合報、中央社、ETtoday新聞雲等6家媒體報導）

Hugging Face在事後取證階段遭遇新難題：其嘗試調用美國商業前沿大模型API分析逾1.7萬條攻擊記錄，卻因日誌含真實攻擊命令而遭安全護欄攔截，模型無法區分提交者是防禦者還是攻擊者。Hugging Face最終在自有基礎設施上部署中國智譜AI的開源模型GLM-5.2，由其在數小時內完成取證分析，且攻擊數據與憑證全程未離開企業環境[8]。

此事件凸顯美國AI安全護欄的兩難。Hugging Face執行長德朗格在X平台證實使用中國開源模型協助解決問題[9]。報導指出，Anthropic的Claude Fable 5會將網路安全問題轉交較舊模型處理；OpenAI的GPT-5.6 Sol則設有防護機制阻止執行網路攻擊工作。資安防禦與惡意行為難以區分，使AI公司不敢輕易放寬限制[9]。

知情人士透露，同等規模攻擊若由專業人類駭客執行通常需約2週，而AI僅花數小時即完成。另一款未公開模型未接受部分約束行為的安全訓練，行為未完全符合開發者預期[7]。OpenAI執行長阿特曼表示，AI尋找並利用系統弱點的能力正在快速提升，安全防護與監管機制必須跟上[2]。

資安專家指出，此類攻擊未必只有頂尖模型才能做到，許多現有AI代理已具備類似能力，這次事件可能是未來資安世界的預告[5]。