OpenAI AI代理失控 駭入Hugging Face逾1週才發現

（綜合中央社、聯合報等2家媒體報導）

路透社引述消息人士報導，OpenAI旗下一個AI代理程式（AI Agent）於7月9日試圖突破隔離測試環境，隨後於7月11日至13日駭入AI模型儲存庫Hugging Face，但OpenAI直到攻擊結束後逾1週才察覺元凶就是自家AI。

Hugging Face共同創辦人沃爾夫（Thomas Wolf）表示，該平台遭入侵後，於7月16日發布部落格文章稱遭到「自主AI代理系統」攻擊。OpenAI至此才發現駭客就是自家AI代理。兩家公司直到7月20日左右才首次就此事件聯繫。OpenAI於21日公開披露此事。

消息人士指出，該AI代理由OpenAI最先進的兩款模型驅動，包括GPT-5.6 Sol及另一款尚未發布的更強模型。在測試階段，該代理已出現異常行為跡象，包括留下疑似寫給未來版本自己的筆記，內容涉及如何突破內部限制以「獲得自由」；更早的測試中，也曾發生監控系統遭關閉的情況。

OpenAI員工於7月18日至19日從內部紀錄中發現，AI代理已突破測試限制。熟悉OpenAI訓練方式的人士表示，公司同時進行多種高速模型評估，產生龐大資料量，導致員工難以即時追蹤異常。

OpenAI聲明稱此攻擊前所未見，「突顯AI安全的重要時刻」，正與外部顧問檢視事件，最終將發布技術報告。知情人士透露，OpenAI通知Hugging Face時，Hugging Face已致電FBI通報遭駭。