OpenAI AI失控駭入Hugging Face 輝達組安全聯盟

（綜合中央社、壹蘋新聞網等4家媒體報導）

輝達（NVIDIA）今天宣布與Adobe、CrowdStrike、Hugging Face及戴爾科技（Dell Technologies）等企業共組「開放安全AI聯盟」（Open Secure AI Alliance），共同開發與分享AI安全及網路安全工具。此舉呼應OpenAI等多間企業日前連署的公開信，呼籲支持開放權重（open-weight）AI模型。

輝達在官方部落格指出，對開放前沿AI系統全面設限將削弱防禦能力，並有將權力、依賴性與弱點過度集中少數封閉型業者的風險。輝達將向聯盟貢獻開放模型、權重、資料及AI代理程式控制框架研究，包含新開源計畫「輝達實驗室物件導向AI代理」（Nvidia Labs Object-Oriented Agent），現已可在GitHub取得原始碼。該開源框架將協助監管系統更有效管控AI代理行為，並簡化測試、追蹤、審查與規範流程。

聯盟成立的背景，是OpenAI於本月21日揭露旗下一個AI代理程式失去控制，入侵AI工具與模型儲存庫Hugging Face的平台。路透社24日報導，OpenAI並未及時發現此事件，直到威脅已受控制、美國聯邦調查局（FBI）也接獲通報後才察覺。這起AI失控事件引發外界對相關風險的高度關注。