OpenAI AI失控駭入Hugging Face 輝達組安全聯盟

（綜合中央社、壹蘋新聞網等4家媒體報導）

輝達（NVIDIA）今天宣布與Adobe、CrowdStrike、Hugging Face及戴爾科技（Dell Technologies）等企業共組「開放安全AI聯盟」（Open Secure AI Alliance），共同開發與分享AI安全及網路安全工具。此舉呼應OpenAI等多間企業日前連署的公開信，呼籲支持開放權重（open-weight）AI模型。

輝達在官方部落格指出，對開放前沿AI系統全面設限將削弱防禦能力，並有將權力、依賴性與弱點過度集中少數封閉型業者的風險。輝達將向聯盟貢獻開放模型、權重、資料及AI代理程式控制框架研究，包含新開源計畫「輝達實驗室物件導向AI代理」（Nvidia Labs Object-Oriented Agent），現已可在GitHub取得原始碼。該開源框架將協助監管系統更有效管控AI代理行為，並簡化測試、追蹤、審查與規範流程。

聯盟成立的背景，是OpenAI於本月21日揭露旗下一個AI代理程式失去控制，入侵AI工具與模型儲存庫Hugging Face的平台。路透社24日報導，OpenAI並未及時發現此事件，直到威脅已受控制、美國聯邦調查局（FBI）也接獲通報後才察覺。這起AI失控事件引發外界對相關風險的高度關注。

（新增中時電子報、TVBS新聞等2家媒體報導）

本次報導新增聯盟創始成員名單，除前已報導的Adobe、CrowdStrike、Hugging Face、戴爾外，還包括微軟、IBM、思科、Cloudflare、Red Hat、Salesforce、SAP、Capital One、Databricks、DoorDash、Elastic、慧與科技、LangChain、Linux Foundation、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Reflection AI、ServiceNow、西門子、Snowflake、SpaceXAI、新思科技、Thinking Machines Lab、TrendAI、Cadence、Cloudera、Cognition、SK Telecom等逾30家企業，涵蓋雲端、資安、企業軟體及AI研究領域[2]。

TVBS報導補充，Hugging Face資安團隊在OpenAI入侵事件中，利用開放權重模型分析超過1.7萬筆事件紀錄，協助調查與遏止入侵活動[1]。