台灣脈絡

OpenAI前員工控資安漏洞 高層會議室遭裝竊聽器

已沉寂
1報告2篇2家追蹤自
ChatGPTOpenAI人工智慧竊聽資安
初始報導
重點摘要
  • 員工早在ChatGPT問世前就曾警告資安漏洞,但管理層更重視競爭
  • 程式碼集中存放於Monorepo,員工權限過寬可查看無關專案
  • 前工程師涉嫌在高層會議室裝竊聽器,遭聯邦逮捕
  • Hacktron AI利用Anthropic模型入侵員工ChatGPT帳號
  • OpenAI稱已調派四分之一工程師強化資安
展開完整內容

(綜合ETtoday新聞雲、民視新聞等2家媒體報導)

OpenAI近期接連爆發資安爭議,包括前工程師涉嫌在高階主管會議室安裝竊聽裝置,以及內部系統遭資安研究人員入侵。多名知情人士透露,早在2022年底ChatGPT問世前,員工就曾向高層及董事會反映資安疑慮,但管理層更重視與Google、Anthropic等競爭對手較勁,而非優先解決安全問題。

知情人士指出,OpenAI將大部分程式碼集中存放在「Monorepo」(單體程式碼儲存庫),員工只要具備存取權限,就能查看與自身工作無關的敏感專案,增加技術外洩風險。隨著AI代理程式技術進步,過去因架構龐大複雜而難以分析的資料,如今已能被快速搜尋。此外,OpenAI過去也將不少研究文件存放在GitHub與Slack等平台,員工擔心只要有人刻意搜尋,就可能找到重要資訊。

另有3名熟悉內部運作的人士透露,公司部分內部工具缺乏定期安全審查機制,包括研究人員用來對新模型進行壓力測試的「沙盒」(Sandbox)環境。員工經常依工作需求修改這些工具,但部分修改未經完整安全測試,可能留下漏洞[1]。

今年10月,35歲沙烏地阿拉伯籍前工程師阿爾福贊(Abdulrahman Alfozan),涉嫌將錄音裝置藏在衛生紙內,放置於高階主管會議室,遭美國聯邦執法人員逮捕。他另被指控利用公司內部AI工具,搜尋高層與沙國官員會面的相關資訊[2]。資安公司Hacktron AI今年7月也曾利用Anthropic的AI模型,入侵多名OpenAI員工的ChatGPT帳號,取得部分內部系統存取權限[2]。

今年4月離職的前研究員德普(Will DePue)批評AI產業競爭激烈,企業領導者不願為了安全犧牲開發速度,「對他們而言,快速前進比確保安全更加重要」[2]。

OpenAI發言人魏德曼(Elana Widmann)強調,公司是全球最常遭受攻擊的組織之一,已投入大量資源防範內部人士、駭客及國家級攻擊,敏感模型資料設有嚴格存取限制。公司近期已調派約四分之一的工程師強化資安,並由首席資訊安全長斯塔基(Dane Stuckey)領導安全團隊,定期對內部工具進行安全審查[1]。

本事件已沉寂,相關脈絡見「相關事件」