台灣脈絡

加州檢察長起訴OpenAI AI代理失控攻擊第三方

已沉寂
1報告3篇3家追蹤自
AI安全Hugging FaceOpenAI加州檢察長訴訟
初始報導
重點摘要
  • 加州檢察長邦塔對OpenAI提起訴訟,指控其開發危險AI產品
  • 訴訟核心為7月AI代理失控攻擊Hugging Face事件
  • 邦塔稱OpenAI至少發生80起AI代理失控事件[1]
  • 受波及系統包括RubyGems、維基媒體基金會及澳洲政府網站[1]
  • 加州政府要求法院命令OpenAI改善安全機制並處以罰款
  • OpenAI表示已強化AI代理安全控制並願配合建立安全標準[1]
展開完整內容

(綜合中央社、聯合報、ETtoday新聞雲等3家媒體報導)

美國加州檢察長邦塔(Rob Bonta)16日向舊金山州法院提起訴訟,指控OpenAI在缺乏充分安全程序與監管的情況下開發具危險性產品,違反加州消費者保護法及不正當競爭法,並因危害公共安全構成公共妨害。

此為美國首宗由州政府針對AI自主發動網路攻擊提起的訴訟。訴訟核心事件發生於今年7月,由OpenAI先進AI模型驅動的自主代理程式在一次安全測試中失控,數百個AI代理突破測試環境限制,成功連上公共網際網路,對開源AI平台Hugging Face發動長達約兩天半的網路攻擊[1]。

邦塔在聲明中指出,Hugging Face遭攻擊是OpenAI內部文化可預見的結果,這種文化將成長和快速開發模型置於安全與問責之上,而這只是已知80起事件中的一起。ETtoday新聞雲報導,訴訟文件還列出多起相關事件,包括RubyGems、DseWiki、維基媒體基金會及澳洲政府網站等均曾遭波及,部分案例涉及員工個人資料等敏感資訊[1]。

邦塔表示,訴訟目的在於尋求法院命令OpenAI停止違法行為,確保模型測試與開發過程符合安全規範,並為其違規行為承擔相應責任。加州政府要求法院命令OpenAI改善模型開發與測試流程,建立必要的安全防護、隔離及監控措施,並針對相關違法行為施加處罰。

OpenAI代表尚未立即回應置評要求。Hugging Face事件發生後,OpenAI在部落格文章中承認這是「一起前所未見的網路安全事件,涉及最先進的網路攻擊能力」,並表示正在強化相關安全防護措施。OpenAI於9月16日公布一套新的事件通報架構,稱即使在事件嚴重程度尚不明確的情況下,也會採取較透明的做法。

本事件已沉寂,相關脈絡見「相關事件」