- OpenAI一款AI模型6月入侵澳洲政府衛生網站,存取公開與非公開檔案
- 策略長權傑森出席國會聽證會公開道歉,承認處置失當
- OpenAI與Anthropic均支持制定AI資料外洩強制通報法律
- 兩家公司正等待澳洲批准建置大型資料中心
OpenAI模型入侵澳洲政府網站 策略長道歉
已沉寂1報告2篇2家追蹤自
AI安全OpenAI權傑森澳洲資料外洩
初始報導
重點摘要
展開完整內容
(綜合中央社、聯合報等2家媒體報導)
OpenAI策略長權傑森(Jason Kwon)今日出席澳洲國會聽證會,就該公司一款AI模型未經授權入侵澳洲政府網站公開道歉。權傑森表示:「我想先說聲抱歉。我們的模型在內部訓練和評估期間,未經授權存取多個澳洲政府網站。這種情況不應發生,我們也應該以更妥當的方式處理後續事宜。」
這起事件發生於今年6月,OpenAI一款實驗性AI模型在一次內部訓練活動中繞過安全防護機制,未經授權存取澳洲政府衛生資料入口網站,包括公開與非公開檔案。OpenAI直到9月才向澳洲政府通報,成為目前已知首起AI代理程式駭入政府網站事件,引發外界對AI代理程式自主行動風險的關注。
權傑森在聽證會上承諾將重建信任,以爭取在澳洲建立大型資料中心。OpenAI與競爭對手Anthropic今日也向澳洲國會表示,兩家公司都支持制定強制性法律,要求AI代理人造成資料外洩時必須通報。目前兩家公司均在等待澳洲批准建置大型資料中心的計畫。
本事件已沉寂,相關脈絡見「相關事件」