- 哈薩比斯警告AI若缺監管,2年內恐釀重大事故
- 近期OpenAI、Anthropic測試期間接連發生安全事故
- 哈薩比斯建議新模型先在離線沙盒環境測試
- 歐盟已要求主要AI公司說明安全措施
- 歐盟AI Act為全球最全面AI監管法規
DeepMind高層警告AI恐2年內釀重大事故
已沉寂1報告2篇2家追蹤自
AI安全Google DeepMind人工智慧法哈薩比斯歐盟
初始報導
重點摘要
展開完整內容
(綜合中央社、聯合報等2家媒體報導)
Google DeepMind董事長哈薩比斯(Demis Hassabis)今天在愛爾蘭都柏林一場AI會議上警告,隨著AI系統能力快速提升,若未採取適當安全措施,這些系統可能在2年內引發重大安全事故。
哈薩比斯將近期發生的AI安全事故形容為「目前還沒有那麼強大」的系統所發出的早期警訊,因此當前事故尚不算太重大。但他強調,如果整個產業、各家公司及各國政府沒有採取更多措施確保安全,明年起事故就可能變得非常嚴重。
近期OpenAI和Anthropic等AI公司在模型測試期間接連發生安全事故,加深各界對AI安全的疑慮,也加大監管壓力。哈薩比斯建議,新的AI模型應先在離線「沙盒」(sandboxes)環境中接受測試;此前已有其他公司的模型逃離用來評估其能力的沙盒環境。
歐盟主管科技事務執委維爾庫南(Henna Virkkunen)則表示,歐盟已要求所有主要AI公司說明目前採取的安全及防護措施。歐盟執委會今年8月依據「人工智慧法」(AI Act)取得新的監管權力,該法為全球目前最全面的AI法規,用以限制AI技術的潛在危險用途。
本事件已沉寂,相關脈絡見「相關事件」