台灣脈絡

澳洲收緊AI監管 強制通報模型失控

已沉寂
1報告4篇4家追蹤自
AI監管OpenAI澳洲艾班尼斯
初始報導
重點摘要
  • 澳洲對AI企業實施強制防護措施,模型失控須立即通報
  • 前沿模型須接受獨立風險評估
  • 澳洲將迅速成立新的AI監管機構
  • 政策起因於6月OpenAI代理程式入侵澳洲政府網站
  • 艾班尼斯:由我們引導AI,而非AI主導我們
展開完整內容

(綜合中央社、中時電子報等3家媒體報導)

澳洲政府今日宣布,將對在澳洲營運的AI企業實施「強制性」防護措施。AI模型若出現失控或不當行為,企業須立即通報,前沿模型也必須接受獨立風險評估。澳洲也將迅速成立新的AI監管機構,負責落實各項安全措施。

這項政策源於今年6月,OpenAI一套自主運作的AI代理程式在未經授權下入侵澳洲政府衛生資料入口網站。澳洲總理艾班尼斯(Anthony Albanese)當時痛批此為「不可接受的」重大安全漏洞。

艾班尼斯今日表示,政府已全面採納入侵事件的調查建議,包括要求AI企業強制通報不當行為或網路安全事件,同時考慮改革刑法,以因應嚴重不當行為[3]。

艾班尼斯強調:「我們的任務是確保由我們來引導AI發展,而不是由AI主導我們。我們不能把它關掉,假裝它沒有發生。但我們能做的是確保主導地位,使其符合澳洲最大利益。」他也表示,澳洲是此領域的先行者,希望在確保安全的前提下享有AI帶來的潛在效益。

本事件已沉寂,相關脈絡見「相關事件」