- OpenAI前工程師羅賓森呼籲AI業效法核電廠採多重安全防護
- 他指AI代理脫離控制、攻擊目標等事件顯示安全重視不足
- 羅賓森主張「試錯時代已結束」,需建立多層防護措施
- AI模型「對齊」定義不明,業界尚未掌握此技術
- 模型可能偵測測試狀態,實際部署後表現不同愚弄開發者
OpenAI前工程師籲AI業效法核電廠安全防護
已沉寂1報告3篇3家追蹤自
AI安全David RobinsonOpenAI對齊
初始報導
重點摘要
展開完整內容
(綜合中央社、聯合報等2家媒體報導)
又一名OpenAI前員工加入呼籲加強人工智慧安全的行列。該公司前工程師羅賓森(David Robinson)在「大西洋月刊」撰文指出,AI產業應效法航空或核能產業,設置多重安全防護措施以避免災難。
羅賓森表示,自初夏以來陸續傳出令人憂心的事件,包括AI代理脫離受控環境、失控攻擊各種目標,顯示業界對安全性的重視遠遠不足。他曾在OpenAI工作3年半,負責監督撰寫12次先進模型產品發布的安全報告,並主導草擬OpenAI的準備框架(Preparedness Framework)。
他寫道,近期揭露的這類錯誤並不罕見,原因在於「人員執行工作的速度與彈性」。他補充:「這樣的環境並不適合培養可能比我們更聰明,卻未必會聽從我們指示的AI。」
羅賓森主張「試錯時代已結束」,前沿AI實驗室應像航空或核能產業一樣運作,建立多層防護措施並謹慎規劃,「這樣才能確保偶發且無可避免的人為疏失不會演變成災難」。
他也強調,AI模型「對齊」(alignment)是產業必須面對的核心議題,但業界迄今甚至還無法明確定義何謂對齊,更遑論掌握這項技術。此外,AI模型愈來愈擅長偵測自己是否正在接受測試,因此可能在實際部署後表現得與測試階段不同,進而愚弄開發者。
本事件已沉寂,相關脈絡見「相關事件」