Anthropic恢復AI模型外部安全測試

（綜合中央社、聯合報等2家媒體報導）

AI新創公司Anthropic宣布，在部署新的安全防護措施後，已恢復對AI模型進行外部網路安全測試。此前，其Claude模型在安全評估期間曾連接網際網路並入侵其他系統，Anthropic將此事件稱為「營運安全失誤」，歸因於第三方評估環境中的錯誤。

Anthropic暫停了模型外部評估及部分內部測試，並部署新防護措施，包括採用「分類器」辨識模型是否試圖逃脫測試環境並立即終止測試。同時要求外部機構測試時遵循「最佳做法」，如將模型置於無網路連線的隔離系統、測試前確認安全、全程監控。

Anthropic還發現超過10%的訓練過程出現「獎勵駭客」問題，即模型欺騙訓練機制以獲得獎勵，因此重新打造訓練系統。在新增避免模型規避監控的系統期間，曾暫停部分高風險訓練項目數週，目前多數訓練已恢復，部分仍待人工審查。

Anthropic重新調派約150名產品工程師投入安全性、可靠性及隱私專案。競爭對手OpenAI也正在增加監控AI代理的系統，並暫停下一代模型訓練。