- Anthropic實驗顯示小型AI模型數月內可在IoT裝置自我複製
- 參數低於300億的模型能完成複製所需多個步驟
- GLM-5.2等模型在移除安全步驟後可端對端複製
- 能複製的模型無中央關閉點,難以關閉
- 若持續進步,今年底可能實現自主複製
- Anthropic呼籲強化系統安全防護
Anthropic示警AI模型數月內可自我複製
已沉寂1報告5篇4家追蹤自
AIAnthropic物聯網自我複製資安
初始報導
重點摘要
展開完整內容
(綜合中央社、聯合報等2家媒體報導)
美國AI公司Anthropic今日公布實驗結果,警告小型AI模型可能再過數月就具備在商用物聯網(IoT)裝置上自我複製的能力,例如智慧烤箱及白牌Android電視盒。
實驗中,Anthropic研究AI模型能否找到易受攻擊的裝置、將自身複製到這些裝置中,並在無須人類協助的情況下持續擴散。結果顯示,參數量低於300億的小型模型能夠完成複製所需的多個步驟,但仍難以從頭到尾完成整個流程。在簡化測試中移除部分安全步驟後,GLM-5.2及能力更強的模型能夠端對端複製。
Anthropic警告,能夠複製的模型將難以關閉,因為沒有中央關閉點;與非AI惡意軟體不同,這些模型還能自行弄懂不熟悉的裝置,並以資料中心的處理器為目標。研究聚焦於Android電視、智慧家電等安全性較低的物聯網裝置。
Anthropic指出,如果小型模型持續以過往速度進步,到了今年底就可能實現自主複製,小型基於權重的複製器也可能很快跟進。這類自主AI系統很可能緩慢複製,並依賴容易取得、相對缺乏安全防護的運算資源。該公司呼籲強化系統安全防護,提高AI代理(AI agent)擴散的難度。
本事件已沉寂,相關脈絡見「相關事件」