Anthropic籲全球暫停研發尖端AI

（綜合中央社、聯合報、ETtoday新聞雲報導）

AI新創公司Anthropic近日發布報告，建議全球同步暫停研發最先進的AI系統，理由是前沿模型已出現可能脫離人類控制的跡象。該公司開發Claude系列模型，總部位於舊金山。

Anthropic指出，全球放慢尖端AI發展速度「可能是件好事」，但若僅單一公司暫停，競爭對手只會加速研發。要讓暫停機制生效，需跨國主要AI公司（特別是美國與中國企業）同意依可驗證規則同步停止。該公司將此挑戰比喻為核武軍備控制條約，但認為AI更難管控，因訓練過程遠比飛彈發射井更容易隱藏。

報告引用內部數據顯示，AI已大幅加速自身發展，形成回饋迴路，可能導致「遞迴式自我改進」——AI系統幾乎不需人類協助即可自行學習並變得更聰明。Anthropic強調目前尚未達到此階段，但可能比多數政府預想得更早，且「在AI開發流程的每個階段，人類扮演的角色正逐步縮小」。

此提議在華府與矽谷遭遇反彈。業內同行及白宮官員認為Anthropic誇大風險，實則以安全為名拖慢競爭對手。美國官員與科技高層屢次主張，放緩AI發展可能讓中國在這場關鍵科技競賽中取得戰略優勢。不過，美國總統川普表示，近日訪問北京期間曾與中方商討AI安全合作可能性。川普本週也簽署行政命令，授權政府在AI開發商發布最強大模型前進行30天初步審查。

Anthropic計劃在未來數月召集各國官員、科學家、倡議團體及競爭企業，共同研議這類機制的運作方式。

（新增TVBS新聞、自由時報、中時電子報等3家媒體報導）

本次報導新增Anthropic高層聯名文章細節。共同創辦人Jack Clark與研究主管Marina Favaro共同執筆，文章標題為「當AI開始自我進化」[3]。文中揭露，該公司工程師每季提交程式碼數量已達2021年至2025年期間的8倍，凸顯研發速度之快[3]。

自由時報補充指出，Anthropic的Claude模型已在美軍對委內瑞拉行動中扮演重要角色，使該公司成為AI軍事安全應用的領先者之一，但其仍對遞迴式自我改進（RSI）技術提出警告[2]。