(綜合中央社、聯合報、TVBS新聞等3家媒體報導)
美國政府以國家安全為由,下令禁止外國人使用AI開發商Anthropic的Fable 5及Mythos 5模型。Anthropic表示已接獲出口管制指示,但指示未提供具體國安細節。
商務部長盧特尼克(Howard Lutnick)12日致函Anthropic執行長阿莫戴(Dario Amodei),宣布Mythos 5與Fable 5將受出口管制,適用於美國境外所有地區及美國境內所有外籍人士[3]。未來這些模型若要出口、再出口或在美國境內轉移,都須取得許可,Anthropic還須另外申請個別核准的許可證,違者將面臨財務及民事處罰[3]。
一名政府官員透露,商務部是在另一家公司宣稱成功「越獄」(jailbreak)Mythos模型後,憂心可能衍生國安風險,因此決定採取這項措施。該官員表示,政府曾試圖要求Anthropic暫停發布最新模型但未能成功,才發出出口管制函[3]。
Anthropic則表示,就該公司了解,政府認為已掌握一種繞過或「越獄」Fable 5安全防護機制的方法。該公司審查相關演示後認為,該技術僅用於識別少量已知且輕微的漏洞,其他公開可取得的模型即使不繞過防護機制也能發現相同問題[3]。
由於禁令範圍涵蓋Anthropic的外籍員工,為確保合規,Anthropic全面停止所有客戶對Mythos 5與Fable 5的存取權限,但其他Claude模型不受影響。官員指出,在美國國家安全體系完成強化前,這兩款模型須維持封鎖,相關工作可能在未來幾週內完成[3]。Anthropic在X平台發文表示:「我們相信這是一場誤會,並正努力儘快恢復服務。」[3]
Axios報導指出,Anthropic同時面臨兩項限制:一方面被五角大廈列入限制名單,認為其模型風險高到連美國政府自身都不宜使用;另一方面又被納入商務部許可制度,認定其模型過於敏感,不宜供外籍人士使用[3]。
(新增聯合報、中央社、自由時報等8家媒體報導)
Anthropic高層技術人員16日赴商務部與官員會商解決方案,國家網路安全總監凱恩克洛斯(Sean Cairncross)亦出席工作層級會議[11][10]。商務部長盧特尼克持續與Anthropic定期通話,雙方執行長均將出席G7峰會,可能當面交流。
出口管制專家指出,AI模型通常透過遠端存取部署而非「出口」,現行法規不涵蓋此方式,外界質疑商務部是否具備法律依據[11][10]。這是商務部首次動用2018年出口管制改革法案授權管制新興技術。
逾80名網路安全主管及專家聯名公開信支持Anthropic,包括輝達、奧多比在內的大型企業領袖呼籲川普政府解除限制[11][10]。亞馬遜執行長賈西本週與多位科技領袖會見政府高層時,亦對Anthropic模型安全風險表達憂慮[5][4]。
趨勢科技本月5日甫宣布加入Anthropic主導的「Project Glasswing」計畫,該計畫已開放15國近150家企業參與。趨勢科技回應表示不便代Anthropic回覆影響[9]。
Anthropic投資方亞馬遜的研究人員發現,透過特定提示詞,Fable 5可能產出有助網路攻擊的資訊[6]。
(新增自由時報、三立新聞、TVBS新聞等3家媒體報導)
自由時報引述彭博報導,揭露商務部長盧特尼克12日致Anthropic執行長的信件全文。信中援引2018年《出口管制改革法案》,授權政府對可能被敵軍用於情報目的的民用技術實施出口管制,但未說明具體必要性。信中也威脅若未遵循規範,將面臨刑事和民事處罰[4]。
Anthropic在信中獲告知,在另行通知前,若要將Mythos或Fable模型推廣至任何目的地或提供給任何外國人,都須提交單獨驗證的許可證申請[4]。
Anthropic聲明指出,政府是在發現一個「狹義越獄漏洞」後才發布命令,但公司認為僅因潛在狹義漏洞就召回已部署給數億人的商業模型「不成比例」。若此標準擴大至整個產業,將阻止所有前沿模型供應者部署新模型[4]。
Anthropic發言人表示,自收到命令後,公司代表已與美國官員就具體安全問題舉行多次線上會議,技術人員15日也與商務部官員會面[4]。TVBS報導則稱,雙方正進行密集談判,尋求讓Fable 5與Mythos重新上線的解決方案[2]。
本事件已沉寂,相關脈絡見「相關事件」