- Anthropic報告揭露葉門據點用Claude開發飛彈
- 用戶曾試射導引火箭彈,失敗後回頭問AI原因
- 用戶透過拆分對話等規避戰術繞過安全防護
- 青年運動否認指控,稱武器全為防衛用途
葉門反抗軍用Claude研發飛彈 試射失敗
已沉寂1報告4篇3家追蹤自
AIAnthropicClaude胡塞組織葉門青年運動
初始報導
重點摘要
展開完整內容
(綜合ETtoday新聞雲、今日新聞等2家媒體報導)
美國AI新創企業Anthropic於10日發布最新全球平台濫用報告,揭露葉門北部據點有用戶試圖利用旗下AI模型Claude開發先進武器。報告涵蓋去年12月至今年8月的調查發現。
報告指出,該據點曾進行3項武器計畫,包括多種型號的高超音速滑翔飛彈,以及利用手機硬體在飛行途中調整航向的彈頭。用戶還透過Claude Code取代人類軟體工程師,研發導航與控制軟體。
雖然Anthropic的安全防禦機制攔截了許多違規請求,但公司承認並非所有請求都被成功阻擋。用戶採取規避戰術,包括隱藏真實意圖、掩飾軟體最終用途,並將開發工程拆分至多個獨立對話工作階段,確保單一對話不會洩露完整武器開發全貌。
該組織曾進行一次導引火箭彈試射,最終以失敗告終。值得注意的是,在試射失敗後的數小時內,用戶隨即重新登入Claude,試圖利用AI分析並釐清失敗的技術原因。這也讓Anthropic得以掌握確切情況,並在識別出帳號後加以封鎖。
Anthropic並未公布使用者身分,但葉門北部山區由獲伊朗支持的「青年運動」(Houthi,又譯胡塞武裝)控制。報告中提及的其他濫用案例,還包括科學家試圖利用Claude進行可能助長生化武器研發的研究、與伊朗相關的個人試圖追蹤中東地區的美國海軍艦艇,以及疑似馬利國家情報機關的顧問嘗試打造國內大眾監控系統。
針對報告,青年運動政治局成員阿薩德(Hazam al-Assad)否認指控,強調依賴開放資源發展軍事能力「不合理也不符邏輯」,並宣稱該組織已具備現代化、多元化的生產能力與技術,所有武器均用於防衛用途。
本事件已沉寂,相關脈絡見「相關事件」