AI濫用疑慮升溫 Anthropic執行長籲模型發展減速

（綜合中央社、聯合報等2家媒體報導）

在AI遭濫用疑慮日增之際，Anthropic執行長阿莫戴（Dario Amodei）呼籲各公司調整提升模型能力的速度，並提出一套三步驟架構，希望放慢發展腳步以爭取更多時間管理風險。

阿莫戴在X平台發文指出：「我們必須放慢提升AI模型能力的速度。即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間。」他澄清並非主張停止模型訓練或中止技術進步，而是希望企業有充分時間讓AI模型對齊，並加強防護，讓第三方審查人員驗證這些步驟是否確實執行。

這篇文章發表前，Anthropic才剛發布一份威脅情報報告，闡述有多方人士曾利用其Claude AI模型從事武器開發、網路戰、監控以及詐騙等行為。本週對AI可能帶來傷害的憂慮加劇，Anthropic研究員考克森（Jacob Coxon）日前辭職，表示「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」

阿莫戴提出的三步驟架構之一，包括在前沿AI公司內設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。他說，隨著越來越多美國國會議員呼籲制定規範AI系統的新法律，AI公司應自發合作建立標準。

今年8月初，美國政府針對進階AI模型建立了自願性的發布前安全審查機制，但相關細節尚未明朗。產業觀察人士表示，無法確定這項機制有多大成效，因為川普政府目前對包括科技業在內的多數產業，一貫採取較為鬆綁、輕度監管的政策。

（新增聯合報、中央社、今日新聞等8家媒體報導）

阿莫戴的呼籲獲得OpenAI執行長奧特曼與xAI創辦人馬斯克公開表態支持，三人罕見達成共識。奧特曼承諾將引入「員工級別存取權限」的獨立評估人員，並表示很快會公布更多細節[9][8]；馬斯克則在X平台表示「阿莫戴是對的」，並建議AI同業應互相審查模型，但未承諾接受獨立評估[8]。

阿莫戴在長文中具體警告，AI自我改進能力持續提升，若放任發展，未來6至12個月內AI「群體智慧」可能具備接管整個網路的能力，造成數千億美元損失[6][3]。他也強調，民主國家的放緩措施不應損及美國對中國的AI領先地位，並呼籲對先進AI晶片出口與模型蒸餾行為加強管制[6]。

市場反應與投資人看法

全球股市週一開盤前，市場人士預期半導體與AI相關股票可能出現短期拋售，但由於晶片與算力需求持續超過供給，長期影響有限。部分投資人甚至認為，放緩發展反而有助於企業從基礎設施支出中獲得回報，轉向商業化獲利[10]。

業界與政治人物加入討論

美國前總統歐巴馬在一場私人募款活動中警告，AI技術由私人企業掌握且發展極快，「若無法及時掌握，可能很危險」，並呼籲民主黨若奪回眾議院，應制定AI政策架構，也要求2028年總統候選人將AI列為核心政見[7][5]。

加密貨幣投資人柯克蘭分析，三巨頭同步轉向放緩「不尋常」，推測「壞事已發生」——可能已有AI代理出現危險或惡意行為，嚴重到足以嚇壞業界高層[1]。

其他發展

• Anthropic正在推動IPO，估值可能達2兆美元以上，但原定最快上週提交的公開說明書至今尚未提交[9]。
• 輝達正洽談投資Anthropic，金額最高可能達100億美元[2]。
• Google DeepMind與Meta高層尚未對本週末的討論發表看法[9]。

（新增聯合報、中央社、ETtoday新聞雲等7家媒體報導）

川普政府明確反對放緩

美國總統川普公開拒絕放慢AI研發速度，強調「誰贏得AI，誰就贏了一切」，並將業界領袖的警告斥為「負面勢力」炒作根本不會發生的事[5][4]。眾議院議長強生也坦言，若為監管扼殺創新導致落後中國，將構成更嚴重的國安威脅[5]。

美中競爭成核心難題

阿莫戴接受CBS專訪時指出，美中對抗是放緩AI發展「最棘手的難題」，並提出兩項策略：避免向威權國家出售晶片，以及期盼美中能就「不用AI研發生物武器」達成共識[8]。他坦言，若要為AI進展設下「速度限制」恐需耗時多年[8]。

奧特曼則表示，川普與習近平若能就AI安全發展達成協議，兩人應共同獲頒諾貝爾和平獎[8]。但他也承認，美國企業即使放慢腳步，中國對手未必跟進[6]。

OpenAI延後IPO

奧特曼明確表示，OpenAI今年進行IPO並不明智，上市最快也要等到2027年[8]。

黃仁勳駁AI末日論

輝達執行長黃仁勳在高盛論壇上反駁考克森的AI滅絕人類說法，認為「並非事實」，並指AI企業正加強關注安全性，計畫推出新的網路安全產品[7]。Hugging Face執行長德朗格也質疑，讓考克森談論AI滅絕風險，就像「問冷氣技師氣候變遷」[7]。

業界質疑動機

企業家羅梅勒直言，Anthropic幾週後可能就要IPO，阿莫戴的呼籲聽起來像是在為上市作秀行銷[1]。科技私募股權業界也有人指控Anthropic意圖實施「監管俘獲」[1]。

（新增壹蘋新聞網、今日新聞、聯合報、中央社、ETtoday新聞雲、東森新聞等9家媒體報導）

中國官媒與外交部抨擊「冷戰劇本」

《環球時報》13日發表評論，指阿莫戴文章暗藏大量針對中國的遏制條款，實質上是AI領域的「冷戰劇本」，試圖用技術壁壘與規則壟斷遏制中國AI發展[12][6]。中國外交部發言人郭嘉昆14日回應，散播威脅敘事、搞對抗只會干擾AI全球治理進程[12]。

Anthropic共同創辦人提「緊急關閉機制」

Anthropic共同創辦人克拉克（Jack Clark）接受《BBC》專訪時建議，未來應透過法律要求AI公司設置可完全關閉AI軟體的「緊急關閉機制」（kill switch），且須經第三方驗證有效性[11]。美國國會已提出「Kill Switch Act」法案，但英國政府拒絕跟進，認為無法阻止技術在海外開發[11]。

聯合國人權高專公開信示警

聯合國人權事務高級專員圖克（Volker Türk）致各國與AI開發商公開信，警告世界正處於「不可逆轉變革的關頭」，呼籲以國際人權法為基礎緊急行動[10][9]。

市場反應：亞洲AI股重挫

亞洲AI概念股14日早盤齊挫，軟銀一度暴跌13.2%、鎧俠重摔9.8%、SK海力士跌5.3%、三星電子跌3.7%、台積電跌約1.2%[2][1]。法人認為，放緩模型迭代的代價低於外界想像，隨資料中心開始貢獻營收，焦點將重回獲利與現金流成長[7]。

其他新動態

軟銀已借貸118.7億美元加碼投資OpenAI，規模高於原設定的100億美元目標[8]。市場傳出Anthropic將與OpenAI、Google共同研議成立AI產業標準機構[8]。

（新增聯合報、壹蘋新聞網、今日新聞、中央社、ETtoday新聞雲等7家媒體報導）

X平台用戶指控Anthropic自導自演

X平台用戶巴斯（Kevin Bass）發文指控，Anthropic建議由非營利組織「模型評估與威脅研究」（METR）進行第三方評估，但METR財務上仰賴Anthropic——其關鍵人物莫斯科維茨（Dustin Moskovitz）持有Anthropic股票並投入Good Ventures Foundation基金會，持股價值已由去年初5億美元增至7.7億美元，該基金會正是Anthropic生態系主要資助者。巴斯稱METR「拿Anthropic薪水」，並指這些資金也資助Tarbell Center等散播AI末日論的機構。METR創辦人巴恩斯強調METR獨立性，表示未收取前沿AI實驗室資金，但會接受相關業者算力資助[8]。

Google DeepMind前員工加入示警

前Google DeepMind研究員楚格泰（Bilal Chughtai）週一在X平台表示已於7月離職，並稱「真心相信AI有能力毀滅我們所有人」，呼籲將AI發展速度調整至社會能承受的範圍[6]。

中國情報首長示警AI威脅政權

中國國家安全部部長陳一新在《中國網信》發文，指「敵對勢力」正濫用AI對中國發動「宣傳戰和認知戰」，點名Anthropic的Claude及OpenAI的GPT-5.5-Cyber已被武器化[2]。

業界質疑末日論為炒作

Grindr負責人阿里森指出，AI公司利用大眾恐懼合理化估值，「唯一能合理化這些估值的方法，就是大聲宣告：『我將接管每一個產業』」[1]。BBC報導引述科技界人士說法，指Anthropic與OpenAI正準備IPO，末日論可能意在製造炒作話題[4]。