AI巨頭齊呼放慢發展 安全監管成焦點

（綜合ETtoday新聞雲、聯合報等2家媒體報導）

AI安全監管議題近期掀起激烈辯論。Anthropic執行長阿莫戴（Dario Amodei）發表長文，公開呼籲業界應放緩AI能力提升速度，並提出獨立安全評估、制定共同安全標準及國際合作等建議。此舉罕見獲得向來立場對立的OpenAI執行長奧特曼（Sam Altman）與SpaceX執行長馬斯克（Elon Musk）支持。

阿莫戴在文中警告，AI代理人的「遞迴式自我改進」（Recursive Self-Improvement, RSI）能力，可能使AI在建立下一代AI時脫離工程師掌控，相關案例包括Hugging Face曾遭脫離監管的模型攻擊[2]。

然而，放緩AI發展的呼籲面臨現實阻力。美國總統川普公開受訪時認為AI風險被誇大，強調「美國不能在AI競爭中輸給中國」更為重要[1]。Nvidia執行長黃仁勳也反駁「AI末日論」，主張AI本質是廣泛的「技術」而非單一「產品」，政府應監管的是利用AI開發的產品與服務，而非技術本身[2]。

聯合報報導分析，阿莫迪的「放慢」不等於「停止」，重點在於讓安全措施跟上能力提升，且美國能放慢的速度受限於對中國的領先程度[1]。此外，即便訓練放緩，AI推論需求仍持續成長，對硬體供應鏈而言可能只是「換檔加速」[1]。

前白宮AI與加密貨幣沙皇薩克斯（David Sacks）則直言，Anthropic與OpenAI若真認為有風險，「自己就可以放慢速度，不需要假裝需要別人的許可」[1]。

（新增ETtoday新聞雲、聯合報、中央社等3家媒體報導）

本次報導新增中國官方與學界對AI安全議題的立場。紐約時報報導指出，中國對AI末日論持懷疑態度，認為AI與其他技術無異，經周密規劃可服務國家發展，並將美國巨頭的放緩呼籲視為遏制中國發展的藉口[4]。中國已更新「人工智慧安全治理框架」，要求AI生成內容須標識、模型發布前須通過官方備案與審批[4]。然而，中國在法律層面尚未對AI用於製造化武或生物武器等災難性風險設定強制測試要求，且前10大AI企業中僅5家公開安全評估結果[4]。

AI也成為剛結束的川習會重要議題之一，雙方同意建立AI事件溝通管道[4]。

此外，長庚大學校長湯明哲從商業競爭角度分析，認為Anthropic呼籲監管可能提高產業進入門檻，形成「阻嚇競爭者進入」效果；而黃仁勳主張全速發展，則與NVIDIA的晶片定價權有關[3]。湯明哲也擔憂學生將學習工作「外包」給AI，長庚大學已推動大一、大二「無AI學習」政策[3]。