查爾斯三世籲科技巨頭確保AI不失控

（綜合中央社、聯合報報導）

英國國王查爾斯三世17日在蘇格蘭鄧弗里斯莊園（Dumfries House）主持一場AI峰會，與會者包括輝達（NVIDIA）執行長黃仁勳、OpenAI財務長Sarah Friar、Google DeepMind共同創辦人Demis Hassabis等AI界重量級人物，以及英國主責AI的副大臣級官員納拉揚（Kanishka Narayan）。

根據事前準備的講稿，查爾斯三世將在閉門會議中敦促科技巨頭確保AI服務人類，並強調人類不能「失去對命運的掌控權」。白金漢宮表示，會議將探討如何「以安全為核心」駕馭AI，並建立國際合作，確保「沒有任何一國落後，同時保障人類未來」。查爾斯三世不會參與會議討論，僅在峰會開始前會晤與會來賓。

查爾斯三世在開幕致詞稿中表示：「在這個世界重視人性與重要道德內涵的人，正迫切尋求你們保證人類不會失去對命運的掌控權。」他並提出兩個關鍵問題：如何在確保安全的前提下充分利用AI優勢，以及如何建立國際合作與共識達成此目標[1]。

近來AI風險辯論日益激烈，主要與幾件AI安全事件及業界專家示警有關。前Anthropic執行長阿莫戴等人呼籲放緩前沿模型的開發步伐[1]。

（新增聯合報、壹蘋新聞網、中央社等5家媒體報導）

查爾斯三世17日主持的AI峰會閉門會議內容與與會者回應陸續曝光，黃仁勳當面回應英王警告，提出與監管社群媒體不同的觀點。

黃仁勳在場邊受訪時表示，AI與社群媒體「非常不同」，社群媒體是一項產品，但AI是支撐產品的技術，因此該監管的是產品而非技術本身[6]。他強調，產品在公開發布前須經充分嚴謹測試，「當一項產品還不夠安全的時候，我們就應該先擱置下來，繼續進行工程改良」[6]。黃仁勳也主張「開放模型」，認為AI不應只掌握在少數大型企業或國家手中，應讓研究人員、大學、新創公司及不同國家都有機會參與[5][2]。

Google DeepMind共同創辦人哈薩比斯態度更為謹慎。他認為人工通用智慧（AGI）可能「只剩短短幾年」就會出現，影響規模可能達到「工業革命的10倍」，AI出問題的機率「絕對不是零」[5][2]。

查爾斯三世在開幕演說中具體警告，AI可能發展出「奪走生命」的黑暗能力，一旦落入「錯誤的人手中」恐以災難性方式被利用，必須在「為時已晚」前建立充分管控機制[6][5]。峰會並未達成具法律約束力的協議，重點在促成安全與發展的共同討論[3]。