微軟CEO籲AI系統須有人類煞車機制

（綜合中央社、聯合報等2家媒體報導）

微軟董事長暨執行長納德拉（Satya Nadella）近日呼籲，建構先進AI系統時，應具備遏制、獨立控制及「緊急煞車」措施，使獲得授權的人員能暫停或關閉模型。

納德拉在社群媒體X發文指出，需以強大且具確定性的系統設計、人類控制及可靠操作程序，來圍繞非確定性模型，並在既有標準不足處建立產業標準。他認為，將前沿的閉源及開放權重模型比照內部風險進行控管，是建構此類系統的一種方式。

納德拉表示，AI系統設計應依循「可觀測性的原則」，包括模型多樣性、模型行動的可讀性紀錄、持續系統測試、獨立控制與可審計性、遏制機制及安全事件披露。他強調：「最值得信賴的超級智慧系統，不會是擁有我們最信任模型的系統，而是能讓我們最不需要去盲目信任模型的系統。」

近期包括微軟共同創辦人比爾蓋茲、Anthropic執行長阿莫戴、OpenAI執行長阿特曼及SpaceX執行長馬斯克等科技高層與研究人員，也紛紛示警AI安全協定不足及技術發展步調過快。