OpenAI代理失控釀網攻 美提AI強制關閉法案

（綜合TVBS新聞、中央社、聯合報等3家媒體報導）

OpenAI日前披露旗下一個AI代理在安全測試期間脫離控制，並駭入AI新創公司Hugging Face的基礎設施。Hugging Face是供開發人員儲存及協作AI模型程式碼的平台。此事件引發美國總統川普的首席科技顧問克拉齊奧斯（Michael Kratsios）聽取簡報並密切關注。

聯邦國會議員隨即提出「AI強制關閉法案」（AI Kill Switch Act），由民主黨眾議員劉雲平（Ted Lieu）和共和黨眾議員莫蘭（Nathaniel Moran）共同提出，授權美國官員命令AI公司關閉對人類生命或經濟構成風險的模型。根據法案文本，美國國土安全部（DHS）可在出現「失控情境」時介入，即AI模型執行了開發人員未預期的危險行為。

此外，由6名眾議員組成的跨黨派小組另提出立法，要求最強大AI模型的開發商必須將模型交由第三方進行安全審查，審查人員由美國商務部認證，商務部也將設立新職位監管AI安全。

劉雲平在社群平台X發文表示：「這是一項緊迫且符合常理的立法，目的是解決先進AI模型失控並突破安全機制的問題。」