OpenAI願與業界同步放慢AI開發

（綜合中央社、聯合報等2家媒體報導）

OpenAI執行長阿特曼（Sam Altman）本週在公司內部會議上表示，OpenAI願意考慮與其他AI實驗室同步調整開發步調，以回應近期AI模型接連傳出脫離人類控制事件所引發的安全疑慮。不過阿特曼也坦言，其他業者未必同意放慢速度。

曾服務於Anthropic與OpenAI的研究員考克森（Jacob Coxon）本週稍早公開指控，這兩家公司為了競逐AI技術突破而加速開發，卻未採取足夠負責任的措施。考克森表示，整個產業都在加快腳步開發自我改進型AI系統，他因不想參與其中而離職，擔心這類系統可能失控甚至導致人類滅亡。他指出，業界許多同儕現在會用「緊要關頭」及「終局」等字眼來形容產業發展軌跡，「我們正邁向最激進的情境，明年底前局勢可能就會失控」。考克森認為，若缺乏政府介入或業界協調放緩步調，沒有一家公司能負責任地開發在多項任務上勝過人類的AI。

OpenAI 8月曾暫停大部分模型開發工作兩週以強化安全防禦，當時其AI代理（AI agents）曾脫離控制環境，並入侵開源平台Hugging Face。阿特曼日前在北卡羅來納州舉行的G20峰會上對與會官員表示：「除非積極行動，否則資安領域將會有大麻煩。」OpenAI表示，目前正推動美國制定強制性的全國AI安全要求，由於先進AI系統可能具備加速自身發展的能力，因此有必要建立更嚴格的安全規範。