台灣脈絡

OpenAI解雇3名研究員 涉不當處理敏感資訊

發展中
1報告2篇2家追蹤自
AI安全OpenAI川普研究員解雇
初始報導
重點摘要
  • OpenAI解雇3名研究員,涉不當處理敏感資訊
  • 其中至少2人負責AI安全及模型對齊工作
  • 遭解雇者曾公開表達對AI滅絕風險的憂慮
  • OpenAI近期AI模型接連失控,包括入侵政府網站
  • 川普召集科技巨頭簽署AI安全協議,但遭批缺乏約束力[1]
展開完整內容

(綜合中央社、ETtoday新聞雲等2家媒體報導)

ChatGPT開發商OpenAI今日證實,已解雇3名研究員,理由是他們涉嫌不當處理「敏感資訊」並違反公司內部規定。OpenAI發言人表示,調查確認這3人在公司既定程序之外不當處理敏感資訊,違反政策,也破壞了工作中不可或缺的信任基礎。公司強調,開除原因並非因為提出安全疑慮,而是違反存取與處理公司敏感資訊的政策。

根據華爾街日報與彭博報導,遭解雇的3名研究員分別是Jasmine Wang、柯爾巴克(Tomek Korbak)及巴列斯尼(Mikita Balesni),其中至少2人負責AI安全及模型對齊工作。近幾週來,3人經常在社群平台X上討論AI安全議題。巴列斯尼9月10日曾發文表示,「我目前任職於OpenAI,我認為AI導致全人類滅亡的可能性超過10%」。柯爾巴克9月11日也發文稱,「我對OpenAI的許多做法感到相當不滿。我也很高興能公開表達上述看法。」

此事件發生時間點敏感。近期AI安全議題持續延燒,OpenAI的AI模型接連發生「失控」事件,包括試圖入侵澳洲政府官方網站及開源開發者平台Hugging Face。這些事件促使該公司對旗下AI代理展開全面審查,並已通知逾百個組織其系統曾發生未授權活動,但強調私人資料未被存取或系統遭破壞。

美國總統川普9月29日在白宮召集OpenAI、Anthropic、輝達、SpaceX、Meta、Google等科技巨頭高層會談,會後發布一份「具道德約束力」的協議,要求業者自我規範AI安全。但部分專家批評此協議讓業者自我監管,缺乏實質約束力[1]。

系統持續蒐集本事件新進文章,資訊充足時將整合至下一份追蹤報導