台灣脈絡

Google DeepMind前研究員警告AI恐滅絕人類

已沉寂
1報告3篇3家追蹤自
AIAnthropicGoogle DeepMind川普楚格泰
初始報導
重點摘要
  • Google DeepMind前研究員楚格泰警告AI可能「殺死全人類」
  • 楚格泰已於今年7月離職,從事AGI安全與對齊研究
  • Anthropic研究員考克森、科學家胡賓格也相繼示警
  • Anthropic執行長阿莫戴呼籲放慢AI研發,獲馬斯克、阿特曼支持
  • 川普駁斥AI末日論,稱監管呼籲是「騙局」
展開完整內容

(綜合中央社、ETtoday新聞雲等3家媒體報導)

Google DeepMind前研究員楚格泰(Bilal Chughtai)14日在社群平台X發文警告,AI技術可能「殺死全人類」,且避免此後果的時間已所剩不多。楚格泰於今年7月離職,原在DeepMind負責通用人工智慧(AGI)的安全性及對齊研究。他強調安全引導AI是可能的,但需協調「避免AI企業之間進行瘋狂競賽」,並將發展速度控制在社會能承受的範圍內。針對這項評論,Google目前尚未回應[1]。

近期多名產業人士接連示警。Anthropic研究員考克森(Jacob Coxon)上週宣布離職,部分原因為「打造AI的人真心相信,AI可能在2020年代結束前讓我們全部滅亡」。Anthropic科學家胡賓格(Evan Hubinger)也認為,未來10年AI「殺死全人類」的機率超過10%[1]。

在憂慮聲浪下,Anthropic執行長阿莫戴(Dario Amodei)上週末呼籲放慢先進AI研發速度,獲得SpaceXAI的馬斯克(Elon Musk)及OpenAI執行長阿特曼(Sam Altman)罕見齊聲支持,引發AI「末日論」辯論。阿特曼甚至宣布OpenAI今年不會公開上市,理由是公司目前將重心放在解決AI相關安全問題上[1]。

不過美國總統川普駁斥這些警告,在社群媒體上稱AI產業要求監管是「騙局」。外媒報導,川普甚至直接致電輝達執行長黃仁勳,口徑一致駁斥AI末日論[1]。

本事件已沉寂,相關脈絡見「相關事件」