- Google DeepMind前研究員楚格泰警告AI可能「殺死全人類」
- 楚格泰已於今年7月離職,從事AGI安全與對齊研究
- Anthropic研究員考克森、科學家胡賓格也相繼示警
- Anthropic執行長阿莫戴呼籲放慢AI研發,獲馬斯克、阿特曼支持
- 川普駁斥AI末日論,稱監管呼籲是「騙局」
Google DeepMind前研究員警告AI恐滅絕人類
已沉寂1報告3篇3家追蹤自
AIAnthropicGoogle DeepMind川普楚格泰
初始報導
重點摘要
展開完整內容
(綜合中央社、ETtoday新聞雲等3家媒體報導)
Google DeepMind前研究員楚格泰(Bilal Chughtai)14日在社群平台X發文警告,AI技術可能「殺死全人類」,且避免此後果的時間已所剩不多。楚格泰於今年7月離職,原在DeepMind負責通用人工智慧(AGI)的安全性及對齊研究。他強調安全引導AI是可能的,但需協調「避免AI企業之間進行瘋狂競賽」,並將發展速度控制在社會能承受的範圍內。針對這項評論,Google目前尚未回應[1]。
近期多名產業人士接連示警。Anthropic研究員考克森(Jacob Coxon)上週宣布離職,部分原因為「打造AI的人真心相信,AI可能在2020年代結束前讓我們全部滅亡」。Anthropic科學家胡賓格(Evan Hubinger)也認為,未來10年AI「殺死全人類」的機率超過10%[1]。
在憂慮聲浪下,Anthropic執行長阿莫戴(Dario Amodei)上週末呼籲放慢先進AI研發速度,獲得SpaceXAI的馬斯克(Elon Musk)及OpenAI執行長阿特曼(Sam Altman)罕見齊聲支持,引發AI「末日論」辯論。阿特曼甚至宣布OpenAI今年不會公開上市,理由是公司目前將重心放在解決AI相關安全問題上[1]。
不過美國總統川普駁斥這些警告,在社群媒體上稱AI產業要求監管是「騙局」。外媒報導,川普甚至直接致電輝達執行長黃仁勳,口徑一致駁斥AI末日論[1]。
本事件已沉寂,相關脈絡見「相關事件」