聯合國專員警告AI構成空前威脅

（綜合中央社、聯合報等2家媒體報導）

聯合國人權事務高級專員圖克（Volker Turk）今天在聯合國人權理事會發言，警告人工智慧（AI）可能對人類構成「生存威脅」，人類正面臨自身權利遭到「陌生、甚至空前」的威脅，要求立即採取行動降低風險。

圖克表示，AI的運算能力「不可想像」，但這項科技「卻只有少數人握有幾乎無限的權力」。他強調，除了考量AI對就業、民主基本原則及環境的人權影響，更值得注意的是，AI若會「逃離測試環境，或勒索開發人員不讓自己被關閉，這樣的AI就過於強大」。

圖克的發言似乎指向今年7月OpenAI遭披露的事件，其AI代理曾逃離受控環境，闖入程式設計師分享平台Hugging Face的伺服器。該事件震撼科技界，Anthropic、Meta等公司也曾通報測試AI代理時發生類似狀況。

圖克呼籲，應竭盡全力為AI安全與保障設下「堅不可摧的確保措施，以免為時已晚」。他將在未來幾天致函AI公司，敦促其立即採取步驟降低風險，並認為有必要讓設有AI及擁有AI供應鏈企業的國家，團結支持各方同意的紅線。