台灣脈絡

紐約州立法限制未成年人使用AI聊天機器人

已沉寂
1報告2篇2家追蹤自
AI侯可未成年人保護紐約州聊天機器人
初始報導
重點摘要
  • 紐約州禁止未滿18歲兒少使用陪伴型AI聊天機器人
  • 新法要求ChatGPT等業者驗證用戶年齡並限制功能
  • 聊天機器人不得生成讓用戶誤以為AI具有人類情感或關係的內容
  • 侯可強調未成年人不再接觸偽裝成朋友的聊天機器人
  • Tech:NYC批評新法措辭含糊,恐切斷學習工具
  • Common Sense Media讚為全美最強兒童AI安全法案
展開完整內容

(綜合中央社、聯合報等2家媒體報導)

紐約州州長侯可(Kathy Hochul)今日簽署一項新法案,禁止未滿18歲兒少使用陪伴型AI聊天機器人,被認為是迄今針對消費者導向AI模型採取的最廣泛限制措施之一。

新法要求ChatGPT等聊天機器人營運商驗證用戶年齡,若用戶未滿18歲,須對其使用AI介面的某些功能加以限制。具體規定包括:聊天機器人不得生成任何可能讓用戶以為AI「是人類、具有生命或具有人類情感」的內容;不得生成會讓用戶認為AI「與用戶擁有個人關係、專業關係或扮演權威角色」的內容;也不得將生成內容定調為「個人觀點」。

侯可在簽署儀式中表示:「未成年人再也不能接觸到偽裝成他們朋友、男友或女友的聊天機器人。」她補充說,聊天機器人再也無法擁有涉及未成年人身心健康敏感資訊的權限。

加州和美國其他州早已立法規範聊天機器人,但紐約州新法涵蓋範圍更廣,引發AI業者反彈。紐約科技業倡議團體Tech:NYC批評新法規「措辭含糊籠統」,強調「確保兒童使用網路安全無虞,不該意味切斷他們用來學習和為職涯做準備的工具。」AI巨頭OpenAI和Anthropic均暫未回應置評請求。

為家長提供兒童媒體安全指引的非營利組織Common Sense Media則樂見新法通過,稱這是「全美最強力的兒童AI安全法案」。

本事件已沉寂,相關脈絡見「相關事件」