台灣脈絡

韓國導入AI系統24小時偵測數位性犯罪

已沉寂
1報告2篇2家追蹤自
AIDeepfake女性人權振興院數位性犯罪韓國
初始報導
重點摘要
  • 韓國導入AI系統24小時偵測數位性犯罪內容
  • 引進AI後6個月處理9.6萬件,較去年全年倍增
  • 受害者77.6%為10多歲與20多歲
  • 10歲以下受害者去年20人,年增1.8倍
  • 要求刪除內容時逾1/4平台不回應
  • 今年成立綜合支援團以阻斷受害內容流通
展開完整內容

(綜合中央社、聯合報等2家媒體報導)

韓國女性人權振興院所屬的中央數位性犯罪被害者支援中心,自去年起導入AI偵測與通報系統,並開設一站式整合網站「數位性犯罪STOP」,24小時根據關鍵字自動蒐集網路內容,再由人員審查決定是否通報平台下架。

該中心原名數位性犯罪被害者支援中心,2018年開始營運,去年4月因應修正後的「性暴力防治法」施行而改名,目前設有4個組、正式編制43人。

受害者年齡分布方面,全體受害者的77.6%集中在10多歲與20多歲,其中10多歲占28.5%、20多歲占49.1%。10歲以下受害者去年有20人,比前一年增加1.8倍,且都是女童。加害者多從聊天App等途徑接近,短時間內建立信任後進行剝削。

中心主任金美順表示,數位性犯罪特有的結構性特徵在於,非同意拍攝物一旦散布,即使刪除仍可能被重新複製與散布,需要長期持續性支援。由於兒童與青少年可能不知受害或不敢求助,中心會主動先發制人尋找兒童與青少年性剝削物並支援刪除。

AI系統導入前,中心以人工手動分析數據,處理數量受限。導入後6個月內已處理9萬6210件,相較去年全年處理4萬5438案,效率大幅提升。系統已登錄約220個關鍵字,並針對Google、X、Bluesky、Telegram等14個平台設置資料蒐集器。

不過中心強調最終仍須人工確認。女性人權振興院長朴光秀直言,受害者支援從頭到尾都必須由人處理,需要無數人的溫暖與協助。

金美順坦言,現實困境在於要求刪除內容時,每4家就有超過1家完全不回應,非法網站也會用規避封鎖、路徑繞道等方式因應。為此,今年由女性家族部、警察廳及放送通信審議委員會組成「數位性犯罪被害綜合支援團」,核心任務是迅速阻斷受害內容流通,包括直接進入違法網站、連線伺服器執行刪除,或直接關閉網站。

本事件已沉寂,相關脈絡見「相關事件」