陸網信辦整治AI亂象 查處4.9萬帳號

（綜合中時電子報、聯合報等2家媒體報導）

中共中央網信辦今（2）日公布「清朗·整治AI應用亂象」專項行動第二階段成果，截至目前已累計清理違法違規資訊561萬餘條，查處帳號4.9萬餘個，並處置違規網站及應用程式等2,400餘個。

本次整治聚焦利用AI製作發布虛假資訊、傳播暴力低俗內容、假冒仿冒他人、侵害未成年人權益等問題。公布的案例中，有帳號利用AI「魔改」《三國演義》、《西遊記》等經典作品，顛覆人物設定、虛構獵奇劇情；也有帳號生成虛假災害現場及救援畫面，編造不實社會事件。

此外，部分帳號使用AI「換臉」、「換聲」假冒公眾人物，製作低俗影像牟利；另有帳號利用AI生成未成年人懷孕、打架等不符年齡特徵的內容，以及大量製作「毒動畫」、「虐向」及「邪典」影片。部分帳號也利用AI「托管」軟體模擬真人操作帳號、留言互動，大量生成低質、同質化文案，被認定涉及網路水軍活動。

抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平台已加強AI內容治理，包括優化多模態識別模型、擴充人臉及聲紋資料庫，以提升違規內容辨識與攔截能力。網信辦表示，下一步將持續關注AI生成內容的新情況與新風險。