台灣脈絡

AI外包人員用ChatGPT交作業 專家警告模型崩潰

已沉寂
1報告2篇2家追蹤自
AI訓練ChatGPTNew Scientist外包人員模型崩潰
初始報導
重點摘要
  • 外包人員坦承用ChatGPT完成AI訓練任務
  • 只要修改AI語句特徵就不易被辨識
  • 專家警告可能導致「模型崩潰」現象
  • 部分公司用截圖工具監控仍難杜絕[2]
展開完整內容

(綜合ETtoday新聞雲、TVBS新聞等2家媒體報導)

AI公司花錢聘請外包人員訓練模型,卻傳出外包人員直接使用ChatGPT等AI工具完成工作任務,形成「AI訓練AI」的窘境。多名外包人員向《New Scientist》坦承,即使公司明文禁止,仍難以杜絕此行為。

化名Alice的外包人員表示,只要將AI生成的內容稍作修改、去除AI語句特徵,就不易被辨識。另一名受訪者則透露,最初因擔心工作出錯而失去收入來源,後來逐漸演變成工作流程的一部分,例如先用一套模型建立情境,再使用另一套模型產生相關文件[1]。部分公司會透過截圖工具監控員工桌面,但仍有人在其他分頁開啟ChatGPT[2]。

英國伯明翰大學Mark Lee指出,研究顯示AI模型若持續以AI生成內容訓練,可能導致「模型崩潰」(Model Collapse),使能力大幅下滑、失去多樣性,最終變得不再實用。專家警告,當真人工作開始依賴AI完成,而這些內容又回流成為下一代AI的訓練資料,將使資料品質控管更加困難。

本事件已沉寂,相關脈絡見「相關事件」