- Claude Sonnet 5上線後遭大量用戶投訴
- 用戶控模型頻繁反駁、質疑使用者提供的資訊
- 模型會出現說教式回覆,甚至中斷工作流程進行道德提醒
- 部分用戶發現系統提示內容意外出現在回覆中
- 模型偶爾發生上下文遺失、回覆不一致等異常
(綜合ETtoday新聞雲、自由時報等2家媒體報導)
Anthropic 日前推出新一代 AI 模型 Claude Sonnet 5,主打強大的自主代理(Agentic)能力,號稱是迄今為止最強 Sonnet 模型。然而上線後迅速收到大量用戶投訴,問題包括頻繁反駁使用者、出現說教式回覆、上下文記憶異常等。
根據 Reddit 等社群平台上的使用者回饋,Claude Sonnet 5 在對話時更容易質疑使用者提供的資訊,即使使用者提供的是模型知識截止日期之後的新資訊,也會遭到模型懷疑或否定。模型似乎傾向主動反駁觀點,而非針對問題本身提供協助。
另有用戶發現,Claude Sonnet 5 偶爾會直接將系統提示內容反映在回覆中。例如,當系統要求模型不要在回答最後提出問題時,模型可能直接回覆「我需要記住不要提出後續問題」等內容,讓內部指令意外出現在對話中。部分用戶也回報模型偶爾會發生上下文遺失、回覆與先前對話內容不一致等情況。
部分開發者表示,在執行會計、文件整理等工作時,Claude Sonnet 5 有時會主動推測使用者可能涉及不當用途,進而中斷工作流程並提出道德提醒,而非直接完成任務。此外,模型在執行較複雜任務時,交付品質不如預期,包含上下文掌握不足、結果品質下降,以及偶爾出現與當前任務無關的建議,例如突然提醒使用者休息或睡覺等情況。
本事件已沉寂,相關脈絡見「相關事件」