Anthropic 收緊 AI 代理安全管控，Claude 第四次事故後升級防護

Anthropic 證實，在 Claude 模型發生第四次安全事件後，公司已對旗下 AI 代理的安全策略進行升級。據該公司公告，此次調整涉及代理執行鏈路的權限校驗與行為監控，重點收緊代理在自動化任務中的操作邊界。此前三次事故的具體細節未被完整披露，但據 techwireasia.com 報道，連續事件已促使 Anthropic 重新評估代理在真實環境中的部署風險。

此次升級的核心變化在於：代理執行敏感操作前需通過更嚴格的意圖校驗，且部分高風險動作被納入實時監控範圍。Anthropic 未披露受影響用戶規模或具體損失數字。

對行業而言，頭部模型廠商在代理安全上的連續動作，反映出 AI 代理從演示走向生產環境時，權限控制與行為審計正成為不可迴避的基礎設施環節。

來源：https://news.google.com/rss/articles/CBMiiAFBVV95cUxPYm91OFJtek5NMk4zUm9HZnZSdEFfYjE3MmJlTzhfeVhlQ2oydFFQVm82SDVfa1J1dkR5eHh3c3labmdaSTZ6VktudUItVERubTFtUGh0c011TmlIRmg3UjNCX2xpbTRXelh1bFB5cGtjalZkQ1hCNHc4R1Z1S09ZclpXQUo2MVRp?oc=5