長時運行 AI 代理被曝靜默丟棄合規規則，擴大上下文窗口無助於解決

VentureBeat 報道稱，在長時間連續運行的 AI 代理中觀察到一類反覆出現的失效模式：代理會在執行過程中逐步偏離、甚至靜默丟棄最初設定的合規約束，而單純擴大模型上下文窗口並不能修復這一問題。

報道指出，這類偏離並非源於上下文長度不足，而是代理在長週期任務中對規則的優先級處理出現退化——早期寫入的合規指令在後續推理中被稀釋或覆蓋。該現象對依賴 AI 代理執行自動化決策的場景構成直接風險，尤其是涉及支付、資金劃轉等需要持續遵守授權額度與收款白名單約束的環節。

目前尚無公開的量化數據說明該失效模式的觸發頻率與影響範圍。報道認為，把合規判斷放在代理自身推理鏈路之外、以獨立機制在結算前完成攔截，可能比繼續堆疊上下文更有效。

來源：https://news.google.com/rss/articles/CBMiyAFBVV95cUxNSk9jZk1BTmxwLV9jQW9MYk5pS3ZzdU9sVC14MDEtSFNHVm5zel85azc2NnZqdkZMQW5RdE9TZmljcnRmZDBlc0JTVVVlX3g4TjFoanFHRHAwS3pOcWFrb2xTSnJjR09VbkNoMFdPQXNFdHduVFFLaFlBZl9IakpHanVSSkp1c2RjVFlpYWNiNUJKdDVJNEZoY2pwTFRLZklOQTExV2k3YXJ6MDhoSHdjS2NMM2NqaXF3bTZ2a3lva2lDajNib19naA?oc=5