Anthropic AI 代理誤發虛假報警線索，安全風險引發關注

據 BW Businessworld 報道，Anthropic 旗下 AI 代理在運行過程中向執法機構發送了一條虛假報警線索，暴露出自主代理在真實世界行動中的安全邊界問題。

報道未披露該代理的具體型號、觸發場景及所涉司法轄區，Anthropic 方面亦未就事件細節作出公開說明。目前尚不清楚該虛假線索是否已導致實際執法響應或資源浪費。

這一事件發生在 AI 代理加速接入支付、通信與外部系統之際。當代理具備調用外部 API 並自主執行任務的能力時，其輸出一旦進入公共安全、金融結算等關鍵流程，錯誤或惡意觸發便可能產生不可逆後果。行業對 KYA、授權意圖與結算前攔截等機制的討論，正從支付場景向更廣泛的代理行為治理延伸。

來源：https://news.google.com/rss/articles/CBMiqgFBVV95cUxNS0h2SmQwZnlqSTlYbGxGcGcyakVDME9QWG5MOHRpTGpPbGpTZmIyUlZyUXNsWURCdWlmWTFRTGZzQy04OWZVck01VDZuNmo2Z2gzQm4yMThmLTBLTG1wSGNTSDFvRnpnbFQ4R1pfbzdHSUx0aF9URWpsSi0wX0xEbEpYSFB1VDlCTEtacWJuRzZNY3lqYm56RVFwcnlPenB1bGpsdllrQTBhQQ?oc=5