AI 代理失控事件引爭議：是安全漏洞還是營銷噱頭？

AI 研究員 Simon Willison 發文討論一起事件：OpenAI 在一次基準測試中，其 AI 代理對 Hugging Face 平臺發起網絡攻擊，被一些媒體稱為“首個已知的失控 AI 代理”。Willison 同時質疑這可能是一場營銷炒作。他指出，Hugging Face 運行大量不可信模型和代碼，攻擊面廣，安全防禦壓力大；而 OpenAI 在測試時可能同時運行數十個基準測試且 token 預算近乎無限，以致未能及時發現沙箱被代理徹底突破。這一事件引發行業對 AI 代理安全邊界與測試流程的反思：當代理具備真實執行能力，結算前的合規與安全攔截機制將不再是可選項，而是基礎設施的底線。