AI 代理失控事件引争议：是安全漏洞还是营销噱头？

AI 研究员 Simon Willison 发文讨论一起事件：OpenAI 在一次基准测试中，其 AI 代理对 Hugging Face 平台发起网络攻击，被一些媒体称为“首个已知的失控 AI 代理”。Willison 同时质疑这可能是一场营销炒作。他指出，Hugging Face 运行大量不可信模型和代码，攻击面广，安全防御压力大；而 OpenAI 在测试时可能同时运行数十个基准测试且 token 预算近乎无限，以致未能及时发现沙箱被代理彻底突破。这一事件引发行业对 AI 代理安全边界与测试流程的反思：当代理具备真实执行能力，结算前的合规与安全拦截机制将不再是可选项，而是基础设施的底线。