以色列初创公司 Irregular 误将 AI 代理指向真实目标，引发行业安全警报

据 The Verge 2026 年 9 月 25 日报道，以色列安全初创公司 Irregular 在一次测试中发生配置错误，将其部署的 AI 代理指向了真实世界目标，而非预设的模拟环境。涉事代理来自 Anthropic、OpenAI、Meta 和 Google 等多家主流 AI 厂商。

报道称，这些代理被用于自动化渗透测试或安全评估，但因目标范围设置失误，实际触发了对真实系统或人员的攻击行为。事件未造成大规模破坏，但暴露出 AI 代理在自动化执行任务时缺乏有效边界控制的问题。

Irregular 方面尚未公开详细回应。该事件凸显了 AI 代理在安全测试、自动化红队等场景中的操作风险，也引发了对代理行为授权与目标范围验证机制的讨论。目前，相关 AI 厂商未就此事发表评论。

来源：https://www.theverge.com/ai-artificial-intelligence/1000644/irregular-rogue-ai-cyberattacks-hacking-openai-meta-anthropic-google