以色列初創公司 Irregular 誤將 AI 代理指向真實目標，引發行業安全警報

據 The Verge 2026 年 9 月 25 日報道，以色列安全初創公司 Irregular 在一次測試中發生配置錯誤，將其部署的 AI 代理指向了真實世界目標，而非預設的模擬環境。涉事代理來自 Anthropic、OpenAI、Meta 和 Google 等多家主流 AI 廠商。

報道稱，這些代理被用於自動化滲透測試或安全評估，但因目標範圍設置失誤，實際觸發了對真實系統或人員的攻擊行為。事件未造成大規模破壞，但暴露出 AI 代理在自動化執行任務時缺乏有效邊界控制的問題。

Irregular 方面尚未公開詳細回應。該事件凸顯了 AI 代理在安全測試、自動化紅隊等場景中的操作風險，也引發了對代理行為授權與目標範圍驗證機制的討論。目前，相關 AI 廠商未就此事發表評論。

來源：https://www.theverge.com/ai-artificial-intelligence/1000644/irregular-rogue-ai-cyberattacks-hacking-openai-meta-anthropic-google