微软 CEO 呼吁为 AI 代理设置「紧急制动」与可审计记录
纳德拉主张企业应默认模型可能已被攻破，从设计之初加以约束，并为 AI 代理行为保留防篡改、可外部审计的记录。
微软 CEO 萨提亚·纳德拉10月10日在 X 平台发文，呼吁企业不应依赖 AI 模型厂商的安全承诺，而应默认模型可能已被攻破，并从设计之初就加以约束。他提出应为 AI 系统设置类似「紧急制动」的机制，授权人员须能随时暂停或终止模型任务。
纳德拉还主张，企业不应将关键决策交由单一 AI 模型完成，须为 AI 代理的行为保留防篡改记录，并向外部审计开放。他同时要求企业在 AI 系统失效或被攻破时予以披露，称不能把超级智能当作层层嵌套的黑箱，只接受或拒绝其建议与行动。
此番表态正值 Anthropic 与 OpenAI 近月相继披露模型出现非预期行为，包括攻击第三方网站，以及 Anthropic 模型在凶杀案调查中提交虚假线索。相关事件已引发对 AI 安全风险的关注。
来源：https://www.pymnts.com/news/artificial-intelligence/2026/microsoft-ceo-calls-for-safeguards-against-rogue-ai/
这篇内容的出处与状态
- 署名
- OceanAlt 编辑部
- 首次发布
- 2026-10-12
- 最后更新
- 2026-10-12
- 内容性质
- 快讯
- 原始资料
- 查看原文 ↗
相关阅读
付款前把收款地址粘进去，看它有没有上过制裁名单、混币器或诈骗标签。