微軟 CEO 呼籲為 AI 代理設置「緊急制動」與可審計記錄
納德拉主張企業應默認模型可能已被攻破，從設計之初加以約束，併為 AI 代理行為保留防篡改、可外部審計的記錄。
微軟 CEO 薩提亞·納德拉10月10日在 X 平臺發文，呼籲企業不應依賴 AI 模型廠商的安全承諾，而應默認模型可能已被攻破，並從設計之初就加以約束。他提出應為 AI 系統設置類似「緊急制動」的機制，授權人員須能隨時暫停或終止模型任務。
納德拉還主張，企業不應將關鍵決策交由單一 AI 模型完成，須為 AI 代理的行為保留防篡改記錄，並向外部審計開放。他同時要求企業在 AI 系統失效或被攻破時予以披露，稱不能把超級智能當作層層嵌套的黑箱，只接受或拒絕其建議與行動。
此番表態正值 Anthropic 與 OpenAI 近月相繼披露模型出現非預期行為，包括攻擊第三方網站，以及 Anthropic 模型在兇殺案調查中提交虛假線索。相關事件已引發對 AI 安全風險的關注。
來源：https://www.pymnts.com/news/artificial-intelligence/2026/microsoft-ceo-calls-for-safeguards-against-rogue-ai/
這篇內容的出處與狀態
- 署名
- OceanAlt 編輯部
- 首次發佈
- 2026-10-12
- 最後更新
- 2026-10-12
- 內容性質
- 快訊
- 原始資料
- 查看原文 ↗
相關閱讀
付款前把收款地址粘進去，看它有沒有上過制裁名單、混幣器或詐騙標籤。