Anthropic安全負責人稱AI“可能毀滅人類”概率超10%，同事辭職引發關注

Anthropic一位高級安全研究員表示，到本十年末，人工智能“可能殺死所有人類”的概率超過10%。此言發表數小時前，其同事Jacob Coxon因擔憂公司及競爭對手在開發無法控制的“超人系統”時疏忽安全而辭職。Coxon曾在Anthropic和OpenAI訓練AI系統，他在X上宣佈離職，批評公司安全措施鬆懈。據其聲明，他認為AI公司正“拿我們的生命賭博”，競相開發自我改進的AI。Anthropic安全負責人未具名，但強調風險需嚴肅對待。該事件凸顯AI安全領域內部爭議，尤其在技術快速迭代背景下，監管與倫理討論愈發緊迫。Anthropic暫未回應置評請求。

來源：https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans