AI 安全評估機構被指存在利益衝突，人員流動引發國會調查呼聲

一份在社交媒體上獲得近 500 萬次瀏覽的分析報告，將 AI 安全評估機構與前沿實驗室之間的利益關聯推上風口浪尖。爭議核心在於評估人員與受評公司之間頻繁的人員流動，以及資金鍊條上的潛在利益衝突。

以 METR（模型評估與威脅研究）為例，該機構是評估前沿 AI 模型部署安全性的主要組織之一，其員工中包括曾在 OpenAI 和 Anthropic 任職的人員。資金層面，Facebook 聯合創始人 Dustin Moskovitz 持有 Anthropic 股權，其慈善基金會通過有效利他主義網絡向 METR、Redwood Research 等評估機構提供了大量資金。這意味著流向安全監督機構的資金，有時僅經過一兩個環節便可追溯至被評估的公司。

此外，部分評估人員與其所評估實驗室的員工存在個人或家庭關聯。Anthropic CEO Dario Amodei 和 OpenAI CEO Sam Altman 此前提出將第三方評估人員直接嵌入實驗室內部的建議，進一步加劇了外界擔憂。目前已有聲音呼籲國會對此展開調查。

來源：https://cryptobriefing.com/ai-safety-watchdog-conflict-of-interest/