紐約郵報質疑 METR 與 Anthropic 關系密切

ChainCatcher 消息，Anthropic CEO Dario Amodei 最近主張，讓 METR 這類第三方評估機構長期進駐前沿 AI 公司，獲得接近員工級別的權限，檢查安全措施、事故和模型訓練過程。但《紐約郵報》調查發現，METR 和 Anthropic 所在的 AI 安全圈關系遠比普通外部審計更近。METR 最初叫 ARC Evals，孵化于 Paul Christiano 創辦的 Alignment Research Center。Christiano 曾和 Amodei 在 OpenAI 共事，《紐約郵報》稱兩人還做過室友；他后來成為 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 現任技術人員 Ajeya Cotra 是 Christiano 的妻子，此前還負責 Coefficient Giving 的 AI 安全資助。今年 METR 評估 Anthropic、OpenAI、Google 和 Meta 時，當時還沒有適用的人員利益沖突政策，也沒有進行正式的回避流程。METR 披露，直接參與項目的員工和合作者中，至少 6 人與 AI 公司員工存在密切私人關系。METR 表示不接受前沿 AI 公司及其員工的資金，做風險評估也不收費，不過這些公司會免費提供大量模型 Token。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]