Anthropic CEO 發長文回應安全質疑，稱須保持技術最前沿

ChainCatcher 消息，Anthropic 最近向美國國會議員提交一份 AI 安全法案草案，遭美國 AI 安全派質疑。草案對政府緊急叫停危險模型設置較高門檻，風險須涉及生物武器、網絡攻擊或 AI 失控等情形，并可能造成超過 50 人死亡或重傷，或超過 10 億美元損失；部分條款還可能限制州政府監管權限。AI 安全組織 Encode AI 戰略負責人 Nathan Calvin 隨后梳理 Anthropic 過去一年的決定。今年 2 月，公司修改原本嚴格的安全政策：過去承諾若安全措施跟不上模型能力就暫停訓練或發布，新政策不再要求公司在更高風險階段獨自停止研發，理由是競爭對手可能趁機超車。同期公司投入巨額算力、組建芯片團隊，并讓 Claude 承擔更多 AI 研發任務。10 月 21 日，Anthropic CEO Dario Amodei 在 X 上發長文反駁。他承認公司犯過一些錯誤，但堅持爭奪最先進 AI 能力并未違背安全使命，并稱公司奉行向上競賽，只有保持在技術最前沿，才有能力推動行業提高安全標準。他列舉九項曾讓公司付出商業代價的安全決定，包括將 Mythos 級模型限制開放數月，以及嚴格限制生物學相關請求。公司 10 月 19 日更新的安全路線圖稱，現有政策主要針對危險模型部署，未來可能需要直接限制研發速度，并計劃在 2027 年 1 月 15 日前提出相關政策方案，或解釋為何沒有提出。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]