Anthropic CEO 发长文回应安全质疑，称须保持技术最前沿

ChainCatcher 消息，Anthropic 最近向美国国会议员提交一份 AI 安全法案草案，遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛，风险须涉及生物武器、网络攻击或 AI 失控等情形，并可能造成超过 50 人死亡或重伤，或超过 10 亿美元损失；部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月，公司修改原本严格的安全政策：过去承诺若安全措施跟不上模型能力就暂停训练或发布，新政策不再要求公司在更高风险阶段独自停止研发，理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队，并让 Claude 承担更多 AI 研发任务。10 月 21 日，Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误，但坚持争夺最先进 AI 能力并未违背安全使命，并称公司奉行向上竞赛，只有保持在技术最前沿，才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定，包括将 Mythos 级模型限制开放数月，以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称，现有政策主要针对危险模型部署，未来可能需要直接限制研发速度，并计划在 2027 年 1 月 15 日前提出相关政策方案，或解释为何没有提出。

• 喜欢使用社交软件关注？关注我们的 Twitter，或者加入 Telegram！
• 想关注最新资讯？ 下载CoinCarp App吧
• 有新闻需要爆料，官方公告需要发布? 来给我们发邮件吧！[email protected]