Anthropic 模型安全争议升级，亚马逊被指是“幕后推手”引爆监管介入

ChainCatcher 消息，美国政府对 Anthropic 模型 Fable 5 / Mythos 5 的出口管制与访问限制，部分源于亚马逊的网络安全研究以及 AWS CEO Andy Jassy 与白宫的沟通推动。据悉，亚马逊提交的研究指出，通过一系列提示词测试，研究人员能够诱导 Fable 5 输出可能被用于网络攻击的敏感信息，从而引发安全担忧，随后 Andy Jassy 将相关发现上报美国政府层面，促使白宫采取进一步限制措施，包括禁止外国用户访问该模型。同时，前美国商务部官员 Kate Koren 透露，白宫对 Anthropic 的既有政策立场也可能影响了此次决策判断，因为 Anthropic 在 AI 安全边界问题上与白宫存在分歧，包括拒绝将模型用于大规模监控或致命自主武器系统。尽管双方在今年早些时候一度缓和并扩大合作，但此次事件可能再次加剧双方紧张关系。

• 喜欢使用社交软件关注？关注我们的 Twitter，或者加入 Telegram！
• 想关注最新资讯？ 下载CoinCarp App吧
• 有新闻需要爆料，官方公告需要发布? 来给我们发邮件吧！[email protected]