美国突禁Anthropic顶尖模型，安全界称禁令与AI越狱无关

一场围绕 AI 出口管制的风波正在华盛顿与硅谷之间急速升温。 上周五下午，美国商务部向 Anthropic 发出了一封神秘信函，援引一项出口管制指令，禁止非美国人访问 Fable 5 和 Mythos 5 这两个旗舰模型，理由是未指明国家安全关切。 Anthropic 方面表示，公司认为这封信与模型护栏被绕过有关，但信中并未提供具体细节，因此无法确定。这封信函至今未对外公开。 🚀 为遵守指令，Anthropic 直接关停了 Fable 5 和 Mythos 5，这两个顶尖模型对所有客户变得不可用。 ⚡ 这一举动意味着依赖这些模型进行日常工作的人，比如使用卓越代码审查和网络安全能力的开发者和安全团队，突然失去了手中最先进的工具。对于那些已经将模型能力融入关键业务流程的企业来说，突然的关停可能带来不小的混乱。 然而，随着更多细节浮出水面，这起事件的真实原因似乎比单纯的技术问题复杂得多。 Axios 引述消息人士的话称，周末的紧张局势源于 Anthropic 与特朗普政府之间的“性格差异”，而非 AI 产品本身的技术问题。 网络安全资深人士、Luta Security 创始人 Katie Moussouris 进一步揭示了技术层面的起因。她在博客中透露，Anthropic 近期与她分享了一篇安全研究人员写的论文的私人副本，这篇论文描述了所谓对 Fable 5 的护栏绕过行为。据《华尔街日报》报道，论文作者是亚马逊的安全研究人员。 Moussouris 在博客中详细说明了研究人员的操作方法，但指出这种护栏绕过行为“永远不应触发出口管制”。她解释，关键区别在于要求 AI “审查代码的安全问题”和“修复这段代码”，两者之间的差异被严重误读了。 她批评这次出口管制指令仓促、严厉且被误导，并指出论文中描述的行为无法被真正修复，任何修复尝试只会削弱模型的防御能力。 💡 这相当于有人发现教 AI 帮忙检查门锁是否安全的同时，也可能被坏人用来学习撬锁的技巧，于是政府匆忙下令把整个锁具研发中心给关了，结果好锁坏锁全都造不出来。 Moussouris 和数十名卓越安全研究人员已联合呼吁特朗普政府撤销出口管制令，他们认为将先进的网络安全能力从美国网络防御者手中拿走的做法十分“危险”。 Tech Policy Press 编辑 Justin Hendrix 则指出，特朗普政府此举“很可能引起外国首都对美国 AI 在关键应用中可靠性的警觉”。 特朗普政府尚未确认为何援引该出口管制指令。文中的猜测包括官员可能误读了报告、亚马逊 CEO Andy Jassy 向政府高官传递了某种信息、存在沟通失误，或者这纯粹是向 Anthropic 施压的手段。 过往政府也曾因知识鸿沟做出过影响广泛的决策。例如在 2010 年代，美国政府用于修正涵盖网络安全工具出口法律的措辞过于宽泛，一度几乎让合法的安全与漏洞研究变成非法行为。

EntAI观察

这起事件的走势，恰恰反映出 AI 治理中的一个核心困境：监管者可能因技术理解不足，将常规安全研究或模型能力边界测试，误判为需要动用出口管制工具的国家安全威胁。当决策者与前沿技术公司之间存在“性格差异”或信任赤字时，这种误判可能被放大，最终导致杀伤力过强的监管动作。 把尖端网络安全能力从防御者手中拿走，可能产生一种危险的不对称：潜在的攻击者不会遵守规则，他们会想尽办法获取类似的能力；而合法的防御者和研究者却被捆住了手脚。这种情况可能产生长期的信任危机——外国客户和使用者或许有理由担心，美国 AI 服务哪天会因为内部政治博弈或沟通问题突然中断。 短期内，这起事件可能让 AI 安全研究者更加谨慎，也让依赖卓越 AI 能力的企业开始认真思考供应商多元化的必要性。长远看，如何建立一套既基于技术事实、又能容纳政策考量的 AI 风险评估机制，避免让出口管制变成一种“性格不合”时的报复性工具，成了一个迫切需要回答的问题。