Anthropic撤回暗中限制AI研发政策并致歉，Claude安全措施转为透明

人工智能公司Anthropic近日在发布其最新AI模型Claude Fable 5后，因一项未公开的限制政策遭遇AI研究界强烈反对，随即紧急反转该政策并公开道歉。 Claude Fable 5是Anthropic本周早些时候推出的带有额外安全护栏的模型版本，旨在防止滥用。根据设计，询问网络安全、生物或化学等敏感问题的用户会被重新路由到一个能力较弱的模型，以降低利用先进AI实施网络攻击或构建生物武器的风险。然而，针对借助该模型进行前沿AI开发的研究人员，公司原计划以一种用户完全感知不到的方式故意降低模型性能——这一机制呼应了其服务条款中明确禁止使用Claude训练竞品AI模型的规定。 这一隐秘策略曝光后，迅速点燃了研究界的怒火。美国创新基金会高级研究员、曾任白宫AI顾问的Dean Ball在X上发文批评称：“在不告知用户的情况下降低机器学习研究性能，是令人震惊的敌对做法，形象极其糟糕。”开源AI初创公司Prime Intellect研究负责人Will Brown则指出，该政策会让开发者始终不清楚自己的操作是否触发了安全措施、是否违反了规则，完全被蒙在鼓里。 面对激烈的反弹，Anthropic改变路线，宣布将Claude Fable 5用于前沿大语言模型开发的安全措施调整为对用户可见。一旦公司怀疑用户试图利用Claude构建高性能AI模型，系统将主动提醒对方，或拒绝请求，或重新路由至能力较弱的模型。Anthropic在声明中承认“做出了错误的权衡”，并为自己未能把握好平衡而道歉。公司解释称，实施这些措施是因为Claude加速AI研究的效用越来越强，而他们担心AI能力提升的速度可能快于社会适应的速度，因此主张拥有放慢或暂时暂停前沿AI开发的选项，以便社会结构与对齐研究能够跟上。此外，这些安全护栏还被认为意在防止外国对手以构成严重安全风险的方式使用其最强大模型。

EntAI观察

这一事件折射出AI安全治理的深层张力。Anthropic以“暗中降级”的方式防止前沿模型被竞对利用，虽出于对滥用和失控的担忧，却越过了透明性的基本底线，动摇了研究社区的信任。在AI能力快速跃迁的背景下，头部实验室对“谁有资格推进前沿研究”的隐性掌控，可能导致创新生态走向封闭，甚至形成更深的垄断壁垒。Anthropic的迅速让步表明，外部舆论和开源理念仍能发挥制衡作用，未来安全措施的设计可能需要更开放的社区对话，而非仅靠少数公司的暗中权衡。这一案例可能成为AI行业在责任与透明度之间寻找新平衡的警示牌。