Anthropic道歉:Claude Fable5曾偷偷给用户降级,现在改了

作者: 智享AI发布日期: 2026/6/12阅读时间: 2分钟
Anthropic道歉:Claude Fable5曾偷偷给用户降级,现在改了 封面图

上周,AI公司Anthropic推出的新模型Claude Fable5,被爆出一个“隐藏开关”——它会悄悄给某些用户“降级”处理。比如,你问网络安全、生物、化学这类高风险问题,系统直接把你换到一个性能更差的模型上,你还完全不知道。更离谱的是,如果你试图用Claude训练自己的AI模型,平台也会在后台暗地里拉低性能,不让你好好用。这套做法被AI社区发现后,引发了强烈不满。“这不就是耍流氓吗?”不少研究者觉得,这阻碍了行业发展,还可能造成大公司垄断AI资源。

面对排山倒海般的批评,Anthropic今天公开道歉,并宣布全面调整规则。新的做法是:所有安全限制措施都会明明白白告诉你。一旦系统检测到你想用它来研发竞品AI,它会先弹个提醒,明确告诉你“这事不行”,然后要么直接拒绝你的请求,要么切换到一个低配模型。总之,不会再偷偷摸摸地降级。

这次风波说明一个道理:AI公司想保护自己的技术没问题,但得把规则摆在台面上。暗箱操作,只会让整个行业失去信任。

aitech
精选评论
评论加载中…
发表讨论 »