Fable 5召回事件给每位AI领导者上的课

2026年6月，世界上两个最强大的AI模型在发布几天后就被关闭了。

Anthropic于6月9日发布了Fable 5和Mythos 5。Fable 5是面向公众的模型，包裹在公司有史以来最强有力的防护措施之中。Mythos 5共享同一核心，但限制较轻，只提供给一小批经过审查的合作伙伴，用于防御性安全工作。三天后，美国政府对两者实施了出口管制。外国国籍人员的访问必须被切断，无论其在国内还是国外。由于无法在每次请求时验证国籍，公司暂停了所有人的访问。管制于6月30日解除，访问于7月1日恢复。停摆持续了十九天，不到三周。

对大多数读者来说，这个故事听起来像一场政策争端。但对任何在这些系统之上经营业务的人来说，它是更尖锐的东西。核心智能服务在没有预警、没有干净后备方案的情况下熄灭了。2026年之前签订的合同，没有想象过一道政府命令会同时在所有平台上暂停一项AI服务。这正是每位领导者都应该深思的部分。

模型内部实际发生了什么

导火索是亚马逊研究人员的一份报告。他们找到了一种方法，可以让Fable 5识别软件漏洞，有一次它甚至生成了一段代码，演示如何利用一个漏洞。这类伎俩有个名字，叫越狱，即一种提示，让模型去做其防护措施本应拦截的事情。

重要的转折在这里。当同一任务在较弱的模型上测试时，包括Anthropic自家的Opus 4.8，这些模型也能找到同样的漏洞并重现同样的演示。这个行为原来是常规的防御性工作，防护措施只是出于谨慎才拦截它，而不是什么独一无二的新型危险。尽管如此，Anthropic仍然迅速行动。它训练了一个新的分类器，在超过百分之九十九的情况下拦截这种特定手法，并把任何被拦截的请求转给一个更安全的模型。

真正的缺口不是越狱

撇开戏剧性，一个更直白的问题浮现出来。每当有新的绕过方法被报告出来，总得有人决定它有多严重，而且必须快速决定。这是一个值得召回模型、通报监管机构、凌晨三点叫醒应急团队的发现吗？还是一种狭窄的伎俩，只解锁一个无害的行为，可以等一等？整个行业没有一个统一的方法来回答这个问题。每家公司都凭直觉作答。

这就是为什么Anthropic联手亚马逊、微软和谷歌，开始起草一个共同框架，来评估一个越狱到底有多严重。这个框架依靠四个信号。能力增益问的是，这个绕过程把攻击者带到比其现有工具更远的地方有多远。广度问的是，同一种手法能解锁多少种不同的攻击。武器化难易问的是，把这个伎俩变成真正的攻击需要多少熟练的功夫。可发现性问的是，一开始有人找到这个方法有多容易。四个信号进去。一个决定出来。

设计上的选择就是战略上的决定

领导者应该留意的地方就在这里，因为有趣的动作全是设计选择，不是偶然。

第一个选择是安全余量的宽窄。安全分类器可以调成只拦明显危险的请求，也可以调成连稍有风险的东西都拦。Fable 5调在了谨慎的一端。这意味着许多无害的请求会被拒绝，这让用户很恼火，但换来的是危险请求溜过去的可能性大大降低。这是披着技术设置外衣的商业权衡。可用性是有意拿来换谨慎的。

第二个选择是，一个请求被拦截之后会发生什么。与其一口回绝，系统把被拦截的请求转给一个能力较弱但更安全的模型。用户照样得到回答。能力是降级了，而不是没有了。这是一个产品决定，讲的是安全控制应该让另一端的人有什么感受。

第三个选择是分层。Mythos 5留在可信合作伙伴计划之内，Fable 5则公开发布。访问恢复时，Mythos先回到获批准的机构，然后再扩大。一个夹在完全公开发布和完全暂停之间的层级，如今成了前沿模型如何发布的活样板。

重要的比较

想一想应对严重新绕过的两种方法。

第一种是停摆。你召回模型，你谈判，你等待。这能防住最坏的情况，但它很钝。它把合法用户冻结了十九天，把时间拱手让给竞争对手，而且没有办法分清小问题和大问题。成本落在每个人身上，一样重。

第二种是共享评分。你把绕过对照大家商定的信号来衡量，把它放在刻度上，再根据数字调整你的反应。低分意味着盯着看，继续向前。高分意味着立即行动。这个更难建，因为需要公司和监管机构之间的共识，但它是成比例的。它让你能对危险的少数快速出手，而不必惩罚无害的多数。

停摆是一个开关。共享评分是一个旋钮。成熟的行业靠旋钮运转。

领导者现在应该做的事

把模型访问当作供应风险来对待，而不是笃定的公用事业。问你的供应商，如果一个模型被暂停，你的工作流会怎样，把这个答案写进你的合同。问清楚被拦截的请求是如何处理的，因为悄悄转到较弱的模型会不声不响地改变你的输出质量。还要密切关注这个正在兴起的严重程度框架，因为能把一个站得住脚的数字放在风险上的公司，会在竞争对手还在猜测的时候先行动。

Fable 5召回的教训不是说防护措施失败了。它们大体上都起了作用。教训是，行业还没有一种共同语言来衡量危险，这个缺口把一个小发现变成了十九天的冻结。

这是我问你的问题。你最重要的AI系统在没有预警的情况下被关掉时，你的组织有一个数字告诉你该有多担心吗？还是只有直觉？

用数学思考。用智慧做工程。用战略来领导。负责任地建造。全球化地扩张。通过人工智能创造真正的商业价值。

最初由Keshavan Thiagaraja发布于LinkedIn。请在LinkedIn上阅读原文。 [1]