Fable 5召回畀每个AI领道人所上个教训
2026年6月里向，世界浪最结棍个两只AI模型，发布呒没几日就拨关脱哉。
Anthropic勒六月九号发布仔Fable 5搭Mythos 5。Fable 5是对公众开放个模型，包辣公司有史以来顶顶硬扎个防护措施里向。Mythos 5用个是同一个核心，不过限制轻一眼，畀个只是验证过个一小批合作伙伴，用来做防御性个安全工作。三日天之后，美国政府对两只模型侪实施仔出口管制。外国国籍个人，勿管辣国内还是国外，访问侪要切断。因为每趟请求发个辰光呒没办法验证国籍，公司就拿所有人个访问侪暂停脱。管制勒六月三十号取消，访问七月一号恢复。停摆持续仔十九日天，差一眼三礼拜。
对大多数读者来讲，搿桩事体听上去像政策浪个纠纷。不过对搿星靠搿眼系统做生意个人来讲，伊是更加扎心个物事。核心个智能服务呒没警告就暗脱，也呒没清清爽爽个替代方案。2026年之前签个合同，根本呒没想过一道政府命令会同时拿所有平台浪个AI服务侪暂停。搿就是每个领道人侪应该好好交想一想个地方。
模型里向到底发生仔啥
导火索是亚马逊研究人员个一份报告。伊拉寻着仔一种办法，好叫Fable 5去识别软件漏洞，有一趟伊甚至生成仔一段代码，演示哪能好利用一个漏洞。搿种花头有名字个，叫越狱，就是一种提示，好让模型去做伊个防护措施本来应该拦牢个事体。
要紧个转弯勒搿搭。同样个任务拿到较弱个模型浪去测试，包括Anthropic自家个Opus 4.8，搿眼模型也好寻着同样个漏洞，重做同样个演示。搿个行为原来是常规个防御工作，防护措施是出于谨慎才拦牢伊，勿是啥独一个新型危险。不过Anthropic还是手脚老快。伊训练仔一个新个分类器，百分之九十九以上个情况侪好拦牢搿种特定手法，凡是被拦牢个请求，侪转去拨更加安全个模型。
真正个缺口勿是越狱
拿戏剧性个物事撇脱，一个更加清爽个问题就露出来哉。一趟有新个绕过方法拨报告出来，总归要有人来决定伊有几化严重，而且要快。搿是一个值得召回模型、通报监管机构、半夜三更三点钟叫醒应急团队个发现伐？还是一种狭窄个花招，只解锁一个呒没害处个行为，好等一等？整个行业呒没一个统一个办法来回答搿个问题。每家公司侪是凭直觉来回答。
搿就是为啥Anthropic联手亚马逊、微软搭谷歌，开始起草一个共同框架，好评估一个越狱到底有几化严重。搿个框架靠四个信号。能力增益问个是，搿个绕过拿攻击者带到比伊拉现有工具更加远个几化远个地方。广度问个是，同一种手法好解锁几化多种勿同个攻击。武器化难易问个是，拿搿个花招变成真正个攻击要几化熟练个功夫。可发现性问个是，头里向有人要寻着搿个办法有几化容易。四个信号进去。一个决定出来。
设计个选择就是战略个决定
领道人应该注意个地方就是搿搭，因为有意思个动作侪是设计选择，勿是碰巧。
头一个选择是安全余量个阔狭。安全分类器好调得只拦明显危险个请求，也好调得连一眼眼有风险个物事侪拦。Fable 5调辣谨慎个一头。搿意思就是说，交关呒没害处个请求会拨拒绝，搿让用户老光火个，不过换来个是危险请求溜过去个可能性大大降低。搿是披仔技术设置外衣个生意权衡。可用性是有意拿脱去换谨慎个。
第二个选择是，一趟请求拨拦牢之后会发生啥。与其一口回绝，系统拿被拦牢个请求转去拨一个能力弱一眼但更加安全个模型。用户照样拿得到回答。能力是降低仔，勿是呒没脱。搿是一个产品决定，讲个是安全控制应该拨对过个人有啥个感觉。
第三个选择是分层。Mythos 5留辣可信合作伙伴计划里向，Fable 5则公开推出。访问恢复个辰光，Mythos先回到批准过个机构，然后再扩大。一个夹辣完全公开发布搭完全暂停当中个层级，现在成仔前沿模型哪能发布个活样板。
要紧个比较
想一想对付严重个新绕过个两种办法。
第一种是停摆。侬拿模型召回，侬谈判，侬等。搿好防牢最坏处个情况，不过伊老钝个。伊拿合法用户冻牢仔十九日天，拿辰光送拨竞争对手，而且呒没办法分清爽小问题搭大问题。成本大家一样分摊。
第二种是共享评分。侬拿绕过对照大家讲好个信号来量，拿伊摆辣刻度浪，再根据数字来调整侬个反应。低分意思就是盯牢看，继续向前。高分意思就是马上行动。搿个难造一眼，因为需要公司搭监管机构之间个共识，不过伊是成比例个。伊让侬好对危险个少数快眼动手，而用勿着惩罚呒没害处个多数。
停摆是一只开关。共享评分是一只旋钮。成熟个行业侪是靠旋钮运作个。
领道人现在应该做个事体
拿模型访问当作供应风险来看待，勿要当作笃定个公用事业。问侬个供应商，要是一个模型拨暂停，侬个工作流会哪能，拿搿个答案写进侬个合同里向。问问被拦牢个请求是哪能处理个，因为悄悄叫转到较弱个模型会勿声勿响拿侬个输出质量改变脱。再要紧个是，盯牢搿个正辣冒出来个严重程度框架，因为好拿一个站得住脚个数字摆辣风险浪个公司，会辣竞争对手还辣瞎猜个辰光就先行动。
Fable 5召回个教训勿是说防护措施失败哉。伊拉大体浪侪起作用个。教训是，行业还呒没一种共同语言来量危险，搿个缺口拿一个小发现变成仔十九日天个冻结。
搿是我问侬个问题。侬顶要紧个AI系统呒没警告就拨关脱个辰光，侬个组织有一个数字告诉侬应该有几化担心伐？还是只有直觉？
用数学来思考。用聪明来工程。用战略来领道。负责任个建造。全球化个扩张。通过人工智能创造真正个商业价值。
最初由Keshavan Thiagaraja发布辣LinkedIn浪。请辣LinkedIn浪读原文。 [1]