Fable 5召回事件教識每個AI領袖嘅嘢
2026年6月，全球最勁嘅兩個AI模型，喺發布之後冇幾日就被閂咗。
Anthropic喺六月九號發布咗Fable 5同Mythos 5。Fable 5係面向公眾嘅模型，包喺公司歷來最強嘅防護措施入面。Mythos 5用嘅係同一個核心，不過限制輕啲，而且淨係畀咗一小批經過審查嘅合作夥伴，用嚟做防禦性嘅安全工作。三日之後，美國政府對兩個模型都實施咗出口管制。外國國籍嘅人，唔論喺國內定國外，存取都要切斷。因為每次請求嗰陣冇辦法核實國籍，公司就將所有人嘅存取都暫停咗。管制喺六月三十號撤銷，存取喺七月一號恢復。停運持續咗十九日，唔夠三個禮拜。
對大多數讀者嚟講，呢個故仔聽落似政策上嘅爭拗。但係對任何靠呢啲系統做嘢搵食嘅人嚟講，佢係更加尖銳嘅嘢。核心嘅智能服務冇警告就熄咗，亦都冇乾淨利落嘅後備方案。2026年之前簽嘅合約，根本冇諗過一道政府命令會同時暫停晒所有平台上面嘅AI服務。呢個就係每個領袖都應該坐低諗清楚嘅部分。
模型入面實際發生咗咩事
導火線係亞馬遜研究人員嘅一份報告。佢哋搵到一個方法，可以叫Fable 5去識別軟件漏洞，有一次佢仲生成咗一段代碼，示範點樣利用一個漏洞。呢種伎倆有名嘅，叫越獄，即係一種提示，令到模型去做佢嘅防護措施本來應該攔截嘅嘢。
緊要嘅轉折喺呢度。同一個任務攞去較弱嘅模型度測試，包括Anthropic自己嘅Opus 4.8，嗰啲模型都可以搵到同樣嘅漏洞，重做同樣嘅示範。呢個行為原來係常規嘅防禦工作，防護措施係出於謹慎先攔截佢，而唔係咩獨一無二嘅新危險。不過Anthropic都係郁得快。佢訓練咗一個新嘅分類器，喺超過百分之九十九嘅情況下都可以攔截呢種特定手法，任何被攔截嘅請求都會轉去畀一個更加安全嘅模型。
真正嘅缺口唔係越獄
撇開啲戲劇性嘅嘢，一個更加直白嘅問題就浮現出嚟。每次有新嘅繞過方法被報告出嚟，總要有人去決定佢有幾嚴重，而且要快。呢個係一個值得召回模型、通報監管機構、凌晨三點叫醒應變團隊嘅發現咩？定係一種狹窄嘅伎倆，只係解鎖一個無害嘅行為，可以等？成個行業冇一個共同嘅方法去答呢條問題。每間公司都係靠直覺去答。
呢個就係點解Anthropic夥拍亞馬遜、微軟同谷歌，開始起草一個共同框架，去評估一個越獄究竟有幾嚴重。呢個框架靠四個信號。能力增益問嘅係，呢個繞過帶攻擊者去到比佢哋現有工具更遠嘅幾遠。廣度問嘅係，同一種手法可以解鎖幾多種唔同嘅攻擊。武器化難易問嘅係，將呢個伎倆變成真正嘅攻擊要幾多熟練嘅功夫。可發現性問嘅係，一開始有人要搵到呢個方法有幾容易。四個信號入去。一個決定出嚟。
設計上嘅選擇就係戰略上嘅決定
領袖應該留意嘅地方就係呢度，因為有趣嘅動作全部都係設計選擇，唔係撞彩。
第一個選擇係安全餘量嘅闊窄。安全分類器可以調到只攔明顯危險嘅請求，亦都可以調到連少少有風險嘅嘢都攔。Fable 5調咗喺謹慎嗰一邊。咁即係話，好多無害嘅請求會被拒絕，呢樣令用戶好唔爽，不過換返嚟嘅係危險請求溜過嘅可能性大大降低。呢個係披住技術設定外衣嘅商業取捨。可用性係特登攞嚟換謹慎嘅。
第二個選擇係，一個請求被攔截之後會點。與其一口拒絕，系統將被攔截嘅請求轉去畀一個能力弱啲但係更加安全嘅模型。用戶照樣攞到答案。能力係降咗級，唔係冇咗。呢個係一個產品決定，講嘅係安全控制應該畀對面嗰個人咩感覺。
第三個選擇係分層。Mythos 5留喺可信合作夥伴計劃入面，Fable 5就公開推出。存取恢復嗰陣，Mythos先返去獲批准嘅機構，之後先擴大。一個夾喺完全公開發布同完全暫停之間嘅層級，而家成咗前沿模型點樣推出嘅活樣板。
緊要嘅比較
諗下應付嚴重新繞過嘅兩個方法。
第一個係停運。你召回模型，你傾，你等。呢個可以防住最壞嘅情況，但係佢好鈍。佢將合法用戶凍結咗十九日，畀咗時間競爭對手，而且冇辦法分清楚小問題同大問題。成本大家一樣咁分。
第二個係共享評分。你將繞過對照大家講好嘅信號嚟量，將佢擺喺刻度上面，再根據數字去調整你嘅反應。低分意思係監察住，繼續向前。高分意思係即刻行動。呢個難整啲，因為需要公司同監管機構之間嘅共識，但係佢係合乎比例嘅。佢令你對危險嘅少數可以快啲郁手，而唔使懲罰無害嘅多數。
停運係一個掣。共享評分係一個旋鈕。成熟嘅行業係靠旋鈕運作嘅。
領袖而家應該做嘅嘢
將模型存取當作供應風險嚟睇，唔好當佢係穩陣嘅公用事業。問你嘅供應商，如果一個模型被暫停，你嘅工作流程會點，將呢個答案寫入你嘅合約入面。問清楚被攔截嘅請求係點樣處理嘅，因為靜靜雞轉去較弱嘅模型會唔聲唔聲改變你嘅輸出質素。仲有就係，密切留意呢個正在冒起嘅嚴重程度框架，因為可以將一個企得穩嘅數字放喺風險上面嘅公司，會喺競爭對手仲喺度估估下嗰陣已經郁手。
Fable 5召回嘅教訓唔係話防護措施失敗咗。佢哋大致上都發揮咗作用。教訓係，行業仲未有一種共同語言去量度危險，呢個缺口將一個小發現變成咗十九日嘅凍結。
呢個係我問你嘅問題。你最重要嘅AI系統冇警告就被閂咗嗰陣，你嘅組織有一個數字話你知應該有幾擔心咩？定係淨係得直覺？
用數學嚟諗嘢。用智慧嚟做工程。用策略嚟領導。負責任噉建造。全球化噉擴張。透過人工智能創造真正嘅商業價值。
最初由Keshavan Thiagaraja喺LinkedIn發布。原文請上LinkedIn睇。 [1]