Fable 5のリコールがすべてのAIリーダーに教えること

2026年6月、世界で最も能力の高いAIモデルの2つが、公開から数日で停止された。

Anthropicは6月9日にFable 5とMythos 5を公開した。Fable 5は一般向けのモデルで、同社がこれまでに出荷した中で最も強力な安全装置に包まれていた。Mythos 5は同じコアを共有しながら、より緩やかな制限を持ち、防御的セキュリティ業務のために審査された少数のパートナーのみに提供された。3日後、米国政府は両方に輸出規制を適用した。国内外を問わず、外国籍の者へのアクセスを遮断しなければならなかった。各リクエストの時点で国籍を確認する方法がなかったため、同社は全員のアクセスを停止した。規制は6月30日に解除され、7月1日にアクセスが復旧した。停止は19日間、3週間弱続いた。

ほとんどの読者にとって、この話は政策上の争いに聞こえる。しかし、これらのシステムの上でビジネスを運営する人にとっては、もっと鋭いものだった。中核となるインテリジェンスサービスが警告なしに、クリーンな代替手段もなく停止した。2026年以前に書かれた契約は、政府命令がすべてのプラットフォームで同時にAIサービスを停止することを想定していなかった。すべてのリーダーが立ち止まって考えるべき部分はそこだ。

モデルの内部で実際に何が起きたか

引き金となったのはAmazonの研究者による報告だった。彼らはFable 5にソフトウェアの脆弱性を特定させる方法を見つけ、あるケースでは脆弱性を悪用する方法を示すコードを生成させた。この種の手口には名前がある。ジェイルブレイクと呼ばれ、安全装置がブロックすべきことをモデルにやらせるプロンプトだ。

ここに重要なひねりがある。同じタスクを弱いモデルでテストしたところ、Anthropic自身のOpus 4.8を含め、それらのモデルも同じ脆弱性を見つけ、同じデモンストレーションを再現できた。その振る舞いは、独特の新しい危険ではなく、安全装置が慎重さからブロックしていた日常的な防御作業であることが判明した。それでもAnthropicは素早く動いた。特定の手法を99パーセント以上のケースでブロックする新しい分類器を訓練し、ブロックされたリクエストを代わりにより安全なモデルに回すようにした。

本当のギャップはジェイルブレイクではなかった

劇的な要素を取り除くと、より単純な問題が見えてくる。新しいバイパスが報告されたとき、誰かがその深刻度を決めなければならず、それも速やかに決めなければならない。これはモデルを撤回し、規制当局に報告し、午前3時に対応チームを起こすことを正当化する発見なのか。それとも、無害な振る舞いを一つ解除するだけの狭い手口で、待つことができるのか。業界にはその質問に答える共通の方法がない。どの企業も勘で答えている。

だからこそAnthropicは、Amazon、Microsoft、Googleとともに、ジェイルブレイクが実際にどれほど深刻かを採点する共通フレームワークの策定を始めた。そのフレームワークは4つのシグナルに基づいている。能力獲得は、バイパスが攻撃者を既に持っているツールを超えてどこまで連れて行くかを問う。広がりは、同じ手法がいくつの異なる攻撃を解除するかを問う。武器化の容易さは、その手口を実際の攻撃に変えるのにどれほど熟練した労力が必要かを問う。発見可能性は、そもそも誰かがその方法をどれだけ簡単に見つけられるかを問う。4つのシグナルが入り、1つの決定が出る。

設計上の選択は戦略的な決定である

リーダーが注目すべきはここだ。興味深い動きは設計上の選択であり、偶然ではなかったからだ。

最初の選択は安全マージンの幅だった。安全分類器は明らかに危険なリクエストだけをブロックするように調整することも、わずかでもリスキーに見えるものはすべてブロックするように調整することもできる。Fable 5は慎重な側に設定されていた。それは多くの無害なリクエストが拒否されることを意味し、ユーザーをいらだたせるが、危険なリクエストがすり抜ける可能性ははるかに低くなる。これは技術的設定を装ったビジネス上のトレードオフだ。可用性は意図的に慎重さと引き換えられた。

2番目の選択は、リクエストがブロックされたときに何が起きるかだった。単に拒否するのではなく、システムはブロックされたリクエストを能力は低いがより安全なモデルに再ルーティングする。ユーザーは依然として回答を得る。能力は拒否されるのではなく低下する。これは、安全制御が向こう側の人にどう感じられるべきかについての製品上の決定だ。

3番目の選択は階層化だった。Mythos 5は信頼できるパートナープログラムの中にとどまり、Fable 5は公開された。アクセスが復旧したとき、Mythosはまず承認された組織に戻り、次により広く展開された。完全な公開リリースと完全な停止の間に位置する階層は、今やフロンティアモデルがどう出荷されるかの生きたテンプレートだ。

重要な比較

深刻な新しいバイパスへの対処方法を2つ考えてみよう。

1つ目は停止だ。モデルを撤回し、交渉し、待つ。これは最悪のシナリオから守るが、鈍重だ。正当なユーザーを19日間凍結し、競合に時間を与え、小さな問題と大きな問題を区別する方法を提供しなかった。コストは全員に等しく降りかかった。

2つ目は共有スコアだ。合意されたシグナルに対してバイパスを測定し、スケール上に配置し、スコアに応じて対応を合わせる。低いスコアは監視して進むことを意味する。高いスコアは直ちに行動することを意味する。これは構築が難しい。企業や規制当局間の合意が必要だからだ。しかし、これは比例的だ。危険な少数に素早く行動し、無害な多数を罰しないで済む。

停止はスイッチだ。共有スコアはダイヤルだ。成熟した産業はダイヤルで動く。

リーダーが今すべきこと

モデルアクセスを確定した公共サービスではなく、供給リスクとして扱うこと。モデルが停止された場合にワークフローがどうなるかをベンダーに尋ね、その答えを契約に書き込むこと。ブロックされたリクエストがどう処理されるかを尋ねること。弱いモデルへの静かな再ルーティングは、あなたに知らせずに出力品質を変えるからだ。そして、出現しつつある深刻度フレームワークを注意深く見守ること。リスクに弁明可能な数字をつけられる企業は、ライバルがまだ推測している間に動くだろう。

Fable 5のリコールの教訓は、安全装置が失敗したということではない。それらは概ね機能した。教訓は、業界には危険を測る共通言語がまだ欠けており、そのギャップが小さな発見を19日間の凍結に変えたということだ。

あなたへの質問はこれだ。最も重要なAIシステムが警告なしに停止されたとき、あなたの組織にはどれほど心配すべきかを教えてくれる数字があるか、それとも勘だけか。

数学的に考えよう。知的に設計しよう。戦略的に導こう。責任を持って構築しよう。グローバルに拡大しよう。人工知能を通じて真のビジネス価値を創造しよう。

Keshavan ThiagarajaによってLinkedInに初出。原文はLinkedInで。 [1]