Чему отзыв Fable 5 учит каждого лидера в сфере ИИ
В июне 2026 года две самые мощные ИИ-модели в мире были отключены через несколько дней после запуска.
Anthropic выпустила Fable 5 и Mythos 5 девятого июня. Fable 5 была публичной моделью, обернутой в самые сильные средства защиты, которые компания когда-либо выпускала. Mythos 5 имела то же ядро, но с более мягкими ограничениями, и была доступна лишь небольшой группе проверенных партнеров для оборонной работы в сфере безопасности. Тремя днями позже правительство США применило экспортный контроль к обеим. Доступ для иностранных граждан пришлось отключить, как внутри страны, так и за ее пределами. Поскольку не было способа проверять гражданство в момент каждого запроса, компания приостановила доступ для всех. Контроль был снят тридцатого июня, а доступ вернулся первого июля. Отключение длилось девятнадцать дней, чуть меньше трех недель.
Для большинства читателей эта история звучит как политический спор. Для любого, кто ведет бизнес на этих системах, она была чем-то более острым. Ключевые интеллектуальные сервисы погасли без предупреждения и без чистого запасного варианта. Контракты, написанные до 2026 года, не предполагали, что правительственное распоряжение может приостановить ИИ-сервис на всех платформах одновременно. Именно над этой частью стоит задуматься каждому лидеру.
Что на самом деле произошло внутри модели
Триггером стал отчет исследователей Amazon. Они нашли способ заставить Fable 5 выявлять уязвимости программного обеспечения, и в одном случае модель сгенерировала код, показывающий, как уязвимость можно эксплуатировать. У такого трюка есть название. Это джейлбрейк, запрос, который заставляет модель делать то, что ее защитные механизмы должны были блокировать.
Вот важный поворот. Когда та же задача была протестирована на более слабых моделях, включая собственный Opus 4.8 от Anthropic, эти модели смогли найти те же уязвимости и воспроизвести ту же демонстрацию. Поведение оказалось рутинной оборонной работой, которую защитные механизмы блокировали из осторожности, а не уникальной новой угрозой. Тем не менее Anthropic действовала быстро. Она обучила новый классификатор, который блокирует конкретную технику более чем в девяноста девяти процентах случаев, и перенаправляет любой заблокированный запрос на более безопасную модель.
Настоящий пробел был не в джейлбрейке
Уберите драму, и обнажится более простая проблема. Когда сообщается о новом обходе, кто-то должен решить, насколько он серьезен, и решить быстро. Это находка, которая оправдывает отзыв модели, информирование регулятора и пробуждение команды реагирования в три часа ночи? Или это узкий трюк, который открывает одно безобидное поведение и может подождать? У отрасли нет общего способа ответить на этот вопрос. Каждая компания отвечает интуитивно.
Именно поэтому Anthropic вместе с Amazon, Microsoft и Google начала разрабатывать общую структуру для оценки того, насколько серьезен джейлбрейк на самом деле. Структура опирается на четыре сигнала. Прирост возможностей спрашивает, насколько далеко обход уводит атакующего за пределы уже имеющихся у него инструментов. Широта спрашивает, сколько различных атак открывает одна и та же техника. Легкость вооружения спрашивает, сколько квалифицированных усилий нужно, чтобы превратить трюк в реальную атаку. Обнаруживаемость спрашивает, насколько легко кто-то может найти метод в принципе. Четыре сигнала на входе. Одно решение на выходе.
Дизайнерские решения — это стратегические решения
Именно здесь лидерам следует быть внимательными, потому что интересные ходы были дизайнерскими решениями, а не случайностями.
Первым решением была ширина запаса безопасности. Классификатор безопасности можно настроить так, чтобы он блокировал только явно опасные запросы, или так, чтобы он блокировал все, что выглядит хоть немного рискованным. Fable 5 была настроена на осторожный край. Это означало, что многие безобидные запросы отклонялись, что раздражает пользователей, в обмен на гораздо меньшую вероятность того, что опасный запрос проскочит. Это бизнес-компромисс, замаскированный под техническую настройку. Доступность была сознательно обменена на осторожность.
Вторым решением было то, что происходит, когда запрос блокируется. Вместо простого отказа система перенаправляет заблокированный запрос на менее мощную, но более безопасную модель. Пользователь по-прежнему получает ответ. Возможность снижается, а не отвергается. Это продуктовое решение о том, как средство контроля безопасности должно ощущаться человеком на другой стороне.
Третьим решением было многоуровневое распределение. Mythos 5 осталась внутри программы доверенных партнеров, пока Fable 5 стала общедоступной. Когда доступ был восстановлен, Mythos вернулась сначала к одобренным организациям, затем шире. Уровень, который находится между полным публичным релизом и полной приостановкой, теперь является живым шаблоном того, как будут выпускаться передовые модели.
Сравнение, которое имеет значение
Рассмотрите два способа справиться с серьезным новым обходом.
Первый — отключение. Вы отзываете модель, ведете переговоры и ждете. Это защищает от худшего сценария, но это грубо. Оно заморозило законных пользователей на девятнадцать дней, дало время конкурентам и не предложило способа отличить маленькую проблему от большой. Издержки легли на всех поровну.
Второй — общая оценка. Вы измеряете обход по согласованным сигналам, помещаете его на шкалу и сопоставляете свой ответ с числом. Низкая оценка означает наблюдать и двигаться дальше. Высокая оценка означает действовать немедленно. Это сложнее построить, потому что требует согласия между компаниями и регуляторами, но это пропорционально. Это позволяет быстро действовать против опасного меньшинства, не наказывая безобидное большинство.
Отключение — это выключатель. Общая оценка — это регулятор. Зрелые отрасли работают на регуляторах.
Что лидерам следует делать сейчас
Относитесь к доступу к модели как к риску поставки, а не как к гарантированной услуге. Спросите у своих поставщиков, что произойдет с вашими рабочими процессами, если модель будет приостановлена, и запишите этот ответ в свои контракты. Спросите, как обрабатываются заблокированные запросы, потому что тихое перенаправление на более слабую модель меняет качество ваших результатов, не сообщая вам об этом. И внимательно следите за формирующейся структурой оценки серьезности, потому что компания, которая сможет присвоить риску обоснованное число, будет действовать, пока ее конкуренты еще гадают.
Урок отзыва Fable 5 не в том, что защитные механизмы потерпели неудачу. Они в основном сработали. Урок в том, что отрасли по-прежнему не хватает общего языка для измерения опасности, и этот пробел превратил небольшую находку в девятнадцатидневную заморозку.
Вот мой вопрос к вам. Когда ваша самая важная ИИ-система отключается без предупреждения, есть ли у вашей организации число, которое подсказывает, насколько вам стоит беспокоиться, или только интуиция?
Мыслите математически. Проектируйте разумно. Лидируйте стратегически. Стройте ответственно. Масштабируйтесь глобально. Создавайте реальную бизнес-ценность с помощью искусственного интеллекта.
Впервые опубликовано в LinkedIn Кешаваном Тиагараджа. Читайте оригинал в LinkedIn. [1]