Điều mà việc thu hồi Fable 5 dạy cho mọi nhà lãnh đạo AI

Vào tháng 6 năm 2026, hai trong số các mô hình AI mạnh nhất thế giới đã bị tắt chỉ vài ngày sau khi ra mắt.

Anthropic phát hành Fable 5 và Mythos 5 vào ngày 9 tháng 6. Fable 5 là mô hình hướng đến công chúng, được bao bọc trong những biện pháp bảo vệ mạnh mẽ nhất mà công ty từng xuất xưởng. Mythos 5 chia sẻ cùng lõi nhưng mang các hạn chế nhẹ hơn, và nó chỉ được cung cấp cho một nhóm nhỏ đối tác đã được thẩm định cho công việc an ninh phòng thủ. Ba ngày sau, chính phủ Hoa Kỳ áp dụng kiểm soát xuất khẩu đối với cả hai. Quyền truy cập phải bị cắt đối với công dân nước ngoài, dù ở trong hay ngoài nước. Vì không có cách nào xác minh quốc tịch vào thời điểm mỗi yêu cầu, công ty đã đình chỉ quyền truy cập cho tất cả mọi người. Các biện pháp kiểm soát được dỡ bỏ vào ngày 30 tháng 6, và quyền truy cập trở lại vào ngày 1 tháng 7. Việc tắt kéo dài mười chín ngày, gần ba tuần.

Đối với hầu hết người đọc, câu chuyện nghe có vẻ như một tranh chấp chính sách. Đối với bất kỳ ai điều hành doanh nghiệp trên các hệ thống này, đó là điều sắc bén hơn. Các dịch vụ trí tuệ cốt lõi đã tắt mà không có cảnh báo và không có phương án dự phòng sạch sẽ. Các hợp đồng được viết trước năm 2026 không tưởng tượng được một lệnh của chính phủ đình chỉ dịch vụ AI trên mọi nền tảng cùng một lúc. Đó là phần mà mọi nhà lãnh đạo nên suy ngẫm.

Điều thực sự đã xảy ra bên trong mô hình

Nguyên nhân là một báo cáo từ các nhà nghiên cứu của Amazon. Họ đã tìm ra cách nhắc Fable 5 để nó xác định các lỗ hổng phần mềm, và trong một trường hợp, nó đã tạo ra mã cho thấy cách khai thác một lỗ hổng. Loại thủ thuật này có tên. Đó là jailbreak, một lời nhắc khiến mô hình làm điều mà các biện pháp bảo vệ của nó được thiết kế để chặn.

Đây là điểm ngoặt quan trọng. Khi cùng một nhiệm vụ được thử nghiệm trên các mô hình yếu hơn, bao gồm cả Opus 4.8 của chính Anthropic, các mô hình đó có thể tìm thấy cùng các lỗ hổng và tái tạo cùng một minh chứng. Hành vi hóa ra là công việc phòng thủ thông thường mà các biện pháp bảo vệ đang chặn một cách thận trọng, chứ không phải mối nguy hiểm mới duy nhất. Anthropic vẫn hành động nhanh chóng. Công ty đã huấn luyện một bộ phân loại mới chặn kỹ thuật cụ thể trong hơn chín mươi chín phần trăm trường hợp, và chuyển hướng bất kỳ yêu cầu nào bị chặn sang mô hình an toàn hơn.

Khoảng trống thực sự không phải là jailbreak

Gạt bỏ sự kịch tính, một vấn đề đơn giản hơn xuất hiện. Khi một cách vượt rào mới được báo cáo, ai đó phải quyết định mức độ nghiêm trọng của nó, và họ phải quyết định nhanh chóng. Đây có phải là phát hiện biện minh cho việc thu hồi mô hình, thông báo cho cơ quan quản lý và đánh thức đội ứng phó lúc ba giờ sáng không? Hay đó là một thủ thuật hẹp mở khóa một hành vi vô hại và có thể chờ đợi? Ngành không có cách chung để trả lời câu hỏi đó. Mỗi công ty trả lời bằng trực giác.

Đó là lý do tại sao Anthropic, cùng với Amazon, Microsoft và Google, đã bắt đầu soạn thảo một khung chung để chấm điểm mức độ nghiêm trọng thực sự của một jailbreak. Khung này dựa trên bốn tín hiệu. Tăng khả năng hỏi rằng cách vượt rào đưa kẻ tấn công đi xa đến đâu so với các công cụ họ đã có. Độ rộng hỏi rằng cùng một kỹ thuật mở khóa bao nhiêu cuộc tấn công khác nhau. Dễ vũ khí hóa hỏi rằng cần bao nhiêu nỗ lực có kỹ năng để biến thủ thuật thành cuộc tấn công thực sự. Khả năng khám phá hỏi rằng ai đó có thể tìm ra phương pháp đó dễ dàng đến mức nào ngay từ đầu. Bốn tín hiệu vào. Một quyết định ra.

Lựa chọn thiết kế là quyết định chiến lược

Đây là nơi các nhà lãnh đạo nên chú ý, vì những động thái thú vị là lựa chọn thiết kế, không phải tai nạn.

Lựa chọn đầu tiên là độ rộng của biên độ an toàn. Một bộ phân loại an toàn có thể được điều chỉnh để chỉ chặn các yêu cầu rõ ràng nguy hiểm, hoặc được điều chỉnh để chặn bất cứ điều gì trông có vẻ hơi rủi ro. Fable 5 được đặt ở đầu thận trọng. Điều đó có nghĩa là nhiều yêu cầu vô hại bị từ chối, điều này làm người dùng thất vọng, đổi lấy khả năng thấp hơn nhiều để một yêu cầu nguy hiểm lọt qua. Đó là một sự đánh đổi kinh doanh được ngụy trang dưới dạng cài đặt kỹ thuật. Tính khả dụng đã được đánh đổi lấy sự thận trọng một cách có chủ đích.

Lựa chọn thứ hai là điều gì xảy ra khi một yêu cầu bị chặn. Thay vì chỉ từ chối, hệ thống chuyển hướng yêu cầu bị chặn đến một mô hình ít khả năng hơn nhưng an toàn hơn. Người dùng vẫn nhận được câu trả lời. Khả năng bị giảm chứ không bị từ chối. Đó là một quyết định sản phẩm về cách một biện pháp kiểm soát an toàn nên được cảm nhận bởi người ở phía bên kia.

Lựa chọn thứ ba là phân cấp. Mythos 5 ở lại trong chương trình đối tác tin cậy trong khi Fable 5 ra mắt công chúng. Khi quyền truy cập được khôi phục, Mythos quay lại trước với các tổ chức được phê duyệt, sau đó rộng hơn. Một cấp độ nằm giữa phát hành công khai đầy đủ và đình chỉ toàn bộ hiện là một mẫu sống cho cách các mô hình tiên phong sẽ được xuất xưởng.

Sự so sánh quan trọng

Hãy xem xét hai cách xử lý một cách vượt rào mới nghiêm trọng.

Cách thứ nhất là tắt. Bạn thu hồi mô hình, bạn đàm phán, và bạn chờ đợi. Điều này bảo vệ chống lại trường hợp xấu nhất, nhưng nó thô. Nó đã đóng băng người dùng hợp pháp trong mười chín ngày, trao thời gian cho đối thủ cạnh tranh, và không cung cấp cách nào để phân biệt vấn đề nhỏ với vấn đề lớn. Chi phí rơi xuống mọi người như nhau.

Cách thứ hai là điểm số chung. Bạn đo cách vượt rào theo các tín hiệu đã thống nhất, đặt nó trên thang đo, và khớp phản ứng của bạn với con số. Điểm thấp có nghĩa là giám sát và tiếp tục. Điểm cao có nghĩa là hành động ngay lập tức. Điều này khó xây dựng hơn, vì nó cần sự đồng thuận giữa các công ty và cơ quan quản lý, nhưng nó tương xứng. Nó cho phép bạn hành động nhanh chóng đối với số ít nguy hiểm mà không trừng phạt số đông vô hại.

Tắt là một công tắc. Điểm số chung là một núm xoay. Các ngành trưởng thành chạy bằng núm xoay.

Điều các nhà lãnh đạo nên làm bây giờ

Coi quyền truy cập mô hình như một rủi ro cung ứng, không phải tiện ích đã định. Hỏi các nhà cung cấp của bạn điều gì sẽ xảy ra với quy trình làm việc của bạn nếu một mô hình bị đình chỉ, và viết câu trả lời đó vào hợp đồng của bạn. Hỏi cách xử lý các yêu cầu bị chặn, vì việc chuyển hướng âm thầm sang mô hình yếu hơn sẽ thay đổi chất lượng đầu ra của bạn mà không cho bạn biết. Và theo dõi chặt chẽ khung mức độ nghiêm trọng đang nổi lên, vì công ty có thể đặt một con số có thể bảo vệ được trên một rủi ro sẽ hành động trong khi các đối thủ của nó vẫn đang đoán.

Bài học từ việc thu hồi Fable 5 không phải là các biện pháp bảo vệ đã thất bại. Chúng phần lớn đã hoạt động. Bài học là ngành vẫn thiếu một ngôn ngữ chung để đo lường nguy hiểm, và khoảng trống đó đã biến một phát hiện nhỏ thành một đợt đóng băng mười chín ngày.

Đây là câu hỏi của tôi dành cho bạn. Khi hệ thống AI quan trọng nhất của bạn bị tắt mà không có cảnh báo, tổ chức của bạn có một con số cho bạn biết mức độ lo lắng nên có, hay chỉ có trực giác?

Suy nghĩ một cách toán học. Kỹ sư một cách thông minh. Lãnh đạo một cách chiến lược. Xây dựng một cách có trách nhiệm. Mở rộng trên toàn cầu. Tạo ra giá trị kinh doanh thực sự thông qua trí tuệ nhân tạo.

Được xuất bản lần đầu trên LinkedIn bởi Keshavan Thiagaraja. Đọc bản gốc trên LinkedIn. [1]