Apa yang Diajarkan Penarikan Fable 5 kepada Setiap Pemimpin AI

Pada Juni 2026, dua model AI paling mumpuni di dunia dimatikan dalam hitungan hari setelah peluncurannya.

Anthropic merilis Fable 5 dan Mythos 5 pada tanggal sembilan Juni. Fable 5 adalah model yang menghadap publik, dibungkus dengan perlindungan terkuat yang pernah dikirimkan perusahaan. Mythos 5 berbagi inti yang sama tetapi membawa pembatasan yang lebih ringan, dan hanya diberikan kepada sekelompok kecil mitra terverifikasi untuk pekerjaan keamanan defensif. Tiga hari kemudian pemerintah Amerika Serikat menerapkan kontrol ekspor pada keduanya. Akses harus diputus untuk warga negara asing, baik di dalam maupun di luar negeri. Karena tidak ada cara untuk memverifikasi kewarganegaraan pada saat setiap permintaan, perusahaan menangguhkan akses untuk semua orang. Kontrol dicabut pada tanggal tiga puluh Juni, dan akses kembali pada tanggal satu Juli. Penutupan berlangsung sembilan belas hari, kurang dari tiga minggu.

Bagi kebanyakan pembaca, kisah ini terdengar seperti sengketa kebijakan. Bagi siapa pun yang menjalankan bisnis di atas sistem-sistem ini, itu adalah sesuatu yang lebih tajam. Layanan inteligensi inti padam tanpa peringatan dan tanpa cadangan yang bersih. Kontrak yang ditulis sebelum 2026 tidak membayangkan perintah pemerintah yang menangguhkan layanan AI di semua platform sekaligus. Itulah bagian yang harus direnungkan setiap pemimpin.

Apa yang sebenarnya terjadi di dalam model

Pemicunya adalah laporan dari peneliti Amazon. Mereka menemukan cara untuk meminta Fable 5 sehingga ia mengidentifikasi kerentanan perangkat lunak, dan dalam satu kasus ia menghasilkan kode yang menunjukkan bagaimana kerentanan bisa dieksploitasi. Trik semacam ini punya nama. Disebut jailbreak, sebuah prompt yang membuat model melakukan sesuatu yang seharusnya diblokir oleh perlindungannya.

Inilah kejutan yang penting. Ketika tugas yang sama diuji pada model yang lebih lemah, termasuk Opus 4.8 milik Anthropic sendiri, model-model itu dapat menemukan kerentanan yang sama dan mereproduksi demonstrasi yang sama. Perilaku itu ternyata pekerjaan defensif rutin yang diblokir oleh perlindungan karena kehati-hatian, bukan bahaya baru yang unik. Anthropic tetap bergerak cepat. Perusahaan melatih klasifikator baru yang memblokir teknik spesifik itu dalam lebih dari sembilan puluh sembilan persen kasus, dan mengalihkan setiap permintaan yang diblokir ke model yang lebih aman.

Kesenjangan sesungguhnya bukanlah jailbreak

Singkirkan dramanya dan masalah yang lebih sederhana muncul. Ketika bypass baru dilaporkan, seseorang harus memutuskan seberapa serius itu, dan harus memutuskan dengan cepat. Apakah ini temuan yang membenarkan penarikan model, pemberitahuan kepada regulator, dan membangunkan tim respons jam tiga pagi? Atau ini trik sempit yang membuka satu perilaku tidak berbahaya dan bisa menunggu? Industri tidak punya cara bersama untuk menjawab pertanyaan itu. Setiap perusahaan menjawab dengan naluri.

Itulah sebabnya Anthropic, bersama Amazon, Microsoft, dan Google, mulai menyusun kerangka kerja bersama untuk menilai seberapa parah sebuah jailbreak sebenarnya. Kerangka kerja ini bertumpu pada empat sinyal. Perolehan kemampuan menanyakan seberapa jauh bypass membawa penyerang melampaui alat yang sudah mereka miliki. Keluasan menanyakan berapa banyak serangan berbeda yang dibuka oleh teknik yang sama. Kemudahan persenjataan menanyakan berapa banyak upaya terampil yang diperlukan untuk mengubah trik menjadi serangan nyata. Kemudahan penemuan menanyakan seberapa mudah seseorang menemukan metode itu sejak awal. Empat sinyal masuk. Satu keputusan keluar.

Pilihan desain adalah keputusan strategis

Di sinilah para pemimpin harus memperhatikan, karena langkah-langkah yang menarik adalah pilihan desain, bukan kebetulan.

Pilihan pertama adalah lebar margin keamanan. Klasifikator keamanan dapat disetel untuk memblokir hanya permintaan yang jelas berbahaya, atau disetel untuk memblokir apa pun yang tampak sedikit berisiko. Fable 5 disetel ke ujung yang hati-hati. Itu berarti banyak permintaan tidak berbahaya ditolak, yang membuat pengguna frustrasi, sebagai ganti peluang yang jauh lebih kecil bahwa permintaan berbahaya lolos. Itu adalah kompromi bisnis yang menyamar sebagai pengaturan teknis. Ketersediaan ditukar dengan kehati-hatian dengan sengaja.

Pilihan kedua adalah apa yang terjadi ketika permintaan diblokir. Alih-alih sekadar menolak, sistem mengalihkan permintaan yang diblokir ke model yang kurang mumpuni tetapi lebih aman. Pengguna tetap mendapat jawaban. Kemampuan diturunkan, bukan ditolak. Itu adalah keputusan produk tentang bagaimana kontrol keamanan seharusnya terasa bagi orang di sisi lain.

Pilihan ketiga adalah pembentukan tingkatan. Mythos 5 tetap berada di dalam program mitra tepercaya sementara Fable 5 go public. Ketika akses dipulihkan, Mythos kembali dulu ke organisasi yang disetujui, lalu lebih luas. Tingkat yang berada di antara rilis publik penuh dan penangguhan total kini menjadi templat hidup tentang bagaimana model frontier akan dikirim.

Perbandingan yang penting

Pertimbangkan dua cara menangani bypass baru yang serius.

Yang pertama adalah penutupan. Anda menarik model, Anda bernegosiasi, dan Anda menunggu. Ini melindungi dari skenario terburuk, tetapi tumpul. Ini membekukan pengguna sah selama sembilan belas hari, memberi waktu kepada pesaing, dan tidak menawarkan cara membedakan masalah kecil dari yang besar. Biayanya jatuh pada semua orang secara setara.

Yang kedua adalah skor bersama. Anda mengukur bypass terhadap sinyal yang disepakati, menempatkannya pada skala, dan menyesuaikan respons Anda dengan angkanya. Skor rendah berarti pantau dan lanjutkan. Skor tinggi berarti bertindak segera. Ini lebih sulit dibangun, karena memerlukan kesepakatan antar perusahaan dan regulator, tetapi proporsional. Ini memungkinkan Anda bertindak cepat pada yang sedikit berbahaya tanpa menghukum yang banyak tidak berbahaya.

Penutupan adalah sakelar. Skor bersama adalah kenop. Industri yang matang berjalan dengan kenop.

Apa yang harus dilakukan para pemimpin sekarang

Perlakukan akses model sebagai risiko pasokan, bukan utilitas yang sudah pasti. Tanyakan kepada vendor Anda apa yang terjadi pada alur kerja Anda jika sebuah model ditangguhkan, dan tuliskan jawaban itu ke dalam kontrak Anda. Tanyakan bagaimana permintaan yang diblokir ditangani, karena pengalihan senyap ke model yang lebih lemah mengubah kualitas output Anda tanpa memberi tahu Anda. Dan awasi kerangka kerja keparahan yang muncul dengan cermat, karena perusahaan yang dapat menempatkan angka yang dapat dipertahankan pada risiko akan bergerak sementara para pesaingnya masih menebak-nebak.

Pelajaran dari penarikan Fable 5 bukanlah bahwa perlindungan gagal. Mereka sebagian besar berhasil. Pelajarannya adalah industri masih kekurangan bahasa bersama untuk mengukur bahaya, dan kesenjangan itu mengubah temuan kecil menjadi pembekuan sembilan belas hari.

Inilah pertanyaan saya untuk Anda. Ketika sistem AI terpenting Anda dimatikan tanpa peringatan, apakah organisasi Anda memiliki angka yang memberi tahu seberapa khawatir Anda seharusnya, atau hanya naluri?

Berpikirlah secara matematis. Rekayasalah dengan cerdas. Pimpinlah secara strategis. Bangunlah secara bertanggung jawab. Skalakan secara global. Ciptakan nilai bisnis nyata melalui kecerdasan buatan.

Awalnya diterbitkan di LinkedIn oleh Keshavan Thiagaraja. Baca aslinya di LinkedIn. [1]