Fable 5'in Geri Çağrılması Her Yapay Zeka Liderine Ne Öğretiyor

Haziran 2026'da, dünyanın en yetenekli iki yapay zeka modeli lansmanından günler sonra kapatıldı.

Anthropic, 9 Haziran'da Fable 5 ve Mythos 5'i piyasaya sürdü. Fable 5 halka açık modeldi ve şirketin şimdiye kadar gönderdiği en güçlü korumalarla sarılmıştı. Mythos 5 aynı çekirdeği paylaşıyordu ancak daha hafif kısıtlamalar taşıyordu ve yalnızca savunma amaçlı güvenlik çalışmaları için doğrulanmış küçük bir ortak grubuna gitti. Üç gün sonra ABD hükümeti her ikisine de ihracat kontrolleri uyguladı. Ülke içinde veya dışında olsun, yabancı uyruklular için erişimin kesilmesi gerekiyordu. Her isteğin anında uyruğu doğrulamanın bir yolu olmadığından, şirket herkes için erişimi askıya aldı. Kontroller 30 Haziran'da kaldırıldı ve erişim 1 Temmuz'da geri döndü. Kapatma on dokuz gün, yani üç haftadan biraz az sürdü.

Çoğu okuyucu için hikaye bir politika anlaşmazlığı gibi geliyor. Bu sistemler üzerinde iş yürüten herkes için daha keskin bir şeydi. Temel zeka hizmetleri uyarısız ve temiz bir yedek olmadan karardı. 2026'dan önce yazılan sözleşmeler, tüm platformlarda aynı anda bir yapay zeka hizmetini askıya alan bir hükümet emrini hayal etmemişti. Her liderin üzerinde durması gereken kısım bu.

Modelin içinde gerçekte ne oldu

Tetikleyici, Amazon araştırmacılarının bir raporuydu. Fable 5'e yazılım güvenlik açıklarını tanımlaması için talimat vermenin bir yolunu buldular ve bir durumda bir güvenlik açığının nasıl istismar edilebileceğini gösteren kod üretti. Bu tür bir hilenin bir adı var. Buna jailbreak denir, bir modelin korumalarının engellemesi gereken bir şeyi yapmasını sağlayan bir istemdir.

İşte önemli olan dönüm noktası. Aynı görev daha zayıf modellerde test edildiğinde, Anthropic'in kendi Opus 4.8'i de dahil olmak üzere, bu modeller aynı güvenlik açıklarını bulabildi ve aynı gösterimi yeniden üretebildi. Davranış, korumaların dikkatten dolayı engellediği rutin savunma çalışması olduğu ortaya çıktı, benzersiz yeni bir tehlike değildi. Yine de Anthropic hızlı hareket etti. Belirli tekniği vakaların yüzde doksan dokuzundan fazlasında engelleyen yeni bir sınıflandırıcı eğitti ve engellenen herhangi bir isteği bunun yerine daha güvenli bir modele yönlendiriyor.

Gerçek boşluk jailbreak değildi

Dramayı bir kenara bırakınca daha basit bir sorun ortaya çıkıyor. Yeni bir bypass bildirildiğinde, birinin bunun ne kadar ciddi olduğuna karar vermesi gerekir ve hızlı karar vermesi gerekir. Bu, bir modeli geri çekmeyi, bir düzenleyiciyi bilgilendirmeyi ve sabah üçte bir müdahale ekibini uyandırmayı haklı çıkaran bir bulgu mu? Yoksa zararsız bir davranışı açan ve bekleyebilen dar bir hile mi? Sektörün bu soruyu yanıtlamak için ortak bir yolu yok. Her şirket içgüdüyle yanıt veriyor.

Bu yüzden Anthropic, Amazon, Microsoft ve Google ile birlikte, bir jailbreak'in gerçekte ne kadar ciddi olduğunu puanlamak için ortak bir çerçeve hazırlamaya başladı. Çerçeve dört sinyale dayanıyor. Yetenek kazanımı, bypass'ın bir saldırganı zaten sahip olduğu araçların ötesine ne kadar götürdüğünü soruyor. Genişlik, aynı tekniğin kaç farklı saldırıyı açtığını soruyor. Silahlanma kolaylığı, hileyi gerçek bir saldırıya dönüştürmek için ne kadar nitelikli çaba gerektiğini soruyor. Keşfedilebilirlik, birinin yöntemi ilk etapta ne kadar kolay bulabileceğini soruyor. Dört sinyal girer. Bir karar çıkar.

Tasarım seçimleri stratejik kararlardır

Liderlerin dikkat etmesi gereken yer burası, çünkü ilginç hamleler tasarım seçimleriydi, kaza değil.

İlk seçim güvenlik marjının genişliğiydi. Bir güvenlik sınıflandırıcısı yalnızca açıkça tehlikeli istekleri engelleyecek şekilde ayarlanabilir veya hafifçe riskli görünen her şeyi engelleyecek şekilde ayarlanabilir. Fable 5 temkinli uca ayarlanmıştı. Bu, birçok zararsız isteğin reddedildiği anlamına geliyordu, bu da kullanıcıları hayal kırıklığına uğratır, karşılığında tehlikeli bir isteğin sıyrılma olasılığı çok daha düşüktür. Bu, teknik bir ayar kılığına girmiş bir iş takasıdır. Kullanılabilirlik bilinçli olarak temkinle takas edildi.

İkinci seçim, bir istek engellendiğinde ne olacağıydı. Sadece reddetmek yerine, sistem engellenen isteği daha az yetenekli ancak daha güvenli bir modele yeniden yönlendirir. Kullanıcı yine de bir yanıt alır. Yetenek reddedilmek yerine düşürülür. Bu, bir güvenlik kontrolünün diğer taraftaki kişi tarafından nasıl hissedilmesi gerektiği hakkında bir ürün kararıdır.

Üçüncü seçim katmanlandırmaydı. Mythos 5 güvenilir bir ortak programı içinde kalırken Fable 5 halka açıldı. Erişim geri yüklendiğinde, Mythos önce onaylanmış kuruluşlara döndü, sonra daha geniş çapta. Tam halka açık sürüm ile tam askıya alma arasında oturan bir katman, artık sınır modellerinin nasıl gönderileceğinin canlı bir şablonu.

Önemli olan karşılaştırma

Ciddi yeni bir bypass'ı ele almanın iki yolunu düşünün.

Birincisi kapatmadır. Modeli geri çekersiniz, müzakere edersiniz ve beklersiniz. Bu en kötü senaryoya karşı korur, ancak kabadır. Meşru kullanıcıları on dokuz gün boyunca dondurdu, rakiplere zaman kazandırdı ve küçük bir sorunu büyük bir sorundan ayırt etmenin bir yolunu sunmadı. Maliyet herkese eşit olarak düştü.

İkincisi paylaşılan puandır. Bypass'ı üzerinde anlaşılan sinyallere karşı ölçersiniz, bir ölçeğe yerleştirirsiniz ve yanıtınızı sayıya göre ayarlarsınız. Düşük puan izlemek ve devam etmek demektir. Yüksek puan hemen harekete geçmek demektir. Bunu inşa etmek daha zordur, çünkü şirketler ve düzenleyiciler arasında anlaşma gerektirir, ancak orantılıdır. Zararsız çoğunluğu cezalandırmadan tehlikeli azınlık üzerinde hızlı hareket etmenizi sağlar.

Kapatma bir anahtardır. Paylaşılan puan bir kadrandır. Olgun sektörler kadranlarla çalışır.

Liderler şimdi ne yapmalı

Model erişimini yerleşik bir hizmet olarak değil, bir tedarik riski olarak ele alın. Bir model askıya alınırsa iş akışlarınıza ne olacağını tedarikçilerinize sorun ve bu yanıtı sözleşmelerinize yazın. Engellenen isteklerin nasıl ele alındığını sorun, çünkü daha zayıf bir modele sessiz bir yeniden yönlendirme, size söylemeden çıktı kalitenizi değiştirir. Ve ortaya çıkan şiddet çerçevesini yakından izleyin, çünkü bir riske savunulabilir bir sayı koyabilen şirket, rakipleri hala tahmin ederken harekete geçecektir.

Fable 5'in geri çağrılmasının dersi korumaların başarısız olduğu değildir. Büyük ölçüde çalıştılar. Ders, sektörün hala tehlikeyi ölçmek için ortak bir dilden yoksun olduğu ve bu boşluğun küçük bir bulguyu on dokuz günlük bir donmaya dönüştürdüğüdür.

Size sorum şu. En önemli yapay zeka sisteminiz uyarı olmadan kapatıldığında, kuruluşunuzun ne kadar endişelenmeniz gerektiğini söyleyen bir sayısı var mı, yoksa sadece bir içgüdü mü?

Matematiksel düşünün. Akıllıca mühendislik yapın. Stratejik olarak liderlik edin. Sorumlu bir şekilde inşa edin. Küresel olarak ölçeklendirin. Yapay zeka aracılığıyla gerçek iş değeri yaratın.

Orijinal olarak LinkedIn'de Keshavan Thiagaraja tarafından yayınlandı. Orijinalini LinkedIn'de okuyun. [1]