Fable 5 की वापसी हर AI नेता को क्या सिखाती है

जून 2026 में, दुनिया के दो सबसे सक्षम AI मॉडल लॉन्च के कुछ ही दिनों में बंद कर दिए गए।

Anthropic ने नौ जून को Fable 5 और Mythos 5 जारी किए। Fable 5 जनता के लिए मॉडल था, जो कंपनी के अब तक के सबसे मजबूत सुरक्षा उपायों में लिपटा था। Mythos 5 में वही मूल था लेकिन हल्के प्रतिबंध थे, और यह केवल रक्षात्मक सुरक्षा कार्य के लिए सत्यापित भागीदारों के छोटे समूह तक पहुंचा। तीन दिन बाद अमेरिकी सरकार ने दोनों पर निर्यात नियंत्रण लगा दिए। विदेशी नागरिकों के लिए पहुंच बंद करनी थी, चाहे देश के अंदर हो या बाहर। हर अनुरोध के समय राष्ट्रीयता सत्यापित करने का कोई तरीका नहीं था, इसलिए कंपनी ने सभी के लिए पहुंच निलंबित कर दी। नियंत्रण तीस जून को हटाए गए, और एक जुलाई को पहुंच वापस आ गई। बंदी उन्नीस दिन चली, तीन सप्ताह से थोड़ी कम।

अधिकांश पाठकों के लिए कहानी एक नीतिगत विवाद लगती है। जो भी इन प्रणालियों पर व्यवसाय चलाता है, उसके लिए यह कुछ ज्यादा तीखा था। मूल बुद्धिमत्ता सेवाएं बिना चेतावनी के और बिना किसी साफ विकल्प के बंद हो गईं। 2026 से पहले लिखे गए अनुबंधों ने कल्पना भी नहीं की थी कि कोई सरकारी आदेश एक साथ सभी प्लेटफॉर्म पर AI सेवा को निलंबित कर देगा। हर नेता को यहीं रुककर सोचना चाहिए।

मॉडल के अंदर वास्तव में क्या हुआ

ट्रिगर अमेज़न के शोधकर्ताओं की एक रिपोर्ट थी। उन्होंने Fable 5 को ऐसे निर्देश देने का तरीका खोजा कि वह सॉफ्टवेयर कमजोरियों की पहचान करे, और एक मामले में उसने ऐसा कोड बनाया जो दिखाता था कि किसी कमजोरी का शोषण कैसे किया जा सकता है। इस तरह की चाल का एक नाम है। इसे जेलब्रेक कहते हैं, एक ऐसा निर्देश जो मॉडल से कुछ ऐसा करवाता है जिसे उसके सुरक्षा उपाय रोकने के लिए बने थे।

यहां वह मोड़ है जो मायने रखता है। जब वही कार्य कमजोर मॉडलों पर परखा गया, जिसमें Anthropic का अपना Opus 4.8 भी शामिल था, वे मॉडल भी वही कमजोरियां खोज सके और वही प्रदर्शन दोहरा सके। व्यवहार सामान्य रक्षात्मक कार्य निकला जिसे सुरक्षा उपाय सावधानी से रोक रहे थे, न कि कोई अनूठा नया खतरा। फिर भी Anthropic ने तेजी से कदम उठाया। उसने एक नया वर्गीकरणकर्ता प्रशिक्षित किया जो विशिष्ट तकनीक को निन्यानबे प्रतिशत से अधिक मामलों में रोकता है, और किसी भी अवरुद्ध अनुरोध को इसके बजाय एक सुरक्षित मॉडल पर भेजता है।

असली खाई जेलब्रेक नहीं थी

नाटक को हटा दें तो एक सादी समस्या सामने आती है। जब कोई नई चूक रिपोर्ट होती है, तो किसी को यह तय करना होता है कि वह कितनी गंभीर है, और जल्दी तय करना होता है। क्या यह ऐसी खोज है जो मॉडल वापस लेने, नियामक को सूचित करने और तड़के तीन बजे प्रतिक्रिया टीम को जगाने को उचित ठहराती है? या यह एक संकरी चाल है जो एक हानिरहित व्यवहार खोलती है और इंतजार कर सकती है? उद्योग के पास इस सवाल का जवाब देने का कोई साझा तरीका नहीं है। हर कंपनी अंदाजे से जवाब देती है।

यही कारण है कि Anthropic, अमेज़न, माइक्रोसॉफ्ट और गूगल के साथ मिलकर, एक जेलब्रेक वास्तव में कितना गंभीर है यह आंकने के लिए एक साझा ढांचा तैयार कर रहा है। ढांचा चार संकेतों पर टिका है। क्षमता लाभ पूछता है कि चूक हमलावर को उसके मौजूदा औजारों से कितना आगे ले जाती है। विस्तार पूछता है कि वही तकनीक कितने अलग-अलग हमलों को खोलती है। हथियार बनने की आसानी पूछती है कि चाल को असली हमले में बदलने में कितनी कुशल मेहनत लगती है। खोजने योग्यता पूछती है कि शुरू में ही कोई विधि कितनी आसानी से खोज सकता है। चार संकेत अंदर। एक फैसला बाहर।

डिजाइन के चुनाव रणनीतिक फैसले हैं

यहीं नेताओं को ध्यान देना चाहिए, क्योंकि दिलचस्प कदम डिजाइन के चुनाव थे, दुर्घटनाएं नहीं।

पहला चुनाव सुरक्षा मार्जिन की चौड़ाई था। सुरक्षा वर्गीकरणकर्ता को ऐसे सेट किया जा सकता है कि वह केवल स्पष्ट रूप से खतरनाक अनुरोधों को रोके, या ऐसे कि वह हल्का-सा भी जोखिम भरा दिखने वाला हर अनुरोध रोक दे। Fable 5 सावधान छोर पर सेट था। इसका मतलब था कि कई हानिरहित अनुरोध अस्वीकार हुए, जो उपयोगकर्ताओं को निराश करता है, इसके बदले में खतरनाक अनुरोध के फिसलने की संभावना बहुत कम। यह एक तकनीकी सेटिंग के भेष में व्यापारिक समझौता है। उपलब्धता का जानबूझकर सावधानी से सौदा किया गया।

दूसरा चुनाव था कि जब अनुरोध रोका जाता है तो क्या होता है। सीधे मना करने के बजाय, प्रणाली रोके गए अनुरोध को कम सक्षम लेकिन सुरक्षित मॉडल पर पुनर्निर्देशित करती है। उपयोगकर्ता को फिर भी जवाब मिलता है। क्षमता घटती है, इनकार नहीं होता। यह एक उत्पाद निर्णय है कि सुरक्षा नियंत्रण दूसरी तरफ के व्यक्ति को कैसा महसूस होना चाहिए।

तीसरा चुनाव स्तरीकरण था। Mythos 5 एक विश्वसनीय भागीदार कार्यक्रम के भीतर रहा जबकि Fable 5 सार्वजनिक हुआ। जब पहुंच बहाल हुई, तो Mythos पहले स्वीकृत संगठनों के पास लौटा, फिर व्यापक रूप से। पूर्ण सार्वजनिक रिलीज और पूर्ण निलंबन के बीच बैठा एक स्तर अब सीमांत मॉडलों के लॉन्च होने का एक जीवंत टेम्पलेट है।

वह तुलना जो मायने रखती है

किसी गंभीर नई चूक को संभालने के दो तरीकों पर विचार करें।

पहला है बंदी। आप मॉडल वापस लेते हैं, बातचीत करते हैं, और इंतजार करते हैं। यह सबसे बुरी स्थिति से बचाता है, लेकिन यह कुंद है। इसने उन्नीस दिनों के लिए वैध उपयोगकर्ताओं को ठंडा कर दिया, प्रतियोगियों को समय दिया, और छोटी समस्या से बड़ी समस्या में अंतर करने का कोई तरीका नहीं दिया। लागत सब पर बराबर पड़ी।

दूसरा है साझा स्कोर। आप चूक को सहमत संकेतों के विरुद्ध मापते हैं, उसे एक पैमाने पर रखते हैं, और अपनी प्रतिक्रिया को संख्या से मिलाते हैं। कम स्कोर का मतलब है नजर रखें और आगे बढ़ें। उच्च स्कोर का मतलब है तुरंत कार्रवाई करें। इसे बनाना कठिन है, क्योंकि इसके लिए कंपनियों और नियामकों के बीच सहमति चाहिए, लेकिन यह आनुपातिक है। यह आपको खतरनाक थोड़ों पर तेजी से कार्रवाई करने देता है, हानिरहित बहुतों को दंडित किए बिना।

बंदी एक स्विच है। साझा स्कोर एक डायल है। परिपक्व उद्योग डायल पर चलते हैं।

नेताओं को अब क्या करना चाहिए

मॉडल पहुंच को आपूर्ति जोखिम की तरह लें, न कि तय सेवा की तरह। अपने विक्रेताओं से पूछें कि यदि कोई मॉडल निलंबित होता है तो आपके कार्यप्रवाह का क्या होगा, और उस जवाब को अपने अनुबंधों में लिखें। पूछें कि अवरुद्ध अनुरोधों को कैसे संभाला जाता है, क्योंकि कमजोर मॉडल पर शांत पुनर्निर्देशन आपको बताए बिना आपके आउटपुट की गुणवत्ता बदल देता है। और उभरते गंभीरता ढांचे पर बारीकी से नजर रखें, क्योंकि जो कंपनी किसी जोखिम पर बचाव योग्य संख्या रख सकती है, वह आगे बढ़ेगी जबकि उसकी प्रतिद्वंद्वी अभी भी अंदाजा लगा रही होंगी।

Fable 5 की वापसी का सबक यह नहीं है कि सुरक्षा उपाय विफल हुए। वे काफी हद तक काम करते रहे। सबक यह है कि उद्योग के पास अभी भी खतरा मापने की साझा भाषा नहीं है, और उस खाई ने एक छोटी खोज को उन्नीस दिन की ठंडक में बदल दिया।

आपके लिए मेरा सवाल यह है। जब आपकी सबसे महत्वपूर्ण AI प्रणाली बिना चेतावनी के बंद हो जाती है, तो क्या आपके संगठन के पास कोई संख्या है जो बताए कि आपको कितना चिंतित होना चाहिए, या सिर्फ एक अंदाजा?

गणितीय रूप से सोचें। बुद्धिमानी से इंजीनियर करें। रणनीतिक रूप से नेतृत्व करें। जिम्मेदारी से निर्माण करें। विश्वव्यापी स्तर पर बढ़ें। कृत्रिम बुद्धिमत्ता के माध्यम से वास्तविक व्यापारिक मूल्य बनाएं।

मूल रूप से LinkedIn पर केशवन थियागराजा द्वारा प्रकाशित। मूल LinkedIn पर पढ़ें। [1]