Fable 5 मागे घेणे प्रत्येक AI नेत्याला काय शिकवते

जून 2026 मध्ये, जगातील सर्वात सक्षम दोन AI मॉडेल्स लॉन्चनंतर काही दिवसांतच बंद करण्यात आली.

Anthropic ने नौ जून रोजी Fable 5 आणि Mythos 5 लॉन्च केले. Fable 5 हे सार्वजनिक मॉडेल होते, जे कंपनीने आतापर्यंत पाठवलेल्या सर्वात मजबूत संरक्षणांनी वेढलेले होते. Mythos 5 मध्ये तोच गाभा होता पण हलकी निर्बंध होती, आणि ते फक्त संरक्षणात्मक सुरक्षा कार्यासाठी तपासलेल्या काही भागीदारांकडे गेले. तीन दिवसांनी अमेरिकन सरकारने दोन्हींवर निर्यात नियंत्रण लादले. परदेशी नागरिकांसाठी प्रवेश बंद करणे आवश्यक होते, देशात असो वा बाहेर. प्रत्येक विनंतीच्या वेळी नागरिकत्व सत्यापित करण्याचा कोणताही मार्ग नव्हता, म्हणून कंपनीने सर्वांसाठी प्रवेश स्थगित केला. नियंत्रण तीस जून रोजी उठवण्यात आले आणि एक जुलै रोजी प्रवेश परत आला. बंदी एकोणीस दिवस चालली, तीन आठवड्यांपेक्षा थोडी कमी.

बहुतेक वाचकांसाठी ही कथा धोरणात्मक वादासारखी वाटते. या प्रणालींवर व्यवसाय चालवणाऱ्या प्रत्येकासाठी मात्र ती काहीशी अधिक तिखट होती. मूलभूत बुद्धिमत्ता सेवा कोणताही इशाऱ्याशिवाय आणि स्वच्छ पर्यायाशिवाय बंद झाल्या. 2026 पूर्वी लिहिलेल्या करारांनी असा सरकारी आदेश कल्पनाही केला नव्हता की तो एकाच वेळी सर्व प्लॅटफॉर्मवर AI सेवा स्थगित करेल. प्रत्येक नेत्याने ज्या भागावर विचार करायला हवा तो हाच आहे.

मॉडेलच्या आत प्रत्यक्षात काय घडले

कारण अॅमेझॉनच्या संशोधकांचा अहवाल होता. त्यांना Fable 5 ला असे सूचित करण्याचा मार्ग सापडला की ते सॉफ्टवेअरमधील त्रुटी ओळखेल, आणि एका प्रकरणात त्याने अशी कोड निर्माण केली जी दाखवते की त्रुटीचा फायदा कसा घेता येतो. अशा युक्तीला एक नाव आहे. त्याला जेलब्रेक म्हणतात, अशी सूचना जी मॉडेलकडून असे काही करवून घेते जे त्याच्या संरक्षणांनी रोखायला हवे होते.

येथे महत्त्वाची वळण आहे. जेव्हा तेच कार्य कमकुवत मॉडेल्सवर तपासण्यात आले, ज्यात Anthropic च्या स्वतःच्या Opus 4.8 चा समावेश होता, तेव्हा ती मॉडेल्सही त्या त्रुटी शोधू शकली आणि तेच प्रात्यक्षिक पुन्हा करू शकली. वर्तन प्रत्यक्षात नियमित संरक्षणात्मक कार्य असल्याचे आढळले, जे संरक्षणे सावधगिरीतून रोखत होती, एखादे अनन्य नवे धोके नव्हते. तरीही Anthropic पटापट हालचाल करू लागली. त्याने एक नवीन वर्गीकरणकर्ता प्रशिक्षित केला जो विशिष्ट तंत्र नव्याण्णव टक्क्यांहून अधिक प्रकरणांमध्ये रोखतो, आणि कोणतीही अवरोधित विनंती त्याऐवजी सुरक्षित मॉडेलकडे पाठवतो.

खरी खंत जेलब्रेक नव्हती

नाट्य बाजूला काढले तर एक सोपी समस्या दिसते. जेव्हा नवीन बायपास नोंदवला जातो, तेव्हा कोणालातरी तो किती गंभीर आहे हे ठरवावे लागते, आणि ते लवकर ठरवावे लागते. हे असे शोध आहे का जे मॉडेल मागे घेणे, नियामकाला माहिती देणे आणि पहाटे तीन वाजता प्रतिसाद पथकाला जागे करणे योग्य ठरवते? की ही एक अरुंद युक्ती आहे जी एक हानिकारक नसलेले वर्तन उघडते आणि वाट पाहू शकते? या प्रश्नाचे उत्तर देण्याचा उद्योगाकडे कोणताही सामायिक मार्ग नाही. प्रत्येक कंपनी अंदाजाने उत्तर देते.

म्हणूनच Anthropic, अॅमेझॉन, मायक्रोसॉफ्ट आणि गुगल यांच्यासोबत मिळून, जेलब्रेक प्रत्यक्षात किती गंभीर आहे यावर गुण देण्यासाठी सामायिक चौकट तयार करू लागली आहे. ही चौकट चार संकेतांवर आधारित आहे. क्षमता वाढ विचारते की बायपास हल्लेखोराला त्याच्याकडे आधीपासून असलेल्या साधनांच्या पलीकडे किती दूर नेतो. व्याप्ती विचारते की तेच तंत्र किती वेगवेगळ्या हल्ल्यांना उघडते. शस्त्रीकरणाची सुलभता विचारते की युक्ती खऱ्या हल्ल्यात रूपांतरित करण्यासाठी किती कुशल प्रयत्न लागतात. शोधण्यायोग्यता विचारते की प्रथमच कोणी ती पद्धत किती सहज शोधू शकते. चार संकेत आत. एक निर्णय बाहेर.

डिझाइन निवडी धोरणात्मक निर्णय आहेत

नेत्यांनी येथेच लक्ष द्यावे, कारण मनोरंजक हालचाली डिझाइन निवडी होत्या, अपघात नव्हते.

पहिली निवड म्हणजे सुरक्षा मार्जिनची रुंदी. सुरक्षा वर्गीकरणकर्ता असे सेट करता येते की तो फक्त स्पष्टपणे धोकादायक विनंत्या रोखेल, किंवा असे की किंचितही जोखीमीचे दिसणारे काहीही रोखेल. Fable 5 सावध टोकावर सेट होते. याचा अर्थ असा की अनेक हानिकारक नसलेल्या विनंत्या नाकारल्या गेल्या, जे वापरकर्त्यांना त्रास देते, याच्या बदल्यात धोकादायक विनंती सुटण्याची शक्यता खूप कमी. हा तांत्रिक सेटिंगच्या वेशातील व्यावसायिक तडजोड आहे. उपलब्धता जाणीवपूर्वक सावधगिरीशी बदलण्यात आली.

दुसरी निवड म्हणजे विनंती अवरोधित झाल्यावर काय होते. फक्त नाकारण्याऐवजी, प्रणाली अवरोधित विनंती कमी सक्षम पण सुरक्षित मॉडेलकडे पुनर्निर्देशित करते. वापरकर्त्याला तरीही उत्तर मिळते. क्षमता नाकारण्याऐवजी कमी होते. हा उत्पादन निर्णय आहे की सुरक्षा नियंत्रण दुसऱ्या बाजूला असलेल्या व्यक्तीला कसे वाटावे.

तिसरी निवड म्हणजे स्तरीकरण. Mythos 5 विश्वासार्ह भागीदार कार्यक्रमात राहिले तर Fable 5 सार्वजनिक झाले. प्रवेश पुनर्संचयित झाल्यावर, Mythos आधी मान्यताप्राप्त संस्थांकडे परत आले, नंतर व्यापकपणे. पूर्ण सार्वजनिक प्रकाशन आणि पूर्ण स्थगिती यांच्यामध्ये बसलेले स्तर आता सीमारेषेची मॉडेल्स कशी पाठवली जातील याचा जिवंत नमुना आहे.

महत्त्वाची तुलना

गंभीर नवीन बायपास हाताळण्याच्या दोन पद्धतींचा विचार करा.

पहिली म्हणजे बंदी. तुम्ही मॉडेल मागे घेता, बोलणी करता, आणि वाट पाहता. हे सर्वांत वाईट परिस्थितीपासून संरक्षण करते, पण ते कुंद आहे. याने कायदेशीर वापरकर्त्यांना एकोणीस दिवस गोठवले, स्पर्धकांना वेळ दिला, आणि छोटी समस्या आणि मोठी समस्या ओळखण्याचा कोणताही मार्ग दिला नाही. खर्च सर्वांवर समान पडला.

दुसरी म्हणजे सामायिक गुण. तुम्ही बायपास मान्य केलेल्या संकेतांविरूद्ध मोजता, तो प्रमाणावर ठेवता, आणि तुमची प्रतिक्रिया संख्येशी जुळवता. कमी गुण म्हणजे निरीक्षण करा आणि पुढे चला. जास्त गुण म्हणजे लगेच कारवाई करा. हे तयार करणे कठीण आहे, कारण यासाठी कंपन्या आणि नियामकांमध्ये सहमती हवी, पण ते प्रमाणानुसार आहे. ते तुम्हाला धोकादायक थोड्यावर वेगाने कारवाई करू देते, हानिकारक नसलेल्या बऱ्याच जणांना शिक्षा न करता.

बंदी एक स्विच आहे. सामायिक गुण एक डायल आहे. परिपक्व उद्योग डायलवर चालतात.

नेत्यांनी आता काय करावे

मॉडेल प्रवेशाला पुरवठा जोखीम म्हणून हाताळा, ठरलेली सेवा म्हणून नाही. तुमच्या विक्रेत्यांना विचारा की मॉडेल स्थगित झाले तर तुमच्या कार्यप्रवाहांचे काय होते, आणि ते उत्तर तुमच्या करारांमध्ये लिहा. अवरोधित विनंत्या कशा हाताळल्या जातात ते विचारा, कारण कमकुवत मॉडेलकडे शांत पुनर्निर्देशन तुम्हाला न सांगता तुमच्या आउटपुटची गुणवत्ता बदलते. आणि उदयोन्मुख गंभीरता चौकटीवर बारकाईने लक्ष ठेवा, कारण जी कंपनी जोखमीवर बचाव करता येईल असा आकडा ठेवू शकेल ती पुढे जाईल जेव्हा तिचे प्रतिस्पर्धी अजून अंदाज लावत असतील.

Fable 5 मागे घेण्याचा धडा असा नाही की संरक्षणे अपयशी ठरली. ती बहुतेकांशी कार्यरत राहिली. धडा असा आहे की उद्योगाकडे अजूनही धोका मोजण्याची सामायिक भाषा नाही, आणि त्या खंतिने एक छोटासा शोध एकोणीस दिवसांच्या गोठण्यात बदलला.

तुमच्यासाठी माझा प्रश्न असा आहे. जेव्हा तुमची सर्वांत महत्त्वाची AI प्रणाली कोणताही इशाऱ्याशिवाय बंद होते, तेव्हा तुमच्या संस्थेकडे असा आकडा आहे का जो सांगतो की तुम्ही किती काळजी करायला हवी, की फक्त एक अंदाज?

गणितीयदृष्ट्या विचार करा. हुशारीने अभियांत्रिकी करा. धोरणात्मकदृष्ट्या नेतृत्व करा. जबाबदारीने निर्माण करा. जागतिक स्तरावर विस्तार करा. कृत्रिम बुद्धिमत्तेद्वारे खरे व्यावसायिक मूल्य निर्माण करा.

मूलतः LinkedIn वर केशवन थियागराजा यांनी प्रकाशित केले. मूळ LinkedIn वर वाचा. [1]