Fable 5 کی واپسی ہر AI رہنما کو کیا سکھاتی ہے

جون 2026 میں، دنیا کے دو انتہائی قابل AI ماڈلز لانچ کے چند دنوں کے اندر بند کر دیے گئے۔

Anthropic نے نو جون کو Fable 5 اور Mythos 5 جاری کیے۔ Fable 5 عوام کے لیے ماڈل تھا، جو کمپنی کی اب تک کی سب سے مضبوط حفاظتی تدابیر میں لپٹا ہوا تھا۔ Mythos 5 وہی بنیادی حصہ رکھتا تھا لیکن ہلکی پابندیاں تھیں، اور یہ صرف دفاعی سیکیورٹی کام کے لیے جانچے گئے شراکت داروں کے چھوٹے گروہ کو دیا گیا۔ تین دن بعد امریکی حکومت نے دونوں پر برآمدی کنٹرول عائد کر دیے۔ غیر ملکی شہریوں کے لیے رسائی منقطع کرنی تھی، خواہ وہ ملک کے اندر ہوں یا باہر۔ ہر درخواست کے وقت شہریت کی تصدیق کا کوئی طریقہ نہیں تھا، اس لیے کمپنی نے سب کے لیے رسائی معطل کر دی۔ کنٹرول تیس جون کو اٹھا لیے گئے، اور رسائی یکم جولائی کو واپس آ گئی۔ بندش انیس دن چلی، تین ہفتوں سے کچھ کم۔

زیادہ تر قارئین کے لیے یہ کہانی پالیسی کا جھگڑا لگتی ہے۔ ان نظاموں پر کاروبار چلانے والے ہر شخص کے لیے، یہ کچھ زیادہ تیز تھا۔ بنیادی ذہانت کی خدمات بغیر کسی انتباہ اور بغیر کسی صاف متبادل کے بند ہو گئیں۔ 2026 سے پہلے لکھے گئے معاہدوں نے ایسا حکم تصور نہیں کیا تھا جو ایک ساتھ تمام پلیٹ فارمز پر AI خدمت معطل کر دے۔ ہر رہنما کو اسی حصے پر غور کرنا چاہیے۔

ماڈل کے اندر اصل میں کیا ہوا

محرک ایمیزان کے محققین کی ایک رپورٹ تھی۔ انہوں نے Fable 5 کو ایسی ہدایت دینے کا طریقہ دریافت کیا کہ وہ سافٹ ویئر کی کمزوریوں کی نشان دہی کرے، اور ایک معاملے میں اس نے ایسا کوڈ تیار کیا جو دکھاتا تھا کہ کمزوری کا فائدہ کیسے اٹھایا جا سکتا ہے۔ اس قسم کی چال کا ایک نام ہے۔ اسے جیل بریک کہتے ہیں، ایک ایسی ہدایت جو ماڈل سے وہ کام کروا لیتی ہے جو اس کی حفاظتی تدابیر روکنے کے لیے بنائی گئی تھیں۔

یہاں اہم موڑ ہے۔ جب وہی کام کمزور ماڈلز پر آزمایا گیا، جن میں Anthropic کا اپنا Opus 4.8 بھی شامل تھا، وہ ماڈلز بھی وہی کمزوریاں تلاش کر سکے اور وہی مظاہرہ دوبارہ پیش کر سکے۔ رویہ معمول کا دفاعی کام نکلا جسے حفاظتی تدابیر احتیاطاً روک رہی تھیں، نہ کہ کوئی منفرد نیا خطرہ۔ اس کے باوجود Anthropic نے تیزی سے قدم اٹھایا۔ اس نے ایک نیا درجہ بند تربیت دیا جو مخصوص تکنیک کو ننانوے فیصد سے زیادہ معاملات میں روکتا ہے، اور کسی بھی روکی گئی درخواست کو اس کے بجائے محفوظ ماڈل کی طرف موڑ دیتا ہے۔

اصلی خلا جیل بریک نہیں تھی

ڈرامہ ہٹا دیں تو ایک سادہ مسئلہ سامنے آتا ہے۔ جب نئی چوک کی اطلاع ملتی ہے، کسی کو فیصلہ کرنا ہوتا ہے کہ یہ کتنی سنگین ہے، اور جلدی فیصلہ کرنا ہوتا ہے۔ کیا یہ وہ دریافت ہے جو ماڈل واپس لینے، ریگولیٹر کو مطلع کرنے اور صبح تین بجے جوابی ٹیم کو بیدار کرنے کا جواز فراہم کرتی ہے؟ یا یہ ایک تنگ چال ہے جو ایک غیر نقصان دہ رویہ کھولتی ہے اور انتظار کر سکتی ہے؟ صنعت کے پاس اس سوال کا جواب دینے کا کوئی مشترکہ طریقہ نہیں۔ ہر کمپنی اندازے سے جواب دیتی ہے۔

یہی وجہ ہے کہ Anthropic، ایمیزان، مائیکروسافٹ اور گوگل کے ساتھ مل کر، جیل بریک اصل میں کتنی سنگین ہے اس کا اندازہ لگانے کے لیے مشترکہ فریم ورک تیار کرنا شروع کر رہی ہے۔ فریم ورک چار اشاروں پر قائم ہے۔ صلاحیت کا حصول پوچھتا ہے کہ چوک حملہ آور کو اس کے موجودہ اوزاروں سے کتنا آگے لے جاتی ہے۔ وسعت پوچھتی ہے کہ وہی تکنیک کتنے مختلف حملے کھولتی ہے۔ اسلحہ بننے کی آسانی پوچھتی ہے کہ چال کو اصل حملے میں بدلنے کے لیے کتنی ماہرانہ محنت درکار ہے۔ دریافت کی آسانی پوچھتی ہے کہ پہلے ہی کوئی اس طریقے کو کتنی آسانی سے تلاش کر سکتا ہے۔ چار اشارے اندر۔ ایک فیصلہ باہر۔

ڈیزائن کے انتخاب اسٹریٹجک فیصلے ہیں

رہنماؤں کو یہیں توجہ دینی چاہیے، کیونکہ دلچسپ اقدامات ڈیزائن کے انتخاب تھے، حادثات نہیں۔

پہلا انتخاب حفاظتی حاشیے کی چوڑائی تھا۔ حفاظتی درجہ بند کو ایسے سیٹ کیا جا سکتا ہے کہ وہ صرف واضح طور پر خطرناک درخواستیں روکے، یا ایسے کہ ہلکی سی بھی خطرناک لگنے والی ہر چیز روک دے۔ Fable 5 کو محتاط سرے پر سیٹ کیا گیا تھا۔ اس کا مطلب تھا کہ بہت سی غیر نقصان دہ درخواستیں مسترد ہو گئیں، جو صارفین کو مایوس کرتی ہیں، اس کے بدلے خطرناک درخواست کے نکل جانے کا امکان بہت کم۔ یہ تکنیکی ترتیب کے روپ میں کاروباری سودا ہے۔ دستیابی کا جان بوجھ کر احتیاط سے سودا کیا گیا۔

دوسرا انتخاب یہ تھا کہ جب درخواست روکی جاتی ہے تو کیا ہوتا ہے۔ محض انکار کرنے کے بجائے، نظام روکی گئی درخواست کو کم قابل لیکن محفوظ ماڈل کی طرف موڑ دیتا ہے۔ صارف کو پھر بھی جواب ملتا ہے۔ صلاحیت گھٹتی ہے، انکار نہیں ہوتا۔ یہ پروڈکٹ کا فیصلہ ہے کہ سیکیورٹی کنٹرول دوسری طرف والے شخص کو کیسا محسوس ہونا چاہیے۔

تیسرا انتخاب درجہ بندی تھی۔ Mythos 5 قابل اعتماد شراکت دار پروگرام کے اندر رہا جبکہ Fable 5 عوامی ہوا۔ جب رسائی بحال ہوئی، Mythos پہلے منظور شدہ تنظیموں کو واپس آیا، پھر وسیع تر۔ مکمل عوامی ریلیز اور مکمل معطلی کے درمیان کی سطح اب فرنٹیئر ماڈلز کی ترسیل کا زندہ نمونہ ہے۔

اہم موازنہ

سنگین نئی چوک سے نمٹنے کے دو طریقوں پر غور کریں۔

پہلا بندش ہے۔ آپ ماڈل واپس لیتے ہیں، بات چیت کرتے ہیں، اور انتظار کرتے ہیں۔ یہ بدترین صورت سے بچاتا ہے، لیکن یہ کند ہے۔ اس نے انیس دنوں کے لیے جائز صارفین کو منجمد کر دیا، حریفوں کو وقت دیا، اور چھوٹے مسئلے کو بڑے مسئلے سے الگ کرنے کا کوئی طریقہ نہیں دیا۔ لاگت سب پر برابر پڑی۔

دوسرا مشترکہ سکور ہے۔ آپ چوک کو متفقہ اشاروں کے مقابلے میں ناپتے ہیں، اسے پیمانے پر رکھتے ہیں، اور اپنا ردعمل نمبر سے ملاتے ہیں۔ کم سکور کا مطلب ہے نگرانی کریں اور آگے بڑھیں۔ زیادہ سکور کا مطلب ہے فوری کارروائی کریں۔ یہ بنانا مشکل ہے، کیونکہ اس کے لیے کمپنیوں اور ریگولیٹروں کے درمیان اتفاق درکار ہے، لیکن یہ متناسب ہے۔ یہ آپ کو غیر نقصان دہ بہتوں کو سزا دیے بغیر خطرناک چند پر تیزی سے کارروائی کرنے دیتا ہے۔

بندش ایک سوئچ ہے۔ مشترکہ سکور ایک ڈائل ہے۔ پختہ صنعتیں ڈائل پر چلتی ہیں۔

رہنماؤں کو اب کیا کرنا چاہیے

ماڈل تک رسائی کو طے شدہ سہولت نہیں بلکہ سپلائی کا خطرہ سمجھیں۔ اپنے سپلائرز سے پوچھیں کہ اگر کوئی ماڈل معطل ہو جائے تو آپ کے ورک فلوز کا کیا ہوگا، اور وہ جواب اپنے معاہدوں میں لکھیں۔ پوچھیں کہ روکی گئی درخواستوں سے کیسے نمٹا جاتا ہے، کیونکہ کمزور ماڈل کی طرف خاموش موڑ آپ کو بتائے بغیر آپ کی آؤٹ پٹ کوالٹی بدل دیتا ہے۔ اور ابھرتے ہوئے سنگینی کے فریم ورک پر گہری نظر رکھیں، کیونکہ جو کمپنی خطرے پر قابل دفاع نمبر رکھ سکتی ہے وہ آگے بڑھے گی جبکہ اس کے حریف ابھی بھی اندازہ لگا رہے ہوں گے۔

Fable 5 کی واپسی کا سبق یہ نہیں کہ حفاظتی تدابیر ناکام ہو گئیں۔ وہ بڑی حد تک کام کرتی رہیں۔ سبق یہ ہے کہ صنعت کے پاس ابھی بھی خطرہ ناپنے کی مشترکہ زبان نہیں، اور اس خلا نے ایک چھوٹی سی دریافت کو انیس دن کی منجمدی میں بدل دیا۔

آپ کے لیے میرا سوال یہ ہے۔ جب آپ کا سب سے اہم AI نظام بغیر کسی انتباہ کے بند ہو جاتا ہے، کیا آپ کی تنظیم کے پاس وہ نمبر ہے جو بتائے کہ آپ کو کتنا فکر کرنا چاہیے، یا صرف اندازہ؟

ریاضیاتی طور پر سوچیں۔ ذہانت سے انجینئرنگ کریں۔ حکمت عملی سے قیادت کریں۔ ذمہ داری سے تعمیر کریں۔ عالمی سطح پر پھیلائیں۔ مصنوعی ذہانت کے ذریعے حقیقی کاروباری قدر پیدا کریں۔

اصل میں LinkedIn پر Keshavan Thiagaraja نے شائع کیا۔ اصل LinkedIn پر پڑھیں۔ [1]