ما الذي يعلّمه استدعاء Fable 5 لكل قائد في مجال الذكاء الاصطناعي

في يونيو 2026، أُوقف اثنان من أكثر نماذج الذكاء الاصطناعي قدرة في العالم خلال أيام من إطلاقهما.

أطلقت أنثروبيك نموذجي Fable 5 وMythos 5 في التاسع من يونيو. كان Fable 5 هو النموذج الموجه للجمهور، مغلفا بأقوى الضمانات التي شحنتها الشركة على الإطلاق. أما Mythos 5 فكان يشترك في النواة نفسها لكنه يحمل قيودا أخف، وذهب فقط إلى مجموعة صغيرة من الشركاء المعتمدين للعمل الأمني الدفاعي. بعد ثلاثة أيام طبقت حكومة الولايات المتحدة ضوابط تصدير على كليهما. كان يجب قطع الوصول عن الرعايا الأجانب، سواء داخل البلاد أو خارجها. ولم تكن هناك طريقة للتحقق من الجنسية لحظة كل طلب، لذا علقت الشركة الوصول للجميع. رُفعت الضوابط في الثلاثين من يونيو، وعاد الوصول في الأول من يوليو. استمر الإيقاف تسعة عشر يوما، أي أقل قليلا من ثلاثة أسابيع.

بالنسبة لمعظم القراء، تبدو القصة وكأنها نزاع سياسي. أما بالنسبة لأي شخص يدير عملا على هذه الأنظمة، فقد كانت شيئا أكثر حدة. خدمات ذكاء أساسية تعطلت دون سابق إنذار ودون بديل واضح. العقود المكتوبة قبل عام 2026 لم تتخيل أمرا حكوميا يعلق خدمة ذكاء اصطناعي عبر كل المنصات دفعة واحدة. هذا هو الجزء الذي يجب على كل قائد التوقف عنده.

ما الذي حدث فعليا داخل النموذج

كان المحفز تقريرا من باحثين في أمازون. وجدوا طريقة لتوجيه Fable 5 بحيث يحدد ثغرات البرمجيات، وفي حالة واحدة أنتج شيفرة أظهرت كيف يمكن استغلال ثغرة. لهذا النوع من الحيل اسم. يطلق عليه كسر القيود، وهو موجه يجعل النموذج يفعل شيئا كانت ضماناته مصممة لمنعه.

إليك المفارقة المهمة. عندما اختبرت المهمة نفسها على نماذج أضعف، بما في ذلك Opus 4.8 من أنثروبيك نفسها، تمكنت تلك النماذج من العثور على الثغرات نفسها وإعادة إنتاج العرض نفسه. تبين أن السلوك كان عملا دفاعيا روتينيا كانت الضمانات تمنعه بدافع الحذر، وليس خطرا جديدا فريدا. ومع ذلك تحركت أنثروبيك بسرعة. دربت مصنفا جديدا يمنع التقنية المحددة في أكثر من تسعة وتسعين بالمئة من الحالات، ويوجه أي طلب محظور إلى نموذج أكثر أمانا بدلا من ذلك.

الفجوة الحقيقية لم تكن كسر القيود

عند تجريد القصة من الدراما، تظهر مشكلة أوضح. عندما يبلغ عن ثغرة جديدة، يجب على شخص ما أن يقرر مدى خطورتها، وعليه أن يقرر بسرعة. هل هذه نتيجة تبرر سحب نموذج، وإطلاع جهة تنظيمية، وإيقاظ فريق استجابة في الثالثة فجرا؟ أم أنها حيلة ضيقة تفتح سلوكا واحدا غير مؤذ ويمكنها الانتظار؟ لا توجد في الصناعة طريقة مشتركة للإجابة على هذا السؤال. كل شركة تجيب بحدسها.

لهذا السبب بدأت أنثروبيك، بالتعاون مع أمازون ومايكروسوفت وجوجل، في صياغة إطار مشترك لتقييم مدى خطورة كسر القيود فعليا. يستند الإطار إلى أربع إشارات. تسأل إشارة كسب القدرة إلى أي مدى تأخذ الثغرة المهاجم أبعد من الأدوات المتاحة له بالفعل. تسأل إشارة الاتساع كم عدد الهجمات المختلفة التي تفتحها التقنية نفسها. تسأل إشارة سهولة التسليح مقدار الجهد المتخصص اللازم لتحويل الحيلة إلى هجوم حقيقي. وتسأل إشارة قابلية الاكتشاف مدى سهولة العثور على الطريقة في المقام الأول. أربع إشارات تدخل. قرار واحد يخرج.

خيارات التصميم قرارات استراتيجية

هنا يجب على القادة الانتباه، لأن التحركات المثيرة للاهتمام كانت خيارات تصميم، وليست مصادفات.

كان الخيار الأول هو عرض هامش الأمان. يمكن ضبط مصنف الأمان ليمنع فقط الطلبات الخطرة بوضوح، أو يمكن ضبطه ليمنع أي شيء يبدو محفوفا بالمخاطر ولو قليلا. ضبط Fable 5 عند الطرف الحذر. كان ذلك يعني رفض العديد من الطلبات غير المؤذية، وهو ما يحبط المستخدمين، مقابل احتمال أقل بكثير لتسرب طلب خطير. هذه مقايضة تجارية متنكرة في شكل إعداد تقني. تمت المقايضة بين التوفر والحذر عن قصد.

كان الخيار الثاني ما يحدث عند حظر طلب. بدلا من الرفض ببساطة، يعيد النظام توجيه الطلب المحظور إلى نموذج أقل قدرة لكنه أكثر أمانا. لا يزال المستخدم يحصل على إجابة. القدرة تتدهور بدلا من أن تمنع. هذا قرار منتج حول كيف يجب أن يشعر الشخص على الجانب الآخر تجاه ضابط الأمان.

كان الخيار الثالث هو التدرج. بقي Mythos 5 داخل برنامج شركاء موثوقين بينما خرج Fable 5 للجمهور. عندما استؤنف الوصول، عاد Mythos أولا إلى المنظمات المعتمدة، ثم اتسع. التدرج الذي يقع بين الإصدار العام الكامل والتعليق الكامل أصبح الآن قالبا حيا لكيفية شحن نماذج الطليعة.

المقارنة المهمة

فكر في طريقتين للتعامل مع ثغرة جديدة خطيرة.

الأولى هي الإيقاف. تسحب النموذج، وتتفاوض، وتنتظر. هذا يحمي من أسوأ سيناريو، لكنه أسلوب فظ. جمد المستخدمين الشرعيين لتسعة عشر يوما، ومنح المنافسين وقتا، ولم يقدم طريقة للتمييز بين مشكلة صغيرة وأخرى كبيرة. وقعت الكلفة على الجميع بالتساوي.

الثانية هي التقييم المشترك. تقيس الثغرة مقابل إشارات متفق عليها، وتضعها على مقياس، وتطابق استجابتك مع الرقم. التقييم المنخفض يعني المراقبة والمضي قدما. التقييم المرتفع يعني التحرك فورا. هذا أصعب في البناء، لأنه يحتاج إلى اتفاق بين الشركات والجهات التنظيمية، لكنه متناسب. يتيح لك التصرف بسرعة على القلة الخطرة دون معاقبة الكثرة غير المؤذية.

الإيقاف مفتاح. التقييم المشترك مؤشر تدريجي. الصناعات الناضجة تعمل بالمؤشرات التدريجية.

ما الذي يجب على القادة فعله الآن

عامل الوصول إلى النموذج كخطر إمداد، وليس كمرفق مستقر. اسأل مورديك ما يحدث لتدفقات عملك إذا عُلق نموذج، واكتب تلك الإجابة في عقودك. اسأل كيف تعالج الطلبات المحظورة، لأن إعادة التوجيه الهادئة إلى نموذج أضعف تغير جودة مخرجاتك دون إخبارك. وراقب إطار الخطورة الناشئ عن كثب، لأن الشركة التي تستطيع وضع رقم قابل للدفاع على خطر ستحرك بينما لا يزال منافسوها يخمنون.

درس استدعاء Fable 5 ليس أن الضمانات فشلت. لقد عملت إلى حد كبير. الدرس هو أن الصناعة لا تزال تفتقر إلى لغة مشتركة لقياس الخطر، وقد حولت تلك الفجوة نتيجة صغيرة إلى تجميد دام تسعة عشر يوما.

إليك سؤالي لك. عندما يُوقف أهم نظام ذكاء اصطناعي لديك دون سابق إنذار، هل لدى منظمتك رقم يخبرك بمدى القلق الذي يجب أن تكون عليه، أم مجرد حدس؟

فكر رياضيا. هندس بذكاء. قد استراتيجيا. ابن بمسؤولية. توسع عالميا. اخلق قيمة تجارية حقيقية من خلال الذكاء الاصطناعي.

نُشر أصلا على لينكدإن بواسطة كيشافان ثياغاراجا. اقرأ الأصل على لينكدإن. [1]