إيه اللي بيعلّمه سحب Fable 5 لأي قائد في الذكاء الاصطناعي

في يونيو 2026، اتقفل اتنين من أقوى نماذج الذكاء الاصطناعي في العالم بعد أيام من نزولهم.

أنثروبيك نزلت Fable 5 وMythos 5 يوم تسعة يونيو. Fable 5 كان النموذج اللي للناس، متغلف بأقوى حماية الشركة شحنتها في حياتها. Mythos 5 بيشارك نفس النواة بس قيوده أخف، وراح بس لمجموعة صغيرة من الشركاء المعتمدين للشغل الأمني الدفاعي. بعد تلات أيام، الحكومة الأمريكية حطت قيود تصدير على الاتنين. الوصول لازم يتقطع عن الأجانب، سوا جوا البلد أو براها. ومافيش طريقة تتأكد من الجنسية لحظة كل طلب، فالشركة وقفت الوصول للكل. القيود اترفعت يوم تلاتين يونيو، والوصول رجع يوم واحد يوليو. الوقف استمر تسعتاشر يوم، يعني أقل بشوية من تلات أسابيع.

لمعظم اللي بيقرأوا، الحكاية شكلها خلاف سياسي. بس لأي حد بيدير بيزنس على الأنظمة دي، كانت حاجة أحدّ من كده. خدمات ذكاء أساسية طفيت من غير تحذير ومن غير بديل نضيف. العقود اللي اتكتبت قبل 2026 متخيلتش إن في أمر حكومي ممكن يوقف خدمة ذكاء اصطناعي على كل المنصات مرة واحدة. ده الجزء اللي لازم كل قائد يقف عنده.

إيه اللي حصل جوا النموذج بالظبط

الشرارة كانت تقرير من باحثين في أمازون. لقوا طريقة يوجهوا Fable 5 بحيث يلاقي ثغرات في البرامج، وفي حالة واحدة طلع كود بيوري إزاي ممكن تستغل ثغرة. النوع ده من الحيل ليه اسم. اسمه كسر القيود، يعني موجه بيخلي النموذج يعمل حاجة الحماية كان المفروض تمنعها.

بقى الحتة المهمة هنا. لما نفس المهمة اتجربت على نماذج أضعف، منهم Opus 4.8 بتاع أنثروبيك نفسها، النماذج دي قدرت تلاقي نفس الثغرات وتعيد نفس التجربة. طلع السلوك شغل دفاعي عادي الحماية بتمنعه بسبب الحذر، مش خطر جديد فريد. وبرضه أنثروبيك اتحركت بسرعة. دربت مصنف جديد بيمنع التقنية دي بالذات في أكتر من تسعة وتسعين في المية من الحالات، وبيحول أي طلب متمنع لنموذج أكتر أمانا بداله.

الفجوة الحقيقية مش كسر القيود

لو شلت الدراما، هتلاقي مشكلة أوضح. لما يتبلغ عن ثغرة جديدة، لازم حد يقرر قد إيه هي خطيرة، ولازم يقرر بسرعة. دي نتيجة تستاهل سحب نموذج، وإبلاغ جهة رقابية، وصحيت فريق استجابة الساعة تلاتة الفجر؟ ولا حيلة ضيقة بتفتح سلوك واحد مش مضر وممكن تستنى؟ الصناعة ماعندهاش طريقة مشتركة تجاوب على السؤال ده. كل شركة بتجاوب بإحساسها.

وده السبب اللي خلى أنثروبيك، مع أمازون ومايكروسوفت وجوجل، تبدأ تكتب إطار مشترك يقيّم قد إيه كسر القيود خطير فعلا. الإطار مبني على أربع إشارات. كسب القدرة بيسأل: الثغرة بتوصل المهاجم لفين أبعد من الأدوات اللي معاه أصلا. الاتساع بيسأل: نفس التقنية بتفتح كام نوع هجوم مختلف. سهولة التسليح بتسأل: محتاج قد إيه مجهود متخصص عشان تحول الحيلة لهجوم حقيقي. وقابلية الاكتشاف بتسأل: قد إيه سهل حد يلاقي الطريقة من الأول خالص. أربع إشارات داخلة. قرار واحد طالع.

اختيارات التصميم قرارات استراتيجية

هنا بقى اللي لازم القادة يركزوا فيه، لأن التحركات المثيرة كانت اختيارات تصميم، مش صدفة.

الاختيار الأول كان وسع هامش الأمان. ممكن تظبط مصنف الأمان بحيث يمنع بس الطلبات اللي خطرها واضح، أو تظبطه بحيث يمنع أي حاجة شكلها فيها خطورة ولو بسيطة. Fable 5 كان متظبط على الطرف الحذر. ده معناه إن طلبات كتير مش مضرة اترفضت، وده بيضايق المستخدمين، في مقابل احتمال أقل بكتير إن طلب خطير يعدي. دي مقايضة بيزنس لابسة زي إعداد تقني. التوفر اتقايض بالحذر عن قصد.

الاختيار التاني كان إيه اللي يحصل لما طلب يتمنع. بدل الرفض على طول، النظام بيحول الطلب المتمنع لنموذج أقل قدرة بس أكتر أمانا. المستخدم لسه بياخد إجابة. القدرة بتقل مش بتتمنع. ده قرار منتج عن إزاي المفروض الشخص اللي على الناحية التانية يحس بضابط الأمان.

الاختيار التالت كان التدرج. Mythos 5 فضل جوا برنامج شركاء موثوقين بينما Fable 5 نزل للناس. لما الوصول رجع، Mythos رجع الأول للمنظمات المعتمدة، وبعدين وسع. التدرج اللي بين الإصدار العام الكامل والوقف الكامل بقى دلوقتي قالب حي لإزاي نماذج الطليعة هتنزل.

المقارنة اللي تستاهل

بص على طريقتين للتعامل مع ثغرة جديدة خطيرة.

الأولى هي الوقف. تسحب النموذج، تتفاوض، وتستنى. ده بيحمي من أسوأ سيناريو، بس هو أسلوب غليظ. جمّد المستخدمين الشرعيين تسعتاشر يوم، وإدا وقت للمنافسين، ومقدمش طريقة تعرف بيها مشكلة صغيرة من كبيرة. التكلفة وقعت على الكل بالتساوي.

التانية هي التقييم المشترك. بتقيس الثغرة على إشارات متفق عليها، وبتحطها على مقياس، وبتخلي رد فعلك على قد الرقم. التقييم الواطي يعني راقب وامشي. التقييم العالي يعني اتحرك فورا. ده أصعب إنك تبنيه، لأنه محتاج اتفاق بين الشركات والجهات الرقابية، بس هو متناسب. بيخليك تتحرك بسرعة على القليل الخطير من غير ما تعاقب الكتير اللي مافيهوش ضرر.

الوقف زرار. التقييم المشترك مؤشر تدريجي. الصناعات الناضجة شغالة بالمؤشرات.

اللي لازم القادة يعملوه دلوقتي

عامل الوصول للنموذج كأنه خطر توريد، مش مرفق مضمون. اسأل مورديك إيه اللي يحصل لشغلك لو نموذج اتوقف، واكتب الإجابة دي في عقودك. اسأل الطلبات المتمنعة بتتعامل إزاي، لأن التحويل الهادي لنموذج أضعف بيغير جودة مخرجاتك من غير ما يقولك. وراقب إطار الخطورة اللي بيطلع بتركيز، لأن الشركة اللي تقدر تحط رقم يستاهل الدفاع على خطر، هتتحرك بينما منافسيها لسه بيخمنوا.

درس سحب Fable 5 مش إن الحماية فشلت. دي اشتغلت في معظمها. الدرس إن الصناعة لسه ناقصها لغة مشتركة لقياس الخطر، والفجوة دي حولت نتيجة صغيرة لتجميد دام تسعتاشر يوم.

سؤالي ليك. لما أهم نظام ذكاء اصطناعي عندك يتقفل من غير تحذير، شركتك عندها رقم يقولك تقلق قد إيه، ولا بس إحساس؟

فكر بالرياضيات. هندس بذكاء. قائد باستراتيجية. ابني بمسؤولية. كبّر عالميا. اعمل قيمة بيزنس حقيقية بالذكاء الاصطناعي.

اتنشر أصلا على لينكدإن بقلم كيشافان ثياغاراجا. اقرأ الأصل على لينكدإن. [1]