สิ่งที่การเรียกคืน Fable 5 สอนผู้นำ AI ทุกคน

ในเดือนมิถุนายน 2026 โมเดล AI ที่ทรงพลังที่สุดในโลกสองตัวถูกปิดระบบภายในไม่กี่วันหลังเปิดตัว

Anthropic เปิดตัว Fable 5 และ Mythos 5 ในวันที่เก้ามิถุนายน Fable 5 เป็นโมเดลสำหรับสาธารณะ ห่อหุ้มด้วยมาตรการป้องกันที่แข็งแกร่งที่สุดที่บริษัทเคยส่งมอบ Mythos 5 ใช้แกนกลางเดียวกันแต่มีข้อจำกัดเบากว่า และถูกส่งให้เฉพาะพันธมิตรที่ผ่านการตรวจสอบกลุ่มเล็กๆ สำหรับงานด้านความมั่นคงเชิงป้องกัน สามวันต่อมา รัฐบาลสหรัฐอเมริกาใช้มาตรการควบคุมการส่งออกกับทั้งสอง การเข้าถึงต้องถูกตัดสำหรับพลเมืองต่างชาติ ไม่ว่าจะอยู่ในประเทศหรือต่างประเทศ เนื่องจากไม่มีวิธียืนยันสัญชาติ ณ ขณะของแต่ละคำขอ บริษัทจึงระงับการเข้าถึงสำหรับทุกคน มาตรการควบคุมถูกยกเลิกในวันที่สามสิบมิถุนายน และการเข้าถึงกลับมาในวันที่หนึ่งกรกฎาคม การปิดระบบกินเวลาสิบเก้าวัน น้อยกว่าสามสัปดาห์เล็กน้อย

สำหรับผู้อ่านส่วนใหญ่ เรื่องนี้ฟังดูเหมือนข้อพิพาททางนโยบาย แต่สำหรับใครก็ตามที่ทำธุรกิจบนระบบเหล่านี้ มันคือสิ่งที่เฉียบคมกว่านั้น บริการปัญญาหลักดับลงโดยไม่มีการเตือนและไม่มีทางเลือกสำรองที่ชัดเจน สัญญาที่เขียนก่อนปี 2026 ไม่เคยจินตนาการถึงคำสั่งรัฐบาลที่ระงับบริการ AI บนทุกแพลตฟอร์มพร้อมกัน นั่นคือส่วนที่ผู้นำทุกคนควรหยุดคิด

สิ่งที่เกิดขึ้นจริงภายในโมเดล

ตัวกระตุ้นคือรายงานจากนักวิจัยของ Amazon พวกเขาพบวิธีกระตุ้น Fable 5 ให้ระบุช่องโหว่ของซอฟต์แวร์ และในหนึ่งกรณีมันสร้างโค้ดที่แสดงวิธีใช้ประโยชน์จากช่องโหว่ กลโกงแบบนี้มีชื่อ มันคือเจลเบรก คำสั่งที่ทำให้โมเดลทำสิ่งที่มาตรการป้องกันควรจะบล็อก

นี่คือจุดพลิกผันที่สำคัญ เมื่องานเดียวกันถูกทดสอบบนโมเดลที่อ่อนกว่า รวมถึง Opus 4.8 ของ Anthropic เอง โมเดลเหล่านั้นสามารถค้นหาช่องโหว่เดียวกันและทำซ้ำการสาธิตเดียวกันได้ พฤติกรรมดังกล่าวกลายเป็นงานป้องกันประจำที่มาตรการป้องกันบล็อกออกจากความระมัดระวัง มิใช่อันตรายใหม่ที่เป็นเอกลักษณ์ อย่างไรก็ตาม Anthropic เคลื่อนไหวอย่างรวดเร็ว บริษัทฝึกตัวจำแนกใหม่ที่บล็อกเทคนิคเฉพาะนี้ในกว่าร้อยละเก้าสิบเก้าของกรณี และส่งต่อคำขอที่ถูกบล็อกไปยังโมเดลที่ปลอดภัยกว่าแทน

ช่องว่างที่แท้จริงไม่ใช่เจลเบรก

เมื่อลบเรื่องราวดราม่าออก ปัญหาที่เรียบง่ายกว่าจะปรากฏ เมื่อมีการรายงานการหลีกเลี่ยงใหม่ ใครสักคนต้องตัดสินใจว่ามันร้ายแรงแค่ไหน และต้องตัดสินใจอย่างรวดเร็ว นี่เป็นการค้นพบที่สมเหตุสมผลพอจะถอนโมเดล แจ้งหน่วยงานกำกับดูแล และปลุกทีมตอบสนองตอนตีสามหรือไม่ หรือเป็นกลโกงแคบๆ ที่ปลดล็อกพฤติกรรมที่ไม่เป็นอันตรายเพียงอย่างเดียวและรอได้ อุตสาหกรรมไม่มีวิธีร่วมกันในการตอบคำถามนั้น ทุกบริษัทตอบด้วยสัญชาตญาณ

นั่นคือเหตุผลที่ Anthropic ร่วมกับ Amazon, Microsoft และ Google เริ่มร่างกรอบงานร่วมกันเพื่อให้คะแนนว่าเจลเบรกร้ายแรงจริงแค่ไหน กรอบงานนี้ตั้งอยู่บนสัญญาณสี่ประการ การได้รับความสามารถถามว่าการหลีกเลี่ยงพาผู้โจมตีไปไกลเกินกว่าเครื่องมือที่พวกเขามีอยู่แล้วแค่ไหน ความกว้างถามว่าเทคนิคเดียวกันปลดล็อกการโจมตีที่แตกต่างกันกี่แบบ ความง่ายในการทำให้เป็นอาวุธถามว่าต้องใช้ความพยายามที่มีทักษะเท่าใดในการเปลี่ยนกลโกงให้เป็นการโจมตีจริง ความสามารถในการค้นพบถามว่าใครสักคนจะหาวิธีนั้นได้ง่ายแค่ไหนตั้งแต่แรก สัญญาณสี่ตัวเข้า การตัดสินใจหนึ่งอย่างออก

การเลือกออกแบบคือการตัดสินใจเชิงกลยุทธ์

นี่คือจุดที่ผู้นำควรใส่ใจ เพราะการเคลื่อนไหวที่น่าสนใจคือการเลือกออกแบบ ไม่ใช่อุบัติเหตุ

ทางเลือกแรกคือความกว้างของขอบเขตความปลอดภัย ตัวจำแนกความปลอดภัยสามารถตั้งค่าให้บล็อกเฉพาะคำขอที่อันตรายชัดเจน หรือตั้งค่าให้บล็อกทุกสิ่งที่ดูเสี่ยงแม้เพียงเล็กน้อย Fable 5 ถูกตั้งไว้ที่ปลายระมัดระวัง นั่นหมายความว่าคำขอที่ไม่เป็นอันตรายจำนวนมากถูกปฏิเสธ ซึ่งทำให้ผู้ใช้หงุดหงิด เพื่อแลกกับโอกาสที่คำขออันตรายจะหลุดรอดไปได้ต่ำลงมาก นั่นคือการแลกเปลี่ยนทางธุรกิจที่ปลอมตัวเป็นการตั้งค่าทางเทคนิค ความพร้อมใช้งานถูกแลกกับความระมัดระวังโดยตั้งใจ

ทางเลือกที่สองคือสิ่งที่เกิดขึ้นเมื่อคำขอถูกบล็อก แทนที่จะปฏิเสธเพียงอย่างเดียว ระบบจะเปลี่ยนเส้นทางคำขอที่ถูกบล็อกไปยังโมเดลที่มีความสามารถน้อยกว่าแต่ปลอดภัยกว่า ผู้ใช้ยังคงได้รับคำตอบ ความสามารถถูกลดลงแทนที่จะถูกปฏิเสธ นั่นคือการตัดสินใจด้านผลิตภัณฑ์ว่าการควบคุมความปลอดภัยควรรู้สึกอย่างไรสำหรับคนอีกฟากหนึ่ง

ทางเลือกที่สามคือการแบ่งระดับ Mythos 5 อยู่ภายในโปรแกรมพันธมิตรที่เชื่อถือได้ในขณะที่ Fable 5 เปิดให้สาธารณะ เมื่อการเข้าถึงถูกคืนค่า Mythos กลับมาที่องค์กรที่ได้รับอนุมัติก่อน แล้วจึงขยายกว้างขึ้น ระดับที่อยู่ระหว่างการเปิดตัวสาธารณะเต็มรูปแบบกับการระงับทั้งหมดตอนนี้เป็นแม่แบบที่มีชีวิตสำหรับวิธีที่โมเดลชายแดนจะถูกส่งมอบ

การเปรียบเทียบที่สำคัญ

พิจารณาสองวิธีในการจัดการการหลีกเลี่ยงใหม่ที่ร้ายแรง

วิธีแรกคือการปิดระบบ คุณถอนโมเดล คุณเจรจา และคุณรอ วิธีนี้ป้องกันกรณีที่เลวร้ายที่สุด แต่มันหยาบ มันแช่แข็งผู้ใช้ที่ถูกต้องตามกฎหมายเป็นเวลาสิบเก้าวัน มอบเวลาให้คู่แข่ง และไม่มีวิธีบอกปัญหาเล็กจากปัญหาใหญ่ ต้นทุนตกอยู่กับทุกคนเท่าเทียมกัน

วิธีที่สองคือคะแนนร่วม คุณวัดการหลีกเลี่ยงเทียบกับสัญญาณที่ตกลงกัน วางมันบนมาตราส่วน และจับคู่การตอบสนองของคุณกับตัวเลข คะแนนต่ำหมายถึงเฝ้าระวังและเดินหน้าต่อ คะแนนสูงหมายถึงลงมือทันที วิธีนี้สร้างยากกว่า เพราะต้องการข้อตกลงระหว่างบริษัทและหน่วยงานกำกับดูแล แต่มันสัดส่วน มันช่วยให้คุณลงมืออย่างรวดเร็วกับส่วนน้อยที่อันตรายโดยไม่ลงโทษส่วนมากที่ไม่เป็นอันตราย

การปิดระบบคือสวิตช์ คะแนนร่วมคือปุ่มหมุน อุตสาหกรรมที่เติบโตเต็มที่ทำงานด้วยปุ่มหมุน

สิ่งที่ผู้นำควรทำตอนนี้

ปฏิบัติต่อการเข้าถึงโมเดลเป็นความเสี่ยงด้านการจัดหา ไม่ใช่สาธารณูปโภคที่แน่นอน ถามผู้ขายของคุณว่าจะเกิดอะไรขึ้นกับเวิร์กโฟลว์ของคุณหากโมเดลถูกระงับ และเขียนคำตอบนั้นลงในสัญญาของคุณ ถามว่าคำขอที่ถูกบล็อกถูกจัดการอย่างไร เพราะการเปลี่ยนเส้นทางอย่างเงียบๆ ไปยังโมเดลที่อ่อนกว่าจะเปลี่ยนคุณภาพผลลัพธ์ของคุณโดยไม่บอกคุณ และจับตากรอบความรุนแรงที่กำลังเกิดขึ้นอย่างใกล้ชิด เพราะบริษัทที่สามารถใส่ตัวเลขที่ป้องกันได้บนความเสี่ยงจะเคลื่อนไหวในขณะที่คู่แข่งยังคงเดาอยู่

บทเรียนจากการเรียกคืน Fable 5 ไม่ใช่ว่ามาตรการป้องกันล้มเหลว พวกมันทำงานได้ดีเป็นส่วนใหญ่ บทเรียนคืออุตสาหกรรมยังขาดภาษาร่วมกันในการวัดอันตราย และช่องว่างนั้นเปลี่ยนการค้นพบเล็กๆ ให้กลายเป็นการแช่แข็งสิบเก้าวัน

นี่คือคำถามของฉันสำหรับคุณ เมื่อระบบ AI ที่สำคัญที่สุดของคุณถูกปิดโดยไม่มีการเตือน องค์กรของคุณมีตัวเลขที่บอกว่าคุณควรกังวลแค่ไหนหรือไม่ หรือมีเพียงสัญชาตญาณ

คิดอย่างนักคณิตศาสตร์ วิศวกรรมอย่างชาญฉลาด นำอย่างมีกลยุทธ์ สร้างอย่างรับผิดชอบ ขยายอย่างทั่วโลก สร้างมูลค่าทางธุรกิจที่แท้จริงผ่านปัญญาประดิษฐ์

ตีพิมพ์ครั้งแรกบน LinkedIn โดย Keshavan Thiagaraja อ่านต้นฉบับบน LinkedIn [1]