Ang Itinuturo ng Pagbawi ng Fable 5 sa Bawat Pinuno ng AI

Noong Hunyo 2026, dalawa sa pinakamahusay na modelo ng AI sa mundo ang pinatay ilang araw matapos ilunsad.

Inilabas ng Anthropic ang Fable 5 at Mythos 5 noong ika-siyam ng Hunyo. Ang Fable 5 ang modelong nakaharap sa publiko, nakabalot sa pinakamatitibay na proteksyon na naipadala ng kumpanya. Ang Mythos 5 ay nagbabahagi ng parehong ubod ngunit may magaang paghihigpit, at napunta lamang ito sa maliit na pangkat ng mga napatunayang kasosyo para sa gawaing pananggalang na seguridad. Tatlong araw pagkatapos, nagpataw ang pamahalaan ng Estados Unidos ng mga kontrol sa pag-export sa dalawa. Kinailangang putulin ang access para sa mga dayuhang mamamayan, nasa loob man o labas ng bansa. Dahil walang paraan upang patunayan ang nasyonalidad sa sandali ng bawat kahilingan, sinuspinde ng kumpanya ang access para sa lahat. Inalis ang mga kontrol noong ika-tatlumpu ng Hunyo, at bumalik ang access noong ika-isa ng Hulyo. Tumagal ang pagsasara ng labinsiyam na araw, halos tatlong linggo.

Para sa karamihan ng mga mambabasa, parang sigalot sa patakaran ang kuwento. Para sa sinumang nagpapatakbo ng negosyo sa mga sistemang ito, ito ay mas matalas. Ang mga pangunahing serbisyo ng katalinuhan ay nawalan ng kuryente nang walang babala at walang malinis na pamalit. Ang mga kontratang isinulat bago ang 2026 ay hindi nag-isip ng utos ng gobyerno na magsususpinde ng serbisyo ng AI sa lahat ng platform nang sabay-sabay. Iyan ang bahaging dapat pag-isipan ng bawat pinuno.

Ano ang tunay na nangyari sa loob ng modelo

Ang panggigipit ay isang ulat mula sa mga mananaliksik ng Amazon. Natagpuan nila ang paraan upang ma-udyok ang Fable 5 na tukuyin ang mga kahinaan ng software, at sa isang kaso, gumawa ito ng code na nagpapakita kung paano maaaring samantalahin ang isang kahinaan. May pangalan ang ganitong uri ng trick. Jailbreak ito, isang prompt na nagpapagawa sa modelo ng isang bagay na dapat harangin ng mga proteksyon nito.

Heto ang pag-ikot na mahalaga. Nang subukan ang parehong gawain sa mas mahinang mga modelo, kabilang ang sariling Opus 4.8 ng Anthropic, nagawang hanapin ng mga modelong iyon ang parehong mga kahinaan at ulitin ang parehong demonstrasyon. Ang pag-uugali ay naging gawaing pananggalang na rutina na hinaharang ng mga proteksyon dahil sa pag-iingat, sa halip na isang natatanging bagong panganib. Gayunpaman, mabilis na kumilos ang Anthropic. Sinanay nito ang isang bagong classifier na humaharang sa partikular na pamamaraan sa higit sa siyamnapu't siyam na porsyento ng mga kaso, at dinadala ang anumang hinarang na kahilingan sa isang mas ligtas na modelo.

Ang tunay na agwat ay hindi ang jailbreak

Alisin ang drama at lilitaw ang mas simpleng problema. Kapag may iniulat na bagong bypass, may kailangang magpasya kung gaano ito kaseryoso, at kailangang magpasya nang mabilis. Ito ba ay isang natuklasan na nagbibigay-katwiran sa pagbawi ng modelo, pagbibigay-alam sa regulator, at paggising sa response team alas-tres ng madaling araw? O isang makitid na trick na nagbubukas ng isang walang pinsalang pag-uugali at maaaring maghintay? Walang pinagsamang paraan ang industriya upang sagutin ang tanong na iyon. Bawat kumpanya ay sumasagot gamit ang hilig.

Iyon ang dahilan kung bakit ang Anthropic, kasama ang Amazon, Microsoft, at Google, ay nagsimulang gumuhit ng isang karaniwang balangkas upang i-score kung gaano talaga kalubha ang isang jailbreak. Ang balangkas ay nakasandig sa apat na senyales. Ang pagtaas ng kakayahan ay nagtatanong kung gaano kalayo ang dinadala ng bypass sa isang umaatake lampas sa mga kagamitang mayroon na sila. Ang lawak ay nagtatanong kung ilang iba't ibang pag-atake ang binubuksan ng parehong pamamaraan. Ang kadalian ng pag-aarmas ay nagtatanong kung gaano karaming dalubhasang pagsisikap ang kailangan upang gawing tunay na pag-atake ang trick. Ang pagkakatuklas ay nagtatanong kung gaano kadaling matagpuan ng isang tao ang pamamaraan sa simula pa lang. Apat na senyales papasok. Isang desisyon lumalabas.

Ang mga pagpipilian sa disenyo ay mga estratehikong desisyon

Dito dapat magbigay-pansin ang mga pinuno, dahil ang mga kawili-wiling hakbang ay mga pagpipilian sa disenyo, hindi aksidente.

Ang unang pagpipilian ay ang lapad ng margin ng kaligtasan. Ang isang safety classifier ay maaaring iakma upang harangin lamang ang mga malinaw na mapanganib na kahilingan, o maaaring iakma upang harangin ang anumang bagay na mukhang kahit bahagyang mapanganib. Ang Fable 5 ay nakatakda sa maingat na dulo. Nangangahulugan iyon ng maraming walang pinsalang kahilingan na tinanggihan, na nakakabigo sa mga gumagamit, kapalit ng mas mababang tsansa na makalusot ang isang mapanganib na kahilingan. Iyon ay isang trade-off sa negosyo na nakabihis bilang isang teknikal na setting. Ang availability ay ipinagpalit sa pag-iingat nang sadya.

Ang ikalawang pagpipilian ay kung ano ang nangyayari kapag hinarang ang isang kahilingan. Sa halip na tanggihan lamang, dinadala ng sistema ang hinarang na kahilingan sa isang mas mababa ang kakayahan ngunit mas ligtas na modelo. Nakakakuha pa rin ng sagot ang gumagamit. Ang kakayahan ay binabawasan sa halip na ipagkait. Iyon ay isang desisyon sa produkto tungkol sa kung paano dapat maramdaman ng tao sa kabilang panig ang isang kontrol sa kaligtasan.

Ang ikatlong pagpipilian ay ang paghihiwa-hiwalay. Ang Mythos 5 ay nanatili sa loob ng isang pinagkakatiwalaang programa ng kasosyo habang ang Fable 5 ay naging pampubliko. Nang maibalik ang access, ang Mythos ay bumalik muna sa mga aprubadong organisasyon, pagkatapos ay mas malawak. Ang isang antas na nasa pagitan ng buong pampublikong paglalabas at kabuuang pagsuspinde ay ngayon isang buhay na template kung paano ilalabas ang mga frontier na modelo.

Ang paghahambing na mahalaga

Isaalang-alang ang dalawang paraan ng pagharap sa isang seryosong bagong bypass.

Ang una ay ang pagsasara. Binabawi mo ang modelo, nakipag-usap ka, at naghihintay ka. Pinoprotektahan nito laban sa pinakamasamang sitwasyon, ngunit ito ay mapurol. Pinatigil nito ang mga lehitimong gumagamit sa loob ng labinsiyam na araw, binigyan ng oras ang mga kakumpitensya, at walang ibinigay na paraan upang matukoy ang maliit na problema mula sa malaki. Ang gastos ay bumagsak sa lahat nang pantay-pantay.

Ang ikalawa ay ang pinagsamang score. Sinusukat mo ang bypass laban sa mga napagkasunduang senyales, inilalagay mo ito sa isang scale, at itinutugma mo ang iyong tugon sa numero. Ang mababang score ay nangangahulugang subaybayan at magpatuloy. Ang mataas na score ay nangangahulugang kumilos kaagad. Mas mahirap itong itayo, dahil kailangan nito ng kasunduan sa pagitan ng mga kumpanya at mga regulator, ngunit ito ay katimbang. Hinahayaan ka nitong kumilos nang mabilis sa mapanganib na iilan nang hindi pinarurusahan ang walang pinsalang karamihan.

Ang pagsasara ay isang switch. Ang pinagsamang score ay isang dial. Ang mga mature na industriya ay tumatakbo sa mga dial.

Ang dapat gawin ng mga pinuno ngayon

Ituring ang access sa modelo bilang isang panganib sa supply, hindi isang tiyak na utility. Itanong sa iyong mga vendor kung ano ang mangyayari sa iyong mga workflow kung ang isang modelo ay sususpendehin, at isulat ang sagot na iyon sa iyong mga kontrata. Itanong kung paano hinahawakan ang mga hinarang na kahilingan, dahil ang tahimik na pagdadala sa isang mas mahinang modelo ay nagbabago ng kalidad ng iyong output nang hindi sinasabi sa iyo. At bantayan nang mabuti ang umuusbong na balangkas ng kalubhaan, dahil ang kumpanyang makakapaglagay ng isang nababakas na numero sa isang panganib ay gagalaw habang ang mga kalaban nito ay naghuhula pa rin.

Ang aral ng pagbawi ng Fable 5 ay hindi na nabigo ang mga proteksyon. Malaki ang naitulong nila. Ang aral ay na ang industriya ay wala pang pinagsamang wika para sa pagsukat ng panganib, at ang agwat na iyon ay nagpapalit ng isang maliit na natuklasan sa isang labinsiyam na araw na pagyelo.

Heto ang aking tanong para sa iyo. Kapag pinatay ang iyong pinakamahalagang sistema ng AI nang walang babala, mayroon bang numero ang iyong organisasyon na nagsasabi sa iyo kung gaano ka dapat mag-alala, o hilig lamang?

Mag-isip nang matematikal. Mag-engineer nang matalino. Mamuno nang estratehiko. Bumuo nang may pananagutan. Lumawak nang pandaigdig. Lumikha ng tunay na halaga ng negosyo sa pamamagitan ng artipisyal na intelihensiya.

Orihinal na nai-publish sa LinkedIn ni Keshavan Thiagaraja. Basahin ang orihinal sa LinkedIn. [1]