Kile ambacho urejeshaji wa Fable 5 unamfundisha kila kiongozi wa AI

Mnamo Juni 2026, miwili ya mifumo yenye uwezo mkubwa zaidi ya AI duniani ilizimwa ndani ya siku chache baada ya uzinduzi.

Anthropic ilitoa Fable 5 na Mythos 5 tarehe tisa Juni. Fable 5 ilikuwa mfumo unaokabiliwa na umma, uliofungwa katika ulinzi imara zaidi ambao kampuni imewahi kusambaza. Mythos 5 ilishiriki kiini kilekile lakini ilibeba vikwazo vyepesi, na ilienda tu kwa seti ndogo ya washirika waliothibitishwa kwa kazi ya usalama wa kujilinda. Siku tatu baadaye serikali ya Marekani ilitumia udhibiti wa kuuza nje kwa zote mbili. Ufikiaji ulilazimika kukatizwa kwa raia wa kigeni, iwe ndani ya nchi au nje yake. Kwa kuwa hakukuwa na njia ya kuthibitisha uraia wakati wa kila ombi, kampuni ilisitisha ufikiaji kwa kila mtu. Udhibiti uliondolewa tarehe thelathini Juni, na ufikiaji ulirudi tarehe moja Julai. Kuzimwa kuliendelea kwa siku kumi na tisa, chini ya wiki tatu kidogo.

Kwa wasomaji wengi hadithi hiyo inaonekana kama mzozo wa sera. Kwa mtu yeyote anayeendesha biashara kwenye mifumo hii, ilikuwa kitu kikali zaidi. Huduma za msingi za akili zilizimwa bila onyo na bila mbadala safi. Mikataba iliyoandikwa kabla ya 2026 haikufikiria amri ya serikali ambayo inasitisha huduma ya AI kwenye majukwaa yote kwa wakati mmoja. Hiyo ndiyo sehemu ambayo kila kiongozi anapaswa kukaa nayo.

Kile kilichotokea kweli ndani ya mfumo

Kichocheo kilikuwa ripoti kutoka kwa watafiti wa Amazon. Waligundua njia ya kumwongoza Fable 5 ili atambue udhaifu wa programu, na katika kesi moja alitoa msimbo ulioonyesha jinsi udhaifu unavyoweza kutumiwa. Aina hii ya hila ina jina. Ni jailbreak, agizo linalomfanya mfumo kufanya kitu ambacho ulinzi wake ulikuwa unataka kukizuia.

Hapa ndipo kuna mgeuko unaomfaa. Wakati kazi hiyo hiyo ilipojaribiwa kwenye mifumo dhaifu, ikijumuisha Opus 4.8 ya Anthropic yenyewe, mifumo hiyo iliweza kupata udhaifu huo huo na kurudia onyesho lilelile. Tabia iligeuka kuwa kazi ya kawaida ya kujilinda ambayo ulinzi ulikuwa unazuia kwa tahadhari, badala ya hatari mpya ya kipekee. Anthropic bado ilichukua hatua haraka. Ilifundisha kigawanyaji kipya kinachozuia mbinu mahususi katika zaidi ya asilimia tisini na tisa ya kesi, na inaelekeza ombi lolote lililozuiliwa kwa mfumo salama zaidi badala yake.

Pengo halisi halikuwa jailbreak

Ondoa drama na tatizo rahisi zaidi linaonekana. Wakati bypass mpya inaporipotiw, mtu fulani anapaswa kuamua ni hatari kiasi gani, na anapaswa kuamua haraka. Je, huu ni ugunduzi unaostahili kuvuta mfumo, kumjulisha mdhibiti, na kuwaamsha timu ya majibu saa tatu asubuhi? Au ni hila nyembamba inayofungua tabia moja isiyo na madhara na inaweza kusubiri? Sekta haina njia ya pamoja ya kujibu swali hilo. Kila kampuni hujibu kwa hisia.

Ndiyo maana Anthropic, pamoja na Amazon, Microsoft, na Google, imeanza kutengeneza mfumo wa pamoja wa kupima jinsi jailbreak ilivyo mbaya kweli. Mfumo huo unategemea ishara nne. Ongezeko la uwezo huliza bypass inampeleka mshambuliaji mbali kiasi gani zaidi ya zana walizo nazo tayari. Upana huliza ni mashambulizi mangapi tofauti ambayo mbinu hiyo hiyo inafungua. Urahisi wa kujihami huliza ni juhudi ngapi za ustadi zinahitajika kubadilisha hila kuwa shambulizi halisi. Ugunduzi huliza ni kwa urahisi kiasi gani mtu anaweza kupata mbinu hiyo mwanzoni mwa mwanzo. Ishara nne ndani. Uamuzi mmoja nje.

Chaguzi za kubuni ni maamuzi ya kimkakati

Hapa ndipo viongozi wanapaswa kuwa makini, kwa sababu hatua za kuvutia zilikuwa chaguzi za kubuni, si ajali.

Chaguo la kwanza lilikuwa upana wa kiasi cha usalama. Kigawanyaji cha usalama kinaweza kurekebishwa kuzuia maombi yanayoonekana wazi kuwa hatari pekee, au kurekebishwa kuzuia chochote kinachoonekana kuwa na hatari hata kidogo. Fable 5 iliwekwa upande wa tahadhari. Hiyo ilimaanisha maombi mengi yasiyo na madhara yalikataliwa, jambo linalowaudhi watumiaji, kwa badala ya nafasi ndogo sana ya ombi hatari kupenya. Hiyo ni biashara ya kubadilishana iliyovikwa kama mpangilio wa kiufundi. Upatikanaji ulibadilishwa kwa tahadhari kwa makusudi.

Chaguo la pili lilikuwa kinachotokea wakati ombi linazuiwa. Badala ya kukataa tu, mfumo unaelekeza ombi lililozuiliwa kwa mfumo wenye uwezo mdogo lakini salama zaidi. Mtumiaji bado anapata jibu. Uwezo hupunguzwa badala ya kukataliwa. Hilo ni uamuzi wa bidhaa kuhusu jinsi udhibiti wa usalama unavyopaswa kuhisiwa na mtu upande mwingine.

Chaguo la tatu lilikuwa upangaji wa tabaka. Mythos 5 ilikaa ndani ya programu ya washirika wanaoaminika wakati Fable 5 ilikwenda kwa umma. Ufikiaji uliporejeshwa, Mythos ilirudi kwanza kwa mashirika yaliyoidhinishwa, kisha kwa upana zaidi. Tabaka linalokaa kati ya uzinduzi kamili wa umma na kusitishwa kabisa sasa ni kiolezo hai cha jinsi mifumo ya mipaka itakavyosambazwa.

Ulinganisho unaomfaa

Fikiria njia mbili za kushughulikia bypass mpya mbaya.

Ya kwanza ni kuzimwa. Unavuta mfumo, unajadiliana, na unasubiri. Hii inalinda dhidi ya hali mbaya zaidi, lakini ni butu. Ilifungia watumiaji halali kwa siku kumi na tisa, iliwapa washindani muda, na haikukupa njia ya kutofautisha tatizo dogo kutoka kubwa. Gharama ilianguka kwa kila mtu sawasawa.

Ya pili ni alama ya pamoja. Unapima bypass dhidi ya ishara zilizokubaliwa, unaiweka kwenye kipimo, na unalinganisha majibu yako na nambari. Alama ya chini inamaanisha fuatilia na uendelee. Alama ya juu inamaanisha kuchukua hatua mara moja. Hii ni ngumu kujenga, kwa sababu inahitaji makubaliano kati ya makampuni na wadhibiti, lakini ni sawa. Inakuwezesha kuchukua hatua haraka juu ya wachache wenye hatari bila kuwaadhibu wengi wasio na madhara.

Kuzimwa ni swichi. Alama ya pamoja ni kidude cha kudhibiti. Sekta zilizoiva huendeshwa na vidude vya kudhibiti.

Kile ambacho viongozi wanapaswa kufanya sasa

Chukulia ufikiaji wa mfumo kama hatari ya usambazaji, si huduma iliyothibitishwa. Waulize wauzaji wako nini kitatokea kwa mtiririko wako wa kazi ikiwa mfumo utasitishwa, na uandike jibu hilo kwenye mikataba yako. Uliza jinsi maombi yaliyozuiliwa yanavyoshughulikiwa, kwa sababu uelekezaji wa kimya kwa mfumo dhaifu hubadilisha ubora wa matokeo yako bila kukuambia. Na uangalie kwa karibu mfumo unaoibuka wa ukali, kwa sababu kampuni inayoweza kuweka nambari inayoweza kutetewa juu ya hatari itachukua hatua wakati washindani wake bado wanakisia.

Somo la urejeshaji wa Fable 5 si kwamba ulinzi ulifeli. Ulifanya kazi kwa kiasi kikubwa. Somo ni kwamba sekta bado inakosa lugha ya pamoja ya kupima hatari, na pengo hilo liligeuza ugunduzi mdogo kuwa kufungia kwa siku kumi na tisa.

Hili hapa swali langu kwako. Wakati mfumo wako muhimu zaidi wa AI unazimwa bila onyo, je, shirika lako lina nambari inayokuambia jinsi ya kuwa na wasiwasi, au hisia tu?

Fikiria kwa hisabati. Tengeneza kwa akili. Ongoza kwa kimkakati. Jenga kwa uwajibikaji. Panua kimataifa. Tengeneza thamani halisi ya biashara kupitia akili bandia.

Imechapishwa awali kwenye LinkedIn na Keshavan Thiagaraja. Soma asili kwenye LinkedIn. [1]