Fable 5 రీకాల్ ప్రతి AI నాయకుడికి నేర్పేది

2026 జూన్‌లో, ప్రపంచంలోనే అత్యంత సమర్థమైన రెండు AI మోడళ్లు విడుదలైన కొద్ది రోజుల్లోనే ఆపివేయబడ్డాయి.

Anthropic జూన్ తొమ్మిదో తేదీన Fable 5 మరియు Mythos 5ను విడుదల చేసింది. Fable 5 ప్రజలకు అందుబాటులో ఉండే మోడల్, కంపెనీ ఇప్పటివరకు అందించిన అత్యంత బలమైన రక్షణలతో కప్పబడి ఉండేది. Mythos 5 అదే కోర్‌ను పంచుకుంది కానీ తేలికపాటి ఆంక్షలను మోస్తుంది, అది రక్షణ భద్రతా పని కోసం ధృవీకరించబడిన భాగస్వాముల చిన్న సమూహానికి మాత్రమే వెళ్లింది. మూడు రోజుల తర్వాత అమెరికా ప్రభుత్వం రెండింటిపై ఎగుమతి నియంత్రణలు విధించింది. దేశంలోనో బయటో ఉన్నా, విదేశీ పౌరులకు యాక్సెస్ నిలిపివేయాల్సి వచ్చింది. ప్రతి అభ్యర్థన సమయంలో పౌరసత్వాన్ని ధృవీకరించే మార్గం లేనందున, కంపెనీ అందరికీ యాక్సెస్‌ను నిలిపివేసింది. నియంత్రణలు జూన్ మూప్పైన తొలగించబడ్డాయి, జూలై ఒకటిన యాక్సెస్ తిరిగి వచ్చింది. మూసివేత పందొమ్మిది రోజులు కొనసాగింది, మూడు వారాల కంటే కొద్దిగా తక్కువ.

చాలామంది పాఠకులకు ఈ కథ ఒక విధానపరమైన వివాదంలా అనిపిస్తుంది. ఈ వ్యవస్థలపై వ్యాపారం నడిపే ఎవరికైనా, అది మరింత పదునైనది. కోర్ ఇంటెలిజెన్స్ సేవలు ఎటువంటి హెచ్చరిక లేకుండా, శుద్ధి చేసిన ప్రత్యామ్నాయం లేకుండా చీకటిలోకి వెళ్లాయి. 2026కు ముందు రాసిన ఒప్పందాలు, అన్ని ప్లాట్‌ఫారమ్‌లపై ఒకేసారి AI సేవను నిలిపివేసే ప్రభుత్వ ఉత్తర్వును ఊహించలేదు. ప్రతి నాయకుడు ఆలోచించవలసిన భాగం అదే.

మోడల్ లోపల నిజంగా ఏమి జరిగింది

ప్రేరకం అమెజాన్ పరిశోధకుల నివేదిక. Fable 5 సాఫ్ట్‌వేర్ లోపాలను గుర్తించేలా ప్రాంప్ట్ చేసే మార్గాన్ని వారు కనుగొన్నారు, ఒక సందర్భంలో అది ఒక లోపాన్ని ఎలా దుర్వినియోగం చేయవచ్చో చూపే కోడ్‌ను రూపొందించింది. ఇలాంటి ట్రిక్‌కు పేరు ఉంది. దాన్ని జైల్‌బ్రేక్ అంటారు, మోడల్ యొక్క రక్షణలు అడ్డుకోవాలని ఉద్దేశించినది చేయించే ప్రాంప్ట్.

ముఖ్యమైన మలుపు ఇక్కడ ఉంది. అదే పనిని బలహీనమైన మోడళ్లపై పరీక్షించినప్పుడు, Anthropic స్వంత Opus 4.8తో సహా, ఆ మోడళ్లు కూడా అదే లోపాలను కనుగొనగలిగాయి, అదే ప్రదర్శనను పునరుత్పత్తి చేయగలిగాయి. ఆ ప్రవర్తన జాగర్తగా రక్షణలు అడ్డుకుంటున్న సాధారణ రక్షణ పనిగా తేలింది, ప్రత్యేకమైన కొత్త ప్రమాదం కాదు. అయినప్పటికీ Anthropic వేగంగా కదిలింది. నిర్దిష్ట టెక్నిక్‌ను తొంభై తొమ్మిది శాతానికి పైగా సందర్భాల్లో అడ్డుకునే కొత్త క్లాసిఫైయర్‌ను శిక్షణ ఇచ్చింది, అడ్డుకున్న ఏ అభ్యర్థననైనా దాని బదులుగా సురక్షితమైన మోడల్‌కు మళ్లిస్తుంది.

నిజమైన ఖాళీ జైల్‌బ్రేక్ కాదు

డ్రామాను పక్కన పెడితే మరింత సరళమైన సమస్య కనిపిస్తుంది. కొత్త బైపాస్ నివేదించబడినప్పుడు, ఎవరో ఒకరు అది ఎంత తీవ్రమైనదో నిర్ణయించాలి, వేగంగా నిర్ణయించాలి. ఇది మోడల్‌ను ఉపసంహరించడానికి, నియంత్రణ సంస్థకు తెలియజేయడానికి, ఉదయం మూడుగంటలకు ప్రతిస్పందన బృందాన్ని మేల్కొలపడానికి సమర్థించే అన్వేషణనా? లేదా హానికరం కాని ప్రవర్తనను అన్‌లాక్ చేసే సన్నని ట్రిక్‌నా, వేచి ఉండవచ్చా? ఆ ప్రశ్నకు సమాధానం ఇవ్వడానికి పరిశ్రమకు ఉమ్మడి మార్గం లేదు. ప్రతి కంపెనీ అంతఃప్రజ్ఞతో సమాధానం ఇస్తుంది.

అందుకే Anthropic, అమెజాన్, మైక్రోసాఫ్ట్ మరియు గూగులతో కలిసి, జైల్‌బ్రేక్ నిజంగా ఎంత తీవ్రమైనదో స్కోరు చేయడానికి ఉమ్మడి ఫ్రేమ్‌వర్క్‌ను రూపొందించడం ప్రారంభించింది. ఫ్రేమ్‌వర్క్ నాలుగు సంకేతాలపై ఆధారపడుతుంది. సామర్థ్య లాభం బైపాస్ దాడిచేసేవాడిని ఇప్పటికే ఉన్న సాధనాలకు మించి ఎంత దూరం తీసుకువెళ్తుందో అడుగుతుంది. విస్తారం అదే టెక్నిక్ ఎన్ని వేర్వేరు దాడులను అన్‌లాక్ చేస్తుందో అడుగుతుంది. ఆయుధీకరణ సౌలభ్యం ట్రిక్‌ను నిజమైన దాడిగా మార్చడానికి ఎంత నైపుణ్యపు కృషి అవసరమో అడుగుతుంది. కనుగొనే సామర్థ్యం మొదటి నుండే ఎవరైనా ఆ పద్ధతిని ఎంత సులభంగా కనుగొనగలరో అడుగుతుంది. నాలుగు సంకేతాలు లోపలికి. ఒక నిర్ణయం బయటకు.

డిజైన్ ఎంపికలు వ్యూహాత్మక నిర్ణయాలు

నాయకులు శ్రద్ధ పెట్టవలసిన చోటు ఇక్కడే, ఎందుకంటే ఆసక్తికరమైన చర్యలు డిజైన్ ఎంపికలు, ప్రమాదాలు కావు.

మొదటి ఎంపిక భద్రతా మార్జిన్ వెడల్పు. భద్రతా క్లాసిఫైయర్‌ను స్పష్టంగా ప్రమాదకరమైన అభ్యర్థనలను మాత్రమే అడ్డుకునేలా సర్దుబాటు చేయవచ్చు, లేదా కొద్దిగానైనా ప్రమాదకరంగా కనిపించే దేనినైనా అడ్డుకునేలా సర్దుబాటు చేయవచ్చు. Fable 5 జాగ్రత్త కొనపై సెట్ చేయబడింది. దీనర్థం చాలా హానికరం కాని అభ్యర్థనలు తిరస్కరించబడతాయి, ఇది వినియోగదారులను నిరాశపరుస్తుంది, దాని బదులుగా ప్రమాదకరమైన అభ్యర్థన జారిపోయే అవకాశం చాలా తక్కువ. ఇది సాంకేతిక సెట్టింగ్ వేషంలో ఉన్న వ్యాపార రాజీ. అందుబాటును ఉద్దేశపూర్వకంగా జాగ్రత్తతో మార్చుకున్నారు.

రెండవ ఎంపిక అభ్యర్థన అడ్డుకున్నప్పుడు ఏమి జరుగుతుంది. కేవలం తిరస్కరించడం కాకుండా, వ్యవస్థ అడ్డుకున్న అభ్యర్థనను తక్కువ సమర్థమైన కానీ సురక్షితమైన మోడల్‌కు మళ్లిస్తుంది. వినియోగదారుడు ఇంకా సమాధానం పొందుతాడు. సామర్థ్యం తిరస్కరించబడకుండా తగ్గుతుంది. భద్రతా నియంత్రణ మరోవైపు ఉన్న వ్యక్తికి ఎలా అనిపించాలి అనే దాని గురించిన ఉత్పత్తి నిర్ణయం ఇది.

మూడవ ఎంపిక శ్రేణీకరణం. Mythos 5 విశ్వసనీయ భాగస్వామి కార్యక్రమంలోనే ఉండిపోయింది, Fable 5 ప్రజలకు వెళ్లింది. యాక్సెస్ పునరుద్ధరించబడినప్పుడు, Mythos మొదట ఆమోదించబడిన సంస్థలకు తిరిగి వచ్చింది, తర్వాత విస్తృతంగా. పూర్తి ప్రజా విడుదలకు పూర్తి నిలిపివేతకు మధ్య కూర్చునే శ్రేణి ఇప్పుడు సరిహద్దు మోడళ్లు ఎలా పంపబడతాయో చూపే జీవక్రియ టెంప్లేట్.

ముఖ్యమైన పోలిక

తీవ్రమైన కొత్త బైపాస్‌ను నిర్వహించే రెండు మార్గాలను పరిగణించండి.

మొదటిది మూసివేత. మీరు మోడల్‌ను ఉపసంహరిస్తారు, చర్చలు జరుపుతారు, వేచి ఉంటారు. ఇది అత్యంత చెత్త పరిస్థితి నుండి రక్షిస్తుంది, కానీ అది మొద్దుబారినది. ఇది చట్టబద్ధమైన వినియోగదారులను పందొమ్మిది రోజులు స్తంభింపజేసింది, పోటీదారులకు సమయం ఇచ్చింది, చిన్న సమస్యను పెద్ద సమస్య నుండి గుర్తించే మార్గం ఇవ్వలేదు. ఖర్చు అందరిపై సమానంగా పడింది.

రెండవది ఉమ్మడి స్కోరు. మీరు బైపాస్‌ను అంగీకరించిన సంకేతాలతో కొలుస్తారు, స్కేల్‌పై ఉంచుతారు, మీ ప్రతిస్పందనను సంఖ్యతో సరిపోలుస్తారు. తక్కువ స్కోరు అంటే పర్యవేక్షించి ముందుకు సాగండి. అధిక స్కోరు అంటే వెంటనే చర్య తీసుకోండి. దీన్ని నిర్మించడం కష్టం, ఎందుకంటే దీనికి కంపెనీలు మరియు నియంత్రణ సంస్థల మధ్య అంగీకారం అవసరం, కానీ అది అనుపాతంగా ఉంటుంది. హానికరం కాని చాలామందిని శిక్షించకుండా ప్రమాదకరమైన కొద్దిమందిపై వేగంగా చర్య తీసుకోనిస్తుంది.

మూసివేత ఒక స్విచ్. ఉమ్మడి స్కోరు ఒక డయల్. పరిపక్వ పరిశ్రమలు డయళ్లపై నడుస్తాయి.

నాయకులు ఇప్పుడు చేయవలసినది

మోడల్ యాక్సెస్‌ను స్థిరమైన యుటిలిటిగా కాకుండా సరఫరా ప్రమాదంగా పరిగణించండి. మోడల్ నిలిపివేయబడితే మీ వర్క్‌ఫ్లోలకు ఏమవుతుందో మీ విక్రేతలను అడగండి, ఆ సమాధానాన్ని మీ ఒప్పందాల్లో రాయండి. అడ్డుకున్న అభ్యర్థనలను ఎలా నిర్వహిస్తారో అడగండి, ఎందుకంటే బలహీనమైన మోడల్‌కు నిశ్శబ్ద మళ్లింపు మీకు చెప్పకుండానే మీ అవుట్‌పుట్ నాణ్యతను మారుస్తుంది. మరియు ఉదయిస్తున్న తీవ్రత ఫ్రేమ్‌వర్క్‌ను దగ్గరగా గమనించండి, ఎందుకంటే ప్రమాదంపై సమర్థించగల సంఖ్యను ఉంచగల కంపెనీ, దాని ప్రత్యర్థులు ఇంకా ఊహిస్తూనే ఉన్నప్పుడు ముందుకు వెళ్తుంది.

Fable 5 రీకాల్ పాఠం రక్షణలు విఫలమయ్యాయనేది కాదు. అవి చాలా వరకు పనిచేశాయి. పాఠం ఏమిటంటే, ప్రమాదాన్ని కొలవడానికి పరిశ్రమకు ఇంకా ఉమ్మడి భాష లేదు, ఆ ఖాళీ ఒక చిన్న అన్వేషణను పందొమ్మిది రోజుల స్తంభనగా మార్చింది.

మీ కోసం నా ప్రశ్న ఇది. మీ అత్యంత ముఖ్యమైన AI వ్యవస్థ ఎటువంటి హెచ్చరిక లేకుండా ఆపివేయబడినప్పుడు, మీ సంస్థకు మీరు ఎంత ఆందోళన చెందాలో చెప్పే సంఖ్య ఉందా, లేదా కేవలం అంతఃప్రజ్ఞ మాత్రమేనా?

గణితపరంగా ఆలోచించండి. తెలివిగా ఇంజనీర్ చేయండి. వ్యూహాత్మకంగా నాయకత్వం వహించండి. బాధ్యతగా నిర్మించండి. ప్రపంచవ్యాప్తంగా విస్తరించండి. కృత్రిమ మేధస్సు ద్వారా నిజమైన వ్యాపార విలువను సృష్టించండి.

మొదట LinkedInలో Keshavan Thiagaraja చే ప్రచురించబడింది. అసలైనది LinkedInలో చదవండి. [1]