Fable 5 ආපසු කැඳවීම සෑම AI නායකයෙකුටම උගන්වන දේ

2026 ජූනි මාසයේදී, ලොව වඩාත් හැකියාව ඇති AI ආකෘති දෙකක් දියත් කිරීමෙන් දින කිහිපයකට පසු අක්‍රිය කරන ලදී.

Anthropic ජූනි නවවැනිදා Fable 5 සහ Mythos 5 නිකුත් කළේය. Fable 5 යනු මහජනයාට මුහුණලා තිබූ ආකෘතියයි, එය සමාගම මෙතෙක් බෙදාහැර ඇති ශක්තිමත් ආරක්ෂණ වලින් ආවරණය කර තිබුණි. Mythos 5 එම හරයම බෙදාගත් නමුත් සැහැල්ලු සීමාවන් රැගෙන තිබුණි, එය ගියේ ආරක්ෂක ආරක්ෂණ වැඩ සඳහා තහවුරු කළ හවුල්කරුවන් කුඩා සමූහයකට පමණි. දින තුනකට පසු ඇමරිකා එක්සත් ජනපද රජය දෙකටම අපනයන පාලනයන් පනවන ලදී. රට ඇතුළේ හෝ පිටත සිටියද, විදේශික ජාතිකයින් සඳහා ප්‍රවේශය කපාහැරීමට සිදුවිය. එක් එක් ඉල්ලීමේ මොහොතේ දේශපාලනය තහවුරු කිරීමට ක්‍රමයක් නොතිබූ නිසා, සමාගම සැමට ප්‍රවේශය අත්හිටුවන ලදී. පාලනයන් ජූනි තිස්වැනිදා ඉවත් කරන ලද අතර ප්‍රවේශය ජූලි පළමුවැනිදා ආපසු ලැබුණි. වසාදැමීම දින දහනවයක්, සති තුනකට ටිකක් අඩුවෙන් පැවතුණි.

බොහෝ පාඨකයන්ට මෙම කතාව බව්වක් ලෙස පෙනේ. මෙම පද්ධති මත ව්‍යාපාරයක් පවත්වන ඕනෑම කෙනෙකුට, එය තවත් තියුණු දෙයක් විය. මූලික බුද්ධි සේවාවන් අනතුරු ඇඟවීමකින් තොරව සහ පිරිසිදු අනුප්‍රාප්තියකින් තොරව අඳුරු විය. 2026 ට පෙර ලියන ලද කොන්ත්රාත්තුවන් රාජ්‍ය නියෝගයක් සියලුම වේදිකා හරහා එකවර AI සේවාවක් අත්හිටුවන බව සිතා නොගත්හ. සෑම නායකයෙක්ම වැඩිපුරම සිතා බැලිය යුතු කොටස එයයි.

ආකෘතිය තුළ සැබැවින්ම සිදුවූයේ කුමක්ද

ප්‍රවර්ධකය වූයේ Amazon පර්යේෂකයින්ගේ වාර්තාවකි. ඔවුන් Fable 5 වෙත මෘදුකාංග දුර්වලතා හඳුනාගැනීමට ඉඩ දෙන ක්‍රමයක් සොයාගත්හ, එක් අවස්ථාවක එය දුර්වලතාවක් භාවිතා කළ හැකි ආකාරය පෙන්වන කේතයක් නිපදවීය. මෙවැනි උපායකට නමක් තිබේ. එය jailbreak යි, ආකෘතියකට එහි ආරක්ෂණ අවහිර කිරීමට අදහස් කළ දෙයක් කරවන ප්‍රේරකයකි.

වැදගත් හැරවුම මෙන්න. එම කාර්යයම දුර්වල ආකෘතිවල පරීක්ෂා කළ විට, Anthropic ගේම Opus 4.8 ඇතුළුව, එම ආකෘතිවලට ද එම දුර්වලතාම සොයාගැනීමට සහ එම ප්‍රදර්ශනයම නැවත නිපදවීමට හැකි විය. හැසිරීම සාමාන්‍ය ආරක්ෂක වැඩක් බවට පත් විය, එය ආරක්ෂණ විමසිල්ලෙන් අවහිර කරමින් සිටි අතර, අද්විතීය නව අන්තරායක් නොවේ. එහෙත් Anthropic ඉතා ඉක්මනින් කටයුතු කළේය. එය නිශ්චිත තාක්ෂණය අවස්ථාවලින් අනූ නවයකට වැඩි ප්‍රතිශතයක අවහිර කරන නව වර්ගීකරණයක් පුහුණු කළ අතර, ඕනෑම අවහිර කළ ඉල්ලීමක් ආරක්ෂිත ආකෘතියකට යොමු කරයි.

සැබෑ පරතරය jailbreak නොවීය

නාට්‍යය ඉවතලූ විට සරල ගැටලුවක් පෙනී යයි. නව bypass එකක් වාර්තා වූ විට, යම් කෙනෙකුට එය කොතරම් බරපතලද යන්න තීරණය කළ යුතුය, එය ඉක්මනින් තීරණය කළ යුතුය. මෙය ආකෘතියක් ඉවතලීම, නියාමකයෙකුට දැනුම් දීම සහ උදේ තුනට ප්‍රතිචාර කණ්ඩායමක් අවදි කිරීම සාධාරණීකරණය කරන සොයාගැනීමක්ද? නැත්නම් හානිකර නොවන හැසිරීමක් අගුළුහරින පටු උපායක් වන අතර බලාසිටිය හැකිද? කර්මාන්තයට එම ප්‍රශ්නයට පිළිතුරු දීමට පොදු ක්‍රමයක් නැත. සෑම සමාගමක්ම හැඟීමෙන් පිළිතුරු දෙයි.

ඒ නිසාය Anthropic, Amazon, Microsoft සහ Google සමඟ එක්ව, jailbreak එකක් සැබවින්ම කොතරම් බරපතලද යන්න ලකුණු කිරීමට පොදු රාමුවක් සැකසීමට පටන් ගෙන ඇත. රාමුව සංකේත හතරක් මත පදනම් වේ. හැකියාව ලැබීම විමසන්නේ bypass එක ප්‍රහාරකයා දැනට සිටින මෙවලම්වලින් ඔබ්බට කොතරම් දුරට ගෙනයන්නේද යන්නයි. පළල විමසන්නේ එම තාක්ෂණයම කීයක් වෙනස් ප්‍රහාර අගුළුහරිනවාද යන්නයි. ආයුධකරණයේ පහසුව විමසන්නේ උපාය සැබෑ ප්‍රහාරයක් බවට පරිවර්තනය කිරීමට කොතරම් දක්ෂ උත්සාහයක් අවශ්‍යද යන්නයි. සොයාගැනීමේ හැකියාව විමසන්නේ කෙනෙකුට මුලදීම ක්‍රමය සොයාගත හැක්කේ කෙතරම් පහසුවෙන්ද යන්නයි. සංකේත හතරක් ඇතුළට. එක් තීරණයක් පිටතට.

සැලසුම් තේරීම් උපායශීලී තීරණ වේ

නායකයින් අවධානය යොමු කළ යුත්තේ මෙහිදීය, මන්ද රසවත් පියවර සැලසුම් තේරීම් වූ අතර, අහම්බි නොවේ.

පළමු තේරීම වූයේ ආරක්ෂණ ආන්තිකයේ පළලයි. ආරක්ෂණ වර්ගීකරණය පැහැදිලිවම භයානක ඉල්ලීම් පමණක් අවහිර කරන ලෙස සැකසිය හැක, නැත්නම් තරමක් අවදානම් බව පෙනෙන ඕනෑම දෙයක් අවහිර කරන ලෙස සැකසිය හැක. Fable 5 පරිස්සමින් කෙළවරට සකසා තිබුණි. ඒ කියන්නේ බොහෝ හානිකර නොවන ඉල්ලීම් ප්‍රතික්ෂේප කළ බවයි, එය භාවිතා කරන්නන් කලබල කරයි, ඒ වෙනුවෙන් භයානක ඉල්ලීමක් ලිස්සායාමේ අවස්ථාව බොහෝ සෙයින් අඩුයි. එය තාක්ෂණික සැකසුමක් ලෙස වෙස් ගත් ව්‍යාපාරික සම්මුතියකි. ලබාගත හැකි බව අරමුණෙන්ම පරිස්සම සමඟ හුවමාරු කරන ලදී.

දෙවන තේරීම වූයේ ඉල්ලීමක් අවහිර කළ විට සිදුවන්නේ කුමක්ද යන්නයි. සරලව ප්‍රතික්ෂේප කිරීම වෙනුවට, පද්ධතිය අවහිර කළ ඉල්ලීම අඩු හැකියාව ඇති නමුත් ආරක්ෂිත ආකෘතියකට නැවත යොමු කරයි. භාවිතා කරන්නාට තවමත් පිළිතුරක් ලැබේ. හැකියාව ප්‍රතික්ෂේප කිරීම වෙනුවට අඩු වේ. එය අනෙක් පැත්තේ සිටින පුද්ගලයාට ආරක්ෂණ පාලනයක් කෙසේ දැනිය යුතුද යන්න පිළිබඳ නිෂ්පාදන තීරණයකි.

තෙවන තේරීම වූයේ ස්ථරීකරණයයි. Mythos 5 විශ්වාසවන්ත හවුල්කරු වැඩසටහන තුළ රැඳී සිටි අතර Fable 5 මහජනයාට ගියේය. ප්‍රවේශය යළි පිහිටුවූ විට, Mythos මුලින්ම අනුමත සංවිධානවලට ආපසු ආවේය, පසුව පුළුල් වශයෙන්. සම්පූර්ණ මහජන නිකුත් කිරීම සහ සම්පූර්ණ අත්හිටුවීම අතර පිහිටි ස්ථරය දැන් මායිම් ආකෘති බෙදාහරින ආකාරයේ සජීවී ආකෘතියකි.

වැදගත් සංසන්දනය

බරපතල නව bypass එකක් හැසිරවීමට ක්‍රම දෙකක් සලකා බලන්න.

පළමුවැන්න වසාදැමීමයි. ඔබ ආකෘතිය ඉවතලනවා, සාකච්ඡා කරනවා, බලා සිටිනවා. මෙය නරකම අවස්ථාවෙන් ආරක්ෂා කරයි, නමුත් එය මන්දය. එය නීතික භාවිතා කරන්නන් දින දහනවයක් කට්ට කළේය, තරඟකරුවන්ට කාලය දුන්නේය, සහ කුඩා ගැටලුවක් විශාල එකකින් වෙන්කොට හඳුනාගැනීමට ක්‍රමයක් නොදුන්නේය. පිරිවැය සැම මත සමානව වැටුණි.

දෙවැන්න පොදු ලකුණයි. ඔබ bypass එක එකඟ වූ සංකේත වලට එරෙහිව මැන, පරිමාණයක තබන අතර, ඔබේ ප්‍රතිචාරය අංකයට ගළපයි. අඩු ලකුණ යනු නිරීක්ෂණය කර ඉදිරියට යාමයි. ඉහළ ලකුණ යනු වහාම ක්‍රියා කිරීමයි. මෙය තැනීමට අපහසුය, මන්ද එයට සමාගම් සහ නියාමකයින් අතර එකඟතාවය අවශ්‍ය නිසාය, නමුත් එය සමානුපාතිකය. එය ඔබට භයානක සුළුතරය මත ඉක්මනින් ක්‍රියා කිරීමට ඉඩ දෙයි, හානිකර නොවන බහුතරය දණ්ඩනය නොකර.

වසාදැමීම ස්විචයකි. පොදු ලකුණ ඩයලයකි. පරිණත කර්මාන්ත ඩයල් මත ක්‍රියාත්මක වේ.

නායකයින් දැන් කළ යුතු දේ

ආකෘති ප්‍රවේශය සැපයුම් අවදානමක් ලෙස සලකන්න, තහවුරු කළ උපයෝගීතාවයක් ලෙස නොවේ. ඔබේ විකුණුම්කරුවන්ගෙන් විමසන්න ආකෘතියක් අත්හිටුවීමෙන් ඔබේ කාර්ය ප්‍රවාහයට සිදුවන්නේ කුමක්ද යන්න, එම පිළිතුර ඔබේ කොන්ත්රාත්තුවල ලියන්න. අවහිර කළ ඉල්ලීම් හැසිරවෙන ආකාරය විමසන්න, මන්ද දුර්වල ආකෘතියකට නිහඬ නැවත යොමු කිරීම ඔබට නොකියාම ඔබේ ප්‍රතිදානයේ ගුණාත්මකභාවය වෙනස් කරයි. සහ මතුවෙන බරපතලභාවයේ රාමුව දැඩි ලෙස නිරීක්ෂණය කරන්න, මන්ද අවදානමක් මත ආරක්ෂා කළ හැකි අංකයක් දැමීමට හැකි සමාගම එහි තරඟකරුවන් තවමත් අනුමාන කරමින් සිටින අතර ඉදිරියට යනු ඇත.

Fable 5 ආපසු කැඳවීමේ පාඨය යනු ආරක්ෂණ අසාර්ථක වූ බව නොවේ. ඒවා බොහෝ දුරට ක්‍රියා කළේය. පාඨය යනු කර්මාන්තයට තවමත් අන්තරාය මැනීමට පොදු භාෂාවක් නොමැති බවත්, එම පරතරය කුඩා සොයාගැනීමක් දින දහනවයක කටුකරණයක් බවට පරිවර්තනය කළ බවත්ය.

මගේ ප්‍රශ්නය මෙන්න. ඔබේ වැදගත්ම AI පද්ධතිය අනතුරු ඇඟවීමකින් තොරව අක්‍රිය වූ විට, ඔබේ සංවිධානයට ඔබ කොතරම් කලබල විය යුතුද යන්න කියන අංකයක් තිබේද, නැත්නම් හැඟීමක් පමණක්ද?

ගණිතමය වශයෙන් සිතන්න. බුද්ධිමත්ව ඉංජිනේරු කරන්න. උපායශීලීව නායකත්වය දෙන්න. වගකීමෙන් ගොඩනගන්න. ගෝලීයව පුළුල් කරන්න. කෘත්‍රිම බුද්ධිය හරහා සැබෑ ව්‍යාපාරික වටිනාකම ඇති කරන්න.

මුලින්ම LinkedIn හි Keshavan Thiagaraja විසින් පළ කරන ලදී. මුල් ලිපිය LinkedIn හි කියවන්න. [1]