የFable 5 መመለስ ለእያንዳንዱ AI መሪ የሚያስተምረው

በሰኔ 2026፣ በዓለም ካሏቸው በጣም አቅም ያላቸው ሁለት AI ሞዴሎች ከተለቀቁ በጥቂት ቀናት ውስጥ ጠፍተዋል።

Anthropic በሰኔ ዘጠኝኛው Fable 5 እና Mythos 5 አወጣ። Fable 5 ለሕዝብ የቀረበ ሞዴል ነበር፣ ኩባንያው ከገነባቸው በጣም ጠንካራ ጥበቃዎች ጋር ተጠቅልሎ። Mythos 5 ተመሳሳይ ምሰሶ አለው ነገር ግን ቀላል ገደቦችን ይሸከማል፣ እና ለቀረጡ አጋሮች ለመከላከያ የደህንነት ስራ ብቻ ሄደ። ከሦስት ቀናት በኋላ የአሜሪካ መንግሥት በሁለቱም ላይ የወጪ ቁጥጥር ጣለ። ለውጭ አገር ዜጎች መዳረሻ መቆረጥ ነበረበት፣ በአገሪቱ ውስጥም ሆነ ውጪ። በእያንዳንዱ ጥያቄ ጊዜ ዜግነትን ማረጋገጥ ስለማይቻል፣ ኩባንያው ለሁሉም መዳረሻ አቋረጠ። ቁጥጥሩ በሰኔ ሰላሳኛው ተነሳ፣ እና መዳረሻው በሐምሌ አንደኛው ተመለሰ። ማጥፋቱ አሥራ ዘጠኝ ቀን ቆየ፣ ከሦስት ሳምንት በትንሽ ያነሰ።

ለአብዛኛዎቹ አንባቢዎች ታሪኩ የፖሊሲ ክርክር ይመስላል። በእነዚህ ስርዓቶች ላይ ቢዝነስ ለሚያስኬድ ማንም ሰው ግን የበለጠ ስቅስቆሳ ነበር። ዋና የብልሃት አገልግሎቶች ያለማስጠንቀቂያ እና ያለንጹሕ አማራጭ ጠፍተዋል። ከ2026 በፊት የተጻፉ ውሎች አንድን የAI አገልግሎት በሁሉም መድረኮች ላይ በአንድ ጊዜ የሚያቋርጥ የመንግሥት ትእዛዝ አላሰላሰሉም። እያንዳንዱ መሪ ማሰብ የሚገባው ክፍል ያ ነው።

በሞዴሉ ውስጥ በትክክል የተካሄደው

ነሳሹ ከአማዞን ተመራማሪዎች የመጣ ሪፖርት ነበር። Fable 5 የሶፍትዌር ስህተቶችን እንዲለይ የሚያደርግ መንገድ አገኙ፣ እና በአንድ ሁኔታ አንድ ስህተት እንዴት መጠቀም እንደሚቻል የሚያሳይ ኮድ አወጣ። እንደዚህ ዓይነቱ ዘዴ ስም አለው። ጀይልብሬክ ይባላል፣ ሞዴሉ ጥበቃዎቹ የሚከለክሉትን ለማድረግ የሚያስችል ፕሮምፕት ነው።

የሚያስቀይመው መለወጫ ነጥብ እነሆ። ተመሳሳዩ ተግባር በደካማ ሞዴሎች ላይ ሲሞከር፣ የAnthropic የራሱ Opus 4.8ን ጨምሮ፣ እነዚያ ሞዴሎች ተመሳሳዮቹን ስህተቶች ማግኘት እና ተመሳሳዩን ማሳያ መደግም ችለዋል። ባህሪው ጥበቃዎቹ ከጥንቃቄ የተነሳ የሚከለክሉት መደበኛ የመከላከያ ስራ መሆኑ ተገነዘበ፣ ልዩ አዲስ አደጋ ሳይሆን። Anthropic ሆኖም በፍጥነት ተንቀሳቀሰ። የዚያን ልዩ ዘዴ በዘጠና ዘጠኝ በመቶ ከሚበልጡ ሁኔታዎች የሚከለክል አዲስ ሸንጣፊ ሰለጠነ፣ እና ማንኛውንም የተከለከለ ጥያቄ ወደ ደህና ሞዴል ይለውጣል።

እውነተኛው ክፍተት ጀይልብሬኩ አልነበረም

ትርጉሙን ሲያወጡ ግልጽ ችግር ይታያል። አዲስ መተላለፊያ ሲገለጽ፣ አንድ ሰው ምን ያህል ከባድ እንደሆነ መወሰን አለበት፣ እና በፍጥነት መወሰን አለበት። ይህ ሞዴል ማንሳት፣ ተቆጣጣሪ ማወቅ እና የምላሽ ቡድን በእኩለ ሌሊት ሦስት ሰዓት ማስታት የሚገባው ግኝት ነውን? ወይስ አንድ ጎጂ ባህሪ የሚከፍት ጠባብ ዘዴ ነው እና መጠበቅ ይችላል? ኢንዱስትሪው ያንን ጥያቄ ለመመለስ የጋራ መንገድ የለውም። እያንዳንዱ ኩባንያ በሰሜን ይመልሳል።

ስለዚህ ነው Anthropic ከአማዞን፣ ማይክሮሶፍት እና ጉግል ጋር አብሮ አንድ ጀይልብሬክ ምን ያህል ከባድ እንደሆነ የሚሰፍር የጋራ ማዕቀፍ ማዘጋጀት የጀመረው። ማዕቀፉ በአራት ምልክቶች ላይ ይገነባል። የአቅም ጭማሪ መተላለፊያው አጥቂዩን ካለው መሣሪያ ከሶስተኛ እስከ ምን ያህል እንደሚወስድ ይጠይቃል። ስፋት ተመሳሳዩ ዘዴ ስንት የተለያዩ ጥቃቶችን እንደሚከፍት ይጠይቃል። የመሣሪያነት ቀላልነት ዘዴውን ወደ እውነተኛ ጥቃት ለመለወጥ ምን ያህል ብቃት ያለው ጥረት እንደሚያስፈልግ ይጠይቃል። የማግኘት ቀላልነት አንድ ሰው ዘዴውን በመጀመሪያ ምን ያህል በቀላሉ ማግኘት እንደሚችል ይጠይቃል። አራት ምልክቶች ይገባሉ። አንድ ውሳኔ ይወጣል።

ዲዛይን ምርጫዎች ስትራቴጂያዊ ውሳኔዎች ናቸው

መሪዎች ትኩረት መስጠት ያለባቸው እዚህ ነው፣ ምክንያቱም አስደሳች እንቅስቃሴዎች ዲዛይን ምርጫዎች ነበሩ፣ አጋጣሚዎች አይደሉም።

የመጀመሪያው ምርጫ የደህንነት ህዳግ ስፋት ነበር። የደህንነት ሸንጣፊ ግልጽ የሆኑ አደገኛ ጥያቄዎችን ብቻ የሚከለክል ሊዘጋጀ ይችላል፣ ወይም ትንሽ እንኳን አደገኛ የሚመስል ማንኛውንም ነገር የሚከለክል ሊዘጋጀ ይችላል። Fable 5 ወደ ጥንቃቄ ጫፍ ተወስኖለታል። ያ ብዙ ጎጂ ያልሆኑ ጥያቄዎች እንዲከለከሉ ማለት ነበር፣ ይህም ተጠቃሚዎችን ያሳፍራል፣ በምንጣፍ ላይ አደገኛ ጥያቄ የሚያመልጥበት እድል በጣም ዝቅ ይልክ። ያ እንደ ቴክኒካዊ ቅንብር የተሸነፈ የቢዝነስ ልውውጥ ነው። ተገኝነት በዓላማ ለጥንቃቄ ተለውጧል።

ሁለተኛው ምርጫ ጥያቄ ሲከለክል ምን እንደሚሆን ነበር። በቀላሉ ከመካድ ይልቅ፣ ስርዓቱ የተከለከለውን ጥያቄ ወደ ያነሰ አቅም ያለው ነገር ግን ደህና ሞዴል ያዞረዋል። ተጠቃሚው አሁንም መልስ ያገኛል። አቅሙ ዝቅ ይላል እንጂ አይካድም። ያ የደህንነት ቁጥጥር ለሌላኛው ጎን ላለው ሰው እንዴት መስማት እንዳለበት የሚያነጋግር የምርት ውሳኔ ነው።

ሦስተኛው ምርጫ ደረጃ አሰጣጥ ነበር። Mythos 5 በታመኑ አጋር ፕሮግራም ውስጥ ቀርቷል፣ Fable 5 ለሕዝብ ወጣ። መዳረሻ ሲመለስ፣ Mythos መጀመሪያ ለጸድቀው ድርጅቶች ተመለሰ፣ ከዚያ ሰፋ። በሙሉ የሕዝብ ልቀት እና በሙሉ ማጥፋት መካከል የሚቀመጥ ደረጃ አሁን የፍርንቲየር ሞዴሎች እንዴት እንደሚለቀቁ የሚያሳይ ሕያው አብነት ነው።

የሚያስፈልገው ንጽጽር

ከባድ አዲስ መተላለፊያን የሚያስተናግዱ ሁለት መንገዶችን ይመልከቱ።

የመጀመሪያው ማጥፋት ነው። ሞዴሉን ታወጣለህ፣ ትደራደራለህ፣ እና ትጠብቃለህ። ይህ ከከፋው ሁኔታ ይከላከላል፣ ነገር ግን ሞዝዝ ነው። ሕጋዊ ተጠቃሚዎችን አሥራ ዘጠኝ ቀን አቀዝቅዟል፣ ለተፎካካሪዎች ጊዜ ሰጥቷል፣ እና ትንሽ ችግርን ከትልቅ ችግር መለየት የሚችል መንገድ አልሰጠም። ወጪው በሁሉም ላይ በእኩልነት ወደቀ።

ሁለተኛው የጋራ ነጥብ ነው። መተላለፊያውን በተስማሙ ምልክቶች ትለካለህ፣ በመለኪያ ላይ ታኖረዋለህ፣ እና ምላሽህን ከቁጥሩ ጋር ታዛመዳለህ። ዝቅተኛ ነጥብ ቆጣጥር እና ቀጥል ማለት ነው። ከፍተኛ ነጥብ ወዲያውኑ ተግባር ማለት ነው። ይህ ለመገንባት ከባድ ነው፣ ምክንያቱም በኩባንያዎች እና ተቆጣጣሪዎች መካከል ስምምነት ያስፈልጋል፣ ነገር ግን ሚካኤላዊ ነው። ጎጂ የሆኑትን ብዙ ሰው ሳታስተናግድ በአደገኛዎቹ ጥቂት ላይ በፍጥነት እንድትሠራ ያስችልሃል።

ማጥፋቱ መቀየሪያ ነው። የጋራ ነጥቡ መጠን መቆጣጠሪያ ነው። የጠለቁ ኢንዱስትሪዎች በመጠን መቆጣጠሪያዎች ላይ ይሠራሉ።

መሪዎች አሁን ማድረግ ያለባቸው

የሞዴል መዳረሻን እንደ አቅርቦት አደጋ ይወሰዱ፣ እንደ ተፀነሰ አገልግሎት ሳይሆን። ሻጮችዎን ሞዴሉ ከታጠፈ ለስራ ፍሰትዎ ምን እንደሚሆን ይጠይቁ፣ እና ያንን መልስ በውሎችዎ ውስጥ ይጻፉ። የተከለከሉ ጥያቄዎች እንዴት እንደሚሰሩ ይጠይቁ፣ ምክንያቱም ወደ ደካማ ሞዴል መዞር ያለማወቅ የውጤት ጥራትዎን ይለውጣል። እና የሚበጀውን የከባድነት ማዕቀፍ በትኩረት ይከታተሉ፣ ምክንያቱም በአደጋ ላይ የሚከራከር ቁጥር መስጠት የሚችል ኩባንያ ተፎካካሪዎቹ እያተረፉ ሳሉ ይንቀሳቀሳል።

የFable 5 መመለስ ትምህርቱ ጥበቃዎች ወድቀዋል ማለት አይደለም። እነሱ በዋናነት ሠርተዋል። ትምህርቱ ኢንዱስትሪው አሁንም አደጋን ለመለካት የጋራ ቋንቋ ይጎድለዋል ማለት ነው፣ እና ያ ክፍተት ትንሽ ግኝትን ወደ አሥራ ዘጠኝ ቀን እርግብ ቀይሮታል።

ለእርስዎ ጥያቄ እነሆ። በጣም አስፈላጊው የAI ስርዓትዎ ያለማስጠንቀቂያ ሲጠፋ፣ ድርጅትዎ ምን ያህል መጨነቅ እንዳለበት የሚነግርዎ ቁጥር አለው ወይስ ሰሜን ብቻ?

በሂሳብ ያስቡ። በብልሃት ይሥሩ። በስትራቴጂ ይምሩ። በኃላፊነት ይገንቡ። በዓለም ያድጉ። በአርቲፊሻል ኢንተለጀንስ እውነተኛ የቢዝነስ ዋጋ ይፍጠሩ።

በመጀመሪያ በLinkedIn በኬሻቫን ቲያጋራጃ ታትሟል። ዋናውን በLinkedIn ያንብቡ። [1]