እምነት እውነተኛው ውድድር መለኪያ እየሆነ ነው፡ የAnthropic ሞዴል ገደቦች ለድርጅት መሪዎች የሚያስተምሩት

When AI Companies Hit Pause: What Anthropic's Decisions Reveal About the Future of Responsible AI

የአርቲፊሻል ኢንተለጀንስ ውድድር በተለምዶ እንደ ፍጥነት ታሪክ ይነገራል። ትላልቅ ሞዴሎች። ከፍተኛ ውድድሮች። ፈጣን የልቀት ዑደቶች። ትላልቅ የገንዘብ ዙሮች። ስኬት በማን መጀመሪያ ማውጣት ይለካል።

ግን ዛሬ በAI ውስጥ ከአስፈላጊው ውሳኔዎች አንዳንዶቹ ሞዴል ማውጣት አይደሉም። ላለማድረግ መወሰን ናቸው።

የAnthropic የላቁ Claude ሞዴሎችን የሚመለከቱ የቅርብ ጊዜ ውሳኔዎች አሁን በኢንዱስትሪው ላይ እየተሰራጨ ያለ እውነታ ያሳያሉ። ችሎታ ብቻ ከእንቅስቃሴ መለኪያ አይደለም። በእየጨምረ ላይ፣ የአመራር እውነተኛ ሙከራ መቼ ማቆም፣ መገደብ ወይም ማዘግየት እንደሚገባ ማወቅ ነው። AI ስርዓቶች የበለጠ ኃይለኛ፣ የበለጠ ራስ-ሰር እና የበለጠ ወኪል ሲሆኑ፣ ራስን መቆጣጠር እንደ ብሬክ ሳይሆን እንደ ስትራቴጂ መምሰል ጀምሯል።

አዲሱ የውድድር ጥቅም፡ ተገቢ ማውጣት

ለአብዛኛው ባለፈው አስር ዓመት፣ ቴክኖሎጂ በሚታወቅ ስሜት ላይ ሰርቷል። በፍጥነት እንቀሳቀስ፣ በፍጥነት አሳድግ፣ እና በቀጣይነት ደጋግመህ አሻሽል። አርቲፊሻል ኢንተለጀንስ ያን እኩልዮሽ እየቀየረ ነው።

መሠረታዊ ሞዴሎች የበለጠ ጠንካራ ምክንያት፣ ኮዲንግ፣ የደህንነት እና ወኪል ችሎታዎችን ሲያገኙ፣ የአላግባብ አጠቃቀም ውጤቶች ከእነሱ ጋር ያድጋሉ። የደህንነት ቡድን ጉድለት እንዲያገኝ የሚረዳ ሞዴል መሪ የሌለው ተቃዋሚ አዲስ የጥቃት መንገድ እንዲያገኝ ሊረዳ ይችላል። የሳምንት ስራን ወደ ሰዓት ለመጨምጨም የተነደፈ ስርዓት የጥቃት ዘመቻን በተመሳሳይ ፍጥነት መጨምጨም ይችላል።

ይህ ለእያንዳንዱ AI ገንቢ አስቸጋሪ ግን አስፈላጊ ልዩነት ይፈጥራል። ሞዴል ሊለቀቅ መቻሉ መለቀቅ እንዳለበት አይደለም ማለት አይደለም።

Anthropic በደህንነት ምክንያቶች አንዱን የላቀ ቅድመ-እይታ ሞዴሉን መድረስ ሲገድብ እና በመከላከያ አካባቢዎች ላይ በሚሰሩ በጥቂት የታመኑ አጋሮች ሲያድር፣ የምርት ውሳኔ አልነበረም። ደህንነትን ከክስተቱ በኋላ እንደ መግለጫ ሳይሆን እንደ ራሱ የልቀት ሂደት ክፍል አድርጎ ይወስደዋል።

ሁለት ዓይነት ማቆሚያዎች፣ አንድ አስፈላጊ ትምህርት

ይህን ጊዜ አስተማሪ የሚያደርገው የዘመናዊ AIን የሚቀርጹ ሁለት በጣም የተለያዩ የግዴታ ዓይነቶችን ማሳየቱ ነው፣ እና ከተቃራኒ አቅጣጫዎች ይመጣሉ።

የመጀመሪያው ውስጣዊ፣ በስጋት ላይ የተመሠረተ ራስን መቆጣጠር ነው። ማቆሚያው ከኩባንያው ውስጥ መጣ። አንድ ችሎታ ያለው ሞዴል በማላግባብ አጠቃቀም ዕቅፍ፣ በሁለት አገልግሎት ችሎታ፣ በደህንነት ፋይዳ እና በሰፊ ማውጣት ዝግጁነት ላይ በሐቀኛ ግምገማ በኋላ በዓላማ ተቀይሮ ለመከላከያ አገልግሎት ተጠራር቟ል። ይህ የብስጭት ስጋት አስተዳደር መምስለት ነው በምህንድስና ፓይፕላይን ውስጥ ሲገነባ ከመጨረሻው ሳይሆን።

ሁለተኛው ውጫዊ፣ የደንብ ግዴታ ነው። ይህ ማቆሚያ ከኩባንያው ውጭ መጣ። የመንግሥት መመሪያዎች እና የወጪ ቁጥጥር መስፈርቶች ማን የተወሰኑ ችሎታዎችን መድረስ እና የት እንደሚችል ቀርጸዋል። AI ድርጅቶች ከእንግዲህ በቴክኒካዊ እና በንግድ ወሰኖች ብቻ እንደማይሰሩ ማስታወሻ ነው። አሁን በሰፊ ስርዓት ውስጥ ይሰራሉ የብሔራዊ ደህንነት ግምቶች፣ የንግድ ፖሊሲ፣ የዓለም አቀፍ ውድድር፣ የውሂብ አስተዳደር እና እያወጣ ያለ AI ህግ ጨምሮ።

እነዚህን ስርዓቶች ለሚነድፍ ወይም ለሚገዛ ማንም ሰው በጣም አስፈላጊው ነጥብ እነሆ። አንድ ቴክኖሎጂ በራስ የተጣለ የደህንነት ማቆሚያ እና በግዛት የተጣለ ቁጥጥር ሲያስከትል፣ ያ የስራ እጦጥ ምልክት አይደለም። ቴክኖሎጂው መዳፍ ጥሎ እንደተሻገር ምልክት ነው። በአሻንጉሊቶች ላይ የወጪ ቁጥጥር አንጭም። አለምን በሚንቀሳቀሱ ነገሮች ላይ እንጭባለን። ከፍተኛ ስሜታዊነት በልቀቱ ውስጥ ነውቅ አይደለም። ችሎታው ስትራቴጂካዊ መሠረተ ልማት መሆኑ ማስረጃ ነው።

የንፅፅሩን ዝምድና ለማድረግ፣ ሁለቱን ማቆሚያዎች ጎን ለጎን ይመልከቷቸው።

ውስጣዊ በስጋት ላይ የተመሠረተ ማቆሚያ። ሥልጣኑ ከኩባንያው ጋር ነው። ቀዳዳሚው የአላግባብ እና ሁለት አገልግሎት ስጋት ግምገማ ነው። መሪው ጥያቄ ድርጅቱ ችሎታውን በደህና ማውጣት ዝግጁ መሆኑን ነው። መቆጣጠሪያዎቹ የመዳረሻ ገደብ፣ መከላከያ-ብቻ አገልግሎት እና በደረጃ ማውጣት ናቸው። ለደህንነት እና ለማህበራዊ ተጽዕኖ ያመቻቻል። ለገንቢዎች ትምህርቱ አስተዳደርን ወደ ልቀት ፓይፕላይን መንደፍ ነው።

ውጫዊ የደንብ ማቆሚያ። ሥልጣኑ ከመንግሥታት እና ከደንብ አውጪዎች ጋር ነው። ቀዳዳሚው የወጪ ቁጥጥር እና የብሔራዊ ደህንነት ፖሊሲ ነው። መሪው ጥያቄ ድርጅቱ ችሎታውን ማውጣት እንደሚፈቀድለት እና በየትኛው ገበያ ነው። መቆጣጠሪያዎቹ ፈቃድ እና መልክዓ ምድራዊ ወይም አካል ገደቦች ናቸው። ለስትራቴጂካዊ እና ለብሔራዊ ጥቅም ያመቻቻል። ለገንቢዎች ትምህርቱ ተገዢነትን እንደ ዋና የንድፍ ግዴታ መውሰድ ነው፣ እንደ መጨረሻ ማረጋገጫ ሳይሆን።

የAI አስተዳደር እንደ ዋና ዘርፍ መነሳት

በታሪክ፣ አስተዳደር ከፈጠራ በኋላ ይቀራል። ያ ሞዴል ከእንግዲህ ዘላቂ አይደለም።

የላቀ AI የሚያወጡ ድርጅቶች አሁን ከማሽን ትምህርት ችሎታ በላይ የሚዘልቁ ችሎታዎች ይፈልጋሉ። ቀጣይ ስጋት ግምገማ። ቀይ ቡድን ሙከራ። የመዳረሻ መቆጣጠሪያዎች። የደህንነት ክትትል። የሰው ቁጥጥር። የሞዴል ኦዲት እና ግልጽነት። የክስተት ምላሽ እቅድ። ለድርጅት መሪዎች፣ የAI አስተዳደር እራሱ ከAI ልማት ጋር እኩል አስፈላጊ እየሆነ ነው።

የሚለየው ጥያቄ ተቀይሯል። መገንባት መቻል ብቻ አይደለም። የበለጠ አስፈላጊው ጥያቄ በደህና፣ በተገቢነት እና በዘላቂነት ማውጣት መቻላችን እና በእኛ ላይ ለሚደግፉ ሰዎች ማረጋገጥ መቻላችን ነው።

ለንግድ መሪዎች እና ለኢንቨስተሮች ለምን አስፈላጊ እንደሆነ

ለሥራ አስፈጻሚዎች እና ለኢንቨስተሮች፣ እነዚህ ለውጦች ግልጽ ፍንጭ ይዘዋል። የሚቀጥለው ትውልድ AI አሸናፊዎች በጣም ኃይለኛ ሞዴሎች ያሏቸው ድርጅቶች ላይሆኑ ይችላሉ። ከፍተኛ የእምነት ደረጃዎችን የሚያገኙ ድርጅቶች ሊሆኑ ይችላሉ።

ደንበኞች፣ መንግሥታት እና የድርጅት ገዢዎች አስቀድመው AI አቅራቢዎችን በደህንነት፣ በተገዢነት፣ በግልጽነት፣ በአስተማማኝነት፣ በአስተዳደር ብስጭት እና በተገቢ ማውጣት ተግባራት ይገመግማሉ። እምነት ስትራቴጂካዊ ንብረት እየሆነ ነው። ማግኘት ዘገምተኛ እና ማጣት ፈጣን ነው፣ እና በረጅም የሽያጭ ዑደቶች እና በተቆጣጠሩ ኢንዱስትሪዎች ውስጥ በእየጨምረ ላይ የሚወስን ምክንያት ነው። ተገቢ AIን እንደ ወጪ ማዕከል የሚወስዱ ድርጅቶች ዛሬ ዘላቂ ጥቅም ለእንደ ግንባር የሚወስዱት ሊሰጡ ይችላሉ።

የAI ኢንዱስትሪ መብስል

የAI ኢንዱስትሪው አዲስ ደረጃ እየገባ ነው። የመጀመሪያው ዘመን በሙከራ ተለይቷል። ሁለተኛው ዘመን በመጠን ተለይቷል። ሦስተኛው ዘመን በአሟሟት ይለያል።

ስርዓቶች የበለጠ ችሎታ ሲያገኙ፣ ተገቢ ፈጠራ ከባድ ውሳኔዎች ይፈልጋል። አንዳንድ ሞዴሎች ይዘገያሉ። አንዳንድ ችሎታዎች ይገደባሉ። አንዳንድ ማውጣት በጥንቃቄ ይቆጣጠራሉ። እንቅስቃሴን ከማዘግየት ይልቅ፣ እነዚህ እንቅስቃሴን ዘላቂ የሚያደርጉ ውሳኔዎች ናቸው። የAI ወደፊት በማን እጅግ ኃይለኛ ስርዓቶች መገንባት ብቻ አይወስንም። በማን በጥበብ መገዛት ይወሰናል።

የመጨረሻ ሀሳብ

በሚመጡት ዓመታት፣ ታሪክ የተሳኩ የAI ድርጅቶች የሚለይ ባህሪ ምን ያህል ፈጥነው እንዳልሰሩ ሊያስታውስ ይችላል። ፍርዳቸው ነበር።

ዲሲፕሊኑ መግለጽ ቀላል እና መኖር ከባድ ነው። በሂሳብ አስብ። በብልህነት ኢንጂኔር ሁን። በስትራቴጂ መራ። በተገቢነት ግንባት። በዓለም አቀፍ ደረጃ አሳድግ። እና መቼ ማቆም እንዳለብህ እወቅ።

አንድ ጥያቄ እተውህዋለሁ። በራስህ ድርጅት ውስጥ፣ ላለማውጣት ውሳኔውን የሚይዝ ማን ነው፣ እና ያ ሰው ማስፈጸም የሚችል ሥልጣን አለው? እንዴት እንደሞልክህ መስማት እፈልጋለሁ።

#ArtificialIntelligence #ResponsibleAI #AIGovernance #AILeadership #AgenticAI #AISafety #EnterpriseAI #AIStrategy #DigitalTransformation #Anthropic

Originally published on LinkedIn by Keshavan Thiagaraja. Read the original on LinkedIn.