เอเจนต์ผู้ประสานงานด้านการดูแลระบบ AI คือหัวหน้า ทุกอย่างอื่นรายงานต่อมัน

บทวิจารณ์เชิงระบบต่อการตัดสินใจออกแบบเพียงหนึ่งเดียวที่แยก AI แบบเอเจนต์ระดับองค์กรออกจากการทดลองทางวิทยาศาสตร์ราคาแพง

ความจริงที่ไม่น่าฟัง

องค์กรส่วนใหญ่ไม่ได้กำลังสร้างระบบหลายเอเจนต์ พวกเขากำลังสร้างความวุ่นวายหลายเอเจนต์

พวกเขาติดตั้งเอเจนต์เคลมตรงนี้ เอเจนต์จัดตารางเวลาตรงนั้น เอเจนต์เอกสารอีกที่หนึ่ง แต่ละตัวฉลาดเฉลียว แต่ไม่มีตัวไหนรับผิดชอบ เมื่อผู้สอบบัญชีถามว่าใครอนุมัติการตัดสินใจ คำตอบคือการยักไหล่กับไฟล์บันทึกที่ไม่มีใครอ่านออก

Gartner คาดการณ์ว่าโครงการ AI แบบเอเจนต์กว่า 40% จะถูกยกเลิกภายในสิ้นปี 2027 เนื่องจากต้นทุนที่เพิ่มขึ้น คุณค่าทางธุรกิจที่ไม่ชัดเจน และการควบคุมความเสี่ยงที่ไม่เพียงพอ อ่านประโยคสุดท้ายนั้นอีกครั้ง การควบคุมความเสี่ยงที่ไม่เพียงพอ นั่นไม่ใช่ปัญหาของโมเดล นั่นคือปัญหาของสถาปัตยกรรม

ทางออกคือการตัดสินใจออกแบบเพียงครั้งเดียวอย่างตั้งใจ: เอเจนต์หนึ่งตัวคือหัวหน้า ผมเรียกมันว่าเอเจนต์ผู้ประสานงานด้านการดูแลระบบ AI เอเจนต์ตัวอื่นทุกตัวรายงานต่อมัน มันเป็นเจ้าของห้าสิ่งและปฏิเสธที่จะมอบหมายต่อ: เวิร์กโฟลว์ การตัดสินใจเรื่องความเสี่ยง การอนุมัติ เส้นทางการส่ง และร่องรอยการตรวจสอบ

บทความนี้อธิบายว่าทำไมลำดับชั้นนั้นไม่ใช่ทางเลือก มันทำงานอย่างไรในทางปฏิบัติ และมันหมายความว่าอย่างไรสำหรับผู้บริหารที่ต้องลงนามรับรอง

ทำไมฝูงเอเจนต์แบบเพียร์ทูเพียร์จึงล้มเหลวในองค์กร

มีปรัชญาสองแบบที่แข่งขันกันในการออกแบบระบบหลายเอเจนต์ และการเลือกระหว่างสองแบบนั้นเป็นการตัดสินใจเชิงกลยุทธ์ ไม่ใช่ความชอบทางเทคนิค

ฝูงแบบกระจายอำนาจปล่อยให้เอเจนต์ส่งมอบงานกันเองโดยตรง มันดูทันสมัยและยืดหยุ่น แต่อำนาจนั้นกระจัดกระจาย ความล้มเหลวโผล่ขึ้นมาอย่างคาดไม่ถึง และไม่มีส่วนประกอบเดียวสามารถรับผิดชอบระบบได้ ลำดับชั้นที่มีการประสานงานส่งผ่านการตัดสินใจที่สำคัญทุกอย่างผ่านเอเจนต์ผู้กำกับเพียงตัวเดียว มันดูราชการ แต่อำนาจชัดเจน ความล้มเหลวถูกควบคุมไว้ และส่วนประกอบหนึ่งสามารถรับผิดชอบระบบได้เสมอ

ฝูงเพิ่มประสิทธิภาพเพื่ออิสระของเอเจนต์ ผู้ประสานงานเพิ่มประสิทธิภาพเพื่อความรับผิดชอบขององค์กร ฝูงถามว่าเอเจนต์แต่ละตัวทำอะไรได้บ้าง ผู้ประสานงานถามว่าองค์กรได้รับอนุญาตให้ทำอะไร ในธุรกิจที่อยู่ภายใต้การกำกับดูแล ปรัชญาเพียงหนึ่งในสองนั้นเท่านั้นที่รอดจากการเผชิญหน้าครั้งแรกกับแผนกกำกับดูแล

อุตสาหกรรมได้บรรลุข้อสรุปเดียวกันอย่างเงียบ ๆ Amazon Bedrock สร้างฟีเจอร์ความร่วมมือหลายเอเจนต์รอบตัวเอเจนต์ผู้กำกับที่วางแผน กำกับ และรวบรวมงานของเอเจนต์ผู้ใต้บังคับบัญชา LangGraph บันทึกรูปแบบผู้กำกับเป็นสถาปัตยกรรมหลายเอเจนต์มาตรฐานของมัน Microsoft และ Salesforce ต่างมาบรรจบกันที่ชั้นการประสานงานเหนือเอเจนต์เฉพาะทางของพวกเขา ผู้จำหน่ายไม่ได้ตกลงกันเรื่องลำดับชั้นโดยบังเอิญ พวกเขาตกลงกันเพราะผู้ซื้อระดับองค์กรถามคำถามเดิมซ้ำแล้วซ้ำเล่า: ใครรับผิดชอบ?

ห้าสิ่งที่ผู้ประสานงานต้องเป็นเจ้าของ

ลองคิดว่าเอเจนต์ผู้ประสานงานด้านการดูแลระบบ AI เป็นเหมือนประธานเจ้าหน้าที่ฝ่ายปฏิบัติการของกำลังแรงงานดิจิทัลของคุณ มีห้าความรับผิดชอบอยู่บนโต๊ะของมันและไม่อยู่ที่อื่น

อย่างแรก เวิร์กโฟลว์ ผู้ประสานงานแยกคำขอที่เข้ามาออกเป็นขั้นตอน ตัดสินใจลำดับ และมอบหมายแต่ละขั้นตอนให้เอเจนต์เฉพาะทาง เอเจนต์เฉพาะทางไม่เคยมอบหมายงานให้ตัวเอง

อย่างที่สอง การตัดสินใจเรื่องความเสี่ยง ทุกการกระทำได้รับการให้คะแนนก่อนที่จะถูกส่ง การอ่านฐานความรู้คือความเสี่ยงต่ำ การส่งอีเมลถึงลูกค้าคือความเสี่ยงปานกลาง การออกเงินคืน การเปลี่ยนบันทึกอำนาจ หรือการแตะโครงสร้างพื้นฐานการผลิตคือความเสี่ยงสูง เกณฑ์การให้คะแนนอยู่ในผู้ประสานงาน ในที่เดียว มีการควบคุมเวอร์ชันและทบทวนได้

อย่างที่สาม การอนุมัติ การกระทำความเสี่ยงต่ำทำงานโดยอัตโนมัติ การกระทำความเสี่ยงปานกลางทำงานด้วยการบันทึกแบบเข้มข้น การกระทำความเสี่ยงสูงหยุดและรอการอนุมัติจากมนุษย์ที่ระบุชื่อ เอเจนต์เฉพาะทางไม่สามารถผ่านประตูนั้นได้เพราะเอเจนต์เฉพาะทางไม่เคยถือข้อมูลรับรองที่จะทำให้มันทำงานคนเดียวได้

อย่างที่สี่ เส้นทางการส่ง ผู้ประสานงานตัดสินใจไม่เพียงว่าอะไรเกิดขึ้น แต่ยังรวมถึงผ่านช่องทางใดและด้วยสิทธิ์ใด คำสั่งการชำระเงินผ่านเกตเวย์การชำระเงินด้วยโทเคนขอบเขตจำกัด ไม่ใช่เครื่องมืออเนกประสงค์ที่มีการเข้าถึงกว้าง

อย่างที่ห้า ร่องรอยการตรวจสอบ ทุกการแยกส่วน ทุกการให้คะแนนความเสี่ยง ทุกการอนุมัติ ทุกการส่ง และทุกผลลัพธ์ถูกเขียนลงบันทึกที่แก้ไขไม่ได้ด้วยสกีมาเดียว เมื่อผู้กำกับดูแล ผู้สอบบัญชี หรือลูกค้าที่โกรธถามว่าเกิดอะไรขึ้น คำตอบคือการสืบค้น ไม่ใช่โครงการโบราณคดี

ตัวอย่างที่เป็นรูปธรรม: การเคลมประกัน

ลูกค้ายื่นเคลมรถยนต์เวลา 23.00 น. เอเจนต์รับเรื่องดึงรายละเอียดจากแบบฟอร์มและรูปถ่าย ผู้ประสานงานได้รับเคลมที่มีโครงสร้างและเริ่มทำงาน

มันส่งรูปถ่ายความเสียหายไปยังเอเจนต์ประเมิน ซึ่งประเมินค่าซ่อมไว้ที่ 4,200 ดอลลาร์ มันส่งหมายเลขกรมธรรม์ไปยังเอเจนต์ความคุ้มครอง ซึ่งยืนยันว่ากรมธรรม์ยังมีผลและค่าเสียหายส่วนแรกคือ 800 ดอลลาร์ มันส่งประวัติการเคลมไปยังเอเจนต์ตรวจจับการฉ้อโกง ซึ่งส่งคืนคะแนนความผิดปกติต่ำ

ตอนนี้ผู้ประสานงานตัดสินใจในสิ่งที่ผู้เชี่ยวชาญตัดสินใจไม่ได้ จำนวนเงินจ่ายต่ำกว่า 5,000 ดอลลาร์ คะแนนการฉ้อโกงต่ำ ความคุ้มครองยืนยันแล้ว นโยบายความเสี่ยงของมันบอกว่าการรวมกันนี้อนุมัติอัตโนมัติได้ มันส่งการชำระเงินผ่านช่องทางการชำระเงิน แจ้งลูกค้า และเขียนบันทึกสิบเอ็ดรายการลงร่องรอยการตรวจสอบ รวมถึงเวอร์ชันกรมธรรม์ที่แน่นอนที่ใช้อนุมัติการจ่ายเงิน

เคลมเดียวกัน แต่คะแนนการฉ้อโกงส่งกลับมาสูง ไม่มีอะไรเปลี่ยนแปลงในเอเจนต์เฉพาะทาง ผู้ประสานงานระงับการส่ง รวบรวมหลักฐาน และส่งเรื่องต่อให้เจ้าหน้าที่เคลมที่เป็นมนุษย์พร้อมกำหนดเวลาและข้อเสนอแนะ ลูกค้าได้รับแจ้งว่าการตัดสินใจจะมาภายใน 24 ชั่วโมง ร่องรอยการตรวจสอบบันทึกว่ามนุษย์ โดยระบุชื่อ เป็นผู้ตัดสินใจขั้นสุดท้าย

หนึ่งสถาปัตยกรรม สองผลลัพธ์ ไม่มีการแก้ปัญหาเฉพาะหน้า

นาฬิกากำกับดูแลกำลังเดิน

สิ่งนี้ไม่ใช่แค่สุขอนามัยทางวิศวกรรมที่ดีอีกต่อไป ภาระผูกพันของกฎหมาย AI ของสหภาพยุโรปกำลังมีผลเป็นระยะ โดยข้อกำหนดสำหรับระบบความเสี่ยงสูงมีผลบังคับตั้งแต่สิงหาคม 2026 และพวกมันเรียกร้องสิ่งที่ผู้ประสานงานมอบให้พอดี: การบันทึก การติดตามย้อนกลับ การกำกับดูแลโดยมนุษย์ และการจัดการความเสี่ยงที่มีเอกสาร ความคาดหวังที่คล้ายกันกำลังเกิดขึ้นจากผู้กำกับดูแลด้านบริการทางการเงิน สุขภาพ และโครงสร้างพื้นฐานสำคัญทั่วโลก องค์กรที่ไม่สามารถสร้างการตัดสินใจของ AI ขึ้นมาใหม่ได้ ในไม่ช้าจะเป็นองค์กรที่ไม่สามารถปกป้องมันได้

CEO ควรทำอะไร

ถามคำถามเดียวในการประชุมกำกับทิศทาง AI ครั้งต่อไปของคุณ: ส่วนประกอบเดียวใดในสถาปัตยกรรมเอเจนต์ของเราที่เป็นเจ้าของการอนุมัติและร่องรอยการตรวจสอบ? ถ้าคำตอบมีคำว่า 'หลากหลาย' คุณมีช่องว่างธรรมาภิบาลที่ปลอมตัวเป็นนวัตกรรม จัดสรรงบประมาณให้ชั้นการประสานงานเป็นโปรแกรมระดับหนึ่ง ไม่ใช่งานประปา ผูกด่านการลงทุน AI ของคุณเข้ากับความสามารถในการตรวจสอบ เพื่อให้ไม่มีเอเจนต์ตัวใดเข้าสู่การผลิตโดยไม่รายงานต่อผู้ประสานงาน และยืนยันว่าเกณฑ์ความเสี่ยงเป็นเอกสารที่คณะกรรมการมองเห็นได้ เพราะมันเข้ารหัสระดับความเสี่ยงที่ยอมรับได้ของบริษัทคุณลงในซอฟต์แวร์

รายการตรวจสอบของ CTO

นำรูปแบบผู้กำกับมาใช้เป็นโทโพโลยีหลายเอเจนต์เริ่มต้นของคุณ และปล่อยให้ข้อยกเว้นพิสูจน์ตัวเอง รวมข้อมูลรับรองไว้ในผู้ประสานงาน และออกโทเคนขอบเขตจำกัดอายุสั้นให้เอเจนต์เฉพาะทาง กำหนดระดับความเสี่ยงด้วยเกณฑ์ชัดเจนสำหรับการกระทำอัตโนมัติ การบันทึกแบบเข้มข้น และการอนุมัติโดยมนุษย์ที่บังคับ ทำสกีมาเหตุการณ์ตรวจสอบเดียวให้เป็นมาตรฐานทั่วทุกเอเจนต์ และทดสอบมันโดยจำลองการสอบสวนก่อนที่ผู้กำกับดูแลของคุณจะสอบสวนจริง สุดท้าย วัดผู้ประสานงานเอง: ความแม่นยำในการกำหนดเส้นทาง ความล่าช้าในการอนุมัติ และความสมบูรณ์ของการตรวจสอบควรอยู่บนแดชบอร์ดวิศวกรรมของคุณเคียงข้างเวลาทำงาน

สรุป

อิสระคือคุณลักษณะ ความรับผิดชอบคือผลิตภัณฑ์ เอเจนต์ผู้ประสานงานด้านการดูแลระบบ AI คือวิธีซื้อทั้งสองอย่าง เพราะมันปล่อยให้เอเจนต์เฉพาะทางของคุณฉลาดเฉลียว ในขณะที่จิตสำนึกผู้กำกับเพียงหนึ่งเดียวยังคงรับผิดชอบทุกสิ่งที่พวกมันทำ

บริษัทที่ทำสิ่งนี้ถูกต้องจะขยายกำลังแรงงานดิจิทัลของพวกเขาอย่างมั่นใจ บริษัทที่ทำผิดจะเข้าร่วมกับ 40% นั้น

คำถามของผมต่อคุณคือ: ในองค์กรของคุณวันนี้ ถ้าเอเจนต์ AI ตัดสินใจผิดพลาดเวลา 23.00 น. คุณสามารถระบุชื่อส่วนประกอบที่อนุมัติมันและนำเสนอบันทึกได้ภายในเช้าวันรุ่งขึ้นหรือไม่?

คิดอย่างนักคณิตศาสตร์ วิศวกรรมอย่างชาญฉลาด นำอย่างมีกลยุทธ์ สร้างอย่างมีความรับผิดชอบ ขยายอย่างทั่วโลก สร้างคุณค่าทางธุรกิจที่แท้จริงผ่านปัญญาประดิษฐ์

#AgenticAI #MultiAgentSystems #AIOrchestration #AIGovernance #EnterpriseArchitecture #AIStrategy #ResponsibleAI #EUAIACT #CIO #CTO #DigitalTransformation #ArtificialIntelligence

Originally published on LinkedIn by Keshavan Thiagaraja. Read the original on LinkedIn.