मददगार AI से नियंत्रित कार्रवाई तक: उद्यम के AI एजेंटों को लागू होने वाली सीमा क्यों चाहिए
Introduction: AI एजेंट क्या कर सकता है, यह कौन तय करता है?
AI सहायक बातचीत के बाहर कुछ भी बदले बिना उपयोगी उत्तर दे सकता है। व्यावसायिक प्रणालियों से जुड़े एजेंट की कसौटी अलग है। वह ग्राहक की फ़ाइल पढ़ सकता है, किसी सेवा को कॉल कर सकता है या भुगतान का प्रस्ताव दे सकता है। महत्वपूर्ण प्रश्न अब केवल यह नहीं है कि उसका उत्तर सही सुनाई देता है या नहीं। प्रश्न यह है कि इस व्यक्ति के लिए, इस रिकॉर्ड पर, इस समय हर कार्रवाई की अनुमति है या नहीं। हाल का मुक्त-स्रोत नीति-इंजन अनुसंधान यह अंतर स्पष्ट करता है। व्यावसायिक सीख किसी एक परियोजना से बड़ी है: निर्देश प्रणाली का मार्गदर्शन करते हैं, लेकिन वह वास्तव में क्या कर सकती है, इसे पहुँच नियंत्रणों से सीमित करना चाहिए।
1. प्रॉम्प्ट पहुँच नियंत्रण नहीं है
गोपनीय जानकारी न भेजें लिखना उपयोगी मार्गदर्शन है। इससे व्यापक अधिकार वाला प्रमाण-पत्र हट नहीं जाता और अनावश्यक निर्यात सुविधा बंद नहीं होती। अत्यधिक कार्य-अधिकार संबंधी मार्गदर्शन उपलब्ध कार्य सीमित करने, जुड़ी प्रणालियों की अनुमतियाँ घटाने और अनुरोध निष्पादित करने वाली प्रणालियों में प्राधिकरण लागू करने की सलाह देता है। दस्तावेज़ पढ़ने के काम को केवल इसलिए मिटाने का अधिकार नहीं मिलना चाहिए कि वही कनेक्टर यह सुविधा देता है। उपयोगी कार्रवाइयों के सबसे छोटे समूह से शुरू करें, फिर हर अनुरोध को निर्धारित दायरे से मिलाकर जाँचें।
2. पहचान और अनुमति अलग प्रश्न हैं
सत्यापित पहचान बताती है कि अनुरोध कौन कर रहा है। वह अपने आप उस अनुरोध की अनुमति स्थापित नहीं करती। शून्य-विश्वास संरचना प्रमाणीकरण और प्राधिकरण को अलग कार्य मानती है। उद्यम एजेंट के लिए निर्णय में अनुरोध करने वाला व्यक्ति, सॉफ़्टवेयर की पहचान, विशेष संसाधन और प्रस्तावित कार्रवाई जुड़े होने चाहिए। साझा प्रशासक खाता यह अलगाव कठिन बनाता है। हर कार्यप्रवाह को एक जैसे व्यापक अधिकार देने के बजाय सीमित पहुँच चुनें, जो संबंधित उपयोगकर्ता का संदर्भ बनाए रखे।
3. जाँच वहाँ रखें जहाँ कार्रवाई होती है
नीति सेवा किसी टूल अनुरोध के गंतव्य तक पहुँचने से पहले उसे अनुमति दे सकती है, रोक सकती है या स्वीकृति माँग सकती है। लेकिन उसकी स्थिति महत्वपूर्ण है। गेटवे अपने रास्ते से गुजरने वाले ट्रैफ़िक की रक्षा करता है; उससे बचकर जाने वाले वैकल्पिक रास्ते पर भी उसका नियंत्रण मान लेना सही नहीं है। होस्ट अलगाव और नेटवर्क नियंत्रण अलग रास्तों को संभालते हैं। कवरेज का दावा करने से पहले स्थानीय फ़ाइलें, उप-प्रक्रियाएँ, नेटवर्क सेवाएँ और सौंपे गए कॉल सूचीबद्ध करें। केवल सामान्य प्रदर्शन में नहीं, हर उपलब्ध रास्ते से निषिद्ध कार्रवाई का परीक्षण करें।
4. ऑडिट रिकॉर्ड साक्ष्य है, अपने आप प्रमाण नहीं
हाल का नीति-इंजन कार्य निर्णय रिकॉर्ड बताता है, जिनमें बाद के बदलाव पहचानने में मदद के लिए वैकल्पिक हस्ताक्षर और हैश-श्रृंखला हो सकती है। ये सुविधाएँ जाँच को मजबूत कर सकती हैं। वे यह प्रमाणित नहीं करतीं कि नीति सही थी, हर रास्ता सुरक्षित था या अनुमत कार्रवाई अच्छा व्यावसायिक निर्णय थी। पहचान, संसाधन, माँगी गई कार्रवाई, निर्णय और स्वीकृति का संदर्भ दर्ज करें। रिकॉर्ड में अनावश्यक संवेदनशील सामग्री आने से रोकें और जाँचें कि समीक्षक किसी वास्तविक घटना का क्रम दोबारा बना सकता है या नहीं।
5. छोटा और जानबूझकर कठिन पायलट चलाएँ
स्पष्ट जिम्मेदार व्यक्ति और मापने योग्य परिणाम वाला एक कार्यप्रवाह चुनें। उसे केवल आवश्यक रिकॉर्ड और कार्रवाइयाँ दें। समय-सीमा समाप्त स्वीकृति, असंबंधित ग्राहक रिकॉर्ड, दस्तावेज़ में छिपा निर्देश और अलग गंतव्य इस्तेमाल करने का अनुरोध आज़माएँ। तय करें कि क्या रोका जाना चाहिए और किसे व्यक्ति की स्वीकृति की प्रतीक्षा करनी चाहिए। नीति सेवा उपलब्ध न होने पर विफलता का व्यवहार जाँचें। सफल पायलट में नियंत्रित इनकार उतनी ही स्पष्टता से दिखना चाहिए जितना सफल निष्पादन।
Conclusion: स्वायत्तता से पहले अधिकार का दायरा मापें
शुरुआती चरण का मुक्त-स्रोत कार्य उपयोगी इंजीनियरिंग संदर्भ है, उत्पादन की गारंटी नहीं। पहुँच बढ़ाने से पहले उद्यम नेताओं को लागू दायरे, नियंत्रण से बच निकलने के परीक्षण और उपयोगी घटना रिकॉर्ड के साक्ष्य माँगने चाहिए। उद्देश्य हर कार्रवाई को धीमा करना नहीं है। उद्देश्य अनुमत काम को भरोसेमंद और निषिद्ध काम को कठिन बनाना है। बेहतर तर्क एजेंट को कार्रवाई चुनने में मदद करता है। लागू अधिकार तय करता है कि व्यवसाय को उस कार्रवाई की अनुमति देनी चाहिए या नहीं।
References
Powered By K7