از هوش مصنوعی مفید تا اقدام کنترل‌شده: چرا عامل‌های سازمانی به مرزی اجرایی نیاز دارند
Introduction: چه کسی تصمیم می‌گیرد عامل هوش مصنوعی چه کاری می‌تواند انجام دهد؟
دستیار هوش مصنوعی می‌تواند بدون تغییر چیزی خارج از گفت‌وگو، پاسخی مفید ارائه کند. عامل متصل به سامانه‌های کسب‌وکار با آزمون دیگری روبه‌رو است. ممکن است پرونده مشتری را بخواند، سرویسی را فراخوانی کند یا پرداختی پیشنهاد دهد. پرسش مهم دیگر فقط این نیست که پاسخ درست به نظر می‌رسد یا نه. باید مشخص شود هر اقدام برای این شخص، روی این رکورد و در این لحظه مجاز است یا نه. پژوهش‌های تازه درباره موتورهای سیاست متن‌باز این تفاوت را روشن می‌کنند. درس کسب‌وکار از هر پروژه منفرد گسترده‌تر است: دستورها به سامانه جهت می‌دهند، اما کنترل دسترسی باید آنچه را واقعاً می‌تواند انجام دهد محدود کند.
۱. دستور، کنترل دسترسی نیست
نوشتن اینکه اطلاعات محرمانه ارسال نشود راهنمای مفیدی است. اما اعتبارنامه‌ای با اختیار گسترده را حذف نمی‌کند و قابلیت خروجی گرفتن غیرضروری را خاموش نمی‌سازد. راهنمای جلوگیری از اختیار عملی بیش از حد، محدود کردن توابع موجود، کاهش مجوزها در سامانه‌های مقصد و اعمال مجوز در سامانه‌های اجراکننده درخواست را توصیه می‌کند. کار خواندن سند نباید صرفاً به دلیل وجود امکان حذف در همان اتصال‌دهنده، حق حذف هم بگیرد. با کوچک‌ترین مجموعه اقدامات مفید شروع کنید و هر درخواست را با دامنه موردنظر بسنجید.
۲. هویت و مجوز دو پرسش متفاوت‌اند
هویت تأییدشده مشخص می‌کند چه کسی درخواست می‌دهد. اما به‌تنهایی مجوز انجام آن درخواست را ثابت نمی‌کند. معماری اعتماد صفر، احراز هویت و اعطای مجوز را دو کارکرد جدا می‌داند. برای عامل سازمانی، تصمیم باید شخص درخواست‌کننده، هویت نرم‌افزار، منبع مشخص و اقدام پیشنهادی را به هم پیوند دهد. حساب مدیر مشترک این تفکیک را دشوارتر می‌کند. به‌جای دادن اختیار گسترده یکسان به هر گردش‌کار، دسترسی محدودی را ترجیح دهید که زمینه کاربر مربوط را حفظ کند.
۳. بررسی را در محل اقدام قرار دهید
سرویس سیاست می‌تواند پیش از رسیدن درخواست ابزار به مقصد، آن را مجاز یا رد کند، یا تأیید بخواهد. اما محل قرارگیری مهم است. دروازه، ترافیکی را حفاظت می‌کند که از آن می‌گذرد؛ نمی‌توان فرض کرد مسیر جایگزینی را که آن را دور می‌زند نیز کنترل می‌کند. جداسازی میزبان و کنترل شبکه مسیرهای متفاوتی را پوشش می‌دهند. پیش از ادعای پوشش، فایل‌های محلی، زیرفرایندها، سرویس‌های شبکه و فراخوانی‌های واگذارشده را ترسیم کنید. اقدام ممنوع را از هر مسیر موجود بیازمایید، نه فقط در نمایش معمول.
۴. سابقه حسابرسی شاهد است، نه اثبات خودکار
پژوهش‌های اخیر موتور سیاست، سوابق تصمیم را با امضا و زنجیره هش اختیاری برای کمک به تشخیص تغییرات بعدی توصیف می‌کنند. این قابلیت‌ها می‌توانند بررسی را تقویت کنند. اما ثابت نمی‌کنند سیاست درست بوده، همه مسیرها پوشش داشته‌اند یا اقدام مجاز تصمیم تجاری خوبی بوده است. هویت، منبع، اقدام درخواستی، تصمیم و مرجع تأیید را ثبت کنید. از محتوای حساس غیرضروری در سوابق پرهیز کنید و بیازمایید آیا بازبین می‌تواند یک رخداد واقعی را بازسازی کند.
۵. آزمایشی کوچک و عمداً دشوار اجرا کنید
یک گردش‌کار با مسئول مشخص و نتیجه قابل‌اندازه‌گیری انتخاب کنید. فقط رکوردها و اقدام‌های لازم را در اختیارش بگذارید. تأیید منقضی‌شده، رکورد مشتری نامرتبط، دستور پنهان در سند و درخواست استفاده از مقصد دیگر را امتحان کنید. تعریف کنید چه چیزی باید رد شود و چه چیزی باید منتظر انسان بماند. رفتار شکست را هنگام در دسترس نبودن سرویس سیاست بررسی کنید. آزمایش موفق باید امتناع کنترل‌شده را به همان روشنی اجرای موفق نشان دهد.
Conclusion: پیش از خودمختاری، اختیار را بسنجید
کار متن‌باز در مرحله اولیه مرجع مهندسی مفیدی است، نه تضمین محیط عملیاتی. مدیران سازمان باید پیش از گسترش دسترسی، شواهد اعمال دامنه، آزمون دور زدن و سوابق رخداد قابل‌استفاده بخواهند. هدف کند کردن همه اقدام‌ها نیست. هدف قابل‌اعتماد کردن کار مجاز و دشوار کردن کار ممنوع است. استدلال بهتر به عامل در انتخاب اقدام کمک می‌کند. اختیار اعمال‌شده تعیین می‌کند آیا کسب‌وکار باید آن اقدام را مجاز بداند یا نه.
References
Powered By K7