من ذكاء اصطناعي مفيد لتصرفات تحت السيطرة: ليه وكلاء الشركات محتاجين حدود بتتطبق فعلاً

اختبار عملي للذكاء الاصطناعي اللي بيقرا بيانات وبينادي خدمات وبيتصرف للشركة: راجع الإذن وقت التصرف، مش في التعليمات بس. — Original editorial illustration

Introduction: مين بيقرر وكيل الذكاء الاصطناعي مسموح له يعمل إيه؟

مساعد الذكاء الاصطناعي يقدر يطلع إجابة مفيدة من غير ما يغير حاجة بره المحادثة. لكن الوكيل المتوصل بأنظمة الشغل قدامه اختبار مختلف. ممكن يقرا ملف عميل، ينادي خدمة أو يقترح دفعة فلوس. السؤال المهم مبقاش بس إذا كانت إجابته باينة صح. السؤال هو: كل تصرف مسموح للشخص ده، على السجل ده، في اللحظة دي ولا لأ؟ الأبحاث الجديدة عن محركات السياسات مفتوحة المصدر بتوضح الفرق ده. والدرس للشركات أكبر من أي مشروع واحد: التعليمات بتوجه النظام، لكن ضوابط الوصول لازم تحدد هو يقدر يعمل إيه فعلياً.

١. التعليمات مش ضابط وصول

إنك تكتب متبعتش معلومات سرية ده توجيه مفيد. لكنه مش بيلغي بيانات دخول بصلاحيات واسعة، ومش بيقفل وظيفة تصدير مش لازمة. إرشادات تقليل سلطة التصرف الزيادة بتنصح بتحديد الوظايف المتاحة، وتقليل الصلاحيات في الأنظمة اللي بتستقبل الطلبات، وتطبيق الإذن في الأنظمة اللي بتنفذها. مهمة قراية مستندات مينفعش تاخد حق المسح لمجرد إن نفس الموصل بيوفره. ابدأ بأصغر مجموعة تصرفات مفيدة، وبعد كده راجع كل طلب على النطاق المقصود.

[4] [5]

٢. الهوية والإذن سؤالين مختلفين

الهوية المتأكد منها بتقول مين بيطلب. لكنها لوحدها مش بتثبت إن عنده إذن يعمل الطلب ده. تصميم الثقة الصفرية بيفصل بين التحقق من الهوية والتصريح بالعمل. بالنسبة لوكيل شركة، القرار لازم يربط الشخص اللي بيطلب، وهوية البرنامج، والمورد المحدد، والتصرف المقترح. حساب مدير مشترك بيصعّب الفصل ده. الأفضل وصول محدود بيحتفظ بسياق المستخدم المعني، بدل ما كل مسار شغل ياخد نفس السلطة الواسعة.

[4] [6]

٣. حط المراجعة في مكان التصرف

خدمة السياسات تقدر تسمح بطلب أداة، ترفضه أو تطلب موافقة قبل ما يوصل لوجهته. لكن مكانها مهم. البوابة بتحمي البيانات اللي بتعدي منها؛ مينفعش نفترض إنها بتحكم طريق بديل بيتخطاها. عزل الجهاز المضيف وضوابط الشبكة بيتعاملوا مع طرق مختلفة. اعمل خريطة للملفات المحلية والعمليات الفرعية وخدمات الشبكة والنداءات المفوضة قبل ما تقول إن التغطية كاملة. جرّب تصرف ممنوع من كل طريق متاح، مش من العرض المعتاد بس.

[1] [5]

٤. سجل المراجعة دليل، مش إثبات تلقائي

الشغل الجديد على محركات السياسات بيوصف سجلات قرارات، مع توقيعات وسلاسل تجزئة اختيارية عشان تساعد في اكتشاف أي تغيير بعدين. المزايا دي ممكن تقوّي التحقيق. لكنها مش بتثبت إن السياسة صح، أو إن كل الطرق متغطية، أو إن التصرف المسموح كان قرار تجاري كويس. سجّل الهوية والمورد والتصرف المطلوب والقرار ومرجع الموافقة. ابعد عن المحتوى الحساس اللي مش لازم في السجلات، واختبر إذا كان المراجع يقدر يعيد بناء واقعة حقيقية.

[1] [2]

٥. اعمل تجربة صغيرة وصعبة بقصد

اختار مسار شغل واحد له مسؤول واضح ونتيجة تتقاس. اديله السجلات والتصرفات اللي محتاجها بس. جرّب موافقة انتهت، وسجل عميل ملوش علاقة، وتعليمة جوه مستند، وطلب استخدام وجهة تانية. حدد إيه لازم يترفض وإيه لازم يستنى شخص. راجع التصرف وقت ما خدمة السياسات تكون مش متاحة. التجربة الناجحة لازم تبين الرفض المتحكم فيه بنفس وضوح التنفيذ الناجح.

[1] [2] [5]

Conclusion: قيس السلطة قبل الاستقلالية

الشغل مفتوح المصدر في بدايته مرجع هندسي مفيد، مش ضمان للتشغيل الفعلي. قادة الشركات لازم يطلبوا دليل على نطاق بيتطبق فعلاً، واختبارات لتخطي الضوابط، وسجلات حوادث تنفع في المراجعة، قبل توسيع الوصول. الهدف مش تبطيء كل تصرف. الهدف إن الشغل المسموح يبقى موثوق والشغل الممنوع يبقى صعب يتعمل. التفكير الأحسن بيساعد الوكيل يختار التصرف. والسلطة اللي بتتطبق فعلاً هي اللي بتحدد إذا كانت الشركة لازم تسمح بيه.

By Keshavan Thiagaraja

استشاري ذكاء اصطناعي. معماري أنظمة تكنولوجيا معلومات للمؤسسات.

Private AI Model Developer & AI Security Consultant - Helping SMEs and Enterprises Build Secure AI Solutions, Sydney, Australia
B.Sc. (Computer Science, Mathematics and Statistics)
M.Sc. (Information Technology)
E-Commerce Professional