Từ AI hữu ích đến hành động có kiểm soát: Vì sao tác nhân doanh nghiệp cần ranh giới được thực thi
Introduction: Ai quyết định tác nhân AI được phép làm gì?
Một trợ lý AI có thể đưa ra câu trả lời hữu ích mà không thay đổi điều gì bên ngoài cuộc trò chuyện. Tác nhân kết nối với hệ thống doanh nghiệp đối diện một phép thử khác. Nó có thể đọc hồ sơ khách hàng, gọi dịch vụ hoặc đề xuất thanh toán. Câu hỏi quan trọng không còn chỉ là câu trả lời nghe có đúng không. Cần biết từng hành động có được phép hay không, cho người này, trên hồ sơ này, tại thời điểm này. Nghiên cứu gần đây về bộ máy chính sách nguồn mở làm rõ sự khác biệt đó. Bài học kinh doanh rộng hơn bất kỳ dự án nào: chỉ dẫn định hướng hệ thống, nhưng kiểm soát truy cập phải giới hạn những gì nó thực sự có thể làm.
1. Lời nhắc không phải kiểm soát truy cập
Viết yêu cầu không gửi thông tin mật là hướng dẫn hữu ích. Nhưng việc đó không thu hồi thông tin xác thực có quyền quá rộng hay tắt chức năng xuất dữ liệu không cần thiết. Hướng dẫn về quyền hành động quá mức khuyến nghị giới hạn chức năng sẵn có, giảm quyền ở hệ thống đích và thực thi phân quyền tại hệ thống xử lý yêu cầu. Nhiệm vụ đọc tài liệu không nên được hưởng quyền xóa chỉ vì cùng bộ kết nối có chức năng ấy. Hãy bắt đầu với tập hành động hữu ích nhỏ nhất, rồi kiểm tra từng yêu cầu theo phạm vi dự kiến.
2. Danh tính và quyền là hai câu hỏi khác nhau
Danh tính đã xác minh cho biết ai đang gửi yêu cầu. Bản thân nó không chứng minh quyền thực hiện yêu cầu đó. Kiến trúc không tin cậy mặc định xem xác thực và phân quyền là hai chức năng riêng. Với tác nhân doanh nghiệp, quyết định phải gắn người yêu cầu, danh tính phần mềm, tài nguyên cụ thể và hành động đề xuất. Tài khoản quản trị dùng chung khiến việc phân tách khó hơn. Nên chọn truy cập giới hạn giữ được ngữ cảnh người dùng liên quan, thay vì cấp cùng một quyền rộng cho mọi quy trình.
3. Đặt kiểm tra tại nơi hành động xảy ra
Dịch vụ chính sách có thể cho phép, từ chối hoặc yêu cầu phê duyệt trước khi yêu cầu công cụ đến đích. Nhưng vị trí rất quan trọng. Cổng bảo vệ lưu lượng đi qua nó; không thể mặc nhiên cho rằng nó kiểm soát cả tuyến thay thế đi vòng. Cô lập máy chủ và kiểm soát mạng xử lý các đường khác nhau. Hãy lập bản đồ tệp cục bộ, tiến trình con, dịch vụ mạng và lời gọi được ủy quyền trước khi tuyên bố đã bao phủ. Thử hành động bị cấm qua mọi đường sẵn có, không chỉ qua luồng trình diễn thông thường.
4. Nhật ký kiểm toán là bằng chứng, không phải sự chứng minh tự động
Công trình gần đây về bộ máy chính sách mô tả bản ghi quyết định, với chữ ký và chuỗi băm tùy chọn giúp phát hiện thay đổi về sau. Những chức năng này có thể hỗ trợ điều tra. Chúng không chứng minh chính sách đúng, mọi đường đều được kiểm soát hay hành động được phép là quyết định kinh doanh tốt. Hãy ghi danh tính, tài nguyên, hành động yêu cầu, quyết định và tham chiếu phê duyệt. Tránh nội dung nhạy cảm không cần thiết trong nhật ký và kiểm tra xem người rà soát có thể dựng lại sự cố thật hay không.
5. Chạy thử nghiệm nhỏ nhưng cố ý khó
Chọn một quy trình có người chịu trách nhiệm rõ ràng và kết quả đo được. Chỉ cấp hồ sơ và hành động cần thiết. Thử phê duyệt hết hạn, hồ sơ khách hàng không liên quan, chỉ dẫn cài trong tài liệu và yêu cầu dùng đích khác. Xác định việc nào phải bị từ chối, việc nào phải chờ con người. Kiểm tra cách hệ thống thất bại khi dịch vụ chính sách không sẵn có. Thử nghiệm thành công cần thể hiện sự từ chối có kiểm soát rõ ràng như việc thực thi thành công.
Conclusion: Đo quyền hạn trước khi mở rộng tự chủ
Công trình nguồn mở giai đoạn đầu là tài liệu kỹ thuật hữu ích, không phải bảo đảm cho môi trường vận hành. Trước khi mở rộng truy cập, lãnh đạo doanh nghiệp nên yêu cầu bằng chứng về phạm vi được thực thi, thử nghiệm đường vòng và hồ sơ sự cố dùng được. Mục tiêu không phải làm mọi hành động chậm hơn. Mục tiêu là làm việc được phép đáng tin cậy và việc bị cấm khó thực hiện. Suy luận tốt hơn giúp tác nhân chọn hành động. Quyền hạn được thực thi quyết định doanh nghiệp có nên cho phép hành động đó hay không.
References
Powered By K7