由有用嘅AI到受控行動：企業代理點解需要真正執行嘅界線
Introduction: 邊個決定AI代理可以做啲乜？
AI助手可以畀到有用答案，而唔改變對話以外嘅任何嘢。連接企業系統嘅代理面對另一種考驗。佢可能讀客戶檔案、呼叫服務，或者提出付款建議。重要問題唔再只係個答案聽落啱唔啱，而係每一項行動對呢個人、呢一筆記錄、呢一個時刻係咪獲准。近期有關開源政策引擎嘅研究令呢個分別更加清楚。企業可以學到嘅嘢唔限於單一項目：指令引導系統，但存取控制一定要限制佢實際做得到嘅事。
1. 提示詞唔等於存取控制
寫低唔好傳送機密資料，係有用嘅指引。但呢句說話唔會撤銷權限太大嘅憑證，亦唔會關閉冇需要嘅匯出功能。有關過度行動權限嘅指引建議限制可用功能、減少下游系統權限，並喺執行請求嘅系統強制授權。讀文件嘅工作唔應該只因為同一個連接器提供刪除功能，就連刪除權都攞埋。應該由最細而有用嘅行動集合開始，再逐個請求核對係咪符合預定範圍。
2. 身份同權限係兩個問題
經核實嘅身份答到係邊個提出請求，但本身唔代表佢有權做嗰個請求。零信任架構將身份認證同授權當成兩種唔同職能。對企業代理嚟講，決定應該連結提出請求嘅人、軟件身份、指定資源同建議行動。共用管理員帳戶會令呢個區分更難。與其畀每個工作流程同一套廣泛權力，不如採用限定範圍嘅存取，同時保留相關用戶背景。
3. 喺行動發生嘅地方做檢查
政策服務可以喺工具請求去到目的地之前，批准、拒絕，或者要求審批。不過擺喺邊度好重要。閘道保護嘅係經過佢嘅流量，唔可以假設佢連繞過自己嘅其他路徑都管得到。主機隔離同網絡控制處理唔同路徑。聲稱覆蓋完整之前，應該列清本地檔案、子程序、網絡服務同委派呼叫。要喺每一條可用路徑測試禁止行動，唔係淨係試平時示範嗰條路。
4. 審計記錄係證據，唔係自動成立嘅證明
近期政策引擎研究介紹決策記錄，可以選擇加入簽署同雜湊鏈，幫手發現之後嘅修改。呢啲功能可以加強調查，但唔能夠證明政策正確、所有路徑都有覆蓋，或者獲准行動就係好嘅商業決定。應該記錄身份、資源、要求嘅行動、決定同審批參照。避免喺記錄放入唔必要嘅敏感內容，亦要測試審查者可唔可以重建真實事故嘅經過。
5. 做一個細規模而刻意增加難度嘅試點
揀一個負責人清楚、結果量度得到嘅工作流程。只畀佢需要嘅記錄同行動權限。試下過期審批、唔相關嘅客戶記錄、藏喺文件入面嘅指令，同改用另一個目的地嘅請求。定清楚乜嘢一定要拒絕，乜嘢要等人處理。檢查政策服務用唔到時，系統會點樣失敗。成功試點除咗展示成功執行，亦應該同樣清楚展示受控拒絕。
Conclusion: 先量度權限，再講自主性
早期開源工作係有用嘅工程參考，唔係正式營運嘅保證。企業領導擴大存取之前，應該要求提供範圍限制真正執行、繞行路徑測試同可用事故記錄嘅證據。目的唔係令每項行動都慢落嚟，而係令獲准工作可靠、禁止工作難以執行。更好嘅推理幫代理揀行動；真正執行嘅權限先決定企業應唔應該批准嗰項行動。
References
Powered By K7