Dari AI yang Membantu ke Tindakan Terkendali: Mengapa Agen Perusahaan Memerlukan Batas yang Ditegakkan
Introduction: Siapa yang Menentukan Apa yang Boleh Dilakukan Agen AI?
Asisten AI dapat menghasilkan jawaban berguna tanpa mengubah apa pun di luar percakapan. Agen yang terhubung ke sistem bisnis menghadapi ujian berbeda. Ia dapat membaca berkas pelanggan, memanggil layanan, atau mengusulkan pembayaran. Pertanyaan penting bukan lagi sekadar apakah jawabannya terdengar benar. Yang perlu diketahui ialah apakah setiap tindakan diizinkan, bagi orang ini, pada catatan ini, pada saat ini. Riset terbaru tentang mesin kebijakan sumber terbuka memperjelas perbedaan tersebut. Pelajaran bagi bisnis melampaui satu proyek: instruksi mengarahkan sistem, tetapi kontrol akses harus membatasi apa yang benar-benar dapat dilakukannya.
1. Instruksi Bukan Kontrol Akses
Menulis larangan mengirim informasi rahasia merupakan arahan yang berguna. Itu tidak mencabut kredensial dengan wewenang luas atau menonaktifkan fungsi ekspor yang tidak diperlukan. Panduan tentang kewenangan bertindak berlebihan menyarankan pembatasan fungsi yang tersedia, pengurangan izin pada sistem tujuan, dan penerapan otorisasi dalam sistem yang menjalankan permintaan. Tugas membaca dokumen tidak seharusnya mewarisi hak menghapus hanya karena konektor yang sama menyediakannya. Mulailah dengan kumpulan tindakan berguna yang paling kecil, lalu periksa setiap permintaan terhadap cakupan yang dimaksud.
2. Identitas dan Izin Adalah Pertanyaan Berbeda
Identitas terverifikasi menjawab siapa yang mengajukan permintaan. Itu sendiri tidak membuktikan izin untuk mengajukannya. Arsitektur kepercayaan nol memperlakukan autentikasi dan otorisasi sebagai fungsi berbeda. Untuk agen perusahaan, keputusan harus menghubungkan orang yang meminta, identitas perangkat lunak, sumber daya tertentu, dan tindakan yang diusulkan. Akun administrator bersama mempersulit pemisahan itu. Pilih akses terbatas yang mempertahankan konteks pengguna terkait, daripada memberikan kewenangan luas yang sama kepada setiap alur kerja.
3. Letakkan Pemeriksaan di Tempat Tindakan Terjadi
Layanan kebijakan dapat mengizinkan, menolak, atau meminta persetujuan sebelum permintaan alat mencapai tujuannya. Namun, penempatannya penting. Gerbang melindungi lalu lintas yang melewatinya; tidak dapat diasumsikan bahwa gerbang juga mengatur jalur alternatif yang menghindarinya. Isolasi host dan kontrol jaringan menangani jalur berbeda. Petakan berkas lokal, subproses, layanan jaringan, dan panggilan yang didelegasikan sebelum mengklaim cakupan perlindungan. Uji tindakan terlarang melalui setiap jalur yang tersedia, bukan hanya melalui demonstrasi biasa.
4. Catatan Audit Adalah Bukti, Bukan Pembuktian Otomatis
Riset terbaru mengenai mesin kebijakan menjelaskan catatan keputusan dengan tanda tangan dan rantai hash opsional untuk membantu mendeteksi perubahan berikutnya. Fitur ini dapat memperkuat penyelidikan. Namun, itu tidak membuktikan bahwa kebijakannya benar, semua jalur tercakup, atau tindakan yang diizinkan merupakan keputusan bisnis yang baik. Catat identitas, sumber daya, tindakan yang diminta, keputusan, dan rujukan persetujuan. Hindari konten sensitif yang tidak perlu dalam catatan, dan uji apakah peninjau dapat menyusun kembali insiden nyata.
5. Jalankan Uji Coba Kecil yang Sengaja Sulit
Pilih satu alur kerja dengan penanggung jawab jelas dan hasil terukur. Berikan hanya catatan dan tindakan yang dibutuhkan. Coba persetujuan kedaluwarsa, catatan pelanggan yang tidak terkait, instruksi yang disisipkan dalam dokumen, dan permintaan untuk memakai tujuan berbeda. Tentukan apa yang harus ditolak dan apa yang harus menunggu manusia. Periksa perilaku kegagalan ketika layanan kebijakan tidak tersedia. Uji coba yang berhasil harus menunjukkan penolakan terkendali sejelas keberhasilan pelaksanaan.
Conclusion: Ukur Kewenangan Sebelum Otonomi
Pekerjaan sumber terbuka tahap awal merupakan rujukan rekayasa yang berguna, bukan jaminan produksi. Pemimpin perusahaan sebaiknya meminta bukti pembatasan cakupan yang ditegakkan, pengujian jalur penghindaran, dan catatan insiden yang dapat digunakan sebelum memperluas akses. Tujuannya bukan memperlambat setiap tindakan. Tujuannya ialah membuat pekerjaan yang diizinkan dapat diandalkan dan pekerjaan terlarang sulit dilakukan. Penalaran yang lebih baik membantu agen memilih tindakan. Kewenangan yang ditegakkan menentukan apakah bisnis seharusnya mengizinkannya.
References
Powered By K7