Mula sa Kapaki-pakinabang na AI Tungo sa Kontroladong Pagkilos: Bakit Kailangan ng mga Ahenteng Pangnegosyo ang Ipinatutupad na Hangganan

Isang praktikal na pagsubok para sa AI na nagbabasa ng datos, tumatawag ng serbisyo at kumikilos para sa negosyo: suriin ang pahintulot sa mismong pagkilos, hindi lamang sa utos. — Original editorial illustration

Introduction: Sino ang Nagpapasya sa Maaaring Gawin ng Ahenteng AI?

Kayang magbigay ng kapaki-pakinabang na sagot ang AI assistant nang walang binabago sa labas ng pag-uusap. Iba ang pagsubok sa ahenteng nakakonekta sa mga sistema ng negosyo. Maaari nitong basahin ang file ng kostumer, tumawag ng serbisyo o magmungkahi ng bayad. Hindi na lamang kung tama pakinggan ang sagot ang mahalagang tanong. Dapat alamin kung pinahihintulutan ang bawat kilos, para sa taong ito, sa rekord na ito, sa sandaling ito. Nililinaw ng kamakailang pananaliksik sa mga open-source na policy engine ang pagkakaibang iyon. Mas malawak ang aral sa negosyo kaysa anumang isang proyekto: gumagabay ang mga utos sa sistema, ngunit dapat limitahan ng kontrol sa pag-access ang tunay nitong magagawa.

1. Ang Utos ay Hindi Kontrol sa Pag-access

Kapaki-pakinabang na gabay ang pagsulat ng huwag magpadala ng lihim na impormasyon. Hindi nito inaalis ang kredensiyal na may malawak na kapangyarihan o pinapatay ang hindi kailangang pag-export. Inirerekomenda ng gabay tungkol sa labis na kapangyarihang kumilos ang paglilimita sa mga function, pagbabawas ng pahintulot sa mga sistemang pinupuntahan, at pagpapatupad ng awtorisasyon sa mga sistemang nagsasagawa ng kahilingan. Hindi dapat magkaroon ng karapatang magbura ang gawaing magbasa ng dokumento dahil lamang iniaalok iyon ng parehong connector. Magsimula sa pinakamaliit na hanay ng kapaki-pakinabang na kilos, saka suriin ang bawat kahilingan ayon sa itinakdang saklaw.

[4] [5]

2. Magkaiba ang Pagkakakilanlan at Pahintulot

Sinasagot ng napatunayang pagkakakilanlan kung sino ang humihiling. Hindi nito kusang pinatutunayan ang pahintulot na gawin ang kahilingan. Itinuturing ng arkitekturang zero trust na magkaiba ang pagpapatunay ng pagkakakilanlan at awtorisasyon. Para sa ahenteng pangnegosyo, dapat iugnay ng pasya ang taong humihiling, pagkakakilanlan ng software, partikular na mapagkukunan at iminungkahing kilos. Pinahihirap ng pinagsasaluhang administrator account ang paghihiwalay na ito. Piliin ang limitadong access na nagpapanatili sa konteksto ng kaugnay na user, sa halip na bigyan ang bawat daloy ng trabaho ng parehong malawak na kapangyarihan.

[4] [6]

3. Ilagay ang Pagsusuri Kung Saan Nangyayari ang Kilos

Maaaring payagan, tanggihan o hingan ng pag-apruba ng serbisyo ng patakaran ang kahilingan sa tool bago ito makarating sa destinasyon. Ngunit mahalaga ang puwesto nito. Pinoprotektahan ng gateway ang trapikong dumaraan dito; hindi maipagpapalagay na kontrolado rin nito ang alternatibong rutang lumalampas dito. Magkaibang landas ang saklaw ng paghihiwalay ng host at kontrol sa network. Ilista ang lokal na file, subprocess, serbisyo ng network at ipinagkatiwalang tawag bago sabihing kumpleto ang saklaw. Subukan ang ipinagbabawal na kilos sa bawat magagamit na landas, hindi lamang sa karaniwang demonstrasyon.

[1] [5]

4. Ebidensiya ang Audit Record, Hindi Awtomatikong Patunay

Inilalarawan ng kamakailang pag-aaral sa policy engine ang mga rekord ng pasya na may opsiyonal na lagda at hash chain upang matukoy ang mga pagbabago sa hinaharap. Maaari nitong patibayin ang imbestigasyon. Hindi nito pinatutunayang tama ang patakaran, saklaw ang lahat ng landas o mahusay na pasyang pangnegosyo ang pinayagang kilos. Itala ang pagkakakilanlan, mapagkukunan, hiniling na kilos, pasya at sanggunian ng pag-apruba. Iwasan ang hindi kailangang sensitibong nilalaman sa mga rekord at subukan kung maibabalik ng tagasuri ang pagkakasunod ng tunay na insidente.

[1] [2]

5. Magsagawa ng Maliit at Sadyang Mahirap na Pagsubok

Pumili ng isang daloy ng trabaho na may malinaw na may pananagutan at nasusukat na resulta. Ibigay lamang ang kinakailangang rekord at kilos. Subukan ang nag-expire na pag-apruba, rekord ng kostumer na walang kaugnayan, utos na nakapaloob sa dokumento at kahilingang gumamit ng ibang destinasyon. Itakda kung ano ang dapat tanggihan at ano ang dapat maghintay sa tao. Suriin ang pagpalya kapag hindi magamit ang serbisyo ng patakaran. Dapat maipakita ng matagumpay na pagsubok ang kontroladong pagtanggi nang kasinglinaw ng matagumpay na pagsasagawa.

[1] [2] [5]

Conclusion: Sukatin ang Kapangyarihan Bago ang Awtonomiya

Kapaki-pakinabang na sangguniang pang-inhinyeriya ang maagang open-source na pag-aaral, hindi garantiya sa aktuwal na operasyon. Bago palawakin ang access, dapat humingi ang mga pinuno ng ebidensiya ng ipinapatupad na saklaw, pagsubok sa mga rutang lumalampas sa kontrol at nagagamit na rekord ng insidente. Hindi layunin ang pabagalin ang bawat kilos. Layunin ang gawing maaasahan ang pinayagang gawain at mahirap isagawa ang ipinagbabawal. Tumutulong ang mas mahusay na pangangatwiran sa ahente na pumili ng kilos. Ang ipinapatupad na kapangyarihan ang nagpapasya kung dapat itong payagan ng negosyo.

By Keshavan Thiagaraja

AI Consultant. Arkitekto ng Enterprise IT.

Private AI Model Developer & AI Security Consultant - Helping SMEs and Enterprises Build Secure AI Solutions, Sydney, Australia
B.Sc. (Computer Science, Mathematics and Statistics)
M.Sc. (Information Technology)
E-Commerce Professional