Ilagay ang pag-apruba ng tao kung saan tumatawid ang ahenteng AI patungo sa totoong mundo
Idisenyo ang ahenteng AI na may pag-apruba ng tao gamit ang mga hakbang ng pag-apruba base sa panganib, malinaw na ebidensya, na-eedit na draft, timeout, escalation, at desisyong maaaring i-audit.
Dapat hadlangan ng disenyong may pag-apruba ng tao ang paglipat mula sa pagsusuri patungo sa kinahinatnan. Humingi ng pag-apruba agad bago ang isang mensahe sa customer, pagbabayad, pag-publish, pagbura, order, pagbabago ng pahintulot, o iba pang pagsulat na may malaking epekto, at ipakita ang ebidensya at ang eksaktong iminumungkahing aksyon.
Piliin ang mga hakbang ng pag-apruba batay sa kinahinatnan
Huwag guluhin ang bawat hakbang ng read o formatting. Hadlangan ang mga aksyon batay sa kakayahang mabawi, audience, epekto sa pananalapi, legal na epekto, kalabuan, at antas ng tiwala sa nasasakupang state. Ang tao ang dapat magdesisyon sa huling ligtas na sandali bago ang execution.
Gawing may-kaalaman ang pag-apruba
Isang seremonya lamang ang Approve button na walang context. Ipakita ang pinagmulang ebidensya, eksaktong destinasyon, iminumungkahing payload, apektadong record, inaasahang side effect, at mga alternatibo. Payagan ang tagasuri na i-edit ang draft kapag mas ligtas ang pag-edit kaysa sa muling pagsisimula ng buong takbo.
- Mga pagpipiliang aprubahan, tanggihan, o i-edit
- Pag-uugali ng timeout at escalation
- Pagkakakilanlan at timestamp ng tagasuri
- Hindi-nababagong link patungo sa iminumungkahing aksyon at ebidensya
- Walang tahimik na pagpapatuloy pagkatapos mag-expire ang pag-apruba
Sukatin ang hakbang ng pag-apruba
Subaybayan ang dahilan ng pagtanggi, edit distance, oras hanggang sa desisyon, paulit-ulit na kahilingan, at pagwawasto pagkatapos ng pag-apruba. Ang mataas na rate ng pagtanggi o malaking pag-edit ay nangangahulugang kailangan pang trabahuhin ang upstream na ahente o context. Ang mababang rate ng pagtanggi ay hindi patunay na kapaki-pakinabang ang hakbang ng pag-apruba kung basta na lang tinatatakan ng tagasuri ang malabong kahilingan.
Mga madalas itanong
Aling mga aksyon ng ahente ang dapat humingi ng pag-apruba ng tao?
Malakas na kandidato ang mga mensaheng direktang nakaharap sa customer, pag-publish, pagbabayad, kalakalan, pagbura, pagbabago ng pahintulot, paglipat ng sensitibong datos, at iba pang mahalaga o mahirap nang mabawing pagsulat.
Ginagawa ba ng pag-apruba ng tao na ligtas ang isang ahente?
Binabawasan nito ang panganib ngunit hindi sapat nang mag-isa. Mahalaga pa rin ang pahintulot, pagpapatunay, malinaw na ebidensya, pagsasanay ng tagasuri, at containment.
Maaari bang i-edit ang isang pag-apruba?
Para sa mga aksyong maaaring gawan ng draft, kadalasang mas mainam ang na-eedit na pag-apruba kaysa sa binary na pagpipilian. Dapat parehong itala ang panghuling na-execute na payload at ang binago ng tagasuri.
