Coloque aprovação humana no ponto em que um agente de IA cruza para o mundo real
Projete agentes de IA com humano no loop usando portões de aprovação por risco, evidências claras, rascunhos editáveis, timeouts e decisões auditáveis.
O design com humano no loop deve controlar a transição da análise para a consequência. Peça aprovação imediatamente antes de uma mensagem ao cliente, pagamento, publicação, exclusão, pedido, mudança de permissão ou outra escrita de alto impacto, e mostre a evidência e a ação exata proposta.
Escolha os portões pela consequência
Não interrompa cada etapa de leitura ou formatação. Coloque portões nas ações com base em reversibilidade, audiência, impacto financeiro, efeito legal, ambiguidade e confiança no estado subjacente. A pessoa deve decidir no último momento seguro antes da execução.
Torne a aprovação informada
Um botão de Aprovar sem contexto é só cerimônia. Mostre a evidência de origem, o destino exato, o payload proposto, os registros afetados, os efeitos colaterais esperados e as alternativas. Deixe o revisor editar um rascunho quando editar for mais seguro do que reiniciar a execução inteira.
- Opções de aprovar, rejeitar e editar
- Comportamento de timeout e escalonamento
- Identidade e timestamp do revisor
- Link imutável para a ação proposta e a evidência
- Nenhuma continuação silenciosa após uma aprovação expirada
Meça o portão
Acompanhe os motivos de rejeição, a distância de edição, o tempo até a decisão, os pedidos repetidos e as correções pós-aprovação. Rejeição alta ou edição pesada significam que o agente ou o contexto anterior precisam de ajuste. Rejeição baixa não prova que o portão é útil se os revisores estiverem só carimbando pedidos pouco claros.
Perguntas frequentes
Quais ações de agente devem exigir aprovação humana?
Mensagens voltadas ao cliente, publicações, pagamentos, trades, exclusões, mudanças de permissão, transferências de dados sensíveis e outras escritas de consequência ou difíceis de reverter são fortes candidatas.
A aprovação humana torna um agente seguro?
Ela reduz o risco, mas não é suficiente sozinha. Permissões, validação, evidências claras, treinamento dos revisores e contenção continuam importando.
Uma aprovação pode ser editada?
Para ações que podem virar rascunho, uma aprovação editável costuma ser melhor do que uma escolha binária. Tanto o payload final executado quanto a mudança feita pelo revisor devem ser registrados.
