Coloca la aprobación humana donde un agente de IA cruza hacia el mundo real
Diseña agentes de IA con humano en el bucle: puertas de aprobación por riesgo, evidencia clara, borradores editables, tiempos límite y decisiones auditables.
El diseño con humano en el bucle debe poner una puerta en la transición del análisis a la consecuencia. Pide aprobación justo antes de un mensaje a un cliente, un pago, una publicación, una eliminación, un pedido, un cambio de permisos u otra escritura de alto impacto, y muestra la evidencia y la acción exacta propuesta.
Elige las puertas según la consecuencia
No interrumpas cada paso de lectura o de formato. Pon puertas a las acciones según la reversibilidad, la audiencia, el impacto financiero, el efecto legal, la ambigüedad y la confianza en el estado subyacente. La persona debe decidir en el último momento seguro antes de la ejecución.
Haz que la aprobación esté informada
Un botón de Aprobar sin contexto es puro trámite. Muestra la evidencia fuente, el destino exacto, la carga útil propuesta, los registros afectados, los efectos secundarios esperados y las alternativas. Deja que el revisor edite un borrador cuando editar sea más seguro que reiniciar toda la ejecución.
- Opciones para aprobar, rechazar y editar
- Comportamiento de tiempo límite y escalamiento
- Identidad y marca de tiempo del revisor
- Enlace inmutable a la acción propuesta y su evidencia
- Sin continuación silenciosa después de una aprobación vencida
Mide la puerta de aprobación
Da seguimiento a los motivos de rechazo, la distancia de edición, el tiempo hasta la decisión, las solicitudes repetidas y las correcciones posteriores a la aprobación. Un rechazo alto o muchas ediciones significan que el agente o el contexto anterior necesitan trabajo. Un rechazo bajo no demuestra que la puerta sea útil si los revisores aprueban de forma automática solicitudes poco claras.
Preguntas frecuentes
¿Qué acciones del agente deberían requerir aprobación humana?
Los mensajes de cara al cliente, las publicaciones, los pagos, las operaciones de trading, las eliminaciones, los cambios de permisos, las transferencias de datos sensibles y otras escrituras con consecuencias o difíciles de revertir son buenos candidatos.
¿La aprobación humana hace que un agente sea seguro?
Reduce el riesgo, pero no es suficiente por sí sola. Los permisos, la validación, la evidencia clara, la capacitación de los revisores y la contención siguen importando.
¿Se puede editar una aprobación?
Para acciones que admiten borrador, una aprobación editable suele ser mejor que una decisión binaria. Tanto la carga útil finalmente ejecutada como el cambio del revisor deben quedar registrados.
