Asegura los agentes de IA en el punto donde el razonamiento se convierte en acción
Asegura agentes de IA empresariales con privilegio mínimo, credenciales aisladas, límites de entrada, puertas de aprobación, trazas y fallas probadas.
La seguridad de agentes de IA empieza con el privilegio mínimo. Aísla las credenciales, separa las lecturas de las escrituras, trata el contenido recuperado como entrada no confiable, valida los argumentos de las herramientas, exige aprobación para las acciones con consecuencias, limita la repetición y el gasto, y conserva las trazas para la investigación.
Protege las credenciales y las herramientas
No coloques secretos reutilizables en los prompts ni en el contexto visible para el modelo. Vincula las credenciales a conectores del lado del servidor, reduce sus alcances y expón operaciones diseñadas para un propósito específico en lugar de acceso directo a shell, base de datos o HTTP siempre que sea posible.
Trata toda entrada como potencialmente hostil
La inyección de prompts puede llegar por correo electrónico, páginas web, documentos, resultados de herramientas y la pantalla de un teléfono controlado. El texto recuperado es evidencia, no una instrucción. Mantén la política del sistema fuera del contenido recuperado y valida los argumentos de cada llamada a herramienta con consecuencias.
- Separa las instrucciones de los datos recuperados
- Define listas de permitidos para destinos y tipos de acción
- Fija límites de iteración, tiempo, costo y escritura
- Impide que el agente cambie sus propios permisos
- Exige una nueva aprobación cuando cambie el alcance
Diseña para la contención y la investigación
Usa identidades por flujo de trabajo cuando sea posible, registra las llamadas a herramientas y las aprobaciones, y ofrece una ruta rápida de desactivación global. Prueba fallas parciales, entregas duplicadas, estado desactualizado y ataques de repetición. La seguridad depende de lo que ocurre cuando el modelo o una dependencia se comporta de forma inesperada, no solo del camino ideal.
Preguntas frecuentes
¿La inyección de prompts se puede resolver con un prompt más fuerte?
No. Los prompts ayudan, pero una protección efectiva también requiere límites de permisos, manejo de entradas no confiables, validación de herramientas, puertas de aprobación y contención.
¿Un agente debería recibir todos los permisos de un usuario?
Por lo general, no. Dale al flujo de trabajo los permisos más pequeños que necesite para su tarea específica y su tiempo de vida.
¿Dónde deberían vivir las credenciales de un agente de IA?
Las credenciales deben almacenarse y usarse fuera del texto visible para el modelo, idealmente en un almacén de secretos gestionado o un conector del lado del servidor con alcance reducido y capacidad de auditoría.
