Agente de IA
Un agente de IA es un sistema que utiliza información y herramientas para decidir y ejecutar pasos orientados a un objetivo, con un grado definido de autonomía
Qué significa, cómo se usa y en qué contexto aparece, con sus conceptos relacionados.
Qué es y cómo funciona
En sistemas basados en LLM, el modelo puede elegir acciones, observar resultados y ajustar el siguiente paso. Un ejemplo es revisar una solicitud, consultar datos y preparar una respuesta. Deben delimitarse permisos, condiciones de parada y acciones que requieren intervención humana. Un chatbot que solo responde preguntas no necesariamente funciona como agente.
También se dice
AI agent, agente inteligente
Preguntas frecuentes sobre Agente de IA
¿Cuándo conviene un agente de IA frente a un flujo automatizado con pasos fijos?
Conviene valorar un agente cuando el camino para resolver la tarea cambia según lo que encuentra y no resulta práctico definir todos los pasos de antemano. Si las reglas y las rutas están claras, un flujo fijo puede ser más sencillo de controlar. La elección debe comparar calidad, tiempo, recursos necesarios y facilidad de supervisión en la tarea concreta; más autonomía no implica más utilidad.
¿Es necesario permitir que un agente ejecute acciones sin revisión?
No. La autonomía puede limitarse a buscar información, preparar propuestas o realizar acciones de bajo impacto, reservando otras para aprobación humana. Conviene separar técnicamente los permisos y definir cuándo el sistema debe detenerse o pedir ayuda. En un ejemplo hipotético, un agente podría preparar un cambio de pedido sin confirmarlo. La supervisión debe corresponder al riesgo y ser viable en el trabajo cotidiano.
¿Cómo evaluar un agente antes de incorporarlo a un proceso?
Hay que comprobar el resultado de la tarea y el recorrido que sigue para alcanzarlo. Conviene incluir casos habituales, información incompleta y fallos de herramientas, y observar si respeta permisos y condiciones de parada. Una demostración favorable no basta. La evaluación debería registrar errores, intervenciones necesarias y recursos consumidos, para comparar el agente con una alternativa más sencilla y decidir si aporta valor.
¿Qué ocurre si un agente encuentra instrucciones dentro de un documento o una web?
Debe tratar ese contenido como información que analizar, sin convertirlo automáticamente en una orden autorizada. Un documento puede contener instrucciones que intenten desviar la tarea o provocar acceso y envío de datos. Conviene separar el contenido consultado de las reglas de operación y controlar las acciones fuera del modelo. Los permisos mínimos y la revisión de operaciones sensibles reducen el alcance de un fallo, aunque no eliminan todo el riesgo.
¿Cómo limitar el daño de una acción incorrecta?
Reduciendo lo que el agente puede hacer y la cantidad de operaciones que puede ejecutar antes de una comprobación. Conviene conceder solo los permisos necesarios, validar cada petición en el sistema que la recibe y conservar registros útiles para investigar errores. Cuando sea posible, las acciones deberían permitir recuperación. Estos controles deben aplicarse técnicamente: una instrucción que pida al modelo comportarse con prudencia no sustituye una restricción de acceso.
¿Cuándo debe detenerse y escalar una tarea?
Cuando le falte información imprescindible, no pueda verificar un resultado, encuentre una acción fuera de sus permisos o alcance los límites acordados de intentos y recursos. Conviene definir esas condiciones antes de ponerlo en uso y comprobarlas en evaluación. La escalada debe explicar qué se ha hecho, qué permanece incierto y qué decisión necesita una persona. Repetir pasos sin avanzar no equivale a resolver el problema.