# Guardrails de IA: qué es y cómo funciona · Zorraquino
> Los guardrails de IA son controles que limitan o verifican entradas, respuestas y acciones de un sistema.
URL: https://www.zorraquino.com/diccionario/guardrails-de-ia

# Guardrails de IA

Los guardrails de IA son controles que limitan o verifican entradas, respuestas y acciones de un sistema

Qué significa, cómo se usa y en qué contexto aparece, con sus conceptos relacionados.

[Todo el diccionario](https://www.zorraquino.com/diccionario)

## Qué es y cómo funciona

Pueden combinar reglas, validaciones, políticas de acceso y revisión humana. Su diseño debe responder a fallos concretos y probarse en condiciones realistas. Un filtro aislado no garantiza seguridad ni sustituye la evaluación del sistema completo.

Temas

[Inteligencia artificial](https://www.zorraquino.com/diccionario/categoria/inteligencia-artificial)

## Preguntas frecuentes sobre Guardrails de IA

### ¿Por qué comprobar una respuesta no basta para autorizar una acción de IA?

Porque una respuesta puede parecer razonable y, aun así, solicitar una operación que excede permisos o utiliza un destino incorrecto. La aplicación debe validar la acción con reglas independientes: quién puede hacerla, sobre qué recurso y con qué condiciones. Los controles de contenido y los de autorización cumplen funciones distintas. Si falta información o falla una comprobación, el sistema necesita detenerse o derivar el caso, sin convertir una salida convincente en permiso.

## Conceptos relacionados

- [Evaluación de modelos de IA](https://www.zorraquino.com/diccionario/evaluacion-ia)
- [Agente de IA](https://www.zorraquino.com/diccionario/agente-ia)
- [Alucinación de IA](https://www.zorraquino.com/diccionario/alucinacion-de-ia)

## Referencias

- [Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile](https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf)