Alucinación de IA
Una alucinación de IA es una salida generada que presenta información falsa, inventada o no respaldada como si fuera válida
Qué significa, cómo se usa y en qué contexto aparece, con sus conceptos relacionados.
Qué es y cómo funciona
Puede aparecer en datos, citas, explicaciones o referencias. Su detección exige contrastar el contenido con fuentes y criterios adecuados. Los controles dependen del riesgo de la tarea; una redacción segura y convincente no es una medida de exactitud.
Preguntas frecuentes sobre Alucinación de IA
¿Por qué una respuesta de IA puede citar una fuente real y seguir siendo incorrecta?
La existencia de la fuente no demuestra que respalde lo afirmado. La respuesta puede atribuirle una conclusión que no contiene, mezclar contextos o usar una versión desactualizada. La revisión debe comprobar la relación entre cada afirmación importante y el pasaje que la sostiene. Si esa relación no puede establecerse, se retira o reformula la afirmación. Añadir más citas sin leer su contenido no resuelve el problema.
¿Qué conviene hacer cuando se detecta una alucinación en una respuesta utilizada por el equipo?
Hay que corregir la información en los lugares donde se esté utilizando y conservar el contexto del fallo para investigarlo. Después se revisa si faltaba información, si la fuente era inadecuada o si la tarea exigía una capacidad que no se había evaluado. La corrección puntual no demuestra que el sistema esté arreglado. Ese caso debe incorporarse a las pruebas y, si tuvo consecuencias, comunicarse a quienes necesitan actuar sobre ellas.