Sesgo algorítmico
El sesgo algorítmico es una desviación sistemática en datos, métodos o resultados que puede producir efectos inadecuados o desigualdades
Qué significa, cómo se usa y en qué contexto aparece, con sus conceptos relacionados.
Qué es y cómo funciona
Puede originarse en la selección de datos, los objetivos y el contexto de uso. Su análisis requiere definir qué resultados se consideran justos o adecuados en cada caso. Corregir una métrica no garantiza resolver todas las fuentes de sesgo.
Preguntas frecuentes sobre Sesgo algorítmico
¿Qué hacer cuando mejorar una métrica de equidad empeora otra?
Explica qué representa cada métrica y a quién afecta el cambio. No existe una cifra que resuelva automáticamente todos los criterios de justicia. La decisión necesita relacionar contexto, consecuencias y responsabilidades, incorporando las perspectivas pertinentes. Después deben documentarse el criterio elegido y sus límites, y observar resultados por grupos relevantes. Ajustar el modelo no basta si el problema también está en los datos o en el proceso que utiliza su salida.