Puntos clave
- La equidad es el problema de decidir "cuál es la forma correcta de tratar a alguien". Es un plano distinto del sesgo, que solo mide si algo está torcido.
- Hay varias definiciones de qué cuenta como equidad. Repartir igual, dar más a quien más lo necesita, y emparejar los resultados dan respuestas distintas.
- Hay casos donde no se pueden cumplir varias definiciones a la vez. Si las proporciones reales difieren entre grupos, ajustar una suele descuadrar otra.
- Por eso la equidad no se resuelve solo con cálculo. Incluye también que una persona elija qué priorizar y lo deje explicado.
- El criterio elegido cambia según la situación. Lo que fue correcto en un servicio no tiene por qué serlo en otro.
La analogía
Una tarde de verano, un ventilador para un cuarto con cuatro personas sentadas en lugares distintos. ¿Dónde debería apuntar para ser justo?
Si gira y reparte el mismo tiempo a todos, parece equitativo. El problema es que, mientras gira, nadie recibe aire fresco de verdad. Si se fija sobre la persona que más calor tiene, llegó a quien más lo necesitaba, y eso también parece justo. El problema es que las otras tres casi no reciben nada. Y hay quien dice que debería tener prioridad la persona que compró el ventilador, y esa idea también tiene su razón.
Las tres llevan la etiqueta de equidad, y no hay forma de cumplir las tres a la vez. Ahí está justamente lo difícil de la equidad en la IA.
En detalle
El sesgo es un hecho; la equidad es un juicio
El sesgo es la observación de que "el resultado de este modelo se inclina hacia un lado". Al medirlo, sale un número. La equidad es preguntarse, mirando ese número, "¿esta inclinación es aceptable?" y, si no lo es, "¿hacia dónde habría que corregirla?". Medir y decidir están conectados, pero no son la misma tarea.
Confundir esta diferencia genera pedidos extraños. No se le puede pedir a una herramienta que mide la inclinación que "haga las cosas equitativas". La herramienta puede decir en qué eje y cuánto se está desviando algo; si corregir esa desviación es lo correcto, eso lo tiene que decidir una persona.
Poner un termómetro frente al ventilador dice cuántos grados hay en cada asiento. El termómetro no dice hacia qué asiento debería apuntar el aire.
La equidad no tiene una sola definición
Una primera respuesta es igualar la proporción de resultados: que la tasa de aprobación sea parecida en todos los grupos. Una segunda respuesta mira a quienes recibieron el mismo veredicto: que, entre quienes fueron aprobados, la proporción que en verdad rindió bien sea igual entre grupos.
Una tercera respuesta mira la dirección del error: igualar entre grupos la frecuencia con que se rechaza a alguien que sí calificaba. Una cuarta respuesta mira directamente al individuo: que personas parecidas reciban un trato parecido.
Las cuatro suenan razonables, y las cuatro tienen quien las defienda. El problema es que, sobre los mismos datos, estas respuestas terminan tomando decisiones distintas entre sí.
Casos donde no se pueden cumplir todas a la vez
Si la proporción real ya es distinta entre los grupos desde el inicio, una vez igualada la tasa de aprobación suele ser difícil igualar también, entre grupos, la proporción real dentro de cada veredicto, tanto de aprobados como de rechazados. Y si se iguala esa proporción real, entonces se vuelve difícil igualar a la vez la frecuencia de rechazar por error y la de aprobar por error. Ajustar una de estas cosas con exactitud tiende a desplazar a la otra, y está demostrado que, salvo en el caso particular en que la proporción real sea igual en todos los grupos, no existe una forma de cumplir las tres a la vez.
Por eso el trabajo real no es "hacer las cosas equitativas", sino "elegir qué se prioriza primero". Por ejemplo, donde el costo de rechazar por error a alguien que calificaba es alto, a veces se elige reducir ese error. Pero cuál es la mejor opción es motivo de opiniones distintas, y los límites que fija la ley varían según el país y el ámbito.
Es como el ventilador que no puede girar y quedarse fijo al mismo tiempo. No es que falte un método; es que hay que decidir qué importa más antes de poder dar el siguiente paso.
Ocultar un dato no vuelve las cosas equitativas
Lo primero que se le ocurre a cualquiera es quitar directamente los datos sensibles. Pero es muy común que los datos que quedan terminen delatando esa misma información de otra forma. La zona donde alguien vive, los lugares por los que pasó, la forma de hablar, la hora en que se conecta: todo eso va dejando pistas. Aunque se borre el dato, el modelo puede llegar a una conclusión parecida.
Además, al quitar el dato desaparece también la forma de medir la inclinación. Para saber en qué grupo el resultado sale peor, hace falta poder distinguir a ese grupo. De ahí viene también la idea de que, para poder revisar, conviene guardar esa información con cuidado y limitar estrictamente para qué se usa.
Dejar constancia del criterio elegido también es parte del trabajo
El trabajo de equidad tiene tres pasos: decidir en qué eje se va a mirar, medir cuánto se desvía en ese eje, y elegir qué criterio se prioriza y dejar anotado por escrito ese criterio y la razón. Si se salta el último paso, los dos primeros se quedan como números guardados en un cajón.
Dejarlo por escrito hace posibles dos cosas: que otra persona con un juicio distinto pueda señalar en qué se diferencia, y que, cuando la situación cambie con el tiempo, esa elección se pueda volver a revisar. La equidad no es un ajuste que se hace una vez y queda listo; es una decisión que hay que volver a abrir una y otra vez.
Con más precisión
Los cuatro criterios anteriores tienen nombre. Igualar la tasa de aprobación entre grupos se llama paridad demográfica; igualar la proporción real dentro de cada veredicto se llama paridad predictiva (la condición más amplia de igualarla en cada tramo de puntuación es la calibración); igualar la frecuencia con que se deja fuera a quien sí calificaba se llama igualdad de oportunidades, y si se iguala también la frecuencia con que se aprueba por error, probabilidades igualadas; tratar parecido a quienes son parecidos se llama equidad individual. Que la tasa de aprobación, la proporción real dentro de cada veredicto y las tasas de error no puedan igualarse todas a la vez cuando la proporción real difiere entre grupos quedó demostrado por cálculo, no es una cuestión de gusto. Incluso sin la tasa de aprobación, las otras dos no pueden igualarse juntas salvo que el veredicto sea perfecto, un caso raro. Por eso elegir uno de ellos es inevitable.
La analogía también tiene sus límites. En el cuarto del ventilador hay cuatro personas y se ve a simple vista quién tiene más calor; un servicio real tiene una cantidad enorme de personas, y primero hay que decidir en qué eje mirar. El perjuicio en un eje que no se decidió mirar ni siquiera se puede medir. Además, el ventilador se puede reorientar en el momento si hace calor, pero para cambiar el criterio de un modelo que ya terminó su entrenamiento hay que volver a los datos y al procedimiento.
Pruébalo
Malentendidos comunes
Es fácil pensar que tratar a todos igual cierra la cuestión de la equidad, pero en realidad el mismo trato es solo una de las respuestas posibles. Cuando los puntos de partida son distintos, la brecha puede seguir ahí, y por eso hay quien mira también los resultados o las necesidades; cuál de esas miradas debe ir primero es algo en lo que hay opiniones distintas.
Es fácil pensar que la equidad es un problema que resuelve la tecnología, pero en realidad primero hay que elegir qué se entiende por equidad, y esa elección no sale de ningún cálculo.
Es fácil pensar que, una vez ajustado, queda equitativo para siempre, pero en realidad, cuando cambian las personas que lo usan o la situación, hay que volver a medir y a decidir el criterio desde el principio.
Resumen en una línea
La equidad es elegir cuál, entre varias equidades posibles, se prioriza, y dejar esa elección explicada; no existe una respuesta que satisfaga todas a la vez.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización 2026-10-18