Un sistema puede tratar a todas las personas con la misma regla y, sin embargo, producir resultados desiguales. No es una contradicción: las personas no parten del mismo lugar, no tienen los mismos datos disponibles ni la misma facilidad para corregir lo que una pantalla ha decidido sobre ellas.

La inteligencia artificial no inventa por sí sola estas diferencias. Puede amplificarlas cuando usa como normal una experiencia que solo representa a una parte de la población. Por eso la pregunta no es únicamente si la regla se aplica igual, sino a quién deja fuera esa regla y quién puede reclamar cuando falla.

Los datos también tienen ausencias

Un conjunto de datos recoge lo que se pudo medir, registrar o etiquetar. Pero no recoge automáticamente lo que quedó fuera: trayectorias discontinuas, formas distintas de expresarse, contextos familiares o barreras de acceso. Si esas ausencias no se reconocen, el sistema puede tomar como excepción a quien simplemente vive una realidad distinta.

La ausencia de un dato no demuestra la ausencia de una necesidad. Esta diferencia es clave cuando una herramienta clasifica, recomienda o prioriza. Un registro incompleto puede parecer una respuesta objetiva, aunque solo esté reflejando los límites del proceso que lo creó.

Revisar los datos no exige que todas las personas se conviertan en especialistas. Exige preguntar qué grupos aparecen poco, qué categorías simplifican demasiado y qué consecuencias tendría un error para alguien con menos recursos para defenderse.

La desigualdad se nota en la posibilidad de corregir

Dos personas pueden recibir la misma respuesta automática y vivir consecuencias muy diferentes. Una sabe encontrar el formulario de reclamación, tiene tiempo para insistir y conoce el lenguaje del sistema. Otra no. Si la corrección depende de tener conocimientos, dispositivos o paciencia infinita, la herramienta está repartiendo poder de forma desigual.

Una decisión justa necesita una vía de revisión que sea realmente accesible. Debe ser clara, humana cuando haga falta y capaz de cambiar el resultado. No basta con ofrecer un contacto oculto o un proceso que reproduce la misma respuesta que se quiere cuestionar.

La accesibilidad también incluye el lenguaje. Una explicación llena de términos técnicos puede cumplir con una obligación formal y seguir siendo incomprensible. Explicar con claridad a qué se ha llegado, por qué y qué opciones existen es una forma de respeto y una condición para que alguien pueda actuar.

Diseñar para quienes no encajan

Una prueba responsable no se limita a los casos fáciles. Busca deliberadamente situaciones que el sistema podría interpretar mal: personas con nombres poco frecuentes, historias laborales irregulares, necesidades de accesibilidad, lenguas distintas o información incompleta. Lo que ocurre ahí muestra más sobre la calidad del diseño que una demostración perfecta.

Los casos difíciles no son ruido: son una prueba de realidad. Si se registran, se escuchan y se usan para ajustar el proceso, la tecnología aprende a servir mejor. Si se ignoran para proteger una métrica de éxito, la desigualdad se vuelve parte silenciosa del sistema.

Una herramienta no es neutral porque use la misma regla para todos; es más justa cuando reconoce que no todas las personas pueden responder a esa regla del mismo modo.

La solución no es prometer un sistema sin errores. Es diseñar con humildad: mantener revisión humana, medir impactos reales, ofrecer alternativas y corregir cuando una experiencia revela un daño. Estas prácticas no retrasan el progreso; evitan que el progreso de unos se construya sobre la exclusión de otros.

La inteligencia artificial puede ayudar a detectar problemas y abrir acceso a servicios. Para que esa promesa sea creíble, debe ir acompañada de una decisión constante: mirar a quién está funcionando peor y actuar antes de que esa diferencia se convierta en una costumbre.

La desigualdad puede aparecer además en la calidad de los datos disponibles. Las personas con trayectorias estables suelen dejar registros abundantes y fáciles de interpretar. Quienes viven situaciones precarias, cambios frecuentes o contextos poco representados generan historias fragmentadas. Un sistema puede confundir esa falta de continuidad con falta de mérito o fiabilidad.

Por eso no basta con equilibrar una base de datos de forma abstracta. Hay que observar qué decisión se tomará con ella y qué daño produciría un falso positivo o un falso negativo. La misma tasa de error puede ser tolerable en una recomendación cultural y completamente inaceptable en el acceso a una ayuda.

Las auditorías deben incluir resultados desagregados. El promedio puede ocultar que la herramienta funciona bien para la mayoría y mal para un grupo concreto. Separar los datos por variables relevantes, respetando la privacidad, permite detectar esa diferencia y actuar.

También es importante escuchar las reclamaciones como evidencia. Cuando varias personas describen una experiencia parecida, no son casos aislados que molestan al sistema: pueden estar señalando una regla mal diseñada. La organización necesita un canal que conecte esas experiencias con quienes pueden modificar el proceso.

Una alternativa no tiene que reproducir toda la infraestructura anterior. Puede ser una revisión humana, la posibilidad de aportar documentación adicional o un procedimiento accesible para explicar circunstancias especiales. Lo esencial es que exista antes de que llegue el conflicto.

La justicia tecnológica no se consigue con una declaración general. Se construye revisando efectos, corrigiendo reglas y aceptando que una herramienta debe cambiar cuando la realidad demuestra que está tratando peor a determinadas personas.

Publicar los resultados de estas revisiones, con la privacidad necesaria, mejora la rendición de cuentas. Permite saber qué se ha medido, qué problemas aparecieron y qué cambios se hicieron. La transparencia útil no presume de perfección: muestra capacidad de aprendizaje.

Este trabajo debe repetirse porque los datos, los usos y las personas cambian. Una evaluación inicial no garantiza que la herramienta siga siendo justa cuando se aplica a otra población o se utiliza para una decisión diferente.