Un sistema pot tractar totes les persones amb la mateixa regla i, tanmateix, produir resultats desiguals. No és una contradicció: les persones no parteixen del mateix lloc, no tenen les mateixes dades disponibles ni la mateixa facilitat per corregir allò que una pantalla ha decidit sobre elles.

La intel·ligència artificial no inventa per si sola aquestes diferències. Les pot amplificar quan utilitza com a normal una experiència que només representa una part de la població. Per això la pregunta no és únicament si la regla s'aplica igual, sinó qui deixa fora aquesta regla i qui pot reclamar quan falla.

Les dades també tenen absències

Un conjunt de dades recull allò que es va poder mesurar, registrar o etiquetar. Però no recull automàticament el que va quedar fora: trajectòries discontínues, maneres diferents d'expressar-se, contextos familiars o barreres d'accés. Si aquestes absències no es reconeixen, el sistema pot prendre com a excepció qui simplement viu una realitat diferent.

L´absència d´una dada no demostra l´absència d´una necessitat. Aquesta diferència és clau quan una eina classifica, recomana o prioritza. Un registre incomplet pot semblar una resposta objectiva, encara que només reflecteixi els límits del procés que el va crear.

Revisar les dades no exigeix que totes les persones es converteixin en especialistes. Exigeix preguntar quins grups hi apareixen poc, quines categories simplifiquen massa i quines conseqüències tindria un error per a algú amb menys recursos per defensar-se.

La desigualtat es nota en la possibilitat de corregir

Dues persones poden rebre la mateixa resposta automàtica i viure-ne conseqüències molt diferents. Una sap trobar el formulari de reclamació, té temps per insistir-hi i coneix el llenguatge del sistema. Una altra no. Si la correcció depèn de tenir coneixements, dispositius o paciència infinita, l'eina està repartint poder de manera desigual.

Una decisió justa necessita una via de revisió que sigui realment accessible. Ha de ser clara, humana quan calgui i capaç de canviar-ne el resultat. No n'hi ha prou amb oferir un contacte ocult o un procés que reprodueix la mateixa resposta que es vol qüestionar.

L'accessibilitat també inclou el llenguatge. Una explicació plena de termes tècnics pot complir una obligació formal i continuar sent incomprensible. Explicar amb claredat a què s'ha arribat, perquè i quines opcions hi ha és una forma de respecte i una condició perquè algú pugui actuar.

Dissenyar per als que no encaixen

Una prova responsable no es limita als casos fàcils. Busca deliberadament situacions que el sistema podria interpretar malament: persones amb noms poc freqüents, històries laborals irregulars, necessitats daccessibilitat, llengües diferents o informació incompleta. El que passa aquí mostra més sobre la qualitat del disseny que no pas una demostració perfecta.

Els casos difícils no són sorolls: són una prova de realitat. Si es registren, s'escolten i es fan servir per ajustar el procés, la tecnologia aprèn a servir millor. Si s'ignoren per protegir una mètrica d'èxit, la desigualtat es torna part silenciosa del sistema.

Una eina no és neutral perquè utilitzi la mateixa regla per a tothom; és més justa quan reconeix que no totes les persones poden respondre aquesta regla de la mateixa manera.

La solució no és prometre un sistema sense errors. És dissenyar amb humilitat: mantenir revisió humana, mesurar impactes reals, oferir alternatives i corregir quan una experiència revela un mal. Aquestes pràctiques no retarden el progrés; eviten que el progrés dels uns es construeixi sobre l'exclusió dels altres.

La intel·ligència artificial pot ajudar a detectar problemes i obrir accés a serveis. Perquè aquesta promesa sigui creïble, ha d'anar acompanyada d'una decisió constant: mirar qui està funcionant pitjor i actuar abans que aquesta diferència es converteixi en un costum.

La desigualtat pot aparèixer a més a més en la qualitat de les dades disponibles. Les persones amb trajectòries estables solen deixar registres abundants i fàcils dinterpretar. Els qui viuen situacions precàries, canvis freqüents o contextos poc representats generen històries fragmentades. Un sistema pot confondre aquesta manca de continuïtat amb manca de mèrit o fiabilitat.

Per això no n'hi ha prou d'equilibrar una base de dades de manera abstracta. Cal observar quina decisió s'hi prendrà i quin dany produiria un fals positiu o un fals negatiu. La mateixa taxa derror pot ser tolerable en una recomanació cultural i completament inacceptable en l'accés a una ajuda.

Les auditories han dincloure resultats desagregats. La mitjana pot amagar que l'eina funciona bé per a la majoria i malament per a un grup concret. Separar les dades per variables rellevants, respectant la privadesa, permet detectar aquesta diferència i actuar.

També és important escoltar les reclamacions com a evidència. Quan diverses persones descriuen una experiència semblant, no són casos aïllats que molesten el sistema: poden estar assenyalant una regla mal dissenyada. L'organització necessita un canal que connecti aquestes experiències amb qui poden modificar el procés.

Una alternativa no ha de reproduir tota la infraestructura anterior. Pot ser una revisió humana, la possibilitat d'aportar documentació addicional o un procediment accessible per explicar circumstàncies especials. L'essencial és que hi hagi abans que arribi el conflicte.

La justícia tecnològica no s'aconsegueix amb una declaració general. Es construeix revisant efectes, corregint regles i acceptant que una eina ha de canviar quan la realitat demostra que està tractant pitjor determinades persones.

Publicar els resultats d'aquestes revisions, amb la privadesa necessària, millora la rendició de comptes. Permet saber què s'ha mesurat, quins problemes van aparèixer i quins canvis es van fer. La transparència útil no presumeix de perfecció: mostra capacitat daprenentatge.

Aquest treball s'ha de repetir perquè les dades, els usos i les persones canvien. Una avaluació inicial no garanteix que l'eina sigui justa quan s'aplica a una altra població o s'utilitza per a una decisió diferent.