La primera classificació de la Marta no la va fer cap algorisme. La va fer un formulari. Al centre municipal d'ocupació li van explicar que una plataforma nova ordenaria les cites i recomanaria itineraris de formació. La Marta va obrir l'enllaç des del mòbil mentre esperava que acabés la classe del seu fill. La pantalla demanava “darrera feina” i només admetia contractes, empreses i dates. Durant dos anys ella havia netejat cases per hores, havia acompanyat la seva mare després d'una operació i havia venut menjar els caps de setmana. No hi havia cap espai per explicar-ho. Va marcar “sense activitat” perquè era l'única resposta que li deixava enviar la sol·licitud.
Al cap de quinze dies va rebre una recomanació d'un curs bàsic i una cita llunyana. La professional que la va atendre veia un relat massa curt: inactivitat, disponibilitat alta, poca experiència recent. Res d'això no descrivia la seva vida, però la plataforma havia convertit la manca d'un camp en manca de feina, responsabilitat o capacitat. El dany no començava amb un model que descobrís un patró injust; la persona ja havia quedat reduïda abans que el model rebés una sola fila de dades.
El formulari determina qui és comprensible#
Quan parlem de biaix algorítmic, sovint mirem el resultat: qui rep una oferta, qui queda fora o quin grup obté una puntuació pitjor. Aquesta revisió és imprescindible, però arriba tard si el formulari inicial ja obliga certes vides a encaixar en caselles estretes. Cada camp decideix quines experiències podran servir d'evidència. Cada menú tancat construeix una realitat fàcil de processar. I cada pregunta impossible trasllada a la persona el cost d'una simplificació feta per la institució.
Quan parlem de biaix algorítmic, sovint mirem el resultat: qui rep una oferta, qui queda fora o quin grup obté una puntuació pitjor.
La feina informal no és una anècdota estadística. Pot ser ingressos irregulars, col·laboració familiar, repartiment, cures remunerades sense contracte o feines interrompudes per una malaltia. Les cures no remunerades tampoc no són un buit: impliquen organització, coneixements, desplaçaments, negociació i temps. Si un sistema només reconeix allò que deixa una empremta administrativa convencional, afavoreix qui ja ha pogut documentar la seva trajectòria i penalitza qui ha sostingut la vida fora d'aquest carril.
La conseqüència arriba en cadena. Una etiqueta d'inactivitat pot reduir la prioritat d'una cita, limitar les ofertes visibles, activar una alerta de “baixa vinculació” o recomanar una formació inadequada. Després l'organització llegeix aquests efectes com si fossin observacions neutrals sobre la persona. Així es fabrica un cercle: la interfície no recull un fet, la decisió utilitza el buit i el resultat sembla demostrar que no hi havia res per recollir.
Preguntar què no es pot explicar#
Una auditoria no hauria de començar només amb taules de resultats. També necessita una prova de llenguatge i de possibilitat. Què respon algú que treballa per hores per a diverses famílies? On registra una persona que va deixar una feina per cuidar un fill o un familiar dependent? Pot explicar que no té nòmina però sí referències, rebuts, habilitats o clients? Si la resposta és “truqui a aquest número” o “digui-ho a l'entrevista”, el disseny ha enviat informació essencial a un canal més lent i menys segur.
La prova s'ha de fer amb persones que coneixen aquestes situacions, no solament amb qui ha dissenyat el catàleg d'opcions. Cal observar el punt en què algú dubta: si interpreta “inactivitat” com una acusació, si tem que explicar una situació irregular li tanqui portes, si abandona perquè no sap quina prova seria acceptada. Aquests entrebancs són resultats de disseny. No es resolen amb una nota amable al peu, sinó canviant els camps, les ajudes i les regles que aprofiten les respostes.
Una solució curosa no exigeix convertir una vida en un expedient interminable. Pot oferir categories àmplies, una descripció breu i una manera de presentar evidència alternativa. El que importa és distingir entre “no consta”, “no s'ha preguntat”, “la persona no ho vol declarar” i “no correspon”. Són estats diferents. Ajuntar-los dins d'un zero silenciós és una decisió, no pas una limitació tècnica inevitable.
Una rectificació amb data i amb nom#
La Marta va prémer “sol·licitar correcció” en descobrir el problema. El missatge li deia que la petició quedaria registrada, però no indicava qui la llegiria, quin camp podria canviar ni si la cita es revisaria abans del curs assignat. Una correcció sense termini és com una bústia de suggeriments: existeix, però no protegeix ningú que necessiti que una decisió canviï a temps.
Un mecanisme útil comença retornant una còpia llegible d'allò que el sistema ha entès. La persona ha de poder veure els camps utilitzats, assenyalar el que no representa la seva situació i afegir una explicació en llenguatge normal. Ha de saber quines proves són acceptables, fins i tot si no hi ha contracte: una declaració, referències, un calendari de cures, rebuts o una conversa amb una professional. No totes tindran el mateix pes, però cap no hauria de quedar exclosa perquè no s'assembla a una nòmina.
Després cal una resposta amb data. Per exemple: confirmació immediata, revisió humana en cinc dies laborables i decisió abans d'executar una exclusió o de tancar una vacant rellevant. Si no es pot resoldre a temps, la mesura prudent és no empitjorar la posició de la persona amb la dada discutida. Això no vol dir acceptar qualsevol afirmació sense contrast; vol dir que una classificació dubtosa no ha de causar un dany irreversible mentre s'investiga.
També compta qui n'és responsable. “El sistema” no pot respondre cap pregunta ni explicar una regla. L'organització ha de designar un equip o una funció que pugui rectificar el registre, canviar l'itinerari i documentar el motiu. Davant una negativa, la persona necessita saber quina evidència ha faltat, quina altra seria útil i com demanar una segona revisió. Una resposta genèrica defensa el procediment; una resposta precisa permet que el procediment aprengui.
Llegir els buits com a senyals d'exclusió#
La feina no s'acaba afegint una casella de cures. Cal mesurar què passa després. El centre pot comptar quantes persones usen la correcció, quins camps es discuteixen, quant triga cada cas i si les recomanacions canvien quan la informació es completa. També hauria de comparar l'abandonament i l'assignació d'oportunitats entre qui segueix la ruta estàndard i qui declara trajectòries no convencionals. Si la segona ruta tarda més, rep menys cites o acaba amb menys ofertes, la desigualtat només ha canviat de lloc.
Aquestes dades s'han de tractar amb prudència. Una categoria de feina informal pot revelar vulnerabilitat si circula sense límits. Per això l'auditoria ha de recollir només el necessari, limitar-ne l'accés i separar l'ús d'ajuda de l'ús punitiu. Declarar cures per explicar una pausa laboral no pot convertir-se en una raó per descartar algú per una disponibilitat suposada. La finalitat declarada d'un camp ha d'imposar límits reals a qui el consulta.
També convé mantenir un registre dels canvis. Si el formulari incorpora una opció, algú ha de comprovar al cap de tres mesos si la gent la troba, l'entén i obté una via efectiva. Les decisions sobre vocabulari, proves i terminis no són detalls de pantalla: són polítiques d'accés. Deixar-les sense revisió permet que una bona intenció torni a ser un botó amagat.
El següent pas pràctic per a un servei d'ocupació és simple i exigent: prendre una sol·licitud real, demanar a cinc persones amb trajectòries diferents que l'omplin i anotar cada dada que no han pogut expressar. Per a cada absència, l'equip ha de decidir si crea un camp, una evidència alternativa o una revisió humana, i publicar un termini de correcció. La justícia no comença quan l'algorisme calcula millor. Comença quan ningú no s'ha d'anomenar “inactiva” per poder continuar.
