L’excepció no trenca la regla: l’explica. Quan un sistema de selecció, seguiment o repartiment funciona per a la majoria, el cas que en queda fora no és soroll que s’hagi d’esborrar. Mostra quins pressupòsits conté la regla, quina informació considera vàlida i qui suporta el cost quan la realitat no cap dins les seves categories. En el treball automatitzat, aquesta diferència pot decidir un contracte, un torn, una pausa, una avaluació o la possibilitat de continuar obtenint ingressos.

L’excepció no equival sempre a un error informàtic. Pot ser una absència per malaltia que sembla falta de compromís, una pausa de seguretat registrada com a inactivitat o una trajectòria professional que un filtre confon amb una edat inconvenient. El sistema executa aleshores amb coherència una regla insuficient. La precisió tècnica no resol aquesta insuficiència: una classificació es pot reproduir sense fallades i continuar sent injusta perquè mesura un substitut pobre, omet context o converteix una correlació en conseqüència laboral.

Aquesta distinció canvia la pregunta de control. No n’hi ha prou de saber quantes decisions han estat correctes de mitjana. Cal observar quins casos discrepen, per què ho fan, quins grups apareixen més sovint entre les discrepàncies i si existeix una via efectiva per suspendre el dany. Els tres casos següents són reals i procedeixen d’actuacions institucionals. No es presenten com a equivalents jurídics: pertanyen a països, normes i moments diferents. Es llegeixen junts perquè revelen un mateix principi de disseny laboral: una regla responsable ha d’aprendre d’allò que no sap interpretar.

Per què l’excepció revela el disseny real#

Tot sistema de gestió redueix una situació complexa a variables operables. Una eina logística registra escaneigs, temps i recorreguts; una plataforma de repartiment combina disponibilitat, acceptació i lliuraments; un filtre de contractació ordena dades de candidatura. Aquesta reducció pot ajudar a coordinar tasques, però deixa de ser una simple ajuda quan els resultats distribueixen oportunitats o sancions. En aquell moment, cada variable expressa una decisió normativa: què compta com a rendiment, quina absència es considera legítima, quant temps sembla normal i quina diferència es tracta com a sospita.

Tot sistema de gestió redueix una situació complexa a variables operables. Una eina logística registra escaneigs, temps i recorreguts; una plataforma de repartiment combina disponibilitat, acceptació i lliuraments; un filtre de contractació ordena dades de candidatura.

La mitjana amaga precisament la zona on aquestes decisions es fan visibles. Si nou de cada deu registres encaixen, el desè permet examinar el model mental incorporat. Potser una persona ha treballat amb un equip defectuós, ha acompanyat algú nou, ha seguit un protocol de seguretat, ha necessitat una adaptació o ha patit una interrupció aliena a la seva voluntat. Si només es conserva el nombre final, el comportament prudent pot semblar improductiu. Si s’hi incorpora l’explicació, la mateixa dada pot descobrir una avaria, una mala planificació o una càrrega impossible.

La revisió humana tampoc no serveix quan es limita a confirmar la pantalla. Ha de tenir competència, temps, informació i autoritat per canviar el resultat. Una persona revisora necessita conèixer la finalitat de l’indicador, la procedència, els límits de la comparació i l’evidència aportada per qui resulta afectat. També ha de quedar constància d’allò que s’ha corregit. Sense aquestes condicions, el recurs es converteix en una segona execució de la mateixa regla i l’aparença de supervisió encobreix l’absència de decisió real.

Una organització pot comprovar la qualitat mitjançant un registre d’excepcions. Cada discrepància hauria de descriure la dada activadora, la conseqüència proposada, el context que faltava, la decisió final i la modificació preventiva. El registre no s’hauria d’utilitzar per perfilar la persona, sinó per detectar patrons del sistema. Si diverses pauses justificades acaben com a inactivitat, la qüestió ja no és individual. Si un grup necessita recórrer més vegades per assolir el mateix resultat, el cost de corregir funciona com una desigualtat afegida.

La dignitat laboral apareix en aquesta capacitat de no quedar reduït a l’indicador. No exigeix eliminar tota automatització ni acceptar qualsevol explicació sense contrast. Exigeix proporcionalitat, dades pertinents, possibilitat de ser escoltat i una responsabilitat localitzable. L’excepció es converteix així en una prova d’estrès: si la regla pot reconèixer-la, aturar la conseqüència i aprendre’n, existeix govern. Si només la penalitza amb més rapidesa, existeix automatització del poder sense contrapès.

Cas u: Amazon France i el segon convertit en senyal#

El desembre de 2023, l’autoritat francesa de protecció de dades va sancionar amb 32 milions d’euros Amazon France Logistique. L’actuació va examinar l’ús d’escàners en grans magatzems francesos. Cada lectura generava dades amb què es calculaven indicadors sobre qualitat, productivitat i períodes d’inactivitat. L’autoritat va considerar excessivament intrusiva una part del seguiment i va assenyalar, entre altres problemes, l’avaluació molt detallada vinculada a cada escaneig i la possibilitat que interrupcions fins i tot breus haguessin de ser justificades.

El cas mostra com una excepció temporal pot explicar tota la regla. Un interval sense lectura sembla una dada objectiva, però no conté la causa. Pot representar desplaçament, espera, conversa necessària, problema del dispositiu, reorganització d’una tasca o pausa. Quan l’indicador transforma automàticament l’interval en sospita de baix rendiment, no descobreix una intenció; la pressuposa. La regla real deixa de ser «registrar l’activitat» i passa a ser «tota fracció no registrada necessita defensa». El dispositiu converteix la manca de senyal en senyal contra la persona.

La CNIL no va negar que el magatzem necessités dades per planificar, formar o assistir. La decisió va destacar que es podien utilitzar dades menys detallades o agregades per a determinades finalitats. Aquesta diferència és central: una finalitat legítima no autoritza qualsevol granularitat. La dada per segon pot semblar millor perquè és més abundant, encara que augmenti la vigilància sense millorar una decisió necessària. La minimització obliga a explicar quina resolució aporta valor i durant quant temps s’ha de conservar.

La prova d’excepció per a un magatzem començaria per classificar les interrupcions abans d’atribuir-les. Un llindar no hauria de produir per si sol una advertència laboral. Hauria d’obrir una revisió que contrastés estat de l’equip, incidències de zona, canvis de tasca, formació, seguretat i relat de la persona. Els patrons col·lectius també importen: si molts intervals apareixen al mateix passadís o torn, la hipòtesi raonable es desplaça des de la conducta individual cap a l’organització de la feina.

El cas ensenya, a més, que la salut no es pot tractar com una desviació estadística. Un ritme construït amb els registres més ràpids pot convertir l’extrem en norma i pressionar la resta perquè l’assoleixi. La referència s’hauria de basar en una feina segura i sostenible, no només en la capacitat màxima observada. L’excepció de qui s’atura per evitar un risc no trenca la productivitat; revela si la definició de productivitat inclou el cos que fa la tasca.

Cas dos: Foodinho i el repartiment que no admet context#

El juny de 2021, el Garante italià de protecció de dades va dictar una ordre contra Foodinho, empresa del grup Glovo, i va imposar una sanció de 2,6 milions d’euros. La investigació va arribar a uns 19.000 repartidors. L’autoritat va descriure un tractament ampli de dades, des de geolocalització i temps de lliurament fins a comunicacions amb atenció al client, valoracions i nivell de bateria. També va analitzar un sistema de puntuació que podia afavorir qui acceptava amb rapidesa i feia més lliuraments, i penalitzar rebutjos o manca de connexió en una franja reservada.

Una negativa a una comanda constitueix el tipus d’excepció que un sistema pot comptar sense comprendre. El registre confirma que no hi va haver acceptació, però no distingeix una avaria, un risc viari, un encàrrec incompatible, una urgència, una instrucció contradictòria o una connexió deficient. Si totes les negatives redueixen l’accés futur a feina, la plataforma presenta com a preferència lliure una decisió presa sota pressió. La regla premia disponibilitat immediata, encara que formalment només mesuri fiabilitat.

El Garante va assenyalar mancances d’informació sobre la lògica i les conseqüències del tractament, així com salvaguardes insuficients per a exactitud i equitat. També va exigir mesures que permetessin intervenció humana, expressió del punt de vista i impugnació de decisions automatitzades. Aquests elements no formen un apèndix administratiu. Determinen si una dada parcial es pot convertir en pèrdua d’oportunitats abans que s’incorpori el context que la completa.

Una gestió proporcionada separaria la coordinació immediata de la valoració laboral duradora. Saber que una comanda necessita una altra persona pot ser necessari en segons; concloure que qui l’ha rebutjada mereix menys torns exigeix una justificació diferent. La primera decisió resol un lliurament. La segona redistribueix ingressos i requereix dades pertinents, explicació i recurs. Barrejar-les permet que una necessitat operativa breu produeixi una sanció acumulativa invisible.

L’excepció també descobreix la dependència entre mètriques. Geolocalització, temps estimat, bateria i resposta poden semblar senyals independents, encara que procedeixin d’una mateixa incidència tècnica. Sumar-los com a confirmacions augmenta artificialment la certesa. Una auditoria hauria de rastrejar aquesta dependència, mesurar falsos positius i examinar qui queda penalitzat per cobertura, dispositiu, discapacitat, responsabilitats de cura o exposició a zones difícils. L’objectiu no seria fabricar un tracte especial, sinó impedir que condicions alienes al rendiment es disfressin de mèrit.

El cas Foodinho converteix la impugnació en una mesura de qualitat. Cada recurs acceptat aporta evidència sobre una categoria defectuosa. Hauria d’activar correcció individual, restitució d’oportunitats perdudes i revisió del model. Si el sistema aprèn només de comandes completades i no de decisions corregides, l’experiència institucional desapareix. L’excepció torna a passar com si fos nova i la persona paga repetidament per un defecte ja conegut.

Cas tres: iTutorGroup i l’edat que va delatar el filtre#

El setembre de 2023, la Comissió per a la Igualtat d’Oportunitats en l’Ocupació dels Estats Units va anunciar un acord de 365.000 dòlars amb iTutorGroup. Segons la demanda de l’EEOC, el programari de candidatura havia estat programat per rebutjar automàticament dones de 55 anys o més i homes de 60 anys o més. Més de 200 candidatures qualificades amb base als Estats Units van ser rebutjades per edat. L’acord va incloure compensació i mesures no monetàries, a més de seguiment institucional.

Aquí l’excepció no va ser un cas fronterer que el model no va saber classificar. Va ser la regla discriminatòria exposada pels seus resultats. Una candidatura podia contenir experiència pertinent, disponibilitat i capacitats suficients; en creuar un llindar d’edat, tot aquest contingut deixava d’importar. L’eficiència aparent del filtre amagava una decisió d’ocupació prohibida. L’automatització no va crear distància respecte del criteri: va permetre aplicar-lo de manera uniforme, silenciosa i a escala.

El cas demostra per què una taxa global d’encerts seria una defensa inadequada. Un sistema podria processar milers de sol·licituds i coincidir sovint amb decisions posteriors, però el rebuig sistemàtic d’un grup continuaria sent material. L’avaluació necessita desglossaments per edat i sexe, proves al voltant de cada llindar i candidatures equivalents que variïn només l’atribut protegit. L’excepció estadística pot ser petita en volum i absoluta en la vida de qui perd l’accés.

També s’ha de distingir proveïdor, eina i ocupador. Una organització no transfereix la seva responsabilitat pel fet de contractar programari. Abans de desplegar-lo hauria de documentar criteris, provar resultats, limitar camps, verificar canvis i conservar capacitat de suspendre’l. Durant l’ús hauria de comparar qui avança, qui queda fora i quins recursos prosperen. Després de detectar un dany, la reparació no s’acaba ajustant el codi: arriba a les persones rebutjades i a les oportunitats que no van poder disputar.

La revisió individual necessita arribar abans de tancar la vacant. Un canal que respon mesos després pot reconèixer l’error sense retornar l’opció laboral. Per això s’han de fixar terminis, una suspensió de la decisió quan sigui viable i una persona responsable amb accés a la candidatura completa. El missatge de rebuig hauria d’oferir informació suficient per identificar una possible equivocació, sense revelar mecanismes que facilitin frau ni amagar la raó sota una fórmula buida.

iTutorGroup deixa una lliçó especialment clara: la consistència no és neutralitat. Una regla aplicada igual a tots els servidors pot discriminar amb estabilitat perfecta. La pregunta responsable no consisteix a saber si la màquina s’ha desviat, sinó si el criteri era legítim, rellevant i provat. L’excepció —la persona qualificada que desapareix per una dada aliena a la seva capacitat— explica la funció real del filtre millor que qualsevol descripció comercial.

Quatre fonts institucionals i una prova per decidir#

Les quatre fonts permeten reconstruir l’argument sense confondre fets amb interpretació. La CNIL sobre Amazon France Logistique documenta el seguiment mitjançant escàners, la sanció i el criteri de proporcionalitat. El Garante italià sobre Foodinho descriu la puntuació, els riscos d’error o discriminació i les garanties exigides. L’EEOC sobre iTutorGroup recull la demanda, l’acord i les reparacions. L’OIT sobre gestió algorítmica aporta el marc: procediments programats coordinen feina tant en plataformes com en centres convencionals i poden afectar organització i qualitat de l’ocupació.

D’aquestes fonts se’n pot derivar una prova en set preguntes. Primer, s’ha de declarar quina decisió rep suport automàtic i quina conseqüència pot produir. Segon, s’ha d’identificar la dada substituta: escaneig, rebuig, puntuació, edat o un altre senyal. Tercer, s’han d’anotar les causes diferents que generen la mateixa dada. Quart, s’han de provar casos límit i grups potencialment afectats. Cinquè, ha d’existir revisió humana competent abans d’un dany difícil de revertir. Sisè, la correcció individual ha de reparar ingressos, torn o oportunitat quan sigui possible. Setè, cada excepció confirmada ha de modificar la regla, la interfície, la formació o el llindar.

La prova s’ha de fer abans del desplegament, repetir-se després de canvis i continuar durant l’ús. Una mostra de casos normals no basta. Es necessiten escenaris adversos: equip avariat, caiguda de xarxa, pausa segura, malaltia, discapacitat, responsabilitat de cura, candidatura no convencional i combinació d’atributs protegits. També cal observar la càrrega del recurs. Un procediment que exigeix temps, llenguatge tècnic o documentació inaccessible desplaça el cost del defecte cap a qui ja ha patit la decisió.

Els indicadors de govern haurien d’incloure més que precisió. Convé mesurar taxa d’impugnació, proporció de decisions corregides, temps fins a la reparació, oportunitats restituïdes, diferències entre grups, reincidència del mateix error i canvis introduïts. Una taxa alta de correccions pot revelar una regla pobra; una taxa baixa no prova qualitat si ningú no coneix el canal o tem represàlies. Les dades necessiten acompanyar-se d’entrevistes, representació laboral i revisió de casos tancats sense resposta.

La participació de qui fa la feina aporta coneixement que no existeix al conjunt de dades. Una persona coneix per què una ruta es retarda, quan una pausa evita una lesió o quina experiència no cap en un formulari. Aquesta veu no substitueix l’evidència; completa la definició del problema. La representació col·lectiva ajuda, a més, a detectar patrons que cada individu percep com un accident privat. Allò que es repeteix deixa de ser excepció personal i es converteix en senyal organitzatiu.

Una regla digna conserva tres capacitats. Pot explicar amb llenguatge comprensible quina dada ha influït. Pot aturar una conseqüència mentre es revisa un desacord seriós. Pot reparar i aprendre sense exigir que cada persona afectada demostri des de zero una fallada coneguda. Aquestes capacitats costen temps i recursos, però el cost pertany al sistema que decideix automatitzar, no a la persona classificada.

L’excepció, per tant, no és el residu que queda després d’optimitzar la mitjana. És la prova que permet saber què s’està optimitzant. Amazon France Logistique va mostrar el risc de convertir intervals sense escaneig en vigilància detallada; Foodinho, el de transformar una resposta sense context en accés desigual a encàrrecs; iTutorGroup, el d’aplicar a escala un llindar discriminatori. En els tres casos, mirar el resultat discrepant va revelar una regla que l’indicador agregat podia amagar.

Una feina que no renuncia a la dignitat no promet sistemes incapaços d’equivocar-se. Exigeix sistemes capaços de reconèixer el límit, escoltar l’explicació, corregir la conseqüència i canviar la regla. Quan aquesta cadena existeix, l’automatització continua subordinada al propòsit laboral. Quan falta, l’excepció continua explicant la regla, però ho fa a costa de qui n’ha quedat fora.