El poder apareix en un lloc on algú pot dir que n'hi ha prou, i que a la feina que es diu a l'era automàtica, la supervisió era decorativa perquè responsabilitat i autoritat estaven separades.

Una persona pot constar com a supervisora d’un sistema de contractació, repartiment de torns o avaluació del rendiment i, tanmateix, no tenir accés als registres, temps per investigar ni permís per aturar una conseqüència. Aquesta presència humana no constitueix un control efectiu. Només afegeix un nom a un procés en què el poder continua allotjat en la regla automàtica, en el proveïdor o en una direcció que no rep les reclamacions.

El treball digne exigeix localitzar l’autoritat abans que aparegui el dany. No es tracta de demanar que cada decisió es torni a fer manualment, sinó d’assegurar que algú competent pugui qüestionar la dada, escoltar la persona afectada, suspendre una mesura i ordenar una reparació. Tres casos institucionals mostren per què aquesta capacitat importa: els conductors d’Uber davant el Tribunal Suprem britànic, la plantilla d’Amazon France Logistique davant l’autoritat francesa de dades i les candidatures d’iTutorGroup davant l’autoritat nord-americana d’igualtat laboral.

Supervisar vol dir poder canviar el resultat#

L’automatització distribueix poder mitjançant decisions aparentment petites. Defineix quina comanda arriba primer, quina pausa es considera improductiva, quina candidatura mereix lectura i quina puntuació obre l’accés a un torn. Cada operació es pot presentar com una recomanació, encara que la seva repetició organitzi ingressos, temps, salut i permanència. Per saber qui mana no n’hi ha prou amb llegir l’organigrama: cal observar qui fixa l’objectiu, qui pot examinar l’evidència i qui té la facultat de dir prou.

L’automatització distribueix poder mitjançant decisions aparentment petites. Defineix quina comanda arriba primer, quina pausa es considera improductiva, quina candidatura mereix lectura i quina puntuació obre l’accés a un torn.

La diferència entre responsabilitat i autoritat es reconeix amb una prova senzilla. Si una persona ha de respondre davant qui reclama, però no pot veure com s’ha produït el resultat, la responsabilitat és decorativa. Si ho pot veure, però necessita autorització del proveïdor per corregir-lo, encara és insuficient. Si pot canviar un cas individual però no modificar una regla que repeteix el mateix dany, hi ha reparació parcial, no govern. El control significatiu reuneix accés, competència, independència, temps i poder d’intervenció.

També importa el moment. Una revisió posterior pot reconèixer que un acomiadament, una pèrdua de torns o un rebuig eren erronis quan l’oportunitat ja ha desaparegut. En decisions d’impacte alt, l’autoritat ha de poder suspendre la conseqüència mentre es verifica un desacord plausible. La velocitat del sistema no es pot convertir en una raó per fer irreversible el seu error. Com més difícil sigui reparar, més aviat s’ha de situar el control.

La dignitat no equival a immunitat davant l’avaluació. Una empresa pot organitzar el treball, mesurar resultats i corregir incompliments. El que no hauria de fer és confondre senyals parcials amb una història completa, amagar la regla o obligar qui pateix la conseqüència a demostrar una fallada sense accés a la informació. Una relació laboral digna permet comprendre el criteri, aportar context i recórrer sense represàlies.

Cas u: Uber i el control darrere de l’aplicació#

El febrer de 2021, el Tribunal Suprem del Regne Unit va resoldre el litigi Uber BV contra Aslam i va confirmar que els conductors demandants eren treballadors als efectes de la legislació britànica. La sentència no es va limitar al llenguatge dels contractes. Va examinar la relació pràctica: Uber fixava la tarifa, imposava condicions, controlava la informació sobre el trajecte, utilitzava la valoració dels passatgers i podia restringir l’accés a l’aplicació.

El cas ajuda a distingir llibertat formal i poder material. El conductor podia decidir quan es connectava, però, un cop disponible, operava dins un marc configurat per la plataforma. L’acceptació de trajectes, la puntuació i el risc de desconnexió influïen en el seu marge de decisió. L’algoritme no era un coordinador neutral situat entre parts iguals; executava condicions que l’empresa dissenyava i podia modificar.

La qüestió d’autoritat apareix amb una claredat especial en la gestió per reputació. Una valoració agrega experiències heterogènies i pot estar afectada per prejudicis, incidents aliens al conductor o expectatives incompatibles. Si una puntuació activa advertiments o pèrdua d’accés, la revisió no es pot limitar a repetir la mitjana. Ha d’examinar trajectes concrets, patrons anòmals, context i al·legacions. A més, qui revisa ha de poder impedir la desconnexió abans que privi d’ingressos.

La lliçó no consisteix a traslladar mecànicament la categoria jurídica britànica a tots els països. Consisteix a observar la realitat del control. Una organització conserva responsabilitat quan determina preus, incentius, llindars o conseqüències, encara que el contacte quotidià tingui lloc mitjançant una interfície. Dir independent a una decisió automàtica tampoc fa independent la persona afectada. L’anàlisi ha de seguir les facultats efectives, no només les etiquetes triades per qui dissenya el sistema.

Cas dos: Amazon France i la vigilància convertida en disciplina#

El gener de 2024, la Commission nationale de l’informatique et des libertés va comunicar una sanció de 32 milions d’euros a Amazon France Logistique per tractaments relacionats amb l’activitat dels empleats als magatzems. Els escàners registraven lectures i alimentaven indicadors sobre qualitat, productivitat i inactivitat. La CNIL va considerar excessivament intrusius determinats indicadors i va qüestionar la conservació i l’ús detallat de dades per a algunes finalitats.

Un interval entre escanejos sembla precís, però no n’explica la causa. Pot correspondre a un desplaçament, una espera, una consulta, un dispositiu defectuós, una reorganització o una pausa necessària. Quan l’indicador converteix l’absència de lectura en sospita, la persona queda obligada a justificar cada fragment de temps. El mesurament deixa de descriure la feina i comença a disciplinar-la.

La CNIL va reconèixer que hi podia haver finalitats legítimes de planificació, formació o seguretat, però va assenyalar que alguns objectius es podien assolir amb informació menys detallada. Aquesta proporcionalitat afecta directament el poder. Com més gran és la granularitat, més fàcil és traslladar al treballador la càrrega d’explicar qualsevol desviació. L’organització ha de justificar per què necessita cada dada, qui la veurà, quant de temps es conservarà i quina decisió podrà activar.

Una supervisió real exigiria que cap llindar aïllat produís automàticament una conseqüència laboral rellevant. La revisió hauria de contrastar incidències de l’equip, canvis de tasca, riscos de seguretat, condicions de l’àrea i explicació de la persona. També hauria de buscar patrons col·lectius: si molts intervals apareixen en una zona, la hipòtesi pot ser una mala organització i no una conducta individual. Qui supervisa necessita autoritat per corregir tant l’expedient com l’indicador.

Cas tres: iTutorGroup i una discriminació perfectament constant#

L’agost de 2023, la Comissió per a la Igualtat d’Oportunitats en l’Ocupació dels Estats Units va informar d’un acord per 365.000 dòlars en la seva demanda contra iTutorGroup. Segons l’EEOC, el programari de selecció rebutjava automàticament dones de 55 anys o més i homes de 60 anys o més. Més de dues-centes persones qualificades haurien estat descartades a causa de l’edat. L’acord va incloure compensació, obligacions de formació, revisió de polítiques i seguiment.

En aquest cas el sistema no fallava quan executava la instrucció: l’aplicava de manera constant. Precisament per això l’automatització podia ampliar el dany. L’estabilitat tècnica no demostrava neutralitat, perquè el criteri incorporat era discriminatori. Una xifra global de precisió tampoc hauria respost la qüestió rellevant: qui quedava exclòs, per quin atribut i amb quina possibilitat de ser reconsiderat abans de tancar la vacant.

La responsabilitat no desapareix perquè un proveïdor escrigui el codi o una eina filtri milers de candidatures. L’organització que decideix utilitzar-la ha de conèixer els camps rellevants, provar resultats per grups, revisar llindars i conservar la facultat d’aturar-la. Una revisió humana situada al final serveix de poc si només veu les candidatures que el filtre ha permès avançar. El control ha d’incloure mostres de rebutjos, proves amb perfils equivalents i anàlisi de canvis després de cada actualització.

La reparació tampoc acaba quan s’elimina el criteri. Les persones rebutjades van perdre la possibilitat de competir quan el lloc estava disponible. Per això l’autoritat efectiva ha de combinar prevenció, suspensió i restitució. Quan es descobreix l’error, s’han de localitzar decisions afectades, comunicar el problema, reobrir oportunitats quan sigui viable i compensar el perjudici d’acord amb el marc aplicable. Corregir el model sense atendre’n les conseqüències conserva l’eficiència institucional a costa de qui va suportar el dany.

Dissenyar una autoritat que no sigui cerimonial#

Els tres casos permeten definir una arquitectura de control. Primer, cada sistema ha de tenir una finalitat delimitada i una persona responsable dins l’organització usuària. Segon, aquesta persona necessita accés a registres comprensibles, no només a una puntuació final. Tercer, ha de poder aturar una conseqüència, sol·licitar evidència addicional i canviar-la. Quart, les correccions han d’alimentar una revisió de la regla. Cinquè, hi ha d’haver una instància independent per a conflictes greus o repetits.

La separació de funcions protegeix tant la plantilla com qui revisa. L’equip que busca productivitat no hauria de ser l’única autoritat sobre reclamacions de salut, discriminació o salari. La participació de prevenció, recursos humans, protecció de dades, representació laboral i assessorament jurídic pot ser necessària segons el risc. Cooperar no dilueix la responsabilitat quan hi ha una decisió final clarament assignada; la reforça perquè reuneix coneixements que l’indicador no conté.

El canal de recurs ha de ser visible, gratuït i utilitzable durant el temps de treball. Ha d’explicar quina decisió es discuteix, quina informació hi ha influït, què pot aportar la persona, qui resoldrà i en quin termini. No hauria d’exigir argot tècnic ni retornar automàticament la reclamació al mateix sistema. També ha de protegir davant represàlies i oferir una via alternativa per a qui no pugui utilitzar l’aplicació o necessiti una adaptació.

L’autoritat es comprova mitjançant exercicis, no amb una casella en una política. Abans del desplegament es poden assajar una caiguda de xarxa, un registre incomplet, una puntuació esbiaixada, una pausa de seguretat i una candidatura atípica. La persona responsable ha de demostrar que localitza l’evidència, pausa l’efecte, escolta el context i documenta la decisió. Si necessita improvisar permisos durant la prova, el sistema encara no està preparat.

Mesurar el poder, el dany i la reparació#

La precisió mitjana és un indicador insuficient. Una avaluació responsable incorpora falsos positius i negatius, diferències entre grups, freqüència de recursos, proporció de correccions, temps de resposta, conseqüències suspeses i oportunitats restituïdes. També observa la reincidència: si el mateix tipus de reclamació reapareix, l’organització no ha après encara que resolgui casos aïllats.

Les dades s’han d’acompanyar de relats i participació. Una pausa pot semblar igual en una taula i respondre a causes completament diferents. Les persones que fan la tasca coneixen dreceres perilloses, fallades d’equips, càrregues invisibles i moments en què l’indicador premia una conducta insegura. La representació col·lectiva permet reunir experiències disperses i detectar que un suposat cas excepcional és una condició estructural.

Convé publicar informació proporcional a l’impacte: finalitat, categories de dades, lògica general, conseqüències, controls, resultats d’avaluació i vies de recurs. La transparència no obliga a revelar secrets comercials ni mecanismes que facilitin el frau. Obliga a donar informació suficient perquè una persona reconegui com l’afecta la regla i pugui discutir un error. Una explicació que només enumera tecnologies no compleix aquesta funció.

La reparació s’ha de definir abans que passi l’incident. Pot incloure corregir l’expedient, retornar torns o ingressos, reobrir una candidatura, retirar una sanció, compensar un perjudici i modificar el sistema. Cada mesura necessita responsable i termini. Preparar-la per endavant evita que l’organització tracti la primera reclamació com una sorpresa i redueix la temptació de defensar l’eina per protegir una inversió ja feta.

Fonts institucionals i criteri de decisió#

L’anàlisi es basa en quatre fonts institucionals principals. La fitxa i sentència del Tribunal Suprem del Regne Unit sobre Uber BV contra Aslam documenta la realitat del control examinada pel tribunal. La decisió divulgada per la CNIL sobre Amazon France Logistique explica els indicadors, la sanció i el criteri de proporcionalitat. La comunicació de l’EEOC sobre iTutorGroup recull la demanda i les mesures de l’acord. L’estudi de l’Organització Internacional del Treball sobre gestió algorítmica situa aquests mecanismes en plataformes i llocs de treball convencionals.

Les fonts compleixen funcions diferents. Les resolucions i comunicacions descriuen fets i marcs jurídics concrets; l’estudi de l’OIT aporta una perspectiva comparada sobre organització i qualitat de l’ocupació. No converteixen tots els usos d’automatització en il·lícits ni permeten traslladar sense més una sentència a una altra jurisdicció. Sí que sostenen una conclusió comuna: quan una eina organitza oportunitats, conducta o ingressos, el seu govern ha d’examinar el poder efectiu i no quedar-se en l’aparença tècnica.

Abans d’aprovar un sistema, la direcció hauria de respondre per escrit sis preguntes: quina decisió assisteix, quines dades utilitza, quin dany pot causar, qui el pot pausar, com es recorre i com es repara. Si el nom del responsable existeix però no té permisos, pressupost o independència, la resposta no és completa. Si el proveïdor és l’únic que entén els registres, l’organització ha externalitzat capacitat, no responsabilitat.

El poder apareix allà on algú pot dir prou i fer que aquest prou tingui efecte. En una feina que no renuncia a la dignitat, la supervisió no és una figura asseguda al costat de la màquina, sinó una capacitat institucional per comprendre, interrompre, escoltar, corregir i aprendre. L’automatització pot coordinar tasques i ampliar coneixement; mereix confiança quan també accepta límits. Allà on ningú no pot aturar una conseqüència injusta, no hi ha supervisió humana: hi ha una decisió automàtica acompanyada per un testimoni.