Una penalització de vint cèntims sembla massa petita per ocupar un titular. Tanmateix, quan un sistema l’aplica milers de vegades, sense explicar el criteri i sense oferir una revisió viable, deixa de ser una anècdota entre una empresa i una persona: es converteix en un problema públic. El detall que canvia la lectura de la notícia no és que hi hagi un algorisme, sinó la combinació d’escala, repetició i manca de recurs. Per entendre què passa cal sumar el dany distribuït, observar qui queda afectat sistemàticament i comprovar si algú conserva autoritat per corregir la regla.
Imaginem una plataforma que descompta una quantitat mínima cada vegada que detecta un lliurament fora del temps previst. Per a una persona, reclamar pot requerir vint minuts, captures, formularis i diversos correus; l’import perdut no compensa l’esforç. L’empresa interpreta l’absència de reclamacions com un senyal de precisió. Però si el sistema fa cent mil descomptes, una taxa d’error del dos per cent ja crea dues mil decisions injustes. Cadascuna sembla petita; juntes transfereixen diners, temps i poder de negociació. Aquesta asimetria explica per què l’escala importa tant com la gravetat del cas individual.
El detall que converteix un cas privat en una qüestió pública#
No tota equivocació automàtica exigeix una resposta col·lectiva. Un error aïllat, reconegut i reparat amb rapidesa es pot resoldre pels canals ordinaris. L’alarma apareix quan coincideixen cinc trets: moltes persones estan exposades a la mateixa regla; el perjudici es repeteix; reclamar costa més que allò que es recupera; l’organització coneix el patró o podria conèixer-lo; i el sistema continua funcionant sense correcció. Aquesta combinació produeix un dany agregat que les històries individuals no mostren. La pregunta ja no és només «què li va passar a aquesta treballadora?», sinó «quantes vegades pot estar passant i per què ningú no ho veu?».
No tota equivocació automàtica exigeix una resposta col·lectiva. Un error aïllat, reconegut i reparat amb rapidesa es pot resoldre pels canals ordinaris.
L’escala té diverses dimensions. Hi ha el nombre de persones, però també la freqüència, la durada i la profunditat de la conseqüència. Un sistema de torns pot perjudicar cinquanta empleats cada setmana; un filtre de contractació pot excloure milers de persones una sola vegada; una puntuació de rendiment pot acompanyar durant anys qui la rep. Convé calcular exposició, no només incidents confirmats. Si vint mil persones passen per un model i ningú registra qui pot haver desistit abans de reclamar, comptar únicament expedients formals subestima l’abast real.
També importa la distribució. Una mitjana acceptable pot ocultar errors concentrats en joves, persones amb discapacitat, qui cuida familiars, treballadors migrants o persones amb tasques menys previsibles. El sistema pot encertar en el noranta-vuit per cent i fallar persistentment amb un grup petit. Per això una auditoria útil desagrega resultats, sempre amb garanties de privacitat, i busca diferències en falses alarmes, penalitzacions, canvis de torn, exclusions i temps de resolució. La precisió global mai no substitueix la pregunta «per a qui falla?».
Per què gairebé ningú reclama encara que el sistema s’equivoqui#
El silenci no demostra conformitat. Una persona pot no reclamar perquè desconeix que hi va intervenir un sistema, tem represàlies, no conserva proves, no té temps o suposa que ningú revisarà el resultat. En feines precàries, la possibilitat de perdre hores futures pesa més que recuperar una quantitat petita. A més, la reclamació sol individualitzar un problema produït en sèrie: cada treballador ha de narrar des de zero fets que l’organització podria detectar comparant registres. Si el canal exigeix un esforç repetit a qui suporta el dany, actua com a barrera i no com a garantia.
Un recurs efectiu ha de ser visible, senzill i proporcional. La comunicació hauria d’indicar quina decisió es va prendre, quines dades hi van influir, l’efecte concret, qui pot revisar-la i en quin termini. Per a imports o conseqüències petites, una revisió agrupada pot ser més raonable que cent expedients idèntics. La persona revisora necessita accés als registres i autoritat per anul·lar el resultat; reenviar una resposta automàtica no és supervisió humana. Mentre es revisa, la conseqüència s’hauria de suspendre quan sigui possible, especialment si afecta salari, accés a la feina o reputació professional.
L’organització col·lectiva permet descobrir patrons que cada persona només veu parcialment. L’article 64.4.d de l’Estatut dels Treballadors publicat pel BOE reconeix a la representació legal de la plantilla informació sobre paràmetres, regles i instruccions d’algorismes o sistemes d’intel·ligència artificial que incideixin en decisions capaces d’afectar les condicions de treball. L’aplicació concreta requereix anàlisi jurídica, però el principi operatiu és clar: «ho va decidir el programa» no és suficient. S’han de poder discutir finalitat, factors rellevants, conseqüències i controls.
Com mesurar un dany repartit en milers de decisions#
El primer pas és construir un denominador. No n’hi ha prou amb dir que hi va haver quaranta queixes; cal saber quantes decisions es van emetre, quantes persones van estar exposades i quantes van patir una conseqüència. Després es mesura la taxa de reversió: quina proporció de decisions reclamades va acabar corregida. Una taxa alta pot assenyalar un model imprecís o un control previ insuficient. També es calcula el temps i el cost de reclamar, perquè un sistema que torna un euro després d’una hora de tràmit continua imposant una pèrdua.
El segon pas és buscar acumulació. Una penalització aïllada pot ser accidental; diverses sobre la mateixa persona poden alterar la seva puntuació, l’accés a torns o la continuïtat. L’avaluació ha de sumar efectes monetaris i no monetaris: salari perdut, hores no assignades, ansietat, desplaçaments inútils, oportunitats rebutjades i dades errònies reutilitzades. Quan no es pugui posar preu a tot, es documenta per separat. Convertir únicament allò fàcil de comptar en «impacte» reprodueix el mateix punt cec del sistema.
El tercer pas és reconstruir el recorregut d’una decisió. Es trien casos normals, errors confirmats i casos dubtosos, i se segueix tota la cadena: dada d’entrada, regla aplicada, sortida, acció humana, notificació i recurs. Aquesta traçabilitat distingeix un problema del model d’una dada incorrecta o una instrucció organitzativa desproporcionada. També mostra on es pot aturar el dany. De vegades no cal substituir l’eina: n’hi ha prou d’impedir que una alerta produeixi automàticament una sanció i exigir una comprovació contextual abans d’actuar.
La guia de l’AEPD sobre protecció de dades en les relacions laborals ajuda a examinar necessitat, proporcionalitat i informació quan es tracten dades de treballadors. La protecció de dades no resol per si sola totes les injustícies laborals, però obliga a preguntar quina informació es recull, per a què s’utilitza, quant de temps es conserva i qui hi accedeix. Una organització no hauria d’emmagatzemar cada senyal disponible «per si de cas» ni reutilitzar-la després per a una finalitat incompatible sense una base i una explicació adequades.
Què ha de publicar una empresa sense revelar dades personals#
La transparència útil no consisteix a publicar codi ni expedients individuals. Consisteix a oferir informació suficient per avaluar el sistema: finalitat, població exposada, tipus de dades, freqüència d’ús, conseqüències possibles, taxes d’error i correcció, grups de control, responsable i mecanisme de reclamació. Un informe periòdic pot mostrar quantes decisions es van emetre, quantes es van revisar, quantes es van anul·lar i quins canvis es van introduir. Les dades s’han d’agregar de manera que no permetin identificar persones, especialment en equips petits.
També s’han de publicar els límits coneguts. Si l’eina funciona pitjor amb connexions inestables, rutes rurals, jornades discontínues o dades incompletes, amagar-ho transforma una limitació tècnica en una injustícia organitzativa. Reconèixer el límit permet introduir excepcions, ampliar marges o excloure determinats usos. Una fitxa honesta explica què no s’ha de fer amb el resultat. El sistema no pot decidir tot sol una sanció greu, per exemple, si es va dissenyar únicament per prioritzar una revisió.
El Reglament europeu d’intel·ligència artificial classifica com d’alt risc determinats usos en ocupació, gestió de treballadors i accés a l’autoocupació, amb obligacions que depenen del sistema, del paper de cada actor i del calendari d’aplicació. El seu valor pràctic per a una organització és recordar que la supervisió humana, la documentació, la qualitat de les dades i la gestió de riscos s’han de dissenyar abans de l’incident. No convé improvisar una explicació quan una notícia ja ha revelat el patró.
En el treball mitjançant plataformes, la Directiva europea 2024/2831 aborda la transparència i la supervisió humana en la gestió algorítmica, entre altres aspectes. La seva transposició i aplicació s’han de revisar amb assessorament actualitzat. Tot i així, ofereix una lliçó general: quan un sistema assigna, vigila, avalua o limita oportunitats laborals, l’organització necessita responsables humans identificables i procediments capaços de revisar decisions, no només una bústia tècnica administrada pel proveïdor.
Un protocol de resposta quan apareix la notícia#
Durant les primeres quaranta-vuit hores, l’empresa hauria de preservar registres, suspendre la regla si hi ha risc de repetició i nomenar una persona amb autoritat per coordinar la revisió. Ha d’informar de què se sap, què falta per comprovar i quan hi haurà una actualització. Negar el problema perquè l’import individual és petit acostuma a empitjorar-lo: comunica que l’organització no entén l’escala. Tampoc no convé culpar un empleat concret abans de reconstruir el procés i les instruccions que va rebre.
Després es delimita l’univers potencialment afectat. Es consulta qui va estar sotmès a la mateixa versió, regla i període, no només qui va reclamar. Es fa una cerca proactiva i, quan correspongui, es corregeixen decisions sense obligar cada persona a iniciar un expedient. La reparació pot incloure retornar quantitats, restaurar puntuacions, reassignar oportunitats i eliminar dades derivades de l’error. Ha d’abastar conseqüències posteriors: corregir el descompte sense reparar una puntuació baixa acumulada deixa viu el dany.
La investigació ha de comptar amb treballadors i representació col·lectiva. Les persones que utilitzen el sistema coneixen dreceres, alertes falses i tasques invisibles que no apareixen al contracte del proveïdor. Els seus testimonis es contrasten amb registres, no es tracten com impressions sense valor. L’equip tècnic aporta el funcionament; recursos humans i prevenció examinen conseqüències; protecció de dades revisa tractaments; i la direcció respon per la decisió organitzativa. Reunir perspectives evita que cada departament declari que el problema pertany a un altre.
Abans de reactivar la regla, es prova la correcció amb casos adversos i es fixen llindars de retirada. Cal comprovar què passa davant dades absents, desconnexió, discapacitat, emergència familiar o tasca atípica. El control ha de mesurar falsos positius i diferències entre grups, a més de productivitat. S’estableix una revisió pròxima i una data de caducitat. Si ningú no pot explicar quina evidència demostraria que el sistema s’ha d’aturar, l’avaluació està dissenyada per justificar-lo, no per aprendre.
Què pot fer una persona afectada i com pot ajudar la família#
La persona treballadora pot desar comunicacions, nòmines, captures i dates, i formular una petició concreta: quina decisió es va adoptar, quines dades es van utilitzar, quina conseqüència va produir i qui pot revisar-la. No necessita endevinar l’algorisme. Si detecta casos semblants, pot comunicar el patró a la representació legal o demanar assessorament sindical, laboral o de protecció de dades. En decisions importants convé rebre orientació professional adaptada al cas; aquest article ofereix un mètode d’observació, no substitueix aquest assessorament.
Una família pot ajudar un jove en la primera feina ordenant la cronologia, assajant preguntes i distingint fets d’hipòtesis. També pot recordar límits bàsics: no lliurar contrasenyes, no instal·lar aplicacions laborals sense entendre els permisos i no difondre captures amb dades de companys. Ajudar no vol dir parlar sempre en nom seu; significa donar-li eines per reclamar amb claredat i sense exposar-se innecessàriament. Quan el perjudici sembla petit, acompanyar el tràmit redueix precisament la barrera que permet que el patró romangui ocult.
El detall decisiu de la notícia, per tant, no és una màquina misteriosa. És una arquitectura que multiplica una regla i divideix el dany fins a fer-lo gairebé invisible. Una resposta pública madura torna a reunir allò que el sistema va separar: suma incidents, escolta experiències, identifica responsables i repara de manera col·lectiva. La bona automatització pot millorar la feina, però només mereix confiança quan permet conèixer els seus límits, discutir els seus criteris i corregir una injustícia sense exigir heroisme a cada persona afectada.
