Quan una aplicació assigna torns, mesura pauses, ordena candidatures o proposa una sanció, és útil pensar que el sistema s'ha convertit en una part del cap. No perquè el programa tingui intenció o autoritat jurídica, sinó perquè tradueix objectius empresarials en instruccions que condicionen ingressos, temps i oportunitats. Aquesta idea permet a una persona jove mirar més enllà de la pantalla: darrere de cada puntuació hi ha decisions humanes sobre què es mesura, què s'ignora i quant error es tolera.

Imaginem en Leo, de vint-i-dos anys, en la seva primera feina en un magatzem. Una polsera registra recorreguts i una aplicació li comunica cada tasca. Després de diverses jornades atenent una zona amb productes fràgils, el seu indicador baixa i perd accés als torns preferits. Ningú no l'acusa de treballar malament; simplement apareix per sota del llindar. El seu encarregat diu que no ho pot canviar perquè l'assignació és automàtica. Pensar en el sistema com una part del cap aclareix el problema: hi ha una decisió laboral, encara que es presenti com un resultat tècnic inevitable.

El sistema no mana sol: executa una política#

Un algoritme no decideix per naturalesa què és un bon treballador. L'organització escull un objectiu —més lliuraments, menys espera, menys absències— i selecciona dades que el representen. Els paquets per hora poden semblar productivitat, però no reflecteixen qui forma un company, evita un accident o atén correctament un cas difícil. La disponibilitat immediata es pot confondre amb compromís, i penalitzar qui estudia o cuida. La mètrica és una interpretació parcial de la feina. Preguntar qui l'ha escollida i quines conductes deixa invisibles és més útil que discutir si la tecnologia és bona o dolenta en abstracte.

Un algoritme no decideix per naturalesa què és un bon treballador. L'organització escull un objectiu —més lliuraments, menys espera, menys absències— i selecciona dades que el representen.

També hi ha decisions en el disseny del procés. Algú fixa el llindar, determina quant dura una puntuació, decideix si una recomanació necessita confirmació i estableix qui pot corregir una dada. El proveïdor construeix una eina; l'empresa escull on l'utilitza i quines conseqüències produeix. Un supervisor pot prémer «acceptar», però si només veu un número, disposa de segons i serà qüestionat quan discrepi, la seva intervenció no és una revisió real. L'autoritat queda distribuïda entre codi, polítiques, comandaments i contractes, però la responsabilitat no es pot evaporar entre ells.

Aquesta mirada evita atribuir voluntat al programa. Dir «l'algoritme m'odia» expressa frustració, però dificulta trobar una solució. Convé traduir-ho a fets: quina dada va entrar, quina regla es va aplicar, quin resultat va aparèixer, qui va actuar i quin perjudici en va seguir. Potser una absència justificada figura com una falta; potser el sistema compara tasques diferents; potser una regla aparentment neutral castiga més qui necessita una adaptació. Separar entrada, inferència i conseqüència permet demanar una correcció concreta i conservar allò que sí que funciona.

Cinc preguntes que tornen la decisió al món humà#

La primera pregunta és «per a què s'utilitza?». No n'hi ha prou amb respondre «per millorar l'eficiència». Cal anomenar la decisió: filtrar currículums, repartir rutes, preveure demanda, calcular una prima o assenyalar rendiment anòmal. La segona és «quina informació utilitza i d'on prové?». Inclou dades introduïdes per la persona, registres del dispositiu, avaluacions prèvies i inferències. La tercera és «quina conseqüència pot tenir?». Una recomanació que només ajuda a ordenar feina no equival a una puntuació que redueix hores o provoca un acomiadament.

La quarta pregunta és «qui pot revisar-la i canviar-la?». Ha d'existir una persona identificable amb accés al context, temps suficient i autoritat efectiva. La cinquena és «com es reclama sense patir represàlies?». Un correu que ningú respon o un formulari que torna al mateix càlcul no constitueixen una via de recurs. Cal conèixer el termini, el responsable i el resultat possible. Aquestes preguntes serveixen en una entrevista, una reunió d'equip o una conversa amb la representació laboral; no exigeixen revelar codi font ni dominar estadística.

A Espanya, la representació legal de les persones treballadores té dret a ser informada sobre els paràmetres, les regles i les instruccions en què es basen algoritmes o sistemes d'intel·ligència artificial que incideixen en condicions de treball, accés o manteniment de l'ocupació, inclosa l'elaboració de perfils. La reforma es pot consultar al text oficial del BOE. Aquest dret no resol automàticament cada cas, però demostra que «ho decideix el sistema» no tanca la conversa. L'empresa ha de poder explicar el seu procés i dialogar sobre efectes col·lectius.

Com documentar un cas sense convertir-se en especialista#

Quan una decisió sembla injusta, convé construir una cronologia breu. Data de la comunicació, captura del resultat, torn o tasca afectada, explicació rebuda i dada que podria ser errònia. Cal conservar el contracte, les polítiques accessibles i els missatges rellevants, sense endur-se informació confidencial aliena. Després es formula una petició concreta: corregir un registre, conèixer el criteri rellevant, obtenir revisió humana, recuperar hores o suspendre una sanció fins que s'aclareixin els fets. Una narració precisa facilita que un delegat sindical, una inspecció o un assessor distingeixi una errada aïllada d'un patró.

El Reglament general de protecció de dades conté garanties davant determinades decisions basades únicament en tractament automatitzat que produeixin efectes jurídics o afectin significativament de manera similar. Segons les circumstàncies, poden incloure intervenció humana, expressar el propi punt de vista i impugnar la decisió. El text oficial del RGPD és a EUR-Lex. No tota recomanació algorítmica entra automàticament en l'article 22: importen el grau d'automatització i l'efecte. Per això convé descriure fets i demanar orientació professional en casos greus, en lloc de prometre una resposta legal universal.

Una revisió humana significativa ha de poder canviar alguna cosa. El revisor necessita veure dades i motius rellevants, escoltar la persona afectada i deixar constància del que ha comprovat. Si només confirma que el programa ha funcionat tècnicament, no examina si el resultat és correcte o proporcionat. Tampoc no s'ha de penalitzar qui reclama. L'organització pot aprendre agrupant incidències: cinc errors semblants poden revelar un sensor defectuós, una categoria mal definida o una regla que perjudica sistemàticament un torn.

Què ha de comprovar una empresa abans de desplegar#

Un equip responsable pot elaborar un mapa d'una pàgina. Per a cada ús anota finalitat, persones afectades, dades, benefici esperat, pitjor dany plausible, manera de detectar-lo, responsable i condició d'aturada. Després prova casos habituals i casos límit: connexió inestable, discapacitat, embaràs, canvi de nom, pausa autoritzada, tasca cooperativa o idioma diferent. L'objectiu no és endevinar tota la realitat, sinó buscar deliberadament on una regla uniforme perd context i produeix un cost desigual.

També necessita una línia vermella. Un sistema pot proposar un horari, però no publicar-lo sense comprovar descansos, disponibilitat pactada i necessitats protegides. Pot assenyalar una variació, però no convertir-la directament en sanció. Pot ordenar candidatures, però no descartar silenciosament trajectòries atípiques. Com més gran sigui l'efecte sobre salari, salut o continuïtat laboral, més fortes han de ser la supervisió, la prova i la possibilitat d'aturar. L'aprovació ha de caducar quan canvia el model, el propòsit o la població sobre la qual s'utilitza.

El Reglament europeu d'intel·ligència artificial considera d'alt risc determinats usos en ocupació, com contractació i selecció, decisions sobre condicions laborals, promoció o terminació, assignació de tasques basada en trets o comportament i seguiment o avaluació del rendiment. L'abast i les excepcions consten al Reglament (UE) 2024/1689. «Alt risc» no significa que cada ús estigui prohibit, sinó que necessita controls proporcionals, documentació, vigilància i supervisió humana. Les dates i obligacions concretes s'han de revisar en la norma vigent.

L'experiència laboral continua sent coneixement#

Les persones que fan la feina coneixen detalls absents de la base de dades: cooperació informal, ritmes diferents segons el torn, riscos físics, clients complexos i dreceres que mantenen el servei. Incloure-les abans d'implantar l'eina millora tant la justícia com la qualitat. Una prova pilot hauria de mesurar no només rapidesa o cost, sinó errors, reclamacions, lesions, previsibilitat d'horaris, càrrega mental i temps emprat a alimentar o corregir el sistema. Si la suposada eficiència desplaça feina invisible a la plantilla, el balanç és incomplet.

La recerca conjunta de l'Organització Internacional del Treball i el Centre Comú de Recerca de la Comissió Europea ha estudiat pràctiques de gestió algorítmica en llocs de treball ordinaris i mostra que poden coexistir guanys operatius amb vigilància invasiva i deteriorament de la qualitat laboral. L'informe es pot consultar al repositori oficial de l'OIT. La lliçó no és rebutjar tota eina, sinó avaluar qui obté el benefici, qui assumeix el risc i quina capacitat real existeix per negociar-ne el disseny.

Per a una família, acompanyar un fill o una filla jove no significa dirigir el seu conflicte. Pot ajudar a ordenar dates, llegir comunicacions, separar sospites de fets i decidir quina solució demana. També convé atendre la salut: sentir que cada moviment es puntua pot generar ansietat, accelerar ritmes i dificultar el descans. Símptomes persistents, una sanció seriosa o risc d'acomiadament justifiquen buscar suport sindical, jurídic o sanitari adequat. La prudència consisteix a no minimitzar el dany ni anunciar certeses que encara no estan comprovades.

Un acord mínim perquè l'eina sigui governable#

Abans d'acceptar un sistema convé pactar propòsit limitat, inventari de dades, proves de precisió i desigualtat, consulta prèvia, formació, revisió humana, canal de correcció, auditories periòdiques, termini d'esborrat, registre de canvis i mecanisme de suspensió. Cada tasca ha de tenir un responsable nomenat. El proveïdor ha d'oferir informació suficient; el secret comercial no pot impedir que l'empresa conegui variables, limitacions i condicions de fallada d'una eina que utilitza per decidir sobre persones.

Pensar en el sistema com una part del cap és una idea útil perquè fa visible una autoritat que altrament sembla natural. Permet preguntar qui va fixar la meta, qui pot discrepar i qui repara. El programa pot calcular una ruta o detectar un patró, però no estableix tot sol quin tracte és digne ni quin risc resulta acceptable. Aquestes continuen sent decisions humanes, col·lectives i revisables. Quan una organització pot explicar-les, provar-les i corregir-les, la tecnologia es converteix en eina; quan ningú respon, es converteix en poder sense rostre.