El mite que més enterboleix el debat sobre algoritmes laborals diu així: «si decideix una màquina, desapareixen els prejudicis humans». Sona tranquil·litzador perquè presenta el sistema com una balança neutral, però confon càlcul amb justícia. Un programa pot aplicar una regla de manera constant i, tanmateix, heretar dades injustes, mesurar un substitut equivocat o imposar prioritats que ningú no ha debatut. Entendre aquesta diferència ajuda joves, famílies i equips a preguntar amb precisió, sense caure ni en la por tecnològica ni en l'obediència cega.

Imaginem en Diego, de vint-i-dos anys, que sol·licita una feina de magatzem. Completa un vídeo breu i rep un rebuig automàtic pocs minuts després. L'empresa assegura que el procés és objectiu perquè tothom passa per la mateixa eina. Però igualtat de procediment no significa igualtat d'oportunitat: potser el model va aprendre de contractacions antigues, penalitza una pausa relacionada amb una discapacitat o interpreta una connexió deficient com a falta d'interès. La qüestió important no és si hi havia una persona enfadada darrere del rebuig, sinó quins criteris van produir el resultat i si es poden justificar.

El mite neix d'una veritat incompleta#

Els ordinadors sí que poden evitar algunes inconsistències. No arriben cansats a l'entrevista, no canvien d'humor entre la primera candidatura i l'última i poden comprovar milers de registres seguint les mateixes instruccions. Aquesta regularitat és valuosa. L'error apareix quan se'n dedueix que una regla constant és necessàriament una regla justa. Un límit de disponibilitat nocturna s'aplica igual a tothom, però pot excloure desproporcionadament qui cuida, estudia o depèn del transport públic, encara que la nit no sigui essencial per al lloc.

Els ordinadors sí que poden evitar algunes inconsistències. No arriben cansats a l'entrevista, no canvien d'humor entre la primera candidatura i l'última i poden comprovar milers de registres seguint les mateixes instruccions.

Tampoc no existeix una dada totalment bruta. Algú decideix què recollir, com classificar-ho, quant de temps conservar-ho i quines absències compten com a manca de rendiment. Fins i tot una variable aparentment senzilla, com paquets per hora, depèn de la zona assignada, el pes, les incidències, l'estat de la maquinària i l'ajuda prestada a companys. Quan el sistema converteix aquest número en una puntuació individual, encongeix una realitat col·lectiva. La precisió matemàtica del càlcul no repara la pobresa de la pregunta.

El model, a més, acostuma a aprendre del passat. Si les promocions històriques van afavorir persones disponibles fora d'horari, un sistema pot descobrir que aquesta disponibilitat prediu ascensos sense entendre que reflecteix una cultura concreta. Si una paraula del currículum es relaciona estadísticament amb candidats rebutjats, pot utilitzar-la com a senyal encara que no tingui relació causal amb la competència. Treure noms o sexe no garanteix neutralitat: codi postal, pauses professionals, centre educatiu o patrons lingüístics poden funcionar com a substituts.

Objectivitat no és el mateix que absència d'intenció#

Una discriminació algorítmica no necessita que un programador vulgui perjudicar. Pot sorgir d'objectius mal definits, mostres incompletes o impactes desiguals. Per això discutir només si hi va haver mala fe ens distreu. En una auditoria responsable s'observen resultats: qui queda fora, amb quina freqüència, en quines condicions i amb quina possibilitat de correcció. També s'examina la necessitat: si una variable no és imprescindible per fer la feina, la seva capacitat predictiva per si sola no basta per justificar-la.

La paraula «intel·ligència» afegeix una altra confusió. Aquests sistemes no comprenen una trajectòria vital com ho faria algú que escolta. Detecten patrons i produeixen classificacions, prediccions o recomanacions. Una puntuació de risc no és una propietat de la persona; és el resultat d'un model, unes dades, un llindar i un moment. Pot canviar si canvia qualsevol d'aquests elements. Presentar-la com una veritat descoberta converteix una eina probabilística en una etiqueta moral.

També importa qui formula l'objectiu. Optimitzar retenció pot semblar favorable, però si el model busca perfils semblants als que van romandre anys en una empresa hostil, pot excloure persones que haurien prosperat amb millors condicions. Optimitzar rapidesa pot empènyer a saltar-se pauses. Reduir absentisme pot penalitzar drets de salut. Abans de valorar l'algoritme, cal escriure en llenguatge corrent quina conducta premia, quin dany podria causar i qui rep el benefici.

Una prova senzilla per desmuntar la falsa neutralitat#

Una família pot ensenyar a un jove a fer cinc preguntes. Primera: quina decisió canvia realment, una entrevista, un torn, una prima o la continuïtat? Segona: quines dades alimenten el sistema i d'on surten? Tercera: què representa la puntuació i què no pot representar? Quarta: quins errors s'han provat en grups diferents? Cinquena: quina persona pot revisar i modificar el resultat? Si l'organització només respon «és el nostre algoritme», encara no ha explicat la decisió.

A la feina convé convertir aquestes preguntes en una fitxa. S'hi anoten la finalitat declarada, població afectada, variables principals, moment d'ús, llindar, conseqüència i responsable humà. Després s'assagen casos límit: discapacitat, embaràs, baixa mèdica, nom canviat, accent, dispositiu antic, connexió inestable, ocupació discontínua o responsabilitats de cura. No es busca demostrar per endavant que el sistema falla; s'intenta saber on pot fallar abans que el dany recaigui sobre algú.

La comparació ha d'incloure una alternativa. Preguntar si una eina té un 90 % d'encert no diu si millora el procés anterior, si el deu per cent d'errors es concentra en un grup ni si l'error és reversible. Rebutjar per equivocació una candidatura i mostrar-li un altre anunci no equival a acomiadar algú per una alerta defectuosa. Com més greu i irreversible sigui la conseqüència, més evidència, supervisió i capacitat de suspensió calen.

Què diuen les normes i què no poden decidir per nosaltres#

El Reglament europeu d'intel·ligència artificial classifica com d'alt risc certs sistemes utilitzats per a contractació, selecció, condicions laborals, promoció, acomiadament, assignació de tasques i avaluació del rendiment. El text oficial es pot consultar a EUR-Lex, Reglament (UE) 2024/1689. La classificació no prova que tot ús sigui injust, però reconeix que aquestes eines poden afectar intensament el sosteniment vital i exigeix gestió de riscos, documentació, qualitat de dades, supervisió humana i vigilància durant el funcionament.

A Espanya, la representació legal de les persones treballadores té dret a rebre informació sobre paràmetres, regles i instruccions d'algoritmes o sistemes d'intel·ligència artificial que incideixin en condicions laborals, accés i manteniment de l'ocupació, inclosa l'elaboració de perfils. La modificació està publicada al Butlletí Oficial de l'Estat. Aquest dret no converteix automàticament cada sistema en comprensible, però impedeix tractar-ne el funcionament com un assumpte exclusivament privat entre empresa i proveïdor.

L'article 22 del Reglament general de protecció de dades aborda determinades decisions basades únicament en tractament automatitzat que produeixen efectes jurídics o afecten significativament d'una manera semblant. Inclou salvaguardes en els casos aplicables, com intervenció humana, expressar el propi punt de vista i impugnar la decisió. Convé llegir el text oficial del RGPD i evitar promeses universals: no tota eina laboral hi encaixa de la mateixa manera i els fets concrets importen.

La llei fixa un terra, no respon per si sola quina feina volem. Un mesurament pot ser legal i alhora deteriorar autonomia, cooperació o salut mental. La recerca conjunta de l'Organització Internacional del Treball i el Centre Comú de Recerca europeu descriu beneficis operatius i, alhora, riscos d'intensificació, vigilància i pèrdua de qualitat laboral en sectors reals. L'informe està disponible al repositori oficial de l'OIT.

Com ha de funcionar una revisió humana de debò#

Posar una persona al final no basta. Si només veu una puntuació, ha de resoldre centenars de casos per hora o tem ser penalitzada per discrepar, la seva intervenció és decorativa. Una revisió real mostra les dades rellevants, explica el criteri, permet escoltar informació contextual i concedeix autoritat per canviar el resultat. A més, deixa registre del que s'ha revisat i de la raó per confirmar o corregir, de manera que els errors repetits alimentin millores del sistema.

El canal de reclamació ha de ser accessible i segur. Una persona jove pot guardar anunci, contracte, política interna, correus, captures i una cronologia de fets. En lloc d'afirmar «la intel·ligència artificial em discrimina», és més útil escriure: el dia concret va canviar el meu torn; el responsable va atribuir el canvi a una puntuació; aquesta puntuació conté dues absències autoritzades; sol·licito rectificació, explicació i revisió per algú amb capacitat de modificar-la. La precisió protegeix millor que una acusació impossible de provar.

L'organització, per part seva, no hauria d'analitzar cada reclamació com una excepció aïllada. Si diverses persones corregeixen la mateixa variable o un grup recorre amb més freqüència, pot existir un problema de disseny. Són indicadors útils el percentatge de decisions modificades, el temps de resposta, els errors per tipus i grup, les queixes, els danys i els canvis posteriors. Auditar no és produir un certificat una vegada; és observar el sistema mentre canvien les dades, l'ocupació i les pràctiques.

Una conversa familiar sense tecnofòbia ni ingenuïtat#

Quan un fill explica que una aplicació li dona torns impossibles o el rebutja, la família pot escoltar abans de concloure. Potser és una decisió automàtica, una regla empresarial implementada en programari o una explicació còmoda de l'encarregat. Se separen fets, missatges rebuts i sospites; després s'identifica quin resultat es busca: informació, corregir una dada, recuperar hores, revisar una sanció o demanar suport. No cal entendre el codi per exigir un procés comprensible.

També convé rebutjar el mite oposat: que tot algoritme és necessàriament perjudicial. Un sistema ben delimitat pot detectar incompatibilitats d'horaris, repartir càrregues amb més transparència o advertir riscos de seguretat. La pregunta no és màquina contra humà. És quina combinació d'eina, regles, participació, evidència i control protegeix millor les persones. Els humans també s'equivoquen i discriminen; automatitzar pot revelar patrons, però només si se'n mesura l'impacte i hi ha voluntat de corregir.

Un acord mínim abans d'implantar hauria de fixar finalitat, dades permeses, usos prohibits, proves abans i després, participació laboral, formació, responsable humà, canal d'impugnació, terminis, eliminació de dades i criteri de suspensió. També ha de preveure canvis: actualitzar el model, ampliar la plantilla o utilitzar-lo per a una altra decisió exigeix una nova avaluació. Un consentiment genèric en entrar a l'empresa no legitima qualsevol vigilància futura ni substitueix obligacions laborals i de protecció de dades.

La frase que millora el debat#

En comptes de preguntar «l'algoritme és objectiu?», convé preguntar «objectiu per a què, mesurat amb quines dades, comparat amb quina alternativa i revisable per qui?». Aquesta frase obliga a concretar. Permet reconèixer avantatges sense esborrar danys, i assenyalar riscos sense convertir la tecnologia en un personatge malvat. Sobretot retorna les decisions al seu lloc: una organització tria finalitats, llindars, conseqüències i salvaguardes, encara que compri el programari fora.

En Diego no necessita demostrar que una màquina va tenir prejudicis. Pot demanar què va avaluar, com va influir, si una persona va revisar el rebuig i com corregir dades o aportar context. L'empresa no necessita prometre perfecció; ha de demostrar que coneix límits, compara resultats, escolta impugnacions i atura usos que fan mal. El mite de la neutralitat empobreix el debat perquè tanca preguntes. Abandonar-lo no significa desconfiar de tota innovació, sinó exigir que el poder de decidir sobre la feina continuï sent explicable, compartit i responsable.