Una decisió automàtica pot semblar neutral perquè arriba en forma de puntuació, semàfor o correu generat per una plataforma. Però darrere sempre hi ha eleccions humanes: quines dades compten, quin objectiu s’optimitza, quant error s’accepta i qui en suporta les conseqüències. Quan el sistema filtra candidatures, reparteix torns, mesura productivitat o proposa un acomiadament, el repte no és només millorar l’algoritme. És conservar un espai real per escoltar el context, corregir una injustícia i assumir responsabilitats. Per a una persona jove que entra al mercat laboral, conèixer aquest costat humà és una eina de protecció i una manera de participar amb criteri.

La decisió mai no és només de la màquina#

Imaginem la Júlia, que demana la seva primera feina en un supermercat. Compleix els requisits, però una eina descarta la candidatura en segons. Ningú no li explica si hi ha influït una paraula del currículum, un període sense feina, el codi postal o una prova de personalitat. Dir que «ho ha decidit el sistema» esborra les persones que van escollir comprar-lo, configurar-lo i utilitzar-ne el resultat. Una organització continua sent responsable encara que contracti tecnologia externa. Ha de saber per a què serveix, comprovar si discrimina i definir qui pot corregir-la. La interfície no pot ser un amagatall institucional: una pantalla no signa contractes, no dirigeix equips ni respon davant d’una persona perjudicada.

Imaginem la Júlia, que demana la seva primera feina en un supermercat. Compleix els requisits, però una eina descarta la candidatura en segons.

Automatitzar tampoc significa sempre decidir sense persones. Hi ha eines que ordenen informació, alerten d’anomalies o ofereixen una recomanació. El risc apareix quan la recomanació es converteix en una ordre de fet. Si un responsable accepta sempre la puntuació perquè només té vint segons, la revisió humana és decorativa. Una intervenció autèntica exigeix temps, autoritat, informació entenedora i possibilitat d’apartar-se del resultat sense penalització. Cal preguntar: qui revisa?, quina evidència diferent pot consultar?, pot parlar amb la persona afectada?, queda registrada la raó de canviar o confirmar la proposta? Sense respostes, el botó «validar» només maquilla una decisió automàtica.

En quins moments pot decidir un sistema#

La selecció és l’exemple més visible, però no l’únic. Un programa pot decidir quin anunci veu cada candidat, extreure trets d’un currículum, puntuar una entrevista gravada o predir qui marxarà aviat. Dins l’empresa pot assignar torns, rutes i tasques; fixar objectius; comparar temps; detectar suposades conductes anòmales; calcular incentius; recomanar formació, promoció o sanció. En plataformes de repartiment o transport, una qualificació pot reduir encàrrecs o bloquejar un compte. Cada ús afecta de manera diferent la igualtat, el salari, la salut i la reputació. Per això no n’hi ha prou amb una autorització general per «utilitzar IA»: cada finalitat necessita una anàlisi i uns límits propis.

La primera pregunta pràctica és si la dada té relació legítima amb la feina. Haver atès bé un client pot ser rellevant; dormir poc una nit, viure lluny o cuidar un familiar potser no. Les dades històriques tampoc són veritat neutral. Si durant anys es va promocionar menys les dones o es van assignar pitjors torns a qui tenia responsabilitats familiars, un model entrenat amb aquests registres pot aprendre la desigualtat com si fos èxit empresarial. Eliminar el sexe no resol el problema quan altres variables actuen com a substituts. La prova seriosa compara resultats entre grups, investiga diferències i modifica o retira el sistema quan el dany no es pot justificar.

També importa la qualitat quotidiana. Un lector de credencials falla, el GPS perd senyal, una càmera no reconeix un equip protector o un client puntua malament per prejudici. Si aquests fets alimenten automàticament una avaluació, l’error petit s’acumula fins a semblar un patró. La persona ha de poder aportar una explicació: hi va haver una avaria, va canviar la ruta per seguretat, va ajudar un company o l’encàrrec estava mal mesurat. Un bon procés conserva dades de context i permet rectificar-les abans d’una mesura perjudicial. No exigeix al treballador demostrar que una caixa negra s’equivoca; obliga l’empresa a justificar que la informació és adequada i la conclusió raonable.

Què significa conservar el costat humà#

La humanitat no consisteix a afegir un missatge amable al rebuig. Significa tractar la persona com a subjecte amb veu, no com una fila d’una taula. Abans d’una decisió important hauria de saber què s’avalua, amb quina finalitat i quines conseqüències pot tenir. Després hauria de rebre una explicació útil: els factors principals, les dades rellevants i el camí per corregir-les. No necessita tot el codi font per entendre que el seu torn s’ha reduït per una taxa d’acceptació calculada amb comandes que mai no van arribar al telèfon. Una explicació que només diu «el perfil no arriba al llindar» no permet aprendre, respondre ni detectar una errada.

La revisió humana s’ha de situar abans que el dany sigui irreversible. Si es bloqueja un compte i l’apel·lació tarda dos mesos, guanyar finalment la reclamació no paga el lloguer perdut. Per a decisions que afecten ingressos, continuïtat o salut calen terminis breus, una via accessible i, quan sigui possible, suspensió de la mesura mentre es revisa. La persona revisora ha de ser diferent de qui va dissenyar l’objectiu i tenir capacitat per restaurar torns, corregir salaris o retirar una sanció. També ha d’escoltar sense convertir l’apel·lació en una prova impossible. La pregunta no és només «ha fallat el model?», sinó «és justa aquesta decisió concreta amb tota la informació disponible?».

Hi ha decisions que no s’haurien de delegar. Una màquina pot ajudar a localitzar incoherències, però acomiadar, sancionar, negar una adaptació per discapacitat o qualificar el potencial d’algú exigeix una prudència especial. El Reglament europeu d’intel·ligència artificial considera d’alt risc diversos sistemes utilitzats en ocupació i gestió laboral. No vol dir que tot ús estigui prohibit, sinó que exigeix gestió de riscos, qualitat de dades, documentació, supervisió humana i altres controls. La norma completa és a EUR-Lex: Reglament (UE) 2024/1689. L’obligació pràctica és anticipar danys, no esperar que centenars de persones reclamin.

Drets que converteixen una queixa en una resposta#

La protecció de dades aporta regles essencials quan s’utilitzen dades personals per perfilar o decidir. El Reglament general de protecció de dades estableix principis de licitud, transparència, minimització, exactitud i limitació de finalitat, i regula determinades decisions basades únicament en tractament automatitzat amb efectes jurídics o semblants de significatius. El text oficial és a EUR-Lex: Reglament (UE) 2016/679. No tota puntuació activa exactament el mateix dret, però cap empresa hauria d’interpretar aquesta discussió tècnica com un permís per ocultar el funcionament. Informació clara, accés a les dades, rectificació i avaluació de l’impacte són controls bàsics.

A Espanya existeix també una dimensió col·lectiva. La representació legal de les persones treballadores té dret a rebre informació sobre els paràmetres, les regles i les instruccions en què es basen els algoritmes o sistemes d’intel·ligència artificial que incideixen en decisions capaces d’afectar les condicions de treball, l’accés o el manteniment de l’ocupació. El text consolidat de l’Estatut dels treballadors es pot consultar al Butlletí Oficial de l’Estat. Aquesta informació permet detectar un problema que una reclamació individual no veu: per exemple, que un criteri redueix sistemàticament hores a un grup o castiga pauses necessàries per treballar amb seguretat.

Per reclamar convé documentar fets, no intentar endevinar l’algoritme. Guarda anuncis, condicions, missatges, captures, horaris, puntuacions i canvis observables. Anota dates i conseqüències: «el 4 de maig el meu indicador va baixar després de rebutjar un torn incompatible amb el descans; des d’aleshores he rebut sis hores menys». Demana per escrit les dades utilitzades, la lògica o els factors rellevants, qui va prendre la decisió i com sol·licitar revisió humana. Corregeix dades inexactes i formula una petició concreta: restaurar l’accés, recalcular una puntuació, revisar una sanció o explicar una diferència salarial. Si hi ha comitè d’empresa, delegat sindical, canal de protecció de dades o inspecció laboral, el seu suport pot convertir un cas aïllat en una revisió estructural.

Una conversa familiar per a la primera feina#

Mares i pares poden ajudar sense vigilar ni substituir el jove. Abans de signar, convé llegir plegats quines aplicacions seran obligatòries, quins permisos demanen i si utilitzen localització fora de jornada. Preguntes senzilles revelen molt: com es corregeix un fitxatge erroni?, qui decideix els torns?, una mala valoració del client pot bloquejar el compte?, hi ha telèfon o només formulari?, es pot parlar amb una persona? L’objectiu no és espantar, sinó normalitzar que demanar claredat és professional. Una feina digitalitzada continua sent una relació laboral; acceptar una aplicació no equival a renunciar a la privacitat, al descans ni a una explicació.

Durant les primeres setmanes ajuda portar un registre privat i proporcionat d’horaris, tasques assignades i comunicacions rellevants. No cal gravar-ho tot ni conservar dades de clients. N’hi ha prou amb anotar diferències que després serien difícils de reconstruir. Si l’aplicació ordena treballar de manera insegura, la prioritat és aturar-se i seguir els canals de prevenció, no obeir per protegir una mètrica. Si apareixen ansietat constant, por de desconnectar, competència destructiva o canvis imprevisibles d’ingressos, no s’ha d’atribuir automàticament a falta d’adaptació personal. Pot existir un problema de disseny del treball que necessita conversa col·lectiva i suport professional.

Una bona frase per iniciar la conversa és: «No vull resoldre-ho per tu; vull ajudar-te a ordenar què ha passat». Després es poden separar quatre capes: el fet verificable, la interpretació del sistema, la conseqüència i la petició. Per exemple: el GPS va registrar una parada; el sistema la va anomenar inactivitat; es va perdre un incentiu; es demana revisar el trajecte i la incidència. Aquesta estructura evita discussions abstractes sobre si la IA és bona o dolenta. També protegeix l’autonomia del jove: ell decideix a qui acudir i quina documentació compartir, tret que hi hagi un risc immediat per a la seva seguretat o una vulneració greu que requereixi ajuda urgent.

Com hauria de comprar i governar tecnologia una empresa#

Una organització responsable comença definint el problema sense anomenar cap eina. Si vol reduir la rotació, ha d’investigar salaris, horaris, comandaments i aprenentatge abans de comprar un predictor d’abandonament. Després concreta quina decisió donarà suport, quines dades queden excloses, quin nivell d’error és tolerable i quins grups podrien resultar perjudicats. La prova pilot ha d’incloure treballadors i representants, mesurar falsos positius i falsos negatius i comparar amb una alternativa menys invasiva. El proveïdor ha d’explicar limitacions, canvis de versió, seguretat, subcontractistes i possibilitats d’auditoria. «El model és propietari» no pot impedir que l’ocupador compleixi les seves obligacions.

El control continua després de l’estrena. Cal vigilar resultats per centre, torn, modalitat contractual i altres grups pertinents; investigar queixes; registrar anul·lacions humanes; revisar si les mètriques creen dreceres perilloses; i fixar una data de retirada. Un sistema pot funcionar en una prova i deteriorar-se quan canvien la plantilla, la demanda o les condicions. També pot produir el resultat previst i continuar sent indesitjable: augmentar velocitat a costa de lesions no és èxit. El quadre de comandament ha d’incloure qualitat, seguretat, igualtat, estabilitat i experiència de les persones que treballen. Si només mesura producció, optimitzarà l’únic que sap veure.

La participació millora tant la justícia com la precisió. Qui fa una tasca coneix excepcions invisibles per al dissenyador: una adreça inaccessible, una conversa que evita una devolució o una pausa necessària per netejar una màquina. Incorporar aquest coneixement no és demanar una aprovació simbòlica al final, sinó intervenir en definir objectius, provar dades i dissenyar reclamacions. Hi ha d’haver una opció real d’aturar el desplegament. A més, formar comandaments i revisors és decisiu: han de reconèixer el biaix d’automatització, demanar evidència addicional i explicar per què confirmen o corregeixen una recomanació. L’última signatura humana només val si va acompanyada de judici independent.

Una prova senzilla abans d’acceptar el resultat#

Davant qualsevol decisió automàtica important, aplica cinc preguntes. Primera: quina decisió concreta es pren i qui en respon? Segona: quines dades s’han utilitzat i són exactes, pertinents i actuals? Tercera: quin dany produiria un error i es pot suspendre mentre es revisa? Quarta: la persona revisora coneix el context i té autoritat per canviar el resultat? Cinquena: es comprova l’impacte col·lectiu, a més del cas individual? Si falta una resposta, el procés no és madur. La solució pot ser millorar informació, retirar una variable, ampliar el termini, crear una segona revisió o deixar d’utilitzar el sistema en aquella decisió.

El costat humà no és nostàlgia per una feina sense tecnologia. Les decisions exclusivament humanes també poden ser arbitràries, opaques i discriminatòries. Una eina ben limitada pot fer visibles incoherències, repartir càrregues millor o recordar controls abans oblidats. La diferència és com es governa: propòsit legítim, dades adequades, participació, explicació, revisió efectiva i reparació. Per a qui comença a treballar, aprendre a formular preguntes i conservar proves és tan important com dominar una aplicació. Per a l’empresa, escoltar una impugnació no és un obstacle a la innovació: és informació essencial per saber si el seu sistema mereix continuar decidint.