Quan una aplicació decideix qui serà entrevistat, quin torn rep cada persona, quant ha de durar una tasca o qui mereix una advertència, no som davant d’una simple millora informàtica. Estem decidint com es reparteix el poder dins la feina. Per a una família amb fills que comencen la vida laboral, la pregunta important no és si la intel·ligència artificial crearà o destruirà ocupació, sinó quines condicions trobaran: quines dades serviran per jutjar-los, qui escoltarà la seva versió i com podran impugnar un error.

Els titulars acostumen a reduir el debat a una xifra neta de llocs. Aquest compte importa, però deixa fora la intensitat, l’autonomia, el salari, la seguretat, l’aprenentatge i la possibilitat d’organitzar-se amb altres persones. Un magatzem pot conservar tota la plantilla i empitjorar la feina si un sistema augmenta el ritme cada setmana sense considerar avaries, experiència o fatiga. També pot millorar una tasca si distribueix càrregues amb límits clars i participació de qui la fa. La tecnologia no determina sola el resultat: ho fan el disseny, les regles i la capacitat real de qüestionar-les.

Com reconèixer que un sistema exerceix de cap#

La gestió algorítmica no sempre porta l’etiqueta d’intel·ligència artificial. Pot ser un programa de quadrants, una puntuació de productivitat, un filtre de currículums, una càmera amb analítica o una aplicació que assigna repartiments. L’Organització Internacional del Treball la descriu com l’ús de procediments programats per coordinar, assignar, vigilar o avaluar la feina. El seu portal sobre gestió algorítmica al lloc de treball ajuda a identificar-la tant en plataformes digitals com en empreses convencionals. Si la sortida influeix a contractar, pagar, sancionar, promocionar o acomiadar, participa en una decisió laboral rellevant.

La gestió algorítmica no sempre porta l’etiqueta d’intel·ligència artificial. Pot ser un programa de quadrants, una puntuació de productivitat, un filtre de currículums, una càmera amb analítica o una aplicació que assigna repartiments.

Convé dibuixar el recorregut complet. Quines dades entren: vendes, ubicació, pulsacions, trucades, absències o valoracions de clients? Què transforma el programa: una predicció, una classificació o un objectiu? Qui rep el resultat i què en fa? La frase «només recomana» pot amagar molt. Si el supervisor no té temps, informació o permís per apartar-se de la recomanació, la decisió és automàtica a la pràctica. La supervisió humana no consisteix que algú premi acceptar; exigeix entendre els límits, contrastar el context i poder dir que no sense penalització.

Una puntuació mai no és la persona sencera#

Els indicadors seleccionen una part de la realitat. Comptar paquets per hora pot ignorar productes fràgils, l’ajuda a un company nou o una màquina espatllada. Mesurar minuts de trucada pot castigar qui resol casos difícils. Fer servir l’acceptació de torns com a senyal de compromís perjudica qui cuida un familiar. Fins i tot una dada exacta pot sostenir una conclusió injusta si falta context. Abans d’acceptar una mètrica cal preguntar quina conducta incentiva, quina feina valuosa fa invisible i qui té més probabilitats d’aparèixer com a excepció.

També hi ha dades derivades: etiquetes com «risc d’abandonament», «baix potencial» o «probabilitat d’absència». No són fets observats, sinó inferències. Poden alimentar-se d’historials que reflecteixen discriminació prèvia o de variables que actuen com a substituts d’edat, origen, discapacitat o situació familiar. Auditar la mitjana no basta: cal comparar falsos positius i negatius entre grups, revisar casos concrets i comprovar si l’error s’acumula. Una classificació errònia pot negar formació; aquesta manca de formació empitjora després la puntuació i crea un cercle que sembla confirmar la primera predicció.

Quins drets i regles aporta el marc europeu#

El Reglament general de protecció de dades estableix a l’article 22 protecció davant determinades decisions basades únicament en tractament automatitzat que produeixen efectes jurídics o afecten de manera similar i significativa. Segons el cas i la base jurídica, hi ha d’haver salvaguardes com la intervenció humana, la possibilitat d’expressar el punt de vista i d’impugnar. No significa que qualsevol càlcul estigui prohibit ni que totes les situacions tinguin el mateix remei. Sí que impedeix tractar una decisió important com una caixa tancada davant la qual només es pot obeir.

El Reglament europeu d’intel·ligència artificial inclou al seu annex III determinats sistemes emprats per a contractació, selecció, decisions sobre condicions laborals, promoció, finalització, assignació de tasques basada en trets o conducta, i seguiment o avaluació del rendiment. El text oficial és a EUR-Lex. La classificació i les obligacions depenen de l’ús concret i del calendari d’aplicació, de manera que aquest article no substitueix assessorament jurídic. La lliçó pràctica és estable: documentar finalitat, dades, responsables, revisió humana, riscos i canal de reclamació abans del desplegament.

La salut laboral també està en joc#

Un sistema pot optimitzar cada minut i destruir els marges que permeten recuperar-se, aprendre o ajudar. Quan el ritme s’actualitza des dels resultats de qui va més ràpid, la referència pot pujar sense una avaluació ergonòmica. Quan una aplicació canvia torns amb poca antelació, trasllada la incertesa a les famílies. L’Agència Europea per a la Seguretat i la Salut en el Treball adverteix, a la seva fitxa sobre gestió de treballadors mitjançant IA i algoritmes, de possibles efectes sobre autonomia, càrrega, estrès i privacitat, i defensa participació i prevenció.

L’avaluació de riscos ha d’observar la feina real, no només el funcionament tècnic. Cal registrar pics de càrrega, pauses omeses, canvis de torn, lesions, conflictes, por de desconnectar i temps dedicat a corregir el sistema. Ha d’incloure temporals, subcontractats, teletreballadors i persones amb discapacitat, perquè sovint viuen recorreguts diferents. Una reducció d’accidents pot ser positiva, però no justifica vigilància il·limitada. La pregunta correcta és quina dada és necessària per prevenir un risc, quant temps es conserva i si hi ha una alternativa menys intrusiva amb la mateixa finalitat.

Un cas quotidià: l’advertència que ningú sap explicar#

Imaginem que una jove rep una advertència per «baixa fiabilitat». El responsable veu una puntuació, però no els factors. La treballadora recorda dos retards causats per una avaria i diversos canvis de torn rebutjats per cuidar el germà. Una resposta justa comença suspenent qualsevol conseqüència, conservant l’evidència i nomenant una persona amb autoritat per revisar. Després es comproven dades, períodes, comparadors i regles; s’escolta el context; es corregeix la decisió i, si l’error es pot repetir, es revisen els altres casos afectats.

Una explicació útil no necessita revelar codi protegit, però sí permetre entendre i discutir la decisió: finalitat, dades rellevants, període avaluat, pes aproximat dels factors, conseqüència prevista, responsable i termini de recurs. «Ho diu l’algoritme» no és una explicació. Tampoc no serveix remetre a un proveïdor sense poder resolutiu. Si l’empresa no pot reconstruir per què es va produir una advertència, no l’hauria d’utilitzar per sancionar. Registrar les anul·lacions humanes ajuda a detectar regles defectuoses; les discrepàncies són informació per governar el sistema.

Preguntes que un jove pot fer abans d’acceptar#

En una entrevista o incorporació potser no és possible negociar-ho tot, però sí observar. Es fa servir una prova automàtica per seleccionar? Hi ha videovigilància o seguiment d’ubicació? Com es fixen objectius i torns? Una persona pot revisar una puntuació? Hi ha comitè d’empresa, delegat sindical, responsable de protecció de dades o canal de prevenció? Una resposta clara, proporcionada i escrita inspira més confiança que una promesa d’objectivitat. L’absència total d’informació, la pressió per consentir o l’obligació d’instal·lar una aplicació personal són senyals per demanar assessorament.

Les famílies poden assajar aquestes preguntes sense parlar pel jove ni alimentar pànic. Convé guardar oferta, contracte, polítiques, missatges d’horaris i comunicacions sobre avaluacions. Si apareix un problema, una cronologia breu ajuda més que cent captures desordenades: data, decisió, explicació demanada, resposta i efecte concret. No s’han d’extreure secrets ni vulnerar sistemes; es documenta l’experiència pròpia. Segons l’assumpte, poden orientar la representació laboral, la inspecció, el servei de prevenció, l’autoritat de protecció de dades o un professional. La via adequada depèn del país i del cas.

Com hauria de comprar o implantar una empresa responsable#

Abans del contracte cal definir el problema sense esmentar el producte. Després es comparen alternatives, inclosa la de no automatitzar. El pilot necessita abast, durada, criteris d’èxit i criteris d’aturada. No basta mesurar estalvi: es comparen qualitat, errors, temps total, salut, autonomia, reclamacions i distribució de beneficis. S’ha de provar amb casos difícils i dades incompletes. Si el proveïdor afirma que el model és imparcial, ha d’explicar l’avaluació, la població i les limitacions. Una demostració comercial no substitueix la prova al context on la decisió afectarà persones reals.

El contracte ha de permetre auditoria, registre de canvis, comunicació d’incidents, control de subcontractistes, exportació i esborrament. També necessita una sortida: com tornar al procés anterior sense perdre salaris, torns o expedients. Els representants dels treballadors han de participar abans que el disseny estigui tancat, no quan només queda aprendre la interfície. La recerca internacional sobre logística i sanitat mostra que aquestes pràctiques ja existeixen en llocs ordinaris i que s’han d’avaluar amb l’organització, la qualitat de l’ocupació i les relacions laborals.

Un quadre de comandament que mesuri més que producció#

Cada revisió hauria de respondre cinc preguntes. Compleix el propòsit declarat? Quins grups reben beneficis i costos? Quins errors s’impugnen i quants es corregeixen? Com canvien salut, autonomia i aprenentatge? Continua essent necessària cada dada? Es combinen xifres amb entrevistes confidencials i observació. Una mitjana estable pot amagar un torn esgotat o una categoria sense formació. També cal mesurar la feina afegida: minuts per arreglar horaris, justificar excepcions o alimentar dades. Automatitzar una tasca no estalvia temps si en crea una altra que resta invisible.

Els llindars s’han de fixar abans de veure resultats. Per exemple: cap sanció sense contrast humà; termini màxim per revisar una impugnació; pausa del sistema davant un patró d’errors; revisió trimestral de diferències entre grups; esborrament quan venç la finalitat. Cada control necessita responsable, evidència i autoritat. Un comitè que només recomana mentre un altre departament manté tots els incentius per produir més no governa. Publicar internament decisions, límits i incidències crea memòria i permet aprendre quan canvia el proveïdor, la direcció o el model.

La conversa que sí que mereix un titular#

Preguntar quants llocs desapareixeran és atractiu perquè produeix una xifra. Governar la feina exigeix preguntes més incòmodes: qui captura el guany de productivitat, qui suporta la incertesa, quines capacitats es desenvolupen i qui pot aturar una ordre equivocada. Una eina pot alliberar temps repetitiu i millorar la seguretat si aquest benefici es converteix en formació, descansos o millor servei. També pot intensificar el ritme i afeblir la veu col·lectiva. El resultat s’ha d’avaluar a la nòmina, l’horari, el cos, les oportunitats i la dignitat, no només al balanç agregat.

Per a una família, la conclusió no és ensenyar a desconfiar de tota tecnologia, sinó preparar els joves per reconèixer quan una mesura requereix explicació. Per a una empresa, no és renunciar a innovar, sinó assumir que dirigir mitjançant dades continua sent dirigir i conserva responsabilitats. Per a la societat, significa no confondre ocupació amb bona ocupació. Quan un sistema decideix, algú ha triat el seu objectiu, les dades i els límits. Nomenar aquesta persona, escoltar qui viu la conseqüència i mantenir una sortida real és la discussió que falta a massa titulars.