Una empresa pot decidir comprar un programa per seleccionar candidatures, repartir torns o mesurar productivitat. La pregunta difícil comença després: quines decisions sobre la vida laboral és legítim delegar i sota quines condicions? Aquesta resposta no pertany únicament a direcció, informàtica ni al proveïdor del sistema. Afecta el sou, la salut, la intimitat i les oportunitats de persones concretes; per això exigeix la participació de qui suporta el risc, representació laboral i criteris públics que es puguin discutir.

Pensem en la Nora, de vint anys, empleada en una cadena de botigues. Un programa pronostica la demanda i publica els torns amb dos dies d'antelació. Per a l'empresa és eficiència; per a la Nora significa no saber si podrà assistir a classe o cuidar el germà. Quan pregunta, el responsable respon que l'algoritme treballa amb milers de dades i que ningú no pot canviar-lo. El problema no és només tècnic. Algú va decidir que reduir costos pesava més que la previsibilitat de la plantilla, encara que aquesta preferència hagi quedat amagada dins d'una eina.

La decisió invisible que precedeix l'algoritme#

Cap sistema descobreix tot sol què significa fer bé una feina. Abans de calcular, una organització tria un objectiu: vendre més, reduir temps, evitar accidents, cobrir torns o retenir clients. Després escull indicadors que substitueixen parcialment aquest objectiu. Les trucades ateses poden representar servei; els paquets per hora, productivitat; la disponibilitat immediata, compromís. Cada substitució perd context. Una conversa breu pot resoldre un cas complex, una pausa pot prevenir una lesió i qui no respon a la nit pot complir perfectament el contracte. Allò quantificable no és automàticament allò important.

Cap sistema descobreix tot sol què significa fer bé una feina. Abans de calcular, una organització tria un objectiu: vendre més, reduir temps, evitar accidents, cobrir torns o retenir clients.

Per això la pregunta correcta no és si l'algoritme encerta de mitjana. Cal preguntar qui va definir l'èxit, quins errors es consideren acceptables i qui en paga les conseqüències. Un sistema que millora un dos per cent la planificació pot semblar excel·lent en una presentació, però ser injust si concentra els horaris imprevisibles en persones amb responsabilitats de cura. L'empresa coneix l'operació, però no coneix tota sola totes les càrregues que genera. Necessita escoltar experiència laboral situada i admetre que eficiència, dignitat i seguretat poden entrar en tensió.

La gestió algorítmica inclou molt més que una decisió completament automàtica. Pot recomanar qui entrevistar, ordenar una llista que després mira un supervisor, assignar tasques, calcular incentius, detectar suposades anomalies o produir una puntuació de risc. La persona humana que prem acceptar no garanteix una revisió real. Si no té temps, informació, autoritat o voluntat per discrepar, actua com a segell del sistema. Convé observar el procés sencer: dades d'entrada, inferències, recomanació, decisió, possibilitat de reclamar i efectes acumulats.

Quatre veus necessàries abans d'implantar-lo#

La direcció ha d'explicar el problema que vol resoldre i assumir la responsabilitat final. L'equip tècnic ha de descriure límits, dades i condicions en què el model deixa de ser fiable. Les persones treballadores aporten situacions que poques vegades apareixen en una base de dades: tasques informals, barreres d'accessibilitat, cooperació invisible, riscos físics i diferències entre un torn tranquil i un de desbordat. La representació laboral pot detectar efectes col·lectius, comparar departaments i negociar salvaguardes. Quan falta una d'aquestes veus, l'anàlisi queda incompleta encara que el programa sigui sofisticat.

El proveïdor també ha de respondre, però no es pot convertir en coartada. Dir que el model és secret comercial no resol quines variables utilitza l'empresa, com en comprova els resultats o qui atén una impugnació. Tampoc no basta un manual genèric de cent pàgines. La informació útil permet comprendre quina conducta influeix, quines dades són corregibles i quina conseqüència concreta es pot produir. Si l'organització no pot obtenir aquesta explicació del proveïdor, potser no està en condicions d'utilitzar l'eina en decisions importants.

A Espanya, l'article 64.4.d de l'Estatut dels Treballadors reconeix a la representació legal el dret a rebre informació sobre els paràmetres, regles i instruccions d'algoritmes o sistemes d'intel·ligència artificial que incideixen en condicions laborals, accés o manteniment de l'ocupació, inclosa l'elaboració de perfils. Es pot consultar al text publicat pel BOE. No significa que cada persona rebi el codi font, però sí que desmenteix la idea que tot hagi de romandre dins d'una caixa negra inaccessible.

Un mapa de riscos que cap en una reunió#

Abans de posar el sistema en marxa, l'equip pot dibuixar una taula senzilla. En una columna, cada decisió influïda: contractar, avaluar, assignar horaris, fixar objectius, sancionar o acomiadar. En una altra, les persones afectades i els grups que podrien quedar en desavantatge. Després s'hi anoten dades utilitzades, benefici esperat, pitjor dany plausible, manera de detectar-lo i responsable d'aturar el procés. Aquesta pràctica obliga a abandonar frases abstractes com millorar l'eficiència i parlar d'efectes observables.

Cal provar casos normals i casos límit. Què passa amb una persona que utilitza una tecnologia de suport, comparteix dispositiu, té una connexió inestable, canvia de nom, està embarassada, treballa en una llengua diferent o necessita una adaptació? Com interpreta el sistema una baixa mèdica, una pausa autoritzada o una tasca d'ajuda a un company que redueix la producció individual? No es tracta d'imaginar totes les vides possibles, sinó de buscar activament on una regla uniforme pot produir un perjudici desigual.

També s'ha de definir una línia vermella. Un sistema de suport pot proposar horaris, però no publicar-los sense comprovar descansos, disponibilitat acordada i necessitats protegides. Pot assenyalar una variació de rendiment, però no convertir-la directament en sanció. Pot ordenar candidatures per revisar-les, però no esborrar silenciosament qui no segueix una trajectòria típica. Com més gran sigui l'impacte sobre ingressos, continuïtat o salut, més fortes han de ser la supervisió, la documentació i la possibilitat de suspendre l'automatització.

Què pot preguntar una persona jove#

Qui entra a la primera feina no necessita dominar matemàtiques per formular preguntes legítimes. Pot preguntar: s'utilitza algun sistema per avaluar la meva candidatura o el meu rendiment?, quines dades pren?, d'on provenen?, durant quant de temps es conserven?, qui veu la puntuació?, pot afectar els meus torns, salari o continuïtat?, quina persona té autoritat per revisar-la? Convé demanar una resposta per escrit, amb un to serè, i guardar l'anunci, el contracte, les polítiques, les captures i les comunicacions rellevants.

Si apareix una decisió perjudicial, és útil descriure fets, no endevinar intencions. Per exemple: el 4 de maig l'aplicació va canviar tres torns; el responsable va indicar que es devia a una puntuació; la puntuació conté dues absències que estaven autoritzades. Després se sol·licita rectificació de la dada, explicació del criteri i revisió per algú capaç de modificar el resultat. Una cronologia precisa ajuda més que afirmar que l'algoritme m'odia, i permet que representació laboral, sindicat o assessoria valorin el cas.

El Reglament general de protecció de dades preveu a l'article 22 decisions basades únicament en tractament automatitzat que produeixen efectes jurídics o afecten d'una manera semblant i significativa. Inclou salvaguardes en determinats supòsits, com intervenció humana, expressar el punt de vista propi i impugnar la decisió; el text oficial del RGPD és disponible a EUR-Lex. L'aplicació depèn dels fets i no tota recomanació algorítmica hi encaixa automàticament, de manera que davant d'un cas seriós convé acudir a representació laboral o assessorament professional.

La revisió humana ha de poder canviar alguna cosa#

Una revisió digna d'aquest nom identifica una persona responsable, li mostra les dades i la lògica rellevant, li concedeix temps per escoltar qui reclama i li permet alterar el resultat sense ser penalitzada. A més, ha de deixar constància de què ha comprovat i per què ha confirmat o corregit la decisió. Si qui revisa només veu una puntuació, desconeix com es va crear o ha d'acceptar el resultat tret d'un error informàtic, la intervenció humana és decorativa.

La reclamació tampoc no hauria d'empitjorar la situació de qui la presenta. Hi ha d'haver un canal accessible, termini raonable de resposta i protecció davant represàlies. En organitzacions grans convé analitzar reclamacions agregades: deu correccions semblants poden revelar un error de disseny, no deu excepcions. Publicar internament quantes decisions es van revisar, quantes van canviar i quines millores es van adoptar converteix la rendició de comptes en aprenentatge.

Què aporta la regulació europea#

El Reglament europeu d'intel·ligència artificial considera d'alt risc determinats usos en ocupació, com selecció, decisions sobre condicions laborals, promoció o finalització, assignació de tasques basada en trets o comportament i seguiment o avaluació del rendiment. L'abast i les excepcions s'han de llegir amb cura al Reglament (UE) 2024/1689. L'etiqueta d'alt risc no significa prohibició automàtica: estableix obligacions per controlar riscos, documentar, vigilar i mantenir supervisió humana segons el paper de cada actor.

Les normes són un terra, no una conversa completa sobre la feina que volem. Una pràctica pot complir formalment i, tot i això, generar ritmes insuportables, aïllament o pèrdua d'autonomia. La recerca conjunta de l'Organització Internacional del Treball i el Centre Comú de Recerca europeu sobre logística i sanitat mostra beneficis operatius al costat de preocupacions per vigilància intrusiva i deteriorament de la qualitat laboral; es pot consultar al repositori oficial de l'OIT. Mesurar tots dos costats evita presentar la tecnologia com a salvació o amenaça inevitable.

Un acord mínim abans de dir sí#

Un protocol raonable pot incloure finalitat limitada; inventari de dades; prohibició de reutilitzar-les per a altres objectius sense una nova avaluació; proves de precisió i desigualtat; consulta prèvia; formació; revisió humana efectiva; canal de correcció; auditories periòdiques; termini d'eliminació; registre de canvis i mecanisme de suspensió. Ha d'indicar noms o funcions responsables, no un ambigu departament competent. També ha de fixar quan caduca l'autorització: un sistema actualitzat o aplicat a un altre col·lectiu requereix tornar-lo a revisar.

Per a una família, acompanyar no significa dirigir la reclamació del fill adult. Significa ajudar-lo a ordenar dates, separar fets de sospites, llegir documents i pensar quin resultat demana: corregir una dada, recuperar torns, obtenir una explicació o aturar una sanció. També convé cuidar la salut. La vigilància constant pot produir ansietat, hiperdisponibilitat i por de descansar. Si hi ha símptomes persistents, conflicte greu o risc d'acomiadament, és sensat buscar suport sindical, jurídic o sanitari adequat.

La pregunta que una empresa no pot respondre sola és senzilla de formular: quina part del risc estem autoritzats a imposar a altres persones per obtenir aquest benefici? Contestar-la exigeix escoltar qui coneix la feina des de dins, fer visibles les prioritats amagades i acceptar límits. Un algoritme pot calcular una ruta o detectar un patró; no pot decidir tot sol quin tracte és digne. Aquesta continua sent una responsabilitat humana, col·lectiva i revisable.