El canvi important no sempre arriba amb un robot entrant per la porta. De vegades apareix com una aplicació que proposa l'horari, una càmera que calcula temps, un qüestionari que descarta candidatures o un tauler que converteix cada tasca en una puntuació. Per a qui comença a treballar, pot semblar una part inevitable de l'ocupació moderna. Però, quan un sistema recomana, classifica o vigila, continua havent-hi una organització responsable de decidir per a què s'utilitza, amb quines dades i què passa quan s'equivoca.

Imaginem l'Àlex, de dinou anys, en el seu primer magatzem. L'aplicació reparteix recorreguts, registra pauses i compara unitats per hora. Un divendres rep menys torns. L'encarregat diu que «ho decideix el sistema» i no sap explicar quina dada ha pesat. L'Àlex pensa que preguntar donarà mala imatge. A casa tampoc saben si és una simple eina de planificació o una decisió que s'hauria de poder discutir. Aquest desconcert és precisament el terreny on la gestió algorítmica creix sense debat.

Què significa que un sistema decideixi a la feina#

Un sistema no necessita signar un acomiadament per influir de manera decisiva. Pot ordenar currículums, predir qui deixarà l'empresa, recomanar salaris, distribuir comandes, fixar objectius, activar alertes de frau o seleccionar les trucades que revisarà un supervisor. La decisió formal potser la pren una persona, però si sempre accepta la recomanació, no entén el model o disposa de pocs segons per revisar-la, la intervenció humana és decorativa.

Un sistema no necessita signar un acomiadament per influir de manera decisiva. Pot ordenar currículums, predir qui deixarà l'empresa, recomanar salaris, distribuir comandes, fixar objectius, activar alertes de frau o seleccionar les trucades que revisarà un supervisor.

Convé separar automatització de decisió. Automatitzar l'enviament d'una nòmina calculada segons regles conegudes no planteja el mateix que assignar una «probabilitat de compromís» a cada empleat. La primera tasca es pot comprovar amb operacions visibles; la segona interpreta conductes mitjançant variables la relació de les quals amb el rendiment és discutible. Com més afecta el resultat l'accés, els ingressos, la reputació, la salut o la continuïtat laboral, més grans han de ser l'explicació i el control.

També importa l'origen de les dades. Un sistema pot barrejar fitxatges, ubicació, velocitat de teclat, vendes, incidències, avaluacions, absències o respostes a proves de personalitat. Tenir aquestes dades no significa que sigui legítim reutilitzar-les amb qualsevol finalitat. Una mesura creada per a seguretat no s'hauria de transformar silenciosament en disciplina; una adaptació per discapacitat no ha d'esdevenir un senyal de baixa productivitat; una absència protegida no hauria d'alimentar una predicció d'abandonament.

Per què afecta especialment qui comença#

Els joves acostumen a entrar mitjançant feines temporals, plataformes, pràctiques o processos de selecció massius, justament on més s'automatitza. Tenen menys referències per distingir una pràctica normal d'una d'abusiva i més por de semblar conflictius. Una interfície neta transmet autoritat: si una pantalla mostra 62 sobre 100, sembla que el número descrigui una realitat exacta. Però tota puntuació incorpora eleccions humanes sobre què mesurar, amb qui comparar, quant pesa cada variable i quins errors es consideren acceptables.

Les famílies poden ajudar sense convertir la conversa en un interrogatori. En lloc de preguntar només «què tal la feina?», és més útil preguntar: «Qui organitza els teus torns?», «pots corregir una dada?», «t'han explicat què mesura l'aplicació?» o «hi ha una persona que revisi una sanció?». L'objectiu no és alarmar, sinó oferir vocabulari. Poder anomenar una puntuació, una alerta o una classificació permet explicar el problema amb precisió.

Hi ha senyals que mereixen atenció: horaris que canvien sense explicació, objectius que pugen automàticament, penalitzacions per pauses necessàries, rànquings públics, missatges que indueixen a continuar connectat, rebutjos instantanis o respostes com «ningú no ho pot canviar». Cap senyal demostra tot sol una il·legalitat. Sí que indica que cal conèixer el procés, documentar-lo i comprovar quines garanties existeixen.

La falsa neutralitat dels números#

Un model aprèn de dades històriques o aplica regles dissenyades per persones. Si el passat contenia desigualtat, el patró la pot reproduir. Si l'èxit es defineix com acceptar qualsevol torn, qui té cura de familiars queda pitjor classificat. Si es mesura la productivitat per pulsacions, es penalitza la feina de pensar, escoltar o acompanyar. Si un filtre aprèn del perfil d'antics directius, pot afavorir característiques semblants a les de qui ja ocupava aquells llocs.

A més, els indicadors canvien la conducta. Una plantilla avaluada per trucades curtes tendirà a acabar abans, encara que l'usuari necessiti més ajuda. Un repartidor mesurat per velocitat pot assumir riscos. Una infermera puntuada pel nombre d'atencions pot disposar de menys temps per observar. El problema no és només que la mètrica sigui inexacta: pot empènyer a fer pitjor la feina que pretén millorar.

Preguntar per la taxa d'encert no és suficient. Cal preguntar qui suporta els errors. Un fals positiu en una recomanació musical és molest; un fals positiu que etiqueta una persona com a fraudulenta pot bloquejar ingressos. També s'han d'examinar diferències entre grups, condicions atípiques i canvis de context. Un model provat en oficines potser no funciona en teletreball, ni una prova dissenyada en un idioma mesura amb justícia qui el va aprendre després.

Drets i límits que ja existeixen#

A la Unió Europea, el Reglament general de protecció de dades estableix garanties sobre decisions basades únicament en tractaments automatitzats que produeixen efectes jurídics o afecten significativament de manera similar. L'article 22 no converteix qualsevol càlcul en una pràctica prohibida, però obliga a analitzar si hi ha una decisió rellevant, si és exclusivament automatitzada i quina excepció o salvaguarda s'aplica. El text oficial es pot consultar a EUR-Lex: Reglament (UE) 2016/679.

La normativa europea d'intel·ligència artificial adopta un enfocament basat en riscos. Inclou entre els sistemes d'alt risc determinats usos en ocupació, gestió de treballadors i accés a l'autoocupació, com ara selecció, assignació de tasques basada en trets o comportament i avaluació del rendiment. Això comporta obligacions per a qui desenvolupa i desplega aquests sistemes, tot i que l'aplicació concreta depèn del calendari i del cas. La font primària és EUR-Lex: Reglament (UE) 2024/1689 d'intel·ligència artificial.

Per al treball en plataformes, la Directiva europea 2024/2831 aborda específicament la transparència, la supervisió humana i la revisió de decisions en la gestió algorítmica. També limita determinats tractaments de dades especialment intrusius. Les directives requereixen incorporació al dret nacional, de manera que convé comprovar la norma vigent i demanar orientació sindical o professional. El text oficial és a EUR-Lex: Directiva (UE) 2024/2831.

Aquests textos són un punt de partida, no una resposta automàtica. També hi intervenen la legislació laboral, la negociació col·lectiva, les regles d'igualtat i no-discriminació, la prevenció de riscos i la protecció de dades nacional. Davant d'una sanció, acomiadament, discriminació o dany seriós, aquesta guia no substitueix l'assessorament d'un sindicat, representant laboral, advocat, inspecció de treball o autoritat de protecció de dades.

Les preguntes que converteixen una caixa negra en un procés discutible#

Abans d'acceptar la frase «ho diu l'algoritme», convé demanar una descripció senzilla: quina decisió es va prendre, quin sistema hi va intervenir i qui conserva autoritat per canviar-la. Després, cal preguntar quines categories de dades es van utilitzar, d'on provenen i si estaven actualitzades. No cal exigir el codi font per obtenir informació útil. Una explicació operativa ha de permetre entendre els factors principals i detectar un error concret.

També s'ha de saber quin era l'objectiu declarat. «Millorar l'eficiència» és massa ampli. Es buscava reduir esperes, preveure el personal necessari o sancionar baix rendiment? Una eina adquirida per planificar pot acabar utilitzada per avaluar sense noves comprovacions. Preguntar per la finalitat ajuda a descobrir aquest desplaçament i a exigir una avaluació proporcional al nou impacte.

La revisió humana ha de ser real. La persona revisora necessita competència, temps, informació suficient i permís per apartar-se de la recomanació. Si només prem «confirmar», no hi ha cap garantia efectiva. És raonable preguntar quantes decisions es modifiquen després d'una reclamació, quin termini existeix i com es comunica el resultat. Una via que mai no canvia res pot ser un tràmit buit.

Finalment, cal conèixer la caducitat. Els models, les regles i les dades envelleixen. Quan es va comprovar el sistema per última vegada? Què passa quan canvia el lloc de treball? Durant quant de temps es conserva una alerta? Una incidència antiga pot continuar reduint torns mesos després? Una decisió responsable necessita revisió periòdica, traçabilitat i criteris per retirar el sistema si causa danys.

Com documentar un cas sense posar-se en perill#

Quan alguna cosa sembla injusta, el primer pas és construir una cronologia factual. Data, decisió rebuda, pantalla o missatge, explicació sol·licitada, resposta i efecte concret. Convé separar fets d'hipòtesis: «dimarts vaig passar de quatre torns a un després d'una alerta de puntualitat» és més útil que «l'algoritme m'odia». Guardar contractes, polítiques, nòmines i comunicacions ajuda, sempre respectant secrets empresarials i dades d'altres persones.

No és aconsellable extreure bases de dades, gravar on estigui prohibit ni endur-se informació confidencial per demostrar un problema. Es pot anotar allò observat i utilitzar els canals legítims d'accés o reclamació. Si fer una captura revela dades de companys o usuaris, cal evitar-les o demanar orientació. Documentar no significa exposar-se a una altra infracció.

Després es formula una petició concreta: corregir una dada, rebre els criteris principals, obtenir revisió humana, suspendre una penalització mentre s'investiga o conèixer el canal de recurs. Una sol·licitud breu sol funcionar millor que un manifest general. Si diverses persones experimenten el mateix patró, el representant dels treballadors o el sindicat pot analitzar-lo col·lectivament sense deixar una sola persona davant del sistema.

Què hauria de fer una empresa abans de desplegar-lo#

Una organització responsable comença demostrant la necessitat. Ha de comparar l'eina amb alternatives menys intrusives i definir quines decisions mai no delegarà. Després identifica les persones afectades, inclosos candidats rebutjats que mai no arriben a ser empleats, treballadors temporals i grups amb necessitats d'accessibilitat. L'avaluació ha d'incloure no només precisió mitjana, sinó errors greus, discriminació, privacitat, càrrega mental i seguretat.

La participació primerenca millora el disseny. Qui fa la tasca coneix excepcions que el proveïdor ignora: una pausa pot respondre a una incidència, un trajecte més llarg pot ser més segur i una conversa extensa pot evitar una reclamació. Incorporar aquesta experiència no és resistència a innovar; és una manera de comprovar si la mètrica representa la feina real.

L'empresa ha d'informar amb llenguatge comprensible abans d'utilitzar el sistema, formar comandaments i revisors, limitar accessos, registrar canvis i establir un canal d'impugnació. També necessita un pla per a incidents: qui atura decisions, com avisa, com repara ingressos perduts i com corregeix decisions derivades. Comprar tecnologia a un proveïdor no transfereix la responsabilitat sobre les conseqüències laborals.

Una conversa familiar útil#

Quan un jove explica que una aplicació controla la seva jornada, la resposta familiar no hauria de ser «aguanta, totes les feines són així» ni «denuncia'ls ara mateix». Primer cal escoltar què ha passat i què vol aconseguir. Potser necessita entendre un horari, recuperar un torn o preparar-se per parlar amb el responsable. Preguntar pel resultat desitjat retorna capacitat de decisió.

Es pot assajar una frase: «He vist que la meva puntuació va baixar després d'aquesta incidència. Podeu confirmar les dades utilitzades, explicar com afecta els torns i demanar que una persona revisi el cas?». El to serè no renuncia als drets. Si la resposta és confusa, es demana per escrit. Si hi ha represàlies, risc, discriminació o pèrdua important, es busca suport especialitzat aviat.

També convé cuidar l'impacte emocional. Ser puntuat contínuament pot generar hipervigilància, vergonya i sensació d'inutilitat. Una classificació laboral no mesura el valor d'una persona. Dormir, parlar amb algú de confiança i separar el rendiment mesurat de la identitat no resol el conflicte, però ajuda a afrontar-lo sense quedar-hi absorbit.

Una llista de control abans d'acceptar una decisió automàtica#

  • Quina decisió concreta s'ha pres i quin efecte té sobre ocupació, salari, torns o reputació?
  • El sistema ha decidit sol, ha recomanat o ha aportat una dada entre diverses?
  • Quines dades principals ha utilitzat i hi ha algun error verificable?
  • Qui pot revisar-ho amb autoritat real per canviar el resultat?
  • Com es reclama, en quin termini i què passa mentre es revisa?
  • S'ha informat la plantilla i consultat els seus representants quan correspon?
  • Hi ha indicis d'impacte desigual, pressió insegura o vigilància desproporcionada?
  • Es conserva una còpia lícita de la comunicació i de la resposta?

El canvi silenciós deixa de ser inevitable quan es fa visible el procés. No es tracta de rebutjar qualsevol algoritme: una bona eina pot repartir càrrega, detectar riscos o facilitar accessibilitat. La frontera és si amplia la capacitat humana o amaga el poder darrere d'una puntuació. El futur del treball no el decideix el sistema tot sol; també el decideixen les preguntes, garanties i límits que persones i institucions exigeixen avui.