El senyal que no hauríem d'ignorar apareix quan ningú sap explicar per què una persona rep menys torns, queda fora d'una selecció, perd un incentiu o és marcada com a poc productiva. No cal imaginar una intel·ligència artificial omnipotent: n'hi ha prou amb una puntuació que esdevé inqüestionable. Per a una família, l'assumpte importa perquè darrere de cada pantalla hi ha salaris, horaris, salut i projectes de vida. Aquest article proposa reconèixer el senyal a temps, preguntar amb precisió, guardar proves i reclamar una revisió humana sense convertir qualsevol ús de dades en una amenaça.

El senyal decisiu: una decisió sense responsable visible#

Un sistema pot ordenar candidatures, assignar rutes, calcular rendiment, detectar suposades anomalies o recomanar acomiadaments. L'alarma no és que existeixi una eina, sinó que el seu resultat substitueixi el judici i que ningú assumeixi la decisió. Si el responsable respon «ho diu el sistema», si Recursos Humans desconeix les dades utilitzades o si no hi ha una via per corregir un error, l'organització ha creat una zona sense responsabilitat. Un model pot donar suport a una decisió; no pot carregar-ne les conseqüències ni escoltar el context d'una persona.

Un sistema pot ordenar candidatures, assignar rutes, calcular rendiment, detectar suposades anomalies o recomanar acomiadaments.

Cal distingir automatització d'arbitrarietat. Automatitzar una nòmina amb regles públiques i revisables no equival a puntuar emocions mitjançant una càmera o penalitzar qui triga més perquè atén un client vulnerable. La pregunta útil és concreta: quina decisió canvia, quines dades intervenen, qui valida el resultat i com es pot impugnar? Aquestes quatre preguntes permeten abandonar un debat abstracte sobre robots i examinar el poder real. Quan falten respostes, el problema no és tècnic: és una mala distribució de l'autoritat dins de l'empresa.

Com es manifesta en la vida laboral#

El senyal sol arribar en petits canvis. Els torns favorables desapareixen sense explicació; una candidatura rep un rebuig instantani; l'aplicació escurça temps impossibles; una puntuació cau després d'una baixa mèdica; o una persona rep més controls que els companys. Cap fet aïllat demostra discriminació, però un patró mereix atenció. Anotar dates, decisions i comparacions ajuda més que discutir de memòria. També convé separar allò observat de la interpretació: «he rebut tres torns menys des del dia 12» és verificable; «l'algoritme m'odia» no permet investigar.

Les dades d'entrada poden semblar neutrals i, tanmateix, produir desigualtat. El codi postal pot aproximar el nivell de renda; una interrupció laboral pot reflectir cures; la disponibilitat nocturna pot perjudicar famílies monoparentals; i una mètrica de velocitat pot castigar una discapacitat. El sistema aprèn relacions del passat, no una definició de justícia. Per això una avaluació seriosa busca efectes sobre grups i casos individuals, no només una precisió mitjana. Un 95% d'encerts pot ocultar danys greus concentrats en qui té menys capacitat per reclamar.

Un altre senyal és l'expansió silenciosa de la finalitat. Una aplicació instal·lada per organitzar tasques comença a mesurar pulsacions, pauses, ubicació o converses; després aquestes dades s'utilitzen per avaluar rendiment. Haver recollit una dada no autoritza qualsevol ús posterior. L'empresa hauria d'explicar la finalitat, la necessitat, el temps de conservació i qui hi accedeix. El treballador necessita saber quina conducta observa realment la mètrica. Si «activitat» significa moure el ratolí, l'indicador premia presència aparent, no feina valuosa, i pot induir comportaments absurds o perjudicials.

Què preguntar abans d'acceptar la puntuació#

La primera petició ha de ser senzilla i escrita: quina decisió s'ha pres, quin sistema hi ha intervingut, quines dades personals s'han utilitzat i qui pot revisar-la. No cal exigir el codi font per detectar un error. Sovint n'hi ha prou de conèixer els factors principals, comprovar les dades i aportar context. Si una absència apareix com a falta injustificada, si s'atribueix un lliurament a la persona equivocada o si una adreça està mal geolocalitzada, la correcció canvia el resultat. Demanar una resposta comprensible evita que l'argot tècnic tanqui la conversa.

Després cal preguntar pels límits. Pot un supervisor apartar-se de la recomanació? Es registren aquestes excepcions? Es prova el sistema abans d'ampliar-lo? Es revisen diferències per edat, sexe, discapacitat, origen o tipus de contracte? Una supervisió humana merament decorativa no protegeix: si el revisor disposa de vint segons, desconeix el model o tem ser penalitzat per contradir-lo, només confirma automàticament. La revisió ha de tenir temps, autoritat, informació i obligació de raonar. Aquestes condicions són més importants que posar la paraula «humà» en un procediment.

Un protocol pràctic per a la persona afectada#

Primer, conserva el missatge, captura o informe complet, amb data i context. Segon, redacta una cronologia breu dels fets. Tercer, sol·licita per escrit l'explicació i la revisió d'una persona amb capacitat real per canviar la decisió. Quart, corregeix dades inexactes i aporta documents pertinents sense lliurar informació innecessària. Cinquè, consulta el representant laboral, sindicat o professional adequat si l'impacte afecta salari, horari, contractació o continuïtat. Aquest ordre produeix un expedient net i redueix el risc que una conversa important quedi en trucades impossibles de demostrar.

No convé recopilar dades alienes, vulnerar sistemes ni publicar acusacions precipitades. Documentar significa conservar allò que legítimament es rep i formular preguntes verificables. Si altres companys detecten el mateix patró, poden aportar els seus casos de manera organitzada i respectant la privacitat. Una taula amb data, decisió, explicació rebuda i resultat de la reclamació revela tendències sense convertir rumors en proves. Quan hi ha representació legal, la revisió col·lectiva permet examinar l'impacte organitzatiu i no obliga cada persona a afrontar sola una eina opaca.

Quins drets i regles serveixen de suport#

El Reglament general de protecció de dades de la Unió Europea estableix garanties rellevants davant decisions basades únicament en tractaments automatitzats que produeixen efectes jurídics o afecten significativament. El text oficial es pot consultar a EUR-Lex. L'aplicació a un cas concret depèn de com s'adopta la decisió i de la intervenció humana real; per això no convé prometre que qualsevol puntuació activa automàticament el mateix dret. Sí que és raonable demanar informació, exactitud de les dades, una revisió significativa i una via d'impugnació.

El marc europeu d'intel·ligència artificial adopta un enfocament segons el risc i inclou obligacions per a determinats sistemes utilitzats en ocupació i gestió de treballadors. L'explicació institucional és a la Comissió Europea. Que una eina es presenti com a «assistent» no resol la qüestió: importa la funció efectiva, el context i el dany possible. Les organitzacions responsables han d'inventariar sistemes, avaluar riscos, vigilar resultats i formar qui els utilitza. Per a treballadors i famílies, conèixer aquest marc ajuda a formular preguntes, però no substitueix l'assessorament professional.

A Espanya, la normativa coneguda per incorporar transparència sobre algoritmes en l'àmbit de les plataformes digitals es pot consultar en el text consolidat de la Llei 12/2021 al BOE. El seu abast no significa que tota empresa hagi de revelar públicament cada línia de codi; orienta l'atenció cap a regles que incideixen en condicions laborals i cap al paper de la representació dels treballadors. Una reclamació eficaç cita fets i conseqüències abans que eslògans legals, perquè la qualificació jurídica depèn del contracte, el sector i el procediment utilitzat.

Què hauria de fer una organització abans del dany#

La prevenció comença amb una fitxa comprensible de cada sistema: finalitat, responsable, proveïdor, dades, col·lectius afectats, decisions assistides, límits i canal d'incidència. Després necessita proves amb situacions reals, incloses excepcions: discapacitat, permisos, horaris parcials, noms poc freqüents o feines que no deixen rastre digital constant. L'empresa ha de mesurar falsos positius i diferències entre grups, no només estalvi de temps. També ha d'establir quan s'atura l'eina. Un sistema sense criteri de suspensió converteix cada fallada en un experiment sobre persones que no han triat participar-hi.

La participació primerenca millora tant la justícia com la qualitat. Qui fa la feina coneix excepcions invisibles per a un proveïdor: un repartiment lent pot obeir a una adreça perillosa; una pausa llarga, a una atenció complexa; una baixa taxa de missatges, a tasques presencials. Incorporar treballadors, comandaments, prevenció, protecció de dades i representació laboral permet detectar mètriques falses. No es tracta de votar cada fórmula, sinó de confrontar el model amb la realitat. La confiança apareix quan hi ha capacitat de preguntar, corregir i aturar, no quan s'exigeix fe en la innovació.

Com parlar-ne a casa amb adolescents#

Aquest tema prepara els joves per a la primera feina. Podem analitzar junts una oferta que promet selecció «sense biaixos» i preguntar quines dades sol·licita, qui respon davant un error i si existeix contacte humà. També serveix revisar aplicacions de repartiment, pràctiques o treball temporal sense normalitzar que cada puntuació sigui justa. L'objectiu no és generar por a la tecnologia, sinó alfabetització laboral: entendre que una interfície còmoda pot amagar regles, que acceptar termes no elimina drets i que demanar explicacions és una competència professional, no una mostra de conflictivitat.

Una conversa útil evita dos extrems. «Els algoritmes sempre discriminen» impedeix reconèixer usos beneficiosos, com detectar incoherències o repartir càrregues amb criteris clars. «Les dades mai no menteixen» oblida que algú tria què mesurar i quin objectiu optimitzar. Podem plantejar un cas: si una aplicació premia respondre missatges de matinada, mesura compromís o disponibilitat sense límits? Després es busquen alternatives: temps de resposta dins la jornada, qualitat revisada, possibilitat de justificar excepcions. Així el jove aprèn a discutir el disseny i els efectes amb arguments, no amb obediència o rebuig automàtic.

La prova final: es pot corregir?#

La qualitat d'un sistema no es demostra amb una presentació comercial, sinó quan afronta un cas difícil. Ha de poder explicar el resultat, mostrar dades pertinents, acceptar una correcció i reparar una conseqüència. Si l'organització no sap qui respon, la puntuació es considera infal·lible o la reclamació torna al mateix procés automàtic, el senyal és clar. El problema no és només un error estadístic: s'ha delegat poder sense construir responsabilitat. Reconèixer-ho aviat evita que l'excepció es converteixi en rutina i que la persona carregui amb demostrar allò impossible.

La resposta sensata combina tecnologia i govern. Un bon sistema pot ordenar informació, detectar incoherències o ajudar a distribuir tasques; una persona responsable n'ha de comprendre els límits i decidir amb context. Per a qui pateix una decisió, el camí és concret: observar, documentar, preguntar, demanar revisió i buscar suport. Per a l'empresa, també: explicar, avaluar, escoltar, corregir i aturar quan calgui. El senyal que no hauríem d'ignorar és, en resum, una decisió important que tothom atribueix a la màquina i que ningú no està disposat a justificar.