Un repartidor de dinou anys rep menys encàrrecs durant tres setmanes. Pregunta què passa i escolta una frase aparentment definitiva: «ho decideix el sistema». Ningú sap assenyalar una incidència concreta, explicar quines dades han pesat ni dir qui les pot corregir. El discurs oficial promet eficiència, objectivitat i oportunitats assignades segons el mèrit; la seva experiència quotidiana és una caiguda d’ingressos sense interlocutor. La pregunta incòmoda no és si la tecnologia funciona de mitjana. És qui va triar allò que calia optimitzar, qui obté el benefici quan funciona i qui respon quan una persona paga l’error.

Aquesta pregunta importa a una família perquè la primera feina ensenya regles que un jove pot acceptar com a naturals durant anys. Si aprèn que una puntuació no es discuteix, confondrà càlcul amb autoritat. Si aprèn a exigir fets, terminis i una revisió humana amb capacitat real de canviar el resultat, desenvoluparà autonomia professional. No es tracta de sospitar de tota eina. Un sistema pot ordenar sol·licituds, anticipar demanda o detectar riscos amb utilitat. El problema apareix quan una organització usa l’aparença tècnica per ocultar decisions humanes sobre productivitat, disponibilitat, risc i repartiment del poder.

La neutralitat no ve instal·lada#

Tot sistema de gestió parteix d’eleccions. Algú defineix el resultat desitjat, selecciona variables, decideix quins casos històrics serveixen per entrenar o comparar, fixa llindars i estableix quina conseqüència segueix cada puntuació. Fins i tot una regla senzilla —donar prioritat a qui accepta torns amb poc marge— conté una idea sobre el treballador ideal. Premia qui pot reorganitzar la vida immediatament i perjudica qui estudia, cuida, depèn del transport públic o necessita anticipació per una discapacitat. La fórmula es pot aplicar igual a tothom i produir, tanmateix, una desigualtat perfectament previsible.

Tot sistema de gestió parteix d’eleccions. Algú defineix el resultat desitjat, selecciona variables, decideix quins casos històrics serveixen per entrenar o comparar, fixa llindars i estableix quina conseqüència segueix cada puntuació.

Per això «l’algoritme no veu noms» no resol el problema. El codi postal, l’horari disponible, els períodes sense feina o el tipus de dispositiu poden funcionar com aproximacions a condicions socials. Tampoc no n’hi ha prou d’afirmar que el model encerta moltes vegades. Una taxa global amaga qui concentra els errors i quin cost tenen. Confondre un lliurament tardà amb un altre de matiner pot afectar una estadística; confondre una persona apta amb una de no apta pot tancar-li l’accés a la feina. L’avaluació responsable separa grups, contextos i conseqüències, i pregunta quin error és tolerable abans del desplegament.

La conversa es torna més clara quan distingim quatre actors: qui encarrega l’eina, qui la dissenya, qui la utilitza i qui suporta els efectes. Poden pertànyer a organitzacions diferents, però això no dissol la responsabilitat. Una empresa no hauria de respondre «és cosa del proveïdor» quan fa servir la recomanació per canviar un torn o rebutjar una candidatura. El proveïdor tampoc no s’hauria d’ocultar darrere el secret comercial quan falten controls bàsics. Dibuixar aquest mapa permet formular preguntes dirigides: qui pot aturar el sistema, qui corregeix dades, qui audita resultats i qui repara una pèrdua.

Les preguntes que un jove sí que pot fer#

Davant una decisió adversa, convé abandonar acusacions impossibles de demostrar i demanar informació concreta. «Quina decisió s’ha pres i des de quan té efectes? Hi ha intervingut una eina automàtica? Quines categories de dades s’han utilitzat? Hi ha alguna dada que jo pugui comprovar? Qui revisarà el cas i en quin termini?» Aquestes preguntes no pressuposen mala fe i obliguen a convertir una resposta vaga en un procés verificable. Si la conversa és oral, el jove pot enviar després un correu breu que resumeixi allò que ha entès i demanar confirmació. Aquest rastre ajuda si el problema es repeteix.

Documentar no significa gravar d’amagat ni recopilar informació de companys. N’hi ha prou de conservar l’oferta, el contracte, els quadrants, les comunicacions, les captures pròpies permeses, les avaluacions i els canvis d’accés. És útil crear una cronologia: data, decisió, explicació rebuda, efecte econòmic i persona contactada. També s’anoten circumstàncies que el sistema pot haver ignorat, com una baixa autoritzada, una avaria registrada o una adaptació acordada. L’evidència de context és més poderosa que cent impressions. Si l’assumpte afecta salari, discriminació, salut o continuïtat laboral, cal buscar assessorament sindical, professional o de l’autoritat competent.

En matèria de dades, l’empresa ha d’explicar de manera comprensible el tractament que realitza; no n’hi ha prou amb una política interminable que ningú no pot aplicar al cas. La guia de l’Agència Espanyola de Protecció de Dades sobre relacions laborals ofereix criteris sobre informació, necessitat, proporcionalitat i drets. La pregunta pràctica és si cada dada és necessària per a una finalitat laboral concreta. Una aplicació de torns no hauria d’accedir per defecte als contactes personals; mesurar la ubicació fora de l’horari requereix una justificació molt més forta que registrar una arribada al centre.

Revisió humana no vol dir prémer acceptar#

Moltes organitzacions asseguren que sempre hi ha una persona supervisant. L’afirmació només val si aquesta persona comprèn el resultat, veu informació suficient, disposa de temps, pot apartar-se de la recomanació i no rep incentius per confirmar-la automàticament. Un comandament que revisa cinc-centes alertes per hora no exerceix criteri; actua com un segell. L’empresa ha d’observar quantes decisions es canvien, per quins motius, quant triga la correcció i si certs grups han de reclamar més. Una taxa de rectificació igual a zero pot indicar perfecció, però més sovint revela que el recurs no funciona.

Una revisió efectiva comença identificant la decisió exacta, no defensant el sistema en abstracte. Després contrasta les dades d’entrada, escolta el context i aplica criteris coneguts. La resposta final explica què es manté o modifica i per què. Quan sigui possible, se suspèn una conseqüència irreversible mentre dura l’examen. Si una candidatura va ser descartada per una dada errònia, no serveix corregir la base després de cobrir la vacant i declarar el cas resolt. La reparació considera l’efecte: recuperar una oportunitat, retornar hores, retirar una sanció o restablir l’accés, a més de corregir el registre.

L’Estatut dels Treballadors reconeix a la representació legal el dret a ser informada sobre paràmetres, regles i instruccions en què es basen algoritmes o sistemes d’intel·ligència artificial que incideixen en decisions capaces d’afectar les condicions de treball. Aquesta informació col·lectiva complementa la reclamació individual. Permet detectar un patró que una sola persona no veu: menys torns per a qui rebutja disponibilitat instantània, pitjors avaluacions després d’una baixa o exclusions concentrades en determinades trajectòries. Una família pot animar el jove a consultar la representació sindical sense presentar aquest pas com un conflicte inevitable.

La prova del benefici i del risc#

Abans d’implantar una eina, una organització hauria d’omplir una fitxa d’una pàgina. Problema que intenta resoldre; alternativa menys invasiva; persones beneficiades; persones que assumeixen nous riscos; dades necessàries; decisions prohibides; responsable; canal de recurs; indicadors de dany; data de revisió i condició de retirada. Obligar a escriure «qui guanya» i «qui pot perdre» desmunta el llenguatge impersonal. Si l’estalvi de planificació depèn d’avisar els torns més tard, no s’ha eliminat incertesa: s’ha traslladat de l’empresa a les famílies de la plantilla.

La mateixa prova serveix durant un pilot. No es mesura únicament precisió o estalvi. Es comparen avisos amb poc marge, descansos interromputs, reclamacions, correccions, diferències entre grups, accidents, rotació i temps addicional dedicat a alimentar el sistema. Es pregunta als treballadors quines tasques invisibles ha creat: justificar pauses, corregir fitxatges, competir per encàrrecs o mantenir una aplicació encesa. Un resultat tècnicament correcte pot deteriorar l’ofici si indueix a evitar casos complexos o a ocultar problemes per protegir una puntuació. Allò que l’indicador provoca importa tant com allò que mesura.

Determinats usos d’intel·ligència artificial en ocupació, selecció i gestió de treballadors reben obligacions específiques en el Reglament europeu d’intel·ligència artificial. La norma no converteix automàticament qualsevol resultat en just, ni substitueix l’anàlisi laboral i de protecció de dades. Sí que reforça una idea essencial: el risc depèn de l’ús i dels efectes, no de com sembla d’espectacular la tecnologia. Un full de càlcul amb regles opaques pot fer més mal que un model avançat limitat a ajudar. L’organització ha de governar tot el procés, inclosos proveïdors, actualitzacions i usos nous.

Un cas pràctic: la puntuació de disponibilitat#

Imaginem que una cafeteria assigna més hores a qui accepta substitucions ràpides. La direcció ho anomena flexibilitat; una estudiant que va a classe ho viu com un càstig. El primer pas és precisar la regla: cada rebuig resta punts?, durant quant temps?, es diferencia una indisponibilitat ja declarada?, la puntuació influeix també en renovacions? El segon és comprovar dades i efectes. El tercer és preguntar per una alternativa: publicar torns abans, crear una borsa voluntària o repartir urgències amb límits. La conversa deixa d’enfrontar «innovació» contra «resistència» i compara dissenys concrets.

Una solució raonable podria separar disponibilitat ordinària de disponibilitat extraordinària, impedir penalitzacions per rebutjar canvis no pactats i posar un màxim d’urgències per persona. El sistema mostraria la raó de cada assignació, permetria corregir disponibilitat i assenyalaria conflictes al responsable, sense resoldre’ls tot sol. L’equip revisaria mensualment si les hores es concentren i si estudis, cures o discapacitat generen desavantatges. Aquest disseny no promet neutralitat: fa visibles els seus valors i ofereix controls. La transparència útil no ensenya codi; permet entendre la regla, anticipar-ne la conseqüència i qüestionar-la amb proves.

Com parlar-ne a casa sense sembrar indefensió#

Les famílies poden assajar tres escenes: una candidatura rebutjada sense explicació, una caiguda sobtada de torns i una alerta de baix rendiment. En cada escena, el jove practica quatre moviments: descriure el fet sense exagerar, demanar el criteri, aportar context i sol·licitar una decisió revisable amb termini. L’adult evita ocupar el seu lloc llevat que hi hagi risc seriós o el menor necessiti suport legal. L’objectiu és que aprengui una competència transferible: parlar amb fermesa sense inventar certeses. També convé reconèixer que de vegades no obtindrà una resposta satisfactòria i haurà d’escalar.

Hi ha senyals que justifiquen ajuda ràpida: impacte important en ingressos, indicis de discriminació, vigilància fora d’horari, ús de dades especialment sensibles, represàlia per reclamar, amenaça per a la salut o una sanció greu. En aquests casos no s’improvisa una batalla a les xarxes socials. Es conserva evidència, es consulta representació laboral o assessorament adequat i s’utilitzen canals formals. Publicar noms, captures de tercers o acusacions pot crear problemes nous. La protecció combina veu i prudència. Preguntar bé no garanteix guanyar, però transforma una experiència confusa en un cas que una altra persona pot examinar.

La resposta que el discurs oficial sol evitar#

La pregunta incòmoda té una resposta senzilla: decideix l’organització que tria fer servir el sistema, encara que hi intervinguin proveïdors i models complexos. Per això ha de poder explicar la finalitat, justificar dades i criteris, oferir supervisió real i reparar danys. La responsabilitat no desapareix dins d’una caixa tècnica. Tampoc recau en el jove per no comprendre un càlcul inaccessible. Qui obté capacitat d’organitzar, seleccionar o vigilar assumeix el deure proporcional de governar aquesta capacitat i obrir una via per discutir-ne els resultats.

Un futur laboral digne no exigeix triar entre màquines perfectes i rebuig tecnològic. Exigeix institucions capaces de dir què volen optimitzar, què no permetran sacrificar i qui respondrà quan fallin. Per a un adolescent, conservar aquesta pregunta és una forma de ciutadania: qui va decidir i amb quin dret? Per a una empresa, contestar-la bé és una prova de maduresa. Quan una organització pot nomenar responsable, evidència, límits i reparació, la tecnologia deixa de ser excusa i torna a ser eina. Aquí comença una conversa menys còmoda, però molt més honesta.