La pregunta invisible que ho canvia tot. No pregunta primer quant pot estalviar una automatització, quants segons retalla o quin percentatge d’activitat aconsegueix registrar. Pregunta què necessita una persona per continuar sent autora de la seva feina quan una eina reparteix torns, mesura moviments, redacta respostes o recomana decisions. Sembla una qüestió petita perquè no acostuma a ocupar la pantalla de presentació. Tanmateix, modifica l’encàrrec sencer: obliga a distingir una tasca de qui la fa, una dada del seu context i una millora productiva d’una transferència silenciosa de risc.

Una feina no conserva dignitat només perquè la tecnologia sigui precisa o l’empresa mantingui l’ocupació. La dignitat també viu en la possibilitat de comprendre una decisió, discutir una inferència, reservar espais no vigilats, aprendre una funció nova i acudir a una persona responsable quan el sistema falla. Una aplicació pot reduir tràmits i, alhora, fer imprevisible la vida familiar. Un sensor pot prevenir un perill i acabar puntuant el ritme individual. Un assistent generatiu pot alleugerir escriptura repetitiva i convertir cada conversa en una plantilla que ningú no gosa corregir. L’eina no determina per si sola cap d’aquests resultats; els determinen la seva finalitat, els seus límits i les relacions de poder que l’envolten.

L’anàlisi responsable ha d’evitar dues dreceres. La primera presenta qualsevol automatització com una amenaça inevitable. La segona suposa que tota fricció desapareixerà amb més dades i millor formació. Entre totes dues hi ha un espai de disseny institucional: participació abans de la compra, avaluació de riscos, canals d’impugnació, temps per aprendre, alternatives durant les incidències i revisió d’impactes desiguals. Allà es decideix si la innovació amplia capacitats o exigeix que les persones s’adaptin sense descans a una màquina.

Els tres casos següents són composicions pedagògiques, no relats d’organitzacions identificables ni resultats d’una recerca de camp. Reuneixen situacions plausibles per examinar decisions de governança. No ofereixen assessorament jurídic, laboral ni de prevenció de riscos. El seu propòsit consisteix a fer visible la pregunta que sol quedar fora del panell: quines condicions permeten que la persona conservi veu, salut, temps i responsabilitat professional.

La dignitat es dissenya abans d’encendre el sistema#

Una organització sol avaluar una eina pel cost, la integració, l’exactitud i la velocitat. Aquests criteris importen, però no descriuen tota la feina que apareixerà després. Algú haurà de revisar excepcions, explicar resultats, corregir dades, atendre reclamacions i sostenir l’activitat durant una caiguda. Si aquestes tasques no figuren al pressupost, es converteixen en càrrega invisible per a comandaments intermedis i plantilles. La pregunta humana amplia la fitxa de compra: qui guanya temps, qui perd autonomia, qui absorbeix l’error i qui pot aturar el procés.

Una organització sol avaluar una eina pel cost, la integració, l’exactitud i la velocitat.

La participació primerenca no equival a mostrar una decisió ja presa. Les persones afectades han d’intervenir quan encara es poden canviar la finalitat, les variables, els proveïdors i l’alternativa no automatitzada. Una conversa útil inclou qui treballa de nit, té contractes temporals, fa funcions de suport, viu amb una discapacitat o depèn d’horaris previsibles. Una mitjana d’acceptació pot ocultar que el cost es concentra en el grup amb menys capacitat per objectar. Per això l’escolta ha de deixar rastre: qüestions plantejades, canvis realitzats, desacords pendents i responsable de respondre.

També cal definir el límit d’inferència. Un registre d’accés demostra que una targeta ha obert una porta; no demostra compromís. El temps de resposta a un missatge descriu una interacció; no mesura disponibilitat moral. La quantitat de pauses pot ajudar a revisar una estació de treball; no s’hauria de transformar sense més en una puntuació d’esforç. Quan una dada creua d’una finalitat operativa a una avaluació personal, canvia el seu significat i augmenta el poder de qui la interpreta. Una governança digna exigeix autorització clara, proporcionalitat i una via per aportar context abans que aparegui una conseqüència.

La supervisió humana només té sentit si disposa de temps, informació i autoritat. Una persona que confirma centenars de recomanacions per hora no constitueix una garantia real. Tampoc no ho és un comitè que pot escoltar una reclamació però no modificar el resultat. La revisió ha d’identificar quins elements ha vist el revisor, quina decisió ha adoptat i per què s’ha apartat o no del suggeriment automàtic. Aquest registre serveix per aprendre, no per castigar qui discrepa. Si totes les correccions es consideren errors individuals, el sistema mai no reconeix els seus límits estructurals.

Finalment, el desplegament necessita una sortida. Un pilot ha de tenir durada, criteris d’aturada, mètriques humanes i pressupost per corregir o retirar. Les mètriques no es poden limitar a productivitat: han d’observar previsibilitat del temps, intensitat, incidents, càrrega administrativa, accés a formació, reclamacions i distribució de beneficis. Una innovació que millora la mitjana mentre fa inviable la vida d’una minoria no ha resolt el problema; l’ha desplaçat.

Cas u: l’horari eficient que desordenava la vida#

Una cadena de comerços del cas compost va implantar un sistema de planificació que ajustava els torns a vendes previstes, clima i afluència històrica. L’eina reduïa hores sense cobertura i prometia repartir millor la càrrega. Durant el primer mes, la direcció va celebrar una millora de l’ajust entre plantilla i demanda. L’experiència quotidiana mostrava una altra cara: alguns torns canviaven amb poca antelació, les jornades es fragmentaven i les persones amb responsabilitats de cures havien de negociar intercanvis contínuament.

El problema no procedia d’un error matemàtic evident. El sistema complia la variable que se li havia assignat: acostar presència i demanda. Allò invisible era el valor de la previsibilitat. Una hora de feina no tenia el mateix cost quan apareixia entre dos desplaçaments, impedia recollir un menor o feia inútil contractar suport per a les cures. La direcció havia mesurat cobertura, però no el nombre de canvis, el temps d’avís, els trajectes afegits ni les renúncies provocades per la inestabilitat.

La representació de la plantilla va proposar revisar l’objectiu. El comerç va establir franges de disponibilitat declarades sense exigir motius íntims, un mínim de preavís, límits a la fragmentació i una ruta per corregir dades. Les preferències van deixar d’interpretar-se com a manca de compromís. El sistema podia suggerir, però un responsable identificat havia d’aprovar les modificacions tardanes i registrar-ne el motiu. La plantilla rebia el calendari en un format accessible i conservava un canal que no depenia de la mateixa aplicació.

El nou disseny no prometia satisfer totes les preferències ni eliminava la necessitat de cobrir pics. Feia visible el conflicte i distribuïa la responsabilitat. La direcció va començar a revisar conjuntament cobertura, estabilitat, intercanvis, hores rebutjades i diferències entre grups. Quan una regla produïa canvis repetits sobre les mateixes persones, s’examinava la regla abans d’atribuir el problema a la seva disponibilitat.

La lliçó del cas no consisteix a afirmar que un algorisme de torns sigui sempre indigne. Consisteix a reconèixer que l’eficiència temporal té dues perspectives. Per a l’organització, un interval buit és capacitat desaprofitada; per a una persona, pot ser l’espai que fa possible descansar, cuidar o desplaçar-se. La pregunta invisible va incorporar tots dos temps i va convertir una optimització unilateral en una decisió negociable.

Cas dos: el sensor de seguretat que va començar a vigilar el ritme#

En un magatzem del segon cas compost, uns dispositius portàtils avisaven quan un moviment repetit podia augmentar el risc ergonòmic. El projecte va néixer amb una finalitat preventiva i les alertes es lliuraven inicialment a cada treballador. Poc després, un panell agregat va despertar interès operatiu. Els responsables van descobrir que podien comparar zones, pauses i freqüència de moviments. Sense una decisió pública, alguns indicadors van començar a aparèixer en reunions de rendiment.

El mateix senyal va canviar de significat. Una vibració concebuda perquè el cos corregís una postura es va convertir en una marca sobre la conducta laboral. Qui acumulava alertes podia estar cobrint una estació mal dissenyada, aprenent una tasca, compensant una limitació temporal o fent servir el dispositiu de manera diferent. El panell no distingia aquestes situacions. L’opacitat va fomentar estratègies defensives: certes persones evitaven moviments necessaris per no elevar la seva xifra i unes altres deixaven el dispositiu en una taquilla durant part del torn. La dada va perdre qualitat al mateix temps que augmentava la vigilància.

El comitè de seguretat del cas va separar prevenció i avaluació. Les alertes individuals van tornar a ser confidencials; les anàlisis col·lectives es van limitar a detectar llocs i processos de risc, amb llindars que evitaven identificar grups petits. Les dades no podien alimentar mesures disciplinàries ni comparacions de productivitat. Abans de qualsevol ús nou, calia fer una avaluació amb participació de prevenció, representació laboral i personal afectat. El període de conservació es va reduir i es va documentar qui hi podia accedir.

La revisió va afegir una alternativa per a qui no podia utilitzar el dispositiu i un procediment per comunicar avisos falsos. També va exigir observar l’entorn físic: alçada de taules, embalatges, rotació, temperatura, formació i pauses. El sensor va deixar de presentar el cos com a origen aïllat del risc. Quan moltes alertes apareixien en un lloc, la primera pregunta s’adreçava al disseny del lloc, no a la disciplina de qui l’ocupava.

La seguretat no s’oposa a la privacitat per definició. Totes dues es poden reforçar quan la finalitat està limitada i la informació condueix a corregir condicions. El conflicte sorgeix quan una infraestructura instal·lada sota una promesa de cura es reutilitza per controlar. En aquell moment, la confiança no es recupera amb una nova casella de consentiment. Cal retirar l’ús indegut, explicar què ha passat, corregir efectes i demostrar mitjançant regles verificables que la frontera es mantindrà.

Cas tres: l’assistent que redactava i reduïa el criteri#

Una entitat de serveis del tercer cas compost va incorporar un assistent generatiu per preparar respostes a consultes. L’eina resumia antecedents i proposava esborranys, mentre la decisió formal continuava en mans del personal. Al principi va reduir escriptura repetitiva. Amb el temps, els objectius de volum es van ajustar a la velocitat promesa i la revisió es va tornar precipitada. Les respostes correctes en aparença podien ometre una circumstància excepcional o adoptar un to inadequat davant una situació sensible.

L’organització deia que sempre hi havia una persona en el circuit. Aquesta frase ocultava les condicions del circuit: l’esborrany apareixia primer, el comptador continuava avançant i apartar-se del suggeriment exigia justificar el temps addicional. La persona conservava un botó d’edició, però perdia espai per pensar. A més, els errors s’atribuïen a qui enviava la resposta, encara que aquesta persona no coneixia la procedència completa del resum ni podia modificar el sistema que el produïa.

La revisió del cas va reorganitzar tasques i responsabilitats. L’assistent va quedar limitat a consultes de menys risc; les matèries sensibles es derivaven abans de generar un esborrany. La interfície mostrava fonts internes vinculades al resum i assenyalava incertesa quan faltaven antecedents. El personal va rebre temps protegit per comprovar, formació basada en casos i autoritat per rebutjar una proposta sense penalització automàtica. L’avaluació de l’acompliment va deixar de premiar només el volum i va afegir qualitat, correccions, derivacions encertades i aprenentatge compartit.

Quan una resposta causava un problema, la investigació examinava el conjunt: dades d’entrada, disseny de l’avís, pressió temporal, documentació disponible, decisió humana i canvis posteriors. La traçabilitat no servia per localitzar ràpidament una persona culpable, sinó per distribuir responsabilitat entre organització, proveïdor i professional. Els incidents alimentaven millores, i les persones afectades per una resposta disposaven d’un canal humà capaç de revisar i reparar.

El cas mostra una diferència decisiva entre assistència i substitució silenciosa. Un assistent amplia el criteri quan elimina tasques mecàniques, ofereix evidència i permet dedicar més atenció a allò excepcional. El redueix quan la velocitat es converteix en una quota nova, la recomanació es torna norma i la persona carrega amb una responsabilitat que no pot exercir. La dignitat professional necessita alguna cosa més que presència humana nominal: necessita competència, marge, informació i capacitat real de decisió.

Quatre fonts i una pauta per mantenir la pregunta oberta#

L’Organització Internacional del Treball, en el seu marc sobre treball decent, relaciona oportunitats d’ocupació productiva amb ingrés just, seguretat, protecció social, desenvolupament personal, participació i igualtat. Aquest marc evita reduir la qualitat de la feina a la conservació de llocs i permet avaluar com es reparteixen els beneficis i costos d’una automatització.

La Declaració de l’OIT relativa als principis i drets fonamentals en el treball situa la llibertat d’associació, la negociació col·lectiva, l’eliminació del treball forçós i infantil, la no-discriminació i un entorn segur i saludable entre els compromisos fonamentals. La participació no apareix així com una cortesia del projecte tecnològic, sinó com a part d’una relació laboral que reconeix drets.

Els Principis d’intel·ligència artificial de l’OCDE proposen creixement inclusiu, respecte als drets i valors democràtics, transparència, robustesa i rendició de comptes. Traslladats al lloc de treball, donen suport a explicacions comprensibles, responsables identificables i mecanismes per qüestionar resultats que afectin oportunitats o condicions.

El Marc de Gestió de Riscos d’Intel·ligència Artificial del NIST organitza el treball al voltant de governar, mapar, mesurar i gestionar riscos. No substitueix obligacions locals ni negociació, però ajuda a mantenir la revisió durant tot el cicle de vida, inclosos el seguiment d’impactes i la retirada quan les salvaguardes no són suficients.

Aquestes fonts no lliuren una fórmula única. Una pauta pràctica pot començar amb cinc comprovacions: finalitat delimitada, participació amb capacitat de canviar el disseny, dades proporcionals, revisió humana efectiva i reparació accessible. Cada comprovació necessita una persona responsable, una data i evidència. Una política sense recursos no protegeix; un canal sense autoritat no revisa; una explicació que ningú no entén no fa transparent una decisió.

També convé observar els efectes acumulatius. Una notificació aïllada, un petit canvi de torn o una recomanació automàtica poden semblar menors. Repetits durant mesos, reorganitzen autonomia, ingressos, descans i confiança. L’avaluació periòdica ha d’escoltar qui utilitza el sistema i qui en rep les conseqüències, comparar grups sense envair-ne la privacitat i publicar dins de l’organització què s’ha corregit. El silenci no demostra acceptació: pot revelar por, fatiga o desconeixement de la via de reclamació.

La pregunta invisible ho canvia tot perquè torna la tecnologia al seu lloc. La feina no és una col·lecció de moviments optimitzables, sinó una activitat humana travessada per coneixement, cooperació, necessitat, límits corporals i projecte de vida. Una organització responsable pot automatitzar i conservar aquesta complexitat si decideix què no mesurarà, què no delegarà mai i com respondrà quan una persona contradigui el sistema.

Una feina que no renuncia a la dignitat no rebutja la innovació. Li exigeix una prova més completa. L’eina ha de demostrar no només que funciona, sinó que millora la feina sense tornar opaques les decisions, traslladar riscos a qui té menys poder o tancar la possibilitat de dissentir. Quan aquesta prova forma part del disseny, l’eficiència deixa de ser un veredicte i es converteix en una proposta que la comunitat laboral pot comprendre, discutir i corregir.