El futur es torna humà quan conserva una sortida, i a la feina que es diu a l'era automàtica, la comoditat inicial havia comprat una dependència que només es veia en intentar sortir.

Una eina pot estalviar hores, ordenar una càrrega de treball i reduir errors durant mesos. L'examen decisiu, però, comença quan canvia el preu, s'interromp el servei, es deteriora la qualitat o l'organització descobreix un dany que obliga a retirar-la. Si les dades no es poden recuperar, el coneixement operatiu ha desaparegut i ningú no recorda com continuar sense el proveïdor, l'eficiència inicial contenia un deute. No es tractava només d'una compra tecnològica: s'havia cedit capacitat per decidir.

Conservar una sortida no significa desconfiar de tota automatització ni mantenir dues organitzacions completes en paral·lel. Significa dissenyar una transició reversible i proporcionada al risc. Ha de ser possible aturar una funció, exportar informació en un format utilitzable, sostenir les tasques essencials, revisar decisions pendents i reparar conseqüències. Com més afecta un sistema el salari, els torns, la contractació, la seguretat o les cures, més concreta ha de ser aquesta possibilitat. Una clàusula contractual que promet portabilitat sense haver-la provat no constitueix una sortida.

La reversibilitat també protegeix la dignitat professional. Quan una plantilla perd la pràctica, les autoritzacions i el temps necessaris per intervenir, la supervisió humana es converteix en una signatura posada després de la màquina. La persona conserva responsabilitat, però ja no conserva mitjans. Un disseny digne manté criteri, aprenentatge i autoritat a prop de qui fa la feina. No idealitza el mètode anterior: conserva prou memòria per comparar resultats i actuar durant una excepció.

Els tres casos següents són composicions educatives construïdes a partir de riscos habituals en logística, selecció i cures. No descriuen cap empresa identificable ni substitueixen una avaluació tècnica, laboral o jurídica. Permeten observar el mateix principi en contextos diferents: la sortida ha d'existir abans del problema, ha de ser practicable per persones ordinàries i ha de conduir a un resultat equivalent sense castigar qui la utilitza.

Una sortida real es dissenya abans de signar#

La primera tasca consisteix a separar la necessitat de la solució. Reduir desplaçaments, cobrir millor els torns o contestar sol·licituds amb rapidesa són necessitats; dependre d'una plataforma concreta no ho és. Aquesta distinció permet comparar alternatives i negociar sense acceptar que totes les funcions formin un paquet indivisible. També evita que el cost ja invertit es converteixi en argument per mantenir una eina que ha deixat de servir.

La primera tasca consisteix a separar la necessitat de la solució. Reduir desplaçaments, cobrir millor els torns o contestar sol·licituds amb rapidesa són necessitats; dependre d'una plataforma concreta no ho és.

Abans de contractar cal inventariar dades, integracions, instruccions, decisions i coneixements que quedarien dins del sistema. Per a cada element convé definir propietari, format d'exportació, freqüència de còpia i procediment de validació. Exportar no equival a obtenir un fitxer enorme que cap alternativa pot llegir. La prova adequada consisteix a reconstruir una mostra en un altre entorn, comprovar relacions i permisos, i mesurar quant de temps necessita un equip que no va participar en la implantació.

La continuïtat exigeix identificar funcions essencials i temps màxims d'interrupció. Algunes tasques poden esperar; d'altres afecten medicació, nòmina, accés a una jornada o seguretat física. Hi ha d'haver una manera degradada comprensible, amb formularis, canals, responsables i prioritats definits. Aquesta modalitat necessita límits per no convertir-se en una excusa de precarietat permanent, però s'ha de poder activar sense trucar al comercial, revelar una contrasenya personal ni improvisar ordres contradictòries.

La sortida contractual inclou terminis d'assistència, esborrament verificable, lliurament de registres, conservació d'evidències i costos previsibles. També ha de cobrir canvis de propietat, tancament del proveïdor, actualitzacions incompatibles i subcontractistes. El marc de treball decent de l'OIT recorda que la innovació laboral s'ha de jutjar juntament amb els drets, la protecció i el diàleg social. La dependència tècnica mai no elimina la responsabilitat de l'organització que decideix com s'utilitza una eina.

L'avaluació de riscos ha de considerar tant el funcionament normal com la retirada. L'AI Risk Management Framework de NIST proposa governar, identificar, mesurar i gestionar riscos durant el cicle de vida. Aplicat a la sortida, obliga a preguntar qui pot ordenar una pausa, quins senyals l'activen i com es confirma que una correcció funciona. Un comitè sense accés a registres ni autoritat pressupostària pot comentar el risc, però no governar-lo.

Finalment, cal fer un assaig. Se simula una caiguda, una pujada de preu, un canvi de model o una pèrdua d'integració; es registra qui detecta el problema, quant triga la continuïtat i quina informació falta. Les deficiències es corregeixen abans d'ampliar l'ús. La reversibilitat no es demostra mitjançant una intenció, sinó amb una prova datada, repetible i coneguda per la plantilla. Igual que una sortida d'emergència, només mereix confiança si està lliure i algú sap obrir-la.

Cas u: el magatzem que no podia recuperar el seu propi ritme#

En el primer cas compost, una cooperativa logística va adoptar una plataforma que assignava rutes internes, calculava objectius i distribuïa pauses. Durant el primer any va reduir recorreguts i va facilitar la planificació. La direcció va deixar d'imprimir mapes d'ubicació, va centralitzar incidències a l'aplicació i va permetre que caduquessin diversos fulls de càlcul locals. La formació per a responsables nous es va limitar al tauler del proveïdor. La comoditat semblava raonable perquè el servei gairebé no fallava.

Després d'una actualització, els lectors antics van deixar de sincronitzar-se i algunes ordres van aparèixer duplicades. El proveïdor va oferir una correcció en setanta-dues hores. El magatzem podia obrir, però ningú no tenia una llista actualitzada de prioritats ni sabia reconstruir la seqüència de comandes. Es va demanar a la plantilla que recordés ubicacions i anotés moviments en papers improvisats. La suposada automatització havia traslladat la memòria a un sistema que no lliurava una còpia operativa.

La incidència va revelar, a més, una desigualtat. Qui feia anys que treballava al centre podia orientar-se i va absorbir decisions addicionals; el personal temporal va rebre objectius que el sistema continuava calculant amb dades incompletes. Diverses pauses es van marcar com a excés i alguns rendiments van quedar artificialment baixos. Continuar no consistia només a moure caixes: exigia suspendre conseqüències automàtiques i protegir qui no podia demostrar que l'error procedia de la plataforma.

La cooperativa va reconstruir la sortida amb participació d'operacions, prevenció, representació laboral, informàtica i personal de diferents torns. Va crear una exportació diària d'ubicacions, comandes i regles; va documentar un ordre manual de prioritats; va mantenir etiquetes llegibles; i va prohibir utilitzar mètriques generades durant el mode degradat per avaluar persones. Cada torn va practicar durant dues hores sense connexió i va anotar decisions que encara depenien de coneixement tàcit.

En el segon assaig, l'activitat essencial va continuar al setanta per cent, les pauses es van conservar i tots els moviments es van poder incorporar després sense penalitzacions dobles. La solució no pretenia igualar la velocitat ideal. Garantia seguretat, traçabilitat i una càrrega raonable mentre es resolia l'avaria. El contracte posterior va exigir accés a registres i assistència per migrar. La cooperativa va mantenir la plataforma, però va deixar de confondre fidelitat al proveïdor amb continuïtat de la feina.

Cas dos: la selecció automàtica que conservava candidats, però no raons#

En el segon cas compost, una cadena comercial va incorporar un servei per ordenar candidatures i recomanar entrevistes. El proveïdor allotjava formularis, puntuacions i notes. Recursos humans podia descarregar noms i dades de contacte, de manera que va considerar resolta la portabilitat. Al cap d'uns mesos va aparèixer una diferència persistent entre aspirants amb trajectòries no lineals i la resta. L'empresa va decidir aturar la recomanació automàtica i revisar expedients.

La descàrrega no contenia versions del perfil, factors rellevants, regles vigents en cada data ni motius d'exclusió. Només conservava la puntuació final. Era impossible saber si una candidatura havia quedat enrere per la disponibilitat declarada, una equivalència educativa incorrecta o un canvi del model. El proveïdor va invocar la protecció de la propietat intel·lectual i va oferir executar una altra classificació. L'organització posseïa les dades personals bàsiques, però no la memòria necessària per explicar les seves decisions.

El problema afectava persones que potser mai no van saber que havien estat descartades. Una revisió limitada a qui reclamés hauria deixat intacte el patró. Es va definir el conjunt potencialment exposat per versió, vacant i període; es va congelar la destrucció de registres pertinents; i es van reobrir candidatures quan faltava una justificació verificable. Mentrestant, la selecció va continuar mitjançant criteris reduïts, revisió humana i terminis ampliats, sense convertir la urgència de contractació en permís per repetir el filtre.

El nou disseny va establir un registre de decisió independent del proveïdor: finalitat de cada criteri, procedència de la dada, versió aplicada, intervenció humana, resultat i via de revisió. No es va copiar codi propietari ni es van emmagatzemar atributs innecessaris. Es va conservar la informació suficient per reconstruir una decisió i contrastar diferències entre grups amb garanties de privacitat. També es va incloure una data de caducitat perquè les dades d'una candidatura no es transformessin silenciosament en un historial laboral permanent.

El Reglament europeu d'intel·ligència artificial considera d'alt risc determinats usos relacionats amb l'ocupació i la gestió de treballadors, amb obligacions que depenen del sistema, el paper de cada actor i el calendari d'aplicació. En el cas compost, la lliçó operativa va ser anterior a qualsevol etiqueta jurídica: no s'ha d'automatitzar una conseqüència important si l'organització no pot conservar evidència, supervisar-la i oferir una revisió efectiva. La sortida requeria recuperar capacitat explicativa, no només una llista de noms.

Cas tres: el servei de cures que havia oblidat com dir no#

En el tercer cas compost, una entitat d'atenció domiciliària utilitzava un planificador per combinar visites, trajectes i disponibilitat. L'eina va reduir trucades i va trobar coincidències útils. Amb el temps, les coordinadores van deixar d'intervenir excepte quan el sistema mostrava un conflicte. Les modificacions manuals exigien justificar una desviació i empitjoraven un indicador d'eficiència. Encara que formalment hi havia supervisió, l'organització ensenyava a acceptar la proposta automàtica.

Un canvi de contracte va elevar el cost i va limitar funcions essencials. L'entitat va voler migrar en tres mesos, però va descobrir que les preferències de les persones usuàries, els acords sobre continuïtat i moltes alertes es desaven com a notes no estructurades. Les coordinadores més experimentades recordaven una part del context; d'altres havien estat traslladades. Exportar calendaris no reconstruïa relacions de confiança, riscos domèstics ni motius pels quals una visita mai no havia de canviar-se sense parlar amb la persona atesa.

Durant la transició es va produir una assignació tècnicament compatible entre una cuidadora i un domicili. La proposta ignorava que una experiència anterior feia inviable aquella relació. Ningú no va patir cap dany perquè una familiar va reconèixer el nom, però l'episodi va mostrar que la sortida també ha de preservar el dret a rebutjar. Un sistema que només migra disponibilitats converteix límits humans en detalls prescindibles. La dignitat depèn que certes negatives continuïn visibles i no exigeixin tornar a narrar una situació dolorosa.

L'entitat va crear un pla gradual. Va classificar la informació segons necessitat, sensibilitat i vigència; va demanar consentiment o va aplicar la base corresponent per traslladar només allò imprescindible; va verificar amb professionals i persones usuàries els acords crítics; i va mantenir equips estables durant la migració. Es va obrir un canal accessible per corregir contextos, sense obligar a explicar motius íntims a múltiples interlocutors. Una persona responsable podia aturar qualsevol assignació i activar una continuïtat humana.

L'assaig va incloure una caiguda de xarxa, dues absències, una adreça incompleta i una negativa d'última hora. Es van mesurar visites cobertes, retards, canvis de professional, càrrega de coordinació, incidents i experiència de qui rebia el servei. La primera prova va fracassar perquè el telèfon alternatiu es va saturar; la segona va afegir prioritats, reforç i devolució de trucades. Aquest fracàs controlat va resultar més valuós que una demostració perfecta: va revelar on la sortida encara depenia d'heroisme.

La migració va trigar més del previst, però va conservar la continuïtat i va reduir dades ambigües. El nou contracte va fer possible exportar restriccions i acords en formats documentats. A més, l'entitat va reservar hores mensuals perquè les coordinadores revisessin excepcions i practiquessin el mode manual. L'automatització va continuar aportant valor, però la capacitat de cuidar ja no va quedar subordinada a la disponibilitat d'una plataforma.

Un protocol de retirada que conserva drets i aprenentatge#

Una sortida madura comença amb senyals acordats: indisponibilitat prolongada, deteriorament de qualitat, diferència injustificada entre grups, incompliment de seguretat, cost sobrevingut o pèrdua de control sobre les dades. Per a cada senyal es fixa un llindar, una persona amb autoritat i una primera mesura. Aturar una funció no obliga sempre a abandonar tot el sistema. La retirada modular redueix el dany i permet aprendre sense convertir cada error en una batalla entre continuïtat cega i apagada total.

El protocol ha d'ordenar sis fronts: protegir les persones, preservar evidència, sostenir tasques essencials, comunicar incertesa, corregir decisions i triar el destí de dades i contractes. La comunicació explica quina funció s'atura, a qui afecta, quina alternativa existeix i quan es revisarà. Si hi ha salaris, accés a la feina o seguretat en joc, les conseqüències discutides s'han de suspendre quan sigui possible. L'organització no pot exigir que cada persona afectada descobreixi i provi un error produït en sèrie.

La Directiva europea 2024/2831 sobre treball en plataformes aborda, entre altres matèries, transparència i supervisió humana en la gestió algorítmica. L'aplicació concreta requereix comprovar transposició, dates i context amb assessorament actualitzat. Com a criteri general, reforça una idea útil: quan un sistema assigna, controla o avalua treball, hi ha d'haver responsables humans identificables i procediments capaços de revisar decisions, no una safata administrada pel mateix mecanisme qüestionat.

Després de la retirada es fa una revisió sense culpabilitzar qui va detectar el problema. Es reconstrueixen condicions, avisos, decisions i efectes; es busquen persones potencialment afectades; i també es repara allò derivat, com puntuacions, oportunitats o dades incorrectes reutilitzades. L'avaluació distingeix errors del proveïdor, decisions organitzatives i manca de recursos. Externalitzar tecnologia no externalitza el deure de diligència. Tampoc no n'hi ha prou amb retornar un import si roman una valoració que continuarà tancant portes.

El tancament exigeix demostrar esborrament o transferència, documentar obligacions pendents i conservar únicament l'evidència legítima durant el termini necessari. S'ha de registrar quin coneixement es va perdre, quina alternativa va funcionar i quin requisit canviarà en la contractació següent. Les mètriques inclouen temps de recuperació, exactitud de l'exportació, càrrega afegida, reclamacions, diferències entre grups i qualitat del servei; no només estalvi econòmic.

La pregunta final no és si una organització pot tornar exactament al passat. En molts casos no pot ni ho ha de fer. La prova consisteix a saber si conserva prou llibertat per canviar de rumb sense abandonar treballadors, candidats o persones cuidades. Un futur humà utilitza automatització sense lliurar l'última paraula, manté sortides practicables i converteix cada retirada en aprenentatge institucional. La comoditat deixa aleshores de comprar dependència: es transforma en una millora sotmesa a drets, seguretat i reparació.