Un dilluns al matí, la conserge d’un bloc va rebre una incidència que semblava mecànica: el sistema que prioritzava les sol·licituds de manteniment havia ajornat la reparació de la porta del portal. El registre deia que hi havia una alternativa operativa, perquè l’ascensor connectava amb el garatge. La veïna que havia avisat va explicar una dada que el registre no contenia: sortia amb cadira de rodes per la porta del carrer i no tenia comandament del garatge. No necessitava que una pantalla li confirmés que la seva petició havia estat classificada; necessitava una manera clara de tornar aquella decisió a la taula on algú pogués veure el context.
Per això, un botó per demanar revisió humana no és un detall decoratiu dins d’un producte digital. És una peça de governança. Ha de dir què passa quan es prem, qui mirarà el cas, quina informació pot afegir la persona afectada i quan rebrà una resposta. Si només apareix al final d’una seqüència interminable, si exigeix explicar-se cinc vegades o si obre un formulari sense termini, es converteix en una sortida aparent. L’organització conserva la velocitat del sistema, però trasllada a qui pateix l’error la feina de demostrar que existeix.
Posar el context en clar#
La pregunta útil no és si totes les decisions automatitzades han de tenir el mateix botó. És quines decisions poden perjudicar una persona quan els seus detalls locals no caben en una categoria. Una recomendació de cita, la prioritat d’una reparació, l’accés a un ajut, el rebuig d’un document o l’ordre d’atenció poden semblar processos diferents. Comparteixen, però, una fragilitat: treballen amb dades ja disponibles i sovint confonen l’absència d’una dada amb l’absència d’una necessitat. El retorn a la taula serveix per recuperar allò que el sistema no sabia preguntar.
La pregunta útil no és si totes les decisions automatitzades han de tenir el mateix botó.
Abans de dissenyar aquesta via, convé fer visible la cadena sencera. Algú defineix la regla, una altra persona tria quins registres l’alimenten, una interfície presenta el resultat i un equip ha de poder corregir-lo. Si cada baula pensa que la següent assumirà la responsabilitat, el botó acaba conduint a una bústia sense propietari. Un compromís mínim és publicar dins del servei un responsable de revisió, un termini orientatiu i un canal alternatiu per a qui no pot usar la web. Aquestes tres coses no arreglen totes les decisions, però impedeixen que la correcció depengui de conèixer una persona concreta o d’insistir per telèfon.
Allò que canvia a la pràctica#
També canvia el to del procés. Demanar una revisió no hauria de marcar ningú com a sospitós ni com a usuari difícil. La persona pot saber que falta context sense conèixer el llenguatge tècnic del model, i no li correspon diagnosticar l’error. En lloc de preguntar «per què creu que l’algoritme s’ha equivocat?», una forma més honesta és «hi ha alguna circumstància rellevant que aquesta decisió no ha tingut en compte?». La diferència és petita sobre el paper i gran en la pràctica: la primera demana una defensa; la segona obre una conversa.
El registre de les revisions ha de ser suficient per aprendre, però no tan detallat que creï un nou arxiu de vulnerabilitats. En el cas de la porta, l’equip pot registrar que una regla d’accessibilitat no contemplava la mobilitat real de les persones, sense conservar més detalls mèdics dels imprescindibles. Classificar incidències per tipus —dada absent, dada incorrecta, regla massa rígida, explicació insuficient o problema d’interfície— ajuda a veure patrons. Alhora, cal separar el registre operatiu de qualsevol ús disciplinari. Si les treballadores temen que cada anul·lació es llegirà com una falta, deixaran passar casos dubtosos per protegir-se.
Decidir amb informació#
No tota anul·lació és igual. Hi ha decisions que poden esperar una revisió ordinària i n’hi ha d’altres que tenen un risc immediat. Per a les urgents, el servei necessita una via curta: suspendre temporalment una recomanació, activar una persona de guàrdia i informar de seguida què s’ha fet. Aquesta excepció no justifica recollir dades il·limitades ni saltar-se garanties; serveix per evitar que el termini normal es converteixi en una barrera quan hi ha seguretat, salut o accés bàsic en joc. Escriure aquests límits abans d’una crisi redueix la improvisació i les decisions opaques.
Un equip d’una cooperativa de consum va provar aquesta idea amb un selector de franges de repartiment. Durant dues setmanes, cada vegada que una persona demanava correcció, una parella formada per atenció i logística revisava el cas. No buscaven culpables. Apuntaven què havia faltat, quant havia trigat la resposta i si una regla podia canviar per a tothom. Van descobrir que moltes anul·lacions no eren desacords amb el criteri, sinó confusions produïdes per una etiqueta ambigua. Reescriure l’etiqueta va reduir les peticions sense tancar la porta a les situacions particulars.
Revisar i ajustar#
Aquesta prova mostra per què la revisió humana no pot ser només un recurs individual. Cada cas ha de respectar la persona concreta, però els casos agrupats poden indicar que una classificació està mal plantejada. La periodicitat importa: una reunió mensual curta, amb exemples anonimitzats i dades de termini, és més útil que un informe anual impecable que arriba quan ja s’han repetit els danys. En aquesta reunió, qui atén peticions ha de tenir paraula, perquè veu com la norma es tradueix en conversa; qui manté el sistema ha d’explicar quins canvis són possibles; i qui és responsable del servei ha d’assumir les decisions de recursos.
La càrrega de corregir no pot recaure sempre en la persona afectada. Si una revisió confirma que una dada pública era errònia, l’equip ha d’indicar com la corregirà i si comprovarà altres casos semblants. Si la decisió va causar una espera o una exclusió, cal explicar la reparació que es pot oferir. No sempre hi ha una compensació perfecta, però el silenci converteix el dany en una anècdota interna. Una resposta comprensible, amb data i responsable, reconeix que la institució té deures després de l’error i no només abans de llançar una eina.
Hi ha igualment un risc de convertir el botó en una promesa impossible. Un servei petit no pot resoldre centenars de casos amb revisió artesanal en una hora. Per això convé mesurar el volum, reservar temps de feina i explicar honestament els terminis. La solució no és amagar l’opció, sinó dissenyar processos que redueixin errors repetits: formularis que permetin aportar context sense redactar una carta, avisos abans d’una decisió irreversible, i regles que incorporin les excepcions conegudes. La capacitat operativa és part de l’ètica, perquè una garantia sense personal és una garantia sense efecte.
Per comprovar si el mecanisme serveix, es poden seguir indicadors modestos: quantes revisions es demanen, quin percentatge modifica la decisió, quant temps passa fins a la resposta, quins motius es repeteixen i si hi ha barreres per idioma, dispositiu o horari. Cap xifra, sola, determina la justícia d’un servei. Una disminució de peticions pot significar que la regla ha millorat, però també que el botó és difícil de trobar. Per això les dades quantitatives s’han de llegir al costat de converses amb les persones que l’han utilitzat i amb les que van abandonar el procés.
El botó, finalment, és una invitació a practicar una altra relació amb la tecnologia. No diu que les eines no puguin ordenar feina ni que tota decisió hagi de començar des de zero. Diu que cap classificació ha de ser més important que la possibilitat d’explicar una vida situada. Quan la conserge va tornar la incidència de la porta a la taula, la reparació es va prioritzar i la regla es va revisar. El resultat valuós no va ser només una porta arreglada: va ser que el proper registre tindria un lloc per reconèixer que no totes les rutes són accessibles per a tothom.
Una acció concreta pot iniciar el canvi aquesta setmana: escollir una decisió assistida que afecti persones, demanar a tres persones que recorrin el camí de correcció i anotar on troben silenci, culpa o espera. Després, assignar un nom, un termini i un retorn comprensible a cada pas. Aquest petit assaig no substitueix una política pública ni una auditoria completa, però converteix la paraula «humà» en una responsabilitat verificable. I deixa preparada la taula perquè, quan una persona premi el botó, algú hi sigui realment per escoltar.
