La primera vegada que l'associació del barri va fer servir una eina per ordenar les peticions de les seves sales, ningú no va dir que estigués prenent una decisió important. Només volien deixar de revisar trenta correus cada tarda. El sistema proposava un ordre: primer les activitats amb més assistents previstos, després les que havien reservat abans, al final les que demanaven horaris difícils. Al cap de pocs dies, el taller de conversa de persones acabades d'arribar deixava de trobar espai. No hi havia mala intenció ni un error espectacular; hi havia una regla còmoda que ningú no havia posat en paraules. Aquest és un bon lloc per començar a entendre els algorismes que recomanen i decideixen: no com una força misteriosa, sinó com una manera de prioritzar que ens pot ajudar si sabem mirar-la, discutir-la i corregir-la.
Convertir una inquietud en una pregunta petita#
Un pla realista no comença comprant una plataforma ni cercant el terme tècnic de moda. Comença descrivint una decisió concreta. En lloc de dir «volem fer servir intel·ligència artificial», l'associació pot preguntar: «Com repartim les sales sense deixar fora activitats amb menys recursos?». Aquesta frase obliga a precisar el problema i limita la mida de la prova. També permet reconèixer quan una recomanació no hauria de decidir res per si sola. Si hi ha en joc una ajuda, una expulsió, un diagnòstic, un contracte o un dret, l'eina pot ordenar informació, però una persona responsable ha d'estudiar el cas i explicar la seva decisió. L'automatització guanya valor quan redueix una tasca repetitiva; el perd quan s'utilitza per amagar una responsabilitat.
Un pla realista no comença comprant una plataforma ni cercant el terme tècnic de moda.
Fer visible la regla que abans estava amagada#
Una recomanació sempre conté una preferència, encara que es presenti amb aparença neutral. Pot afavorir rapidesa, estalvi, proximitat, popularitat, probabilitat de resposta o costum. A l'associació, la regla inicial premiava el nombre estimat d'assistents i la rapidesa en escriure el correu. Era fàcil de calcular, però no era l'únic criteri raonable. En un full compartit, l'equip va escriure les quatre preguntes que la pantalla no mostrava: què es valora, què es deixa fora, qui ho pot canviar i què passa quan falta informació. En llegir-les, van decidir afegir necessitats d'accessibilitat, alternança entre grups i un espai protegit per a propostes noves. La regla no va desaparèixer; va deixar d'actuar en silenci.
Separar un suggeriment d'una ordre#
La paraula «recomanat» pot semblar innocent, però moltes persones interpreten una llista ordenada com una instrucció. Per això convé dissenyar una pausa visible entre el resultat i l'acció. Pot ser una casella que demani confirmar, una persona que revisi els casos excepcionals o un avís que expliqui per què apareix aquella opció. No es tracta d'endarrerir-ho tot. Es tracta de reservar atenció humana per a allò que l'eina no pot saber: una necessitat temporal, un error de context, una dificultat per expressar-se o una conseqüència que pesa més que l'eficiència. Quan una llista ofereix una alternativa i explica que es pot revisar, és més fàcil utilitzar-la sense cedir el judici.
Fer servir la mínima informació necessària#
La pressa per personalitzar sol demanar més dades de les necessàries. Abans d'introduir noms, missatges, adreces, fotografies o situacions familiars, val la pena preguntar si aquesta informació canvia de veritat la recomanació. Per repartir sales, potser n'hi ha prou amb horari, durada, recursos físics necessaris i una preferència declarada pel grup. No cal registrar històries personals ni acumular perfils. Reduir dades protegeix la intimitat i millora la feina: obliga a formular regles senzilles que altres persones poden comprendre. Si una dada pertany a algú més, demanar permís no és un tràmit incòmode; és una manera de reconèixer que aquella persona conserva veu sobre com s'utilitza la seva informació.
Provar amb un cas reversible#
La millor primera prova és aquella que es pot aturar sense causar dany. Durant dues setmanes, l'associació va utilitzar el sistema només per proposar un esborrany de calendari. Ningú no rebia una negativa automàtica i cada grup podia assenyalar un horari impossible. Al final de cada dia, una voluntària comparava tres coses: la proposta automàtica, el calendari final i els canvis que havien demanat les persones. Van descobrir que l'eina tractava com a equivalents dues activitats amb la mateixa durada, tot i que una necessitava intèrpret i l'altra podia canviar d'hora. Aquesta troballa no va ser un fracàs. Va ser informació útil obtinguda abans de convertir una regla provisional en un costum difícil de desmuntar.
Cercar l'opció que la llista no ofereix#
Una pràctica senzilla contra l'obediència automàtica consisteix a demanar una quarta alternativa. Si el sistema presenta tres opcions, algú ha de cercar-ne una que no sigui en aquella llista: canviar la durada, compartir un recurs, obrir una franja diferent, trucar a la persona afectada o ajornar la decisió fins a tenir una dada fiable. Aquesta cerca no pretén demostrar que l'eina sempre s'equivoca. Serveix per recordar que la llista és una selecció, no el món sencer. En el cas de l'associació, la quarta alternativa va ser fer servir una sala petita en un altre edifici per al taller de conversa i reservar la sala accessible principal per a les activitats que realment la necessitaven. La solució va aparèixer quan van deixar de confondre ordre amb inevitabilitat.
Revisar si la comoditat es reparteix de manera justa#
Un sistema pot estalviar temps a l'equip i, alhora, traslladar esforços a qui té menys marge. Imagina una aplicació que recomana la cita més primerenca disponible. Per a algú amb horari flexible pot ser útil; per a qui cuida una altra persona, depèn del transport públic o necessita suport, pot ser una barrera. La pregunta no és únicament «funciona?», sinó «a qui li estalvia feina i a qui n'afegeix?». Convé mirar els resultats per situacions concretes: persones amb lector de pantalla, llengües diferents, connexions lentes, jornades canviants o experiència digital limitada. No cal etiquetar ningú de manera invasiva; n'hi ha prou d'escoltar els obstacles que apareixen i comprovar si es repeteixen.
Donar una explicació que permeti respondre#
Una explicació útil cap en llenguatge quotidià. Per exemple: «La proposta ordena sol·licituds per disponibilitat de sala, material necessari i torns pendents; pots demanar una revisió si falta una dada o si l'horari no és viable». Aquesta frase anomena el criteri, reconeix límits i obre una porta. No promet que el càlcul sigui perfecte ni exigeix entendre programació per qüestionar-lo. Evitar expressions com «el sistema ha decidit» també importa: darrere de cada sistema hi ha persones que han triat dades, objectius i límits. Quan l'explicació es pot discutir, la recomanació esdevé una ajuda pública en lloc d'una autoritat que ningú no sap interrogar.
Crear una via de correcció que no humiliï#
Corregir una recomanació ha de ser senzill i segur. Si per demanar un canvi algú ha d'explicar detalls íntims davant de tothom, moltes incidències no es coneixeran mai. L'associació va habilitar un correu breu, una conversa presencial i una opció sense justificar per sol·licitar revisió. Registraven només el que era necessari: data, tipus de problema, ajust realitzat i si la regla havia de canviar. No desaven la història personal que havia motivat la petició. Aquesta diferència és essencial: aprendre de l'error no requereix convertir les persones en expedients. Una via respectuosa permet detectar patrons i reparar casos sense castigar qui s'atreveix a dir «això no em serveix».
Mesurar també allò que no cap en un comptador#
Els indicadors poden ajudar, però no substitueixen la conversa. L'equip mirava quantes sol·licituds resolia cada setmana, però va afegir dues preguntes al tancament: «Qui ha hagut de fer més esforç per participar?» i «Quina decisió encara no sabem explicar?». De vegades la resposta era incòmoda. Un calendari molt eficient podia repetir els mateixos grups en les hores bones. Una proposta aparentment equilibrada podia ignorar que una persona no havia pogut respondre el correu. Anomenar aquests dubtes evita que un número net es converteixi en una coartada. La qualitat d'una recomanació inclou eficàcia, però també possibilitat de comprensió, de recurs i de pertinença.
Acordar qui cuida cada part#
No n'hi ha prou de dir que hi haurà supervisió humana; cal saber qui farà què. Una persona pot comprovar que les dades de les sales estan actualitzades. Una altra pot revisar setmanalment les excepcions. Qui coordina ha de poder aturar la prova si apareixen conseqüències no previstes. I les persones usuàries han de conèixer a qui adreçar-se. Repartir aquestes tasques evita el problema habitual que tothom suposi que algú altre revisarà l'eina. També permet que la supervisió sigui proporcionada: una recomanació de música pot admetre una revisió ocasional; una que afecta l'accés a recursos necessita controls més propers i una decisió final clarament humana.
Un tancament que deixi marge per canviar#
En acabar la prova, l'associació no va celebrar que un algorisme hagués resolt el seu calendari. Va decidir conservar una part del sistema, modificar dos criteris i revisar el resultat al cap d'un mes. El seu acord final va ser concret: la llista pot proposar; les persones poden objectar; cap activitat queda fora sense una explicació revisable. Aquest tipus de compromís és més valuós que una promesa abstracta d'utilitzar tecnologia «amb responsabilitat». Aquesta setmana pots fer una cosa semblant amb una recomanació quotidiana: anota què ordena, quina dada fa servir, quina alternativa falta i com demanaries una correcció. Si no pots respondre aquestes quatre preguntes, encara no cal abandonar l'eina, però sí que tens una bona raó per no deixar que decideixi sola.
