Damunt la taula de la biblioteca municipal hi ha una llista de llibres per comprar i un pressupost que no arriba per a tots. La nova eina de recomanació ordena les peticions amb una puntuació d’“interès previst”. A primera vista sembla una ajuda imparcial: no coneix personalment les lectores, no té preferències literàries i ofereix un número per a cada títol. Però el número té una història. Dona més pes als préstecs anteriors, a les ressenyes disponibles en determinades plataformes i als patrons de consulta recollits per una aplicació. Quan la llista puja a la pantalla, els llibres sol·licitats per clubs de lectura que no utilitzen aquella aplicació queden avall. L’eina no ha dit que els seus interessos valguin menys; senzillament ha convertit una manera de deixar rastre en la manera principal de ser vist.
Anomenar neutral aquest resultat no aclareix res. Pot donar tranquil·litat, perquè sembla desplaçar la responsabilitat cap a una operació tècnica. Tanmateix, un sistema no apareix sense eleccions: algú decideix quines dades hi entren, què compta com a èxit, quant error es tolera i quan una suggerència passa a ordenar recursos reals. La neutralitat és un mite no perquè tota tecnologia amagui una intenció maliciosa, sinó perquè una decisió humana pot quedar dins d’una regla i deixar de semblar una decisió. Anomenar aquesta presència és l’inici d’una conversa més honesta.
Una puntuació no arriba sola#
La puntuació de la biblioteca podria estar ben calculada segons el seu disseny. Potser prediu correctament quins títols rebran més clics al catàleg digital. El problema és que “més clics” no respon per si sol a la pregunta de què ha de comprar una biblioteca pública. També poden importar la diversitat del fons, l’accés de qui no deixa rastre digital, les necessitats de grups petits o l’oportunitat de descobrir autors que encara no figuren als registres. Cap d’aquestes prioritats és matemàtica per naturalesa. Cal escollir-les, discutir-les i convertir-les en criteris.
La puntuació de la biblioteca podria estar ben calculada segons el seu disseny. Potser prediu correctament quins títols rebran més clics al catàleg digital.
Aquesta diferència importa perquè les paraules canvien la conducta. Si diem que l’eina és neutral, una treballadora pot sentir que qüestionar l’ordre equival a introduir la seva opinió personal en un procés objectiu. Si diem que l’eina aplica un conjunt de prioritats configurades, s’obre una altra possibilitat: preguntar si aquelles prioritats són adequades i si les persones afectades poden aportar informació que el sistema no veu. La segona formulació no fa la feina més fàcil, però la situa on pertoca: en una decisió pública que necessita raons i responsables.
També hi ha una elecció en el moment d’utilitzar el resultat. La mateixa puntuació pot servir com una pista entre diverses o com una barrera que elimina títols abans que ningú no els llegeixi. Pot ajudar a preparar una reunió o substituir-la. Pot marcar una proposta com a incerta o presentar-la amb una precisió que ningú no ha comprovat. No n’hi ha prou d’auditar el càlcul; cal observar la pràctica que es crea al seu voltant. Una recomanació adquireix poder quan altres processos, calendaris i objectius s’organitzen per obeir-la sense fricció.
Les dades recorden unes vides millor que unes altres#
Les dades no són un retrat uniforme de la realitat. Són rastres produïts per serveis, dispositius, formularis i regles de registre. Una persona que renova llibres per internet deixa un senyal diferent de qui visita el taulell, comparteix un exemplar a casa o demana un títol a una associació del barri. Si l’eina tracta el senyal digital més visible com a sinònim d’interès, transforma una diferència d’accés en una diferència de valor. No cal que anomeni ningú perquè la desigualtat aparegui en el resultat.
Aquesta observació no obliga a abandonar els registres disponibles. Seria absurd negar que els préstecs i les cerques poden oferir informació útil. Obliga, en canvi, a descriure’n els límits. La biblioteca hauria de poder explicar de quines fonts procedeix cada recomanació, qui queda pitjor representat en cada font i quines vies hi ha per corregir aquesta absència. Una fitxa llegible podria indicar que la puntuació mesura activitat registrada, no necessitat cultural; que certes peticions es revisen fora del model; i que els grups poden presentar raons que s’incorporen a la decisió. L’explicació no és un afegit comunicatiu. És una manera d’evitar que la sortida automàtica converteixi els seus silencis en veritats.
Mirar les dades per grups també ajuda a detectar problemes que una mitjana amaga. Potser l’eina encerta amb les novel·les més demanades i redueix sistemàticament la presència d’obres en llengües minoritàries, materials accessibles o temes sol·licitats per poques persones. Una mitjana d’encert elevada pot conviure amb una pèrdua concentrada. Per això l’equip no s’hauria de preguntar només si el model “funciona”, sinó per a qui funciona, en quines condicions i quines conseqüències té equivocar-se en cada cas. No tots els errors pesen igual: recomanar un llibre menys popular no és el mateix que negar l’accés a un recurs educatiu necessari.
L’objectivitat necessita procediment, no una etiqueta#
Reconèixer que no hi ha neutralitat automàtica no significa acceptar decisions arbitràries. Al contrari, permet construir una objectivitat més exigent: una que mostri criteris, contrasti proves i es deixi corregir. Per a la biblioteca, el primer pas podria ser acordar públicament quins objectius persegueix la compra anual i com s’equilibren quan xoquen. Després, l’eina hauria de documentar quin paper té en aquest equilibri i quins són els seus límits. No es tracta de demanar a cada visitant que entengui un model complex, sinó d’oferir raons comprensibles per a una decisió que afecta la seva comunitat.
Un comitè petit i divers pot revisar una mostra de recomanacions abans de cada compra. La seva funció no seria validar cada títol per intuïció, sinó comprovar si el sistema està desplaçant de manera persistent algun tipus de necessitat. Hauria d’incloure personal de biblioteca, representants de grups lectors i algú amb capacitat de modificar el procediment. Les reunions han de deixar un registre senzill: quin patró s’ha observat, quin canvi s’ha acordat, qui l’aplicarà i quan es comprovarà de nou. Sense autoritat i data, la revisió es redueix a una conversa amable que no altera res.
La possibilitat d’impugnar és igual d’important. Si un club detecta que les seves sol·licituds no apareixen mai, necessita una via clara per demanar explicació i revisió sense haver de dominar la jerga tècnica. La resposta ha de dir quina informació va influir, quines dades faltaven i quina persona pot reconsiderar el cas. Una organització pot protegir detalls que permetrien manipular el sistema, però no hauria d’utilitzar aquesta protecció per ocultar tota raó. Donar una explicació parcial però útil reconeix que les persones no són soroll al voltant d’un model; són qui suporta els seus efectes.
Canviar una prioritat també forma part del disseny#
L’eina de la biblioteca pot continuar sent útil després d’aquesta revisió. Potser estalvia temps en reunir senyals dispersos o ajuda a detectar peticions recurrents. La qüestió no és expulsar-la per demostrar independència, sinó impedir que converteixi els seus supòsits en una norma eterna. Els registres canvien, les comunitats canvien i una prioritat raonable un any pot ser insuficient el següent. Tota configuració necessita una data de revisió i una manera de saber si està provocant resultats no desitjats.
Una prova responsable pot començar amb un període curt. Durant dos mesos, l’equip podria comparar les recomanacions automàtiques amb una llista que incorpori peticions presencials, propostes d’associacions i una reserva de pressupost per a fons poc representats. Després avaluaria no només quants préstecs hi va haver, sinó qui va poder accedir a materials que abans quedaven fora i quina feina addicional va exigir el canvi. Si la mesura falla, ha de poder aturar-se o corregir-se sense castigar qui va assenyalar el problema. Aprendre d’una discrepància és més valuós que amagar-la sota una xifra de precisió.
La mateixa lògica val fora d’una biblioteca. Un filtre de currículums, una ruta de repartiment o una alerta sanitària sempre prioritzen alguna cosa: temps, cost, freqüència, seguretat, benefici. La pregunta democràtica no és si contenen valors, perquè els contenen des del moment que defineixen què mesurar. La pregunta és qui va escollir aquests valors, amb quina evidència, qui els pot discutir i com es repara el dany quan no funcionen. Respondre-la no fa la IA menys útil. La fa visible en l’únic sentit que importa: com una decisió humana que encara es pot revisar.
La neutralitat promet descans, com si la puntuació ens alliberés de justificar una elecció difícil. Però el descans dura poc per a qui queda mal representat per la regla. Una tecnologia responsable no s’amaga darrere de la seva aparença objectiva. Declara les prioritats, conserva camins per escoltar allò que no mesura i accepta que una comunitat pot modificar el rumb. És un estàndard més laboriós que dir “ho ha decidit el sistema”, però també és la manera de mantenir el judici, la responsabilitat i l’autonomia en mans de qui viu amb la decisió.
