Un ajuntament anuncia que farà servir un sistema d’IA per ordenar les sol·licituds de reparació en habitatges públics. La promesa sembla difícil de rebutjar: atendre abans les avaries urgents, reduir desplaçaments innecessaris i fer més transparent una cua que avui desespera moltes persones. A la presentació es mostren mapes de calor i una simulació de temps. Quan una veïna pregunta com es podrà explicar que una humitat persistent hagi quedat per sota d’una altra incidència, rep una resposta tranquil·litzadora: “el model tindrà en compte tots els factors”. La frase intenta tancar la inquietud, però obre la qüestió principal. Qui va decidir quins són tots els factors i qui podrà canviar la resposta quan l’experiència d’un edifici no hi encaixi?
La democràcia no comença quan algú protesta per un resultat injust. Comença abans, quan encara es pot discutir si aquell problema s’ha d’automatitzar, quin objectiu mereix prioritat i quins límits no es negociaran per estalviar temps. Una intel·ligència artificial que organitza serveis públics no és un accessori administratiu. Distribueix atenció, espera i capacitat de reclamar. Si arriba com un producte ja acabat, la ciutadania només pot escollir entre acceptar la seva lògica o patir-ne les conseqüències. Per això necessita més democràcia: no com una cerimònia d’aprovació, sinó com una manera de compartir poder sobre el disseny, la prova i la correcció.
Consultar no és preguntar al final#
És fàcil confondre una consulta amb una diapositiva de preguntes en acabar una presentació. En aquell moment, la decisió central acostuma a estar presa: s’ha escollit proveïdor, s’ha reservat pressupost, s’han definit indicadors i s’ha anunciat una data. Les persones convidades poden comentar detalls, però no tenen marge per replantejar el projecte. Aquesta participació serveix per informar; no serveix per governar.
És fàcil confondre una consulta amb una diapositiva de preguntes en acabar una presentació.
Una consulta primerenca planteja unes altres preguntes. Abans de comprar l’eina, l’ajuntament hauria d’explicar quin problema concret intenta resoldre. Hi ha massa sol·licituds? Falta personal tècnic? Els avisos urgents no arriben a qui pot actuar? Cada diagnòstic suggereix solucions diferents. Si la causa és que els llogaters no saben on comunicar una avaria, potser cal millorar canals i atenció presencial. Si la causa és una plantilla insuficient, un classificador no crea reparadors. Automatitzar sense distingir el problema pot convertir una manca de recursos en un sistema que reparteix d’una manera més elegant la mateixa escassetat.
També hi haurien de participar qui coneix les conseqüències des de posicions diferents: residents, conserges, associacions de persones grans, personal de manteniment, treballadors socials i persones que no utilitzen habitualment canals digitals. No per demanar-los que dissenyin un algoritme, sinó perquè descriguin allò que un full de càlcul no registra amb facilitat. Una taca d’humitat pot ser estètica en un pis i un risc respiratori en un altre. Un ascensor avariat no té el mateix efecte per a qui pot pujar sis plantes que per a una persona amb mobilitat reduïda. El coneixement situat no és una anècdota que s’afegeix després de la dada; és informació necessària per definir què compta com a urgència.
El desacord millora el projecte#
Quan una institució presenta la IA com a inevitable, el desacord sembla una resistència irracional al progrés. Aquesta postura empobreix el projecte. Les discrepàncies mostren supòsits que ningú no havia formulat: que tothom pot usar una aplicació, que una fotografia basta per descriure una avaria, que l’historial de l’edifici representa l’estat actual o que una prioritat calculada es pot aplicar sense mirar el cas. Escoltar aquestes objeccions a temps evita que el primer aprenentatge arribi després d’un dany.
El desacord ha de tenir una ruta concreta. En l’exemple de les reparacions, una taula de seguiment podria publicar els criteris de prioritat en llenguatge clar i obrir un període per discutir-los. No n’hi hauria prou de recollir opinions. La institució hauria de respondre què s’incorpora, què es descarta i per què. Si un col·lectiu assenyala que els avisos de llars sense telèfon intel·ligent queden infrarepresentats, la resposta no pot ser prometre que “es tindrà en compte”. Ha de descriure un canal alternatiu, qui registra aquella informació i com es comprovarà que arriba amb el mateix pes al procés.
La possibilitat de dissentir també protegeix els treballadors. Un tècnic pot advertir que una classificació subestima una avaria perquè sap que un edifici concret té canonades antigues. Si el sistema està dissenyat perquè qualsevol modificació redueixi la productivitat del torn, aquesta advertència es tornarà invisible. El procediment ha de permetre que qui coneix el terreny corregeixi una prioritat, n’expliqui el motiu i vegi aquella correcció revisada com a evidència per millorar la regla. Donar veu no consisteix a afegir un botó d’incidència; consisteix a donar temps, autoritat i protecció per utilitzar-lo.
Participar exigeix informació comprensible#
Ningú no pot participar de manera significativa en una decisió que només es descriu amb paraules de màrqueting o documentació opaca. L’explicació no ha de revelar secrets que comprometin la seguretat, però sí que ha de contestar l’essencial: quines dades s’usen, d’on procedeixen, quin resultat produeix el sistema, quines decisions continuen en mans humanes, quins efectes pot tenir un error i com se suspèn la funció. Un resum de dues pàgines, una sessió oberta i exemples de casos reals sovint són més útils que un informe tècnic de cent pàgines inaccessible per a qui viu als edificis.
La informació ha de circular abans de la prova i durant ella. Publicar que “la IA millora l’eficiència” després de sis mesos no permet valorar res. En canvi, un tauler públic i senzill pot mostrar temps d’atenció per zona, nombre de prioritats modificades per personal humà, reclamacions rebudes, fallades detectades i casos enviats al canal alternatiu. Els números no substitueixen les històries, però ajuden a formular preguntes precises. Si una zona espera sistemàticament més, la comunitat pot demanar que s’investigui abans que la mitjana municipal amagui el patró.
La transparència també necessita límits d’interpretació. Una mètrica aïllada es pot fer servir per justificar una conclusió falsa. Menys sol·licituds no sempre significa menys problemes; pot significar que el canal és més difícil d’usar o que les persones han deixat d’esperar resposta. Per això les dades han d’anar acompanyades de context i d’espais on qui viu la situació pugui explicar-ho. La rendició de comptes és un diàleg entre registres i experiències, no l’exhibició d’un tauler que pretén parlar per si sol.
Un pilot amb capacitat d’aturar-se#
La democràcia no exigeix esperar una certesa impossible abans de provar una idea. Exigeix que la prova tingui límits visibles i que es pugui aturar. L’ajuntament podria començar amb uns pocs edificis, durant un període definit, sense eliminar els canals actuals i amb una regla clara: cap sol·licitud vinculada a seguretat, salut o accessibilitat no es tancarà només amb una classificació automàtica. Hauria d’existir una persona responsable de revisar els efectes del pilot i una data pública per decidir si continua, canvia o acaba.
Un pilot seriós inclou situacions incòmodes expressament. Què passa si una persona no pot enviar una imatge? Què passa si dos avisos semblen iguals però afecten de manera diferent qui viu allà? Què succeeix quan la recomanació contradiu el criteri de qui visita l’immoble? Assajar aquestes preguntes no és sabotejar l’eina. És reconèixer que la vida pública és plena d’excepcions i que un sistema digne de confiança necessita funcionar quan la realitat surt del seu formulari.
L’avaluació tampoc no hauria de quedar en mans exclusives del proveïdor o de l’equip que va defensar el projecte. Una revisió independent pot incloure representants veïnals, personal que fa servir el procés i algú amb coneixement dels drets d’habitatge. Ha de poder accedir als registres necessaris, escoltar queixes i publicar conclusions comprensibles. Si hi troba dany desproporcionat, ha de tenir facultat per recomanar la pausa o exigir canvis abans d’escalar l’ús. Sense aquesta possibilitat, l’avaluació corre el risc de ser una celebració del desplegament en lloc d’una protecció per a la comunitat.
Democràcia és conservar capacitat de corregir#
Algunes institucions temen que obrir aquestes decisions les faci lentes. Però decidir sense escoltar acostuma a produir una altra mena de lentitud: recursos gastats a reparar conflictes previsibles, personal obligat a atendre reclamacions repetides i veïns que deixen de confiar en el servei. Deliberar pot costar temps al principi, però evita que la velocitat del sistema es converteixi en una càrrega per a qui té menys poder de resposta.
La clau és distribuir la capacitat de correcció. Una resident ha de saber com impugnar una prioritat. Un treballador ha de poder assenyalar una regla absurda sense exposar-se. Una associació ha de poder veure si un patró afecta de manera desigual determinats edificis. Qui governa ha de poder aturar el contracte si les garanties no es compleixen. Cadascuna d’aquestes sortides transforma la IA d’una autoritat silenciosa en una eina sotmesa a regles comunes.
El projecte de reparacions pot acabar fent servir tecnologia i continuar sent més democràtic que abans. Pot ordenar informació, ajudar a detectar retards i alliberar temps per a visites complexes. Però només si accepta que l’eficiència no defineix per si sola l’interès públic. El valor d’una eina també es mesura per com deixa entrar l’experiència de qui no la va dissenyar i per la facilitat amb què pot ser qüestionada quan falla. La democràcia no és el fre de la intel·ligència artificial: és el sistema de direcció que impedeix que avanci de pressa cap a un lloc que ningú no va escollir.
