Un ayuntamiento anuncia que empleará un sistema de IA para ordenar las solicitudes de reparación en viviendas públicas. La promesa parece difícil de rechazar: atender antes las averías urgentes, reducir desplazamientos innecesarios y hacer más transparente una cola que hoy desespera a muchas personas. En la presentación se muestran mapas de calor y una simulación de tiempos. Cuando una vecina pregunta cómo se podrá explicar que una humedad persistente quedó por debajo de otra incidencia, recibe una respuesta tranquilizadora: “el modelo tendrá en cuenta todos los factores”. La frase intenta cerrar la inquietud, pero abre la cuestión principal. ¿Quién decidió cuáles son todos los factores y quién podrá cambiar la respuesta cuando la experiencia de un edificio no encaje en ellos?
La democracia no empieza cuando alguien protesta por un resultado injusto. Empieza antes, cuando todavía se puede discutir si ese problema debe automatizarse, qué objetivo merece prioridad y qué límites no se negociarán por ahorrar tiempo. Una inteligencia artificial que organiza servicios públicos no es un accesorio administrativo. Distribuye atención, espera y capacidad de reclamar. Si llega como un producto ya terminado, la ciudadanía solo puede elegir entre aceptar su lógica o sufrir sus consecuencias. Por eso necesita más democracia: no como ceremonia de aprobación, sino como una forma de compartir poder sobre el diseño, la prueba y la corrección.
Consultar no es preguntar al final#
Es fácil confundir una consulta con una diapositiva de preguntas al terminar una presentación. En ese momento, la decisión central suele estar tomada: se eligió proveedor, se reservó presupuesto, se definieron indicadores y se anunció una fecha. Las personas invitadas pueden comentar detalles, pero no tienen margen para replantear el proyecto. Esa participación sirve para informar; no sirve para gobernar.
Es fácil confundir una consulta con una diapositiva de preguntas al terminar una presentación.
Una consulta temprana plantea otras preguntas. Antes de comprar la herramienta, el ayuntamiento debería explicar qué problema concreto intenta resolver. ¿Hay demasiadas solicitudes? ¿Falta personal técnico? ¿Los avisos urgentes no llegan a quien puede actuar? Cada diagnóstico sugiere soluciones diferentes. Si la causa es que los inquilinos no saben dónde comunicar una avería, quizá hace falta mejorar canales y atención presencial. Si la causa es una plantilla insuficiente, un clasificador no crea reparadores. Automatizar sin distinguir el problema puede convertir una carencia de recursos en un sistema que reparte de forma más elegante la misma escasez.
También deberían participar quienes conocen las consecuencias desde posiciones distintas: residentes, conserjes, asociaciones de personas mayores, personal de mantenimiento, trabajadores sociales y personas que no usan habitualmente canales digitales. No para pedirles que diseñen un algoritmo, sino para que describan lo que una hoja de cálculo no registra con facilidad. Una mancha de humedad puede ser estética en un piso y un riesgo respiratorio en otro. Un ascensor averiado no tiene el mismo efecto para quien puede subir seis plantas que para una persona con movilidad reducida. El conocimiento situado no es una anécdota que se añade después del dato; es información necesaria para definir qué cuenta como urgencia.
El desacuerdo mejora el proyecto#
Cuando una institución presenta la IA como inevitable, el desacuerdo parece una resistencia irracional al progreso. Esa postura empobrece el proyecto. Las discrepancias muestran supuestos que nadie había formulado: que todas las personas pueden usar una aplicación, que una foto basta para describir una avería, que el historial del edificio representa el estado actual o que una prioridad calculada se puede aplicar sin mirar el caso. Escuchar estas objeciones a tiempo evita que el primer aprendizaje llegue después de un daño.
El desacuerdo debe tener una ruta concreta. En el ejemplo de las reparaciones, una mesa de seguimiento podría publicar los criterios de prioridad en lenguaje claro y abrir un periodo para discutirlos. No bastaría con recoger opiniones. La institución tendría que responder qué se incorpora, qué se descarta y por qué. Si un colectivo señala que los avisos de hogares sin teléfono inteligente quedan infrarrepresentados, la respuesta no puede ser prometer que “se tendrá en cuenta”. Debe describir un canal alternativo, quién registra esa información y cómo se comprobará que llega con el mismo peso al proceso.
La posibilidad de disentir también protege a los trabajadores. Un técnico puede advertir que una clasificación subestima una avería porque sabe que cierto edificio tiene tuberías antiguas. Si el sistema está diseñado para que cualquier modificación reduzca la productividad del turno, esa advertencia se volverá invisible. El procedimiento debe permitir que quien conoce el terreno corrija una prioridad, explique el motivo y vea esa corrección revisada como evidencia para mejorar la regla. Dar voz no consiste en añadir un botón de incidencia; consiste en dar tiempo, autoridad y protección para usarlo.
Participar exige información comprensible#
Nadie puede participar de forma significativa en una decisión que solo se describe con palabras de marketing o documentación opaca. La explicación no tiene que revelar secretos que comprometan la seguridad, pero sí debe contestar lo esencial: qué datos se usan, de dónde proceden, qué resultado produce el sistema, qué decisiones siguen en manos humanas, qué efectos puede tener un error y cómo se suspende la función. Un resumen de dos páginas, una sesión abierta y ejemplos de casos reales suelen ser más útiles que un informe técnico de cien páginas inaccesible para quienes viven en los edificios.
La información debe circular antes de la prueba y durante ella. Publicar que “la IA mejora la eficiencia” después de seis meses no permite valorar nada. En cambio, un tablero público y sencillo puede mostrar tiempos de atención por zona, número de prioridades modificadas por personal humano, reclamaciones recibidas, fallos detectados y casos enviados al canal alternativo. Los números no sustituyen a las historias, pero ayudan a formular preguntas precisas. Si una zona espera sistemáticamente más, la comunidad puede pedir que se investigue antes de que la media municipal esconda el patrón.
La transparencia también necesita límites de interpretación. Una métrica aislada puede usarse para justificar una conclusión falsa. Menos solicitudes no siempre significa menos problemas; puede significar que el canal es más difícil de usar o que las personas dejaron de esperar respuesta. Por eso los datos deben acompañarse de contexto y de espacios donde quienes viven la situación puedan explicarlo. La rendición de cuentas es un diálogo entre registros y experiencias, no la exhibición de un panel que pretende hablar por sí solo.
Un piloto con capacidad de detenerse#
La democracia no exige esperar a una certeza imposible antes de probar una idea. Exige que la prueba tenga límites visibles y que pueda detenerse. El ayuntamiento podría empezar con unos pocos edificios, durante un periodo definido, sin eliminar los canales actuales y con una regla clara: ninguna solicitud vinculada a seguridad, salud o accesibilidad se cerrará solo con una clasificación automática. Debería existir una persona responsable de revisar los efectos del piloto y una fecha pública para decidir si continúa, cambia o termina.
Un piloto serio incluye situaciones incómodas a propósito. ¿Qué ocurre si una persona no puede enviar una imagen? ¿Qué pasa si dos avisos parecen iguales pero afectan de manera distinta a quienes viven allí? ¿Qué sucede cuando la recomendación contradice el criterio de quien visita el inmueble? Ensayar esas preguntas no es sabotear la herramienta. Es reconocer que la vida pública está llena de excepciones y que un sistema digno de confianza necesita funcionar cuando la realidad se sale de su formulario.
La evaluación tampoco debería quedar en manos exclusivas del proveedor o del equipo que defendió el proyecto. Una revisión independiente puede incluir representantes vecinales, personal que utiliza el proceso y alguien con conocimiento de derechos de vivienda. Debe poder acceder a los registros necesarios, escuchar quejas y publicar conclusiones comprensibles. Si encuentra daño desproporcionado, ha de tener facultad para recomendar la pausa o exigir cambios antes de escalar el uso. Sin esa posibilidad, la evaluación corre el riesgo de ser una celebración del despliegue en lugar de una protección para la comunidad.
Democracia es conservar capacidad de corregir#
Algunas instituciones temen que abrir estas decisiones las vuelva lentas. Pero decidir sin escuchar suele producir otro tipo de lentitud: recursos gastados en reparar conflictos previsibles, personal obligado a atender reclamaciones repetidas y vecinos que dejan de confiar en el servicio. Deliberar puede costar tiempo al principio, pero evita que la velocidad del sistema se convierta en una carga para quienes tienen menos poder de respuesta.
La clave es distribuir la capacidad de corrección. Una residente debe saber cómo impugnar una prioridad. Un trabajador debe poder señalar una regla absurda sin exponerse. Una asociación debe poder ver si un patrón afecta de manera desigual a ciertos edificios. Quien gobierna debe poder detener el contrato si las garantías no se cumplen. Cada una de estas salidas transforma la IA de una autoridad silenciosa en una herramienta sometida a reglas comunes.
El proyecto de reparaciones puede acabar usando tecnología y seguir siendo más democrático que antes. Puede ordenar información, ayudar a detectar retrasos y liberar tiempo para visitas complejas. Pero solo si acepta que la eficiencia no define por sí sola el interés público. El valor de una herramienta se mide también por cómo deja entrar la experiencia de quienes no la diseñaron y por la facilidad con que puede ser cuestionada cuando falla. La democracia no es el freno de la inteligencia artificial: es el sistema de dirección que impide que avance rápido hacia un lugar que nadie eligió.
