En la sala de operaciones de una empresa de reparto, una pantalla celebra que el tiempo medio desde el pedido hasta la puerta ha bajado cuatro minutos. La flecha verde sube, el equipo recibe felicitaciones y el objetivo semanal parece asegurado. Fuera de esa pantalla, una repartidora ya no acepta rutas en una zona porque las pausas previstas no permiten ir al baño ni resolver una avería. Un cliente mayor ha dejado de pedir porque las entregas rápidas llegan sin llamar y el paquete acaba lejos de su portal. Ninguno de esos hechos aparece en el indicador. La métrica no miente; simplemente ha decidido qué cuenta como éxito y qué daño puede permanecer fuera de campo.
Este es el problema de muchas promesas algorítmicas. Se anuncia que un sistema hará más eficiente una tarea y, para comprobarlo, se elige una cifra fácil de comparar: pedidos por hora, casos cerrados, minutos de respuesta, clics convertidos o fraudes detectados. Medir algo es necesario, pero una cifra no es una descripción neutral de la realidad. Es una instrucción sobre dónde poner atención, qué conducta premiar y qué preguntas dejar para después. Cuando esa instrucción se automatiza, puede ordenar miles de decisiones antes de que alguien advierta que la velocidad estaba desplazando un coste hacia personas con menos margen para protestar.
Una métrica es también una regla de reparto#
Supongamos que un servicio de atención al cliente decide reducir su tiempo medio de cierre. Al principio parece una mejora indiscutible: nadie disfruta esperando. Sin embargo, si las bonificaciones dependen solo de cerrar rápido, los casos simples se resuelven primero y los complejos se devuelven de una cola a otra. Quien pregunta por un cambio de contraseña obtiene ayuda inmediata; quien intenta explicar un cobro duplicado, una barrera de accesibilidad o una suspensión injusta recibe mensajes breves que no responden a su situación. El promedio mejora porque las conversaciones difíciles se han convertido en retrasos invisibles.
Supongamos que un servicio de atención al cliente decide reducir su tiempo medio de cierre.
La trampa no reside únicamente en que el promedio pueda manipularse. Está en que la organización puede tomar ese promedio como una prueba de buen servicio sin preguntar a quién sirve. Una medida de velocidad distribuye tiempo: concede atención rápida a unas personas y tolera que otras hagan el trabajo de insistir, volver a explicar o reunir documentos. Si ese reparto no se mira, la eficiencia se parece demasiado a trasladar el coste a quien tiene menos conocimiento, menos tiempo libre o menos poder para reclamar.
Los algoritmos intensifican este efecto porque conectan la métrica con decisiones repetidas. Un sistema de asignación puede dar mejores turnos a quien completa más tareas; una herramienta de selección puede priorizar solicitudes fáciles de verificar; un detector de riesgo puede enviar más controles a los perfiles donde obtiene más resultados rápidos. Cada decisión individual puede parecer razonable bajo el objetivo elegido. El problema aparece al sumar el patrón: las personas con casos atípicos, dispositivos antiguos, horarios discontinuos o formas de comunicación distintas pasan a ser tratadas como una fricción que hay que reducir.
Por eso, antes de preguntar si un modelo es preciso, conviene preguntar qué resultado se ha convertido en premio. La precisión puede ser excelente para una meta mal planteada. Un sistema puede predecir qué llamadas terminarán antes y usar esa predicción para reducir el tiempo promedio, pero no por ello mejora la posibilidad de que alguien obtenga una solución. Confundir una señal operativa con la finalidad del servicio es una forma frecuente de convertir un tablero en una decisión ética sin reconocerlo.
La escena que falta en el tablero#
Una cooperativa de vivienda usa un formulario digital para revisar solicitudes de reparación. Quiere atender incidencias urgentes con rapidez y encarga a un sistema que priorice por fotografías, palabras clave y datos previos. Al mes, el tablero muestra una mejora notable: el tiempo de primera respuesta cae y se completan más órdenes por jornada. Durante una reunión vecinal, sin embargo, aparece otra historia. Varias personas mayores no sabían adjuntar una imagen; una familia que comparte teléfono enviaba el aviso cuando podía; un problema de humedad no incluía las palabras que el sistema asociaba a emergencia. Sus casos esperaron más, no porque fueran menos graves, sino porque resultaban menos legibles para la métrica.
La respuesta útil no es desechar toda priorización. Sería irresponsable tratar una fuga de gas igual que una persiana atascada. La pregunta es cómo comprobar que la velocidad no ha inventado una jerarquía basada en la facilidad de producir datos. La cooperativa puede revisar una muestra de casos lentos, comparar tiempos por canal de entrada, pedir a personas afectadas que reconstruyan su recorrido y mirar qué incidencias cambiaron de prioridad tras una intervención humana. También puede vigilar cuántas solicitudes se abandonan, cuántas veces se pide información redundante y cuántas reparaciones empeoran mientras esperan. Esas señales no sustituyen al tiempo medio; lo vuelven interpretable.
Esto exige nombrar el daño con precisión. “Experiencia negativa” es demasiado abstracto para guiar un cambio. En la cooperativa, el daño podría ser una noche sin calefacción, una filtración que arruina medicación, el coste de llamar desde un teléfono de prepago o la pérdida de confianza para comunicar una incidencia futura. Al especificarlo, el equipo puede decidir qué salvaguarda corresponde: un canal telefónico, revisión diaria de avisos incompletos, una categoría provisional para riesgos de vivienda o la posibilidad de elevar un caso sin demostrar dominio del formulario.
Una métrica responsable debería hacer visible no solo lo que mejora, sino el límite que no se permite cruzar. Puede ser razonable prometer que la mayoría de avisos tendrá respuesta en un plazo corto, pero no aceptar que ninguna incidencia relacionada con salud o habitabilidad quede sin lectura humana durante más de un día. Ese límite convierte una aspiración en una obligación operativa. También impide que una subida de rendimiento oculte un deterioro concentrado en quienes ya encuentran más obstáculos.
Velocidad sin contexto cambia la conducta#
Las personas no necesitan recibir órdenes explícitas para seguir una métrica. Basta con que la cifra determine reconocimiento, presupuesto o continuidad laboral. Un equipo de moderación que se evalúa por número de contenidos revisados tenderá a usar decisiones rápidas cuando la evidencia sea ambigua. Una red de clínicas que compara consultas por hora puede reducir la conversación que permite detectar una violencia, una reacción adversa o una dificultad económica. Un proveedor que promete entregas cada vez más inmediatas puede aumentar los trayectos arriesgados sin escribir nunca “asume más riesgo” en ninguna política.
Este mecanismo importa porque las consecuencias suelen aparecer lejos de quien diseñó el indicador. La persona que configura el tablero quizá vea una caída del coste por caso; quien trabaja con el sistema ve el tiempo encogerse; quien recibe la decisión nota una explicación más corta, una ruta más larga o una oportunidad perdida. Si no se conectan esas perspectivas, cada área puede afirmar honestamente que cumplió su parte mientras el daño se vuelve normal.
Una revisión seria pregunta por los incentivos, no solo por la interfaz. ¿Qué hacen los trabajadores cuando el objetivo entra en conflicto con una buena atención? ¿Qué casos empeoran cuando el sistema tiene éxito según su propia definición? ¿Quién puede detener una automatización y con qué protección? ¿Hay tiempo reservado para investigar excepciones, o toda excepción se interpreta como una amenaza a la productividad? Estas preguntas no retrasan la mejora. Evitan que el sistema aprenda a ganar el juego equivocado.
También conviene desconfiar de la idea de que el daño siempre quedará reflejado en una queja. Quien depende de un servicio puede no reclamar porque teme perder acceso, porque no entiende el proceso o porque ya ha invertido demasiadas horas. Una reducción en el número de reclamaciones puede significar satisfacción, pero también agotamiento. Por eso hay que combinar datos de uso con conversaciones cualitativas, revisiones de casos cerrados y pruebas deliberadas con personas que no se parecen a quienes diseñaron el flujo.
Diseñar una segunda lectura#
Una práctica sencilla consiste en acompañar cada métrica principal con una pregunta de contrapeso. Si se mide rapidez, se mide también resolución durable: cuántas personas vuelven por el mismo problema y cuántas respuestas fueron corregidas. Si se mide detección de fraude, se mira cuántas revisiones confirmaron el error y cuánto tardó una persona inocente en recuperar su acceso. Si se mide productividad, se observa qué trabajo de cuidado, explicación o corrección ha dejado de contar. No se trata de construir un tablero infinito; se trata de impedir que una única cifra declare victoria antes de tiempo.
La segunda lectura debe tener responsables y consecuencias. Un informe trimestral sin capacidad de alterar prioridades solo documenta el problema. En cambio, un equipo puede acordar que una subida sostenida de recontactos detenga la ampliación del sistema, que un patrón de barreras por canal active una prueba de accesibilidad o que una revisión humana pueda modificar la regla cuando detecte daño previsible. La gobernanza adquiere sentido cuando alguien puede actuar antes de que el coste se convierta en rutina.
La transparencia ayuda, pero no basta con publicar una fórmula. Una explicación útil dice qué se optimiza, qué no se utiliza para decidir, qué límites existen y cómo puede una persona señalar un resultado dañino. En el caso de la cooperativa, no hace falta revelar cada ponderación técnica para explicar que las fotografías pueden acelerar la clasificación, que no son obligatorias y que un aviso sin imagen será leído por una persona si describe una situación urgente. Esa información cambia la capacidad real de participar.
La prueba final consiste en invertir la perspectiva. En lugar de celebrar de inmediato una caída de minutos, pregunte: “¿qué tendría que ocurrir para que esta mejora fuera inaceptable?”. Invite a responder a quien atiende llamadas, a quien recibe paquetes, a quien utiliza lector de pantalla y a quien tuvo que apelar una decisión. Después convierta las respuestas en casos de prueba, umbrales y rutas de reparación. Si el sistema no puede sobrevivir a esa conversación, su rapidez depende de que alguien absorba un daño que no eligió.
La promesa silenciosa de los algoritmos no es solo que harán las cosas más deprisa. Es que la cifra elegida decidirá, sin discusión suficiente, qué vidas caben en la definición de éxito. Recuperar esa discusión es una tarea concreta: revisar una métrica, identificar el daño que podría ocultar, poner un límite verificable y dar a alguien autoridad para corregir. La próxima vez que una flecha verde anuncie progreso, la pregunta responsable no será únicamente cuánto se ha acelerado el proceso. Será quién ha pagado el tiempo que la pantalla dejó de contar.
