Una cifra puede ser útil y aun así orientar una decisión hacia el lugar equivocado. El tiempo medio de respuesta, el porcentaje de casos cerrados o la proporción de personas que aceptan una recomendación automática permiten ver una parte del servicio. No permiten, por sí solos, saber si la respuesta fue comprensible, si resolvió el problema adecuado o si empujó a una persona a abandonar una alternativa necesaria. En la inteligencia artificial cotidiana, la facilidad para contar no debe confundirse con la importancia de lo contado. Una respuesta automática produce rastros medibles; la experiencia de quien recibe esa respuesta, sus dudas y las consecuencias posteriores suelen requerir otra atención.

Cuando la cifra simplifica una decisión#

Una organización puede observar que un asistente reduce de ocho minutos a dos el tiempo de una consulta. Esa mejora puede ser real. Pero el promedio mezcla preguntas sencillas con situaciones que no encajan en el formulario, personas con buena conexión con otras que no pueden continuar, y respuestas útiles con respuestas formuladas con seguridad sin fundamento suficiente. Si el único objetivo es disminuir minutos, el sistema aprenderá a terminar conversaciones, no necesariamente a ayudar. La métrica se convierte entonces en una instrucción de diseño: premia aquello que registra y deja sin protección aquello que no aparece en el panel.

Una organización puede observar que un asistente reduce de ocho minutos a dos el tiempo de una consulta.

Conviene preguntar para qué decisión se va a emplear cada número y qué comportamiento puede inducir. Una tasa alta de cierre puede significar que las personas encontraron una solución; también puede indicar que no supieron cómo pedir una revisión. Una tasa baja de escalado a una persona puede reflejar autonomía; también puede mostrar que la vía humana está escondida o tiene espera. La cifra necesita contexto, denominador, periodo y grupos afectados. Debe acompañarse de ejemplos revisados, quejas, correcciones y observación de recorridos completos. No se trata de rechazar los datos, sino de impedir que una medición parcial ocupe el lugar del juicio.

Caso 1: rapidez en la atención municipal#

Un ayuntamiento incorporó un asistente para orientar sobre ayudas de vivienda. El tablero semanal celebraba que el 86 por ciento de las conversaciones terminaba sin derivación y que el tiempo medio había bajado. A primera vista, ambos indicadores justificaban ampliar el sistema. Sin embargo, el equipo de atención detectó varias solicitudes repetidas de personas que habían recibido respuestas breves sobre documentos. No aparecían como incidencia porque cada conversación individual se marcaba como cerrada. Al revisar las secuencias, se comprobó que el asistente daba listas correctas para los casos habituales, pero no explicaba qué hacer cuando faltaba un justificante o existía un plazo próximo.

La revisión cambió el cuadro de mando. Junto al tiempo y al cierre se añadió la proporción de personas que resolvía el trámite sin volver a preguntar en treinta días, el número de expedientes rechazados por información incompleta y el tiempo hasta una respuesta humana cuando se solicitaba. También se leyó una muestra de conversaciones con perfiles distintos. La velocidad dejó de ser una victoria automática y pasó a ser una condición que debía convivir con comprensión y acceso. El asistente incorporó preguntas de aclaración, avisos sobre plazos y una derivación visible. El promedio empeoró ligeramente; el número de errores posteriores bajó de forma relevante.

Caso 2: una predicción escolar convertida en destino#

Una plataforma de apoyo al aprendizaje calculaba la probabilidad de que cada estudiante necesitara refuerzo. El centro observaba un indicador sencillo: cuántas recomendaciones coincidían con la calificación final. La coincidencia parecía alta y se utilizó para asignar plazas limitadas de tutoría. El problema era que la calificación final ya estaba influida por los apoyos recibidos, las ausencias y las oportunidades de recuperación. Además, quienes no tenían dispositivo estable aparecían menos en los registros de práctica y obtenían una predicción menos favorable. La cifra decía algo sobre una relación estadística, pero se estaba usando como si expresara una necesidad individual fija.

La dirección suspendió el uso de la predicción como criterio único. Conservó la señal como una fuente entre varias, junto con la observación docente, la petición del alumnado y una entrevista breve. Se evaluaron errores por curso, disponibilidad de conexión y materia, no solo la exactitud global. También se abrió una vía para pedir revisión sin tener que demostrar un fallo técnico. El cambio reconoció una diferencia esencial: una métrica de rendimiento del modelo no es una medida de justicia de la decisión. Cuando una respuesta automática afecta oportunidades, es necesario mirar a quién beneficia, a quién excluye y qué posibilidad real existe de corregir el resultado.

Caso 3: satisfacción que escondía una salida difícil#

Un servicio sanitario digital enviaba una encuesta después de cada orientación automática. La satisfacción era elevada, y el proveedor la presentaba como prueba de calidad. Las preguntas se mostraban justo después de un mensaje amable y antes de que la persona intentara conseguir cita o seguir una recomendación. Muchas respuestas valoraban el tono, no la utilidad clínica ni la posibilidad de acceder a atención. Una asociación de pacientes comunicó que algunas personas con síntomas persistentes habían seguido la orientación de esperar porque no entendieron que podían consultar de nuevo. Esa consecuencia quedaba fuera de la encuesta y del indicador mensual.

El servicio rediseñó la medición con pacientes y profesionales. Separó la claridad del mensaje, la facilidad para llegar a atención humana, la comprensión de señales de alarma y el resultado declarado varios días después. Las respuestas voluntarias no se trataron como una representación completa: se compararon con llamadas, reclamaciones y abandono del recorrido. Se creó una revisión específica de respuestas que aconsejaban esperar y de casos en que la persona volvía con mayor urgencia. La satisfacción siguió siendo un dato útil, pero dejó de ser un veredicto. En un ámbito sensible, una cara sonriente o una puntuación alta no puede sustituir la comprobación de que la ayuda fue segura y practicable.

Métricas que ayudan a responder mejor#

Una medición responsable empieza por formular el propósito en lenguaje corriente. Si una herramienta pretende orientar sobre un trámite, el resultado buscado no es solo una conversación corta, sino que la persona pueda completar el paso correcto con información suficiente. A partir de ahí pueden elegirse medidas complementarias: resolución verificada, tiempo de espera, correcciones solicitadas, abandono, derivación humana, diferencias entre grupos y daños detectados. Ninguna tiene valor aislada. Un conjunto pequeño, publicado con definiciones claras, permite ver tensiones que una única cifra oculta. El tiempo puede mejorar mientras aumentan las correcciones; la aceptación puede subir porque la alternativa empeora.

Las métricas también necesitan límites de uso. No deberían utilizarse para castigar a quien atiende una excepción ni para decidir automáticamente que una respuesta es correcta. Un objetivo rígido de conversaciones cerradas puede empujar a evitar preguntas complejas. Una meta de reducción de costes puede desincentivar la revisión humana. Antes de fijar incentivos conviene realizar una prueba de impacto: qué se medirá, quién queda fuera, qué error sería grave, cómo se detectará y quién podrá detener el sistema. Los datos deben conservar una trazabilidad suficiente para revisar una decisión, sin recoger información innecesaria. La proporcionalidad importa tanto en la recogida como en la interpretación.

La supervisión no consiste en mirar un panel una vez al mes. Requiere responsables identificados, muestras de casos, un canal para personas afectadas y capacidad para modificar el proceso. Las alertas deben incluir cambios bruscos, pero también daños pequeños repetidos que un promedio diluye. Es útil fijar revisiones antes de desplegar, durante una prueba limitada y tras cambios de modelo, proveedor o finalidad. Cuando una medida empeora, la respuesta no tiene por qué ser defender la herramienta. Puede ser reducir su alcance, añadir una explicación, abrir una alternativa o retirarla. La capacidad de corregir es una métrica práctica de responsabilidad.

Las referencias públicas ofrecen criterios para este trabajo. El marco de gestión de riesgos de IA de NIST propone gobernar, mapear, medir y gestionar riesgos durante el ciclo de vida. El Reglamento General de Protección de Datos de la Unión Europea exige transparencia, minimización y garantías en determinadas decisiones automatizadas. La Recomendación de la UNESCO sobre ética de la IA destaca proporcionalidad, supervisión humana y evaluación de impactos. La Comisión Europea ha señalado la importancia de la agencia humana, la diversidad y la rendición de cuentas para una IA fiable. Estas fuentes no entregan un indicador único, precisamente porque una cifra no puede reemplazar el examen de cada contexto.

Una respuesta automática puede ahorrar tiempo y mejorar un servicio cuando se mide con honestidad. El punto decisivo es no permitir que la cifra más cómoda defina por sí sola el éxito. Deben examinarse las personas que no terminan, los casos que vuelven, las correcciones, las alternativas y las consecuencias que aparecen después del clic. Medir es elegir qué se vuelve visible; gobernar bien consiste en mantener visibles también las partes incómodas. De ese modo, la métrica deja de dirigir a ciegas y se convierte en una ayuda para responder con más cuidado.

Fuentes oficiales. NIST AI Risk Management Framework; Reglamento General de Protección de Datos de la UE; UNESCO, Recomendación sobre la ética de la IA; Comisión Europea, directrices para una IA fiable.