La calidad de una aplicación o de un protocolo de bienestar no se reconoce únicamente cuando todo funciona según el recorrido previsto. Se reconoce, sobre todo, cuando una persona no puede usar el formulario, no entiende una pregunta, necesita hablar con alguien, rechaza compartir datos o atraviesa una situación que una escala no describe. La excepción no es un fallo periférico: es información sobre los límites del sistema y sobre la consideración que merece quien queda fuera de su patrón.

Una herramienta digital puede ordenar recordatorios, ofrecer información general y facilitar una primera orientación. No diagnostica, no interpreta por sí sola una experiencia ni decide qué atención necesita una persona. Ante peligro inmediato, pensamientos de hacerse daño o dañar a otra persona, violencia, abuso, confusión intensa o dificultad para mantenerse a salvo, corresponde contactar con emergencias locales, servicios sanitarios o una línea de crisis. En España, el 112 atiende emergencias y el 024 ofrece atención a la conducta suicida.

La excepción es una prueba de diseño#

Muchos servicios se diseñan alrededor de una persona imaginada: tiene teléfono propio, conexión estable, tiempo, lectura fluida, un idioma dominante, privacidad y confianza para responder. Esa imagen elimina circunstancias comunes. Puede haber turnos de trabajo, cuidados familiares, discapacidad, duelo, violencia, migración, escasez económica o miedo a que otra persona vea la pantalla. Si el único camino exige esas condiciones, el servicio no es neutral; distribuye apoyo y cargas de forma desigual.

Muchos servicios se diseñan alrededor de una persona imaginada: tiene teléfono propio, conexión estable, tiempo, lectura fluida, un idioma dominante, privacidad y confianza para responder.

Un protocolo responsable registra las excepciones sin convertirlas en defectos personales. Pregunta qué parte del proceso no sirve, permite detenerse y ofrece caminos equivalentes. También analiza patrones: si muchas personas abandonan tras una pregunta, solicitan ayuda en otro idioma o no completan una videollamada, la respuesta no es insistirles. Es revisar el diseño, los recursos y la decisión institucional que produjo esa barrera.

Caso uno: la respuesta que no cabe en el menú#

Una persona abre una aplicación municipal después de una semana de ansiedad y encuentra opciones cerradas: dormir mejor, moverse más, practicar respiración. Su necesidad principal es que una expareja controla su teléfono y teme volver a casa. Ninguna categoría permite expresar esa situación sin dejar un rastro detallado. Marcar una opción de sueño sería una simplificación engañosa; abandonar la aplicación puede ser la elección más segura.

La respuesta adecuada no consiste en pedir más detalles mediante un bot. La pantalla debe ofrecer una salida discreta, explicaciones claras de privacidad y contactos de apoyo humano o especializado en el contexto local. Un botón de salida rápida puede reducir exposición, pero no sustituye una evaluación de seguridad ni garantiza protección. El equipo debe saber que una consulta incompleta puede ser prudencia, no falta de interés.

Caso dos: la videollamada inaccesible#

Un programa corporativo ofrece una sesión de bienestar por vídeo. Una trabajadora con baja visión usa lector de pantalla, pero el calendario no tiene etiquetas y la plataforma exige identificar imágenes. Una segunda persona no puede participar porque comparte habitación y no dispone de auriculares. Ambas quedan clasificadas como ausentes. El informe celebra la asistencia de quienes lograron entrar y no mide la exclusión creada por el propio canal.

Accesibilidad significa prever formatos alternativos antes de que llegue una reclamación: teléfono, texto legible, subtítulos, interpretación cuando sea necesaria, materiales compatibles con tecnologías de apoyo y horarios razonables. También requiere una persona que resuelva barreras sin obligar a revelar una condición ante un responsable. La equivalencia importa: una alternativa no debe ofrecer menos información, menos confidencialidad o peores opciones de seguimiento.

Caso tres: la alerta automática con consecuencias#

Un cuestionario semanal asigna una alerta alta a una estudiante que marca varias respuestas de malestar. El sistema envía el resultado a un administrador escolar sin explicar con claridad quién lo verá. La alerta puede reflejar una noche difícil, una respuesta literal, una situación relevante o un error. Convertirla automáticamente en una etiqueta disciplinaria, una llamada pública o una notificación familiar amplia puede agravar el daño y cerrar futuras conversaciones.

Las señales automatizadas pueden servir para priorizar una revisión humana cuidadosamente definida, nunca para adoptar decisiones sensibles sin contexto. Debe existir personal formado, una explicación comprensible, posibilidad de corregir datos y un procedimiento proporcional. La revisión ha de preguntar de forma respetuosa, no interrogar para confirmar un modelo. Si aparece un riesgo urgente, el protocolo debe activar ayuda adecuada; si no, debe evitar vigilancia, castigo y divulgación innecesaria.

Equidad no es tratar a todas las personas igual#

Ofrecer la misma pantalla a todas las personas puede parecer imparcial, pero ignora desigualdades previas. Una interfaz sólo en un idioma, una llamada sólo en horario laboral o una recomendación que presupone dinero y espacio privado favorecen a unas personas sobre otras. La equidad exige identificar qué recursos reclama el servicio y quién puede aportarlos. También exige contar con la participación de personas afectadas, asociaciones de discapacidad y mediadores comunitarios al evaluar el producto.

La recogida de datos merece la misma cautela. Solicitar información sensible para adaptar una experiencia puede crear riesgo si no existe una finalidad concreta, base adecuada, acceso limitado y un periodo de conservación definido. La minimización no es una pérdida de precisión; es una forma de reducir daños previsibles. Una organización debe poder explicar por qué necesita cada dato, quién lo consulta, cómo se protege y cómo puede la persona rectificarlo o retirarlo cuando sea opcional.

Derivar es acompañar una transición#

Decir simplemente “busque ayuda profesional” puede ser correcto pero insuficiente. La persona puede no saber qué servicio corresponde, temer el coste, necesitar interpretación, vivir lejos o no poder realizar una llamada con seguridad. Una derivación prudente ofrece información general verificable, opciones según el lugar y una forma de continuar sin obligar a revelar más datos de los necesarios. No promete disponibilidad, resultados ni confidencialidad absoluta que el servicio receptor no controla.

La derivación debe explicitar límites: la aplicación no reemplaza atención clínica, protección ante violencia ni respuesta de emergencia. Cuando los indicadores sugieren peligro inmediato o incapacidad para mantenerse a salvo, la prioridad es facilitar contacto urgente con los servicios locales pertinentes, no prolongar un chat o recopilar más métricas. Fuera de esa urgencia, una persona puede preferir hablar con atención primaria, un profesional acreditado, servicios sociales o una organización especializada; el sistema debe respetar esa decisión.

No automatizar decisiones sensibles#

Una decisión sensible afecta acceso a apoyo, privacidad, educación, empleo, familia o seguridad. Ninguna puntuación de ánimo, transcripción, patrón de uso o ausencia de clics contiene por sí solo el significado suficiente para decidir sobre esas materias. Los modelos pueden equivocarse, reproducir sesgos y confundir correlación con necesidad. Además, el conocimiento de que una máquina clasifica a alguien cambia cómo responde y puede llevar a ocultar información importante.

La supervisión humana sólo es real si quien revisa tiene autoridad para apartarse de la recomendación, tiempo para escuchar y formación para reconocer incertidumbre. Pulsar aceptar sobre una sugerencia no cumple esa función. Deben documentarse los criterios, probarse resultados desiguales, limitarse los usos secundarios y ofrecerse un canal de impugnación comprensible. La rendición de cuentas no se resuelve con una cláusula: requiere responsables identificables, auditoría y reparación cuando una decisión perjudica.

Caso cuatro: el silencio interpretado como desinterés#

Un servicio envía recordatorios diarios y marca como “baja adherencia” a quien no responde. Sin embargo, esa persona cambió de número, comparte dispositivo con un familiar y decidió desactivar avisos porque le provocaban angustia. El sistema trata la falta de señal como una conducta que debe corregirse. Esa lectura convierte un límite legítimo o una dificultad material en un motivo de presión.

Un diseño cuidadoso permite pausar, salir y volver sin penalización. Los avisos deben ser configurables y discretos; la ausencia de actividad no debe desencadenar contacto invasivo ni informes para terceros. Cuando una organización necesita seguimiento por una obligación concreta, ha de explicarlo antes, delimitarlo y ofrecer un contacto humano para revisar circunstancias. La autonomía incluye el derecho a no convertir cada día en un dato de bienestar.

Privacidad, seguridad y confianza#

La información de bienestar puede revelar rutinas, relaciones, creencias y momentos de vulnerabilidad. Por eso la privacidad no es una pantalla legal al final del registro, sino una condición práctica de seguridad. Las explicaciones deben ser breves, accesibles y visibles en el momento de decidir. Deben diferenciar entre datos necesarios para una función, usos opcionales, destinatarios y límites de confidencialidad. Los ajustes protectores deben venir activados por defecto cuando sea viable.

La seguridad también incluye el entorno físico. Un mensaje explícito en una pantalla compartida puede exponer a alguien; una notificación puede aparecer ante una pareja, familia o empleador. Conviene ofrecer nombres neutros, control de notificaciones y salida rápida, pero sin sugerir que esas medidas bastan en contextos de coerción. El análisis de riesgos debe incluir amenazas técnicas, errores humanos y dinámicas de poder que ningún cifrado resuelve por sí solo.

Una gobernanza que aprende#

El trabajo empieza antes del lanzamiento y continúa después. La organización debe definir finalidad, límites, responsables, formación y recursos para las rutas de apoyo. Debe probar el servicio con personas diversas y revisar datos de acceso, abandono y quejas sin transformar la evaluación en una nueva vigilancia. Las incidencias deben llegar a quienes pueden corregir formularios, contratos, mensajes y protocolos, no quedar enterradas en un panel de indicadores.

Conviene publicar un modo sencillo de informar un problema y responder con plazos razonables. Las personas afectadas necesitan saber qué ocurrirá tras una queja y cómo solicitar revisión humana. Los proveedores también deben rendir cuentas: un contrato no elimina la responsabilidad de la entidad que invita a usar la herramienta. Evaluar proveedores implica revisar accesibilidad, seguridad, tratamientos de datos, subcontratación, explicaciones y mecanismos reales para detener un uso dañino.

Indicadores que no esconden a nadie#

Las cifras de descargas, sesiones o cuestionarios completados son fáciles de contar, pero pueden ocultar presión, abandono o exclusión. Un informe más honesto combina medidas cuantitativas con evidencia cualitativa: qué barreras se notificaron, qué alternativas se utilizaron, cuánto tardó una respuesta humana y qué cambios se hicieron. También separa participación voluntaria de participación exigida por una institución. El éxito no es lograr que todo el mundo deje datos; es que quien necesita apoyo pueda encontrar una opción segura y adecuada.

La evaluación debe mirar consecuencias no previstas. ¿Una alerta llegó a alguien que no debía verla? ¿Una traducción alteró el sentido? ¿Las personas con menor conectividad recibieron peor respuesta? ¿La opción de no participar tuvo efectos? Preguntas así evitan que el promedio borre experiencias importantes. La excepción es una señal de aprendizaje cuando puede comunicarse sin temor y cuando tiene capacidad efectiva de cambiar el sistema.

Una ayuda digital con límites claros#

Una plataforma responsable formula sus límites con lenguaje directo. Puede ofrecer educación general, herramientas voluntarias y vías de contacto; no puede determinar una condición clínica, garantizar seguridad ni sustituir una relación profesional. Tampoco debe usar un tono de certeza que haga sentir a la persona obligada a seguir una recomendación. La claridad permite decidir con más libertad y ayuda a distinguir una orientación general de una atención individualizada.

La calidad se demuestra en detalles: una alternativa accesible existe antes de pedirla; un dato sensible no se solicita por costumbre; una alerta llega a una persona competente y no a una lista amplia; una negativa no trae castigo; una posible urgencia recibe una ruta clara hacia apoyo inmediato. Esos detalles revelan si la tecnología organiza cuidado o sólo organiza información.

Fuentes institucionales y primarias: Organización Mundial de la Salud, salud mental; Ministerio de Sanidad de España, Línea 024; Agencia Española de Protección de Datos, derechos de protección de datos; Naciones Unidas, Convención sobre los Derechos del Niño; UNESCO, Recomendación sobre la ética de la IA; NIST, AI Risk Management Framework.