Una puntuación de sueño, una racha de meditación, un promedio de ánimo o un contador de pasos pueden resultar útiles para recordar una experiencia, pero no describen por sí solos el estado emocional, la seguridad ni las necesidades de una persona. El número procede de una pregunta, un dispositivo, un algoritmo y unas reglas de cálculo; no conoce una pérdida, una amenaza, una jornada de cuidados o la calidad de una conversación. En salud y bienestar digital, la lectura responsable empieza por devolver a cada métrica su escala: puede ser una señal parcial para la reflexión voluntaria, nunca un veredicto sobre cómo está alguien.

Tampoco una cifra baja ni la interrupción de una racha autorizan una conclusión clínica. Los datos pueden ser incompletos, erróneos, interpretados fuera de contexto o influir en la conducta por el modo en que se presentan. Si hay peligro inmediato, pensamientos de hacerse daño o de dañar a otra persona, violencia, abuso, confusión intensa o dificultad para mantenerse a salvo, corresponde buscar ayuda urgente mediante emergencias locales, una línea de crisis o servicios sanitarios. En España, 112 atiende emergencias y 024 ofrece atención a la conducta suicida. Esta información es general y no sustituye atención profesional.

Una métrica mide una regla, no una vida#

Una aplicación suele transformar observaciones heterogéneas en una escala sencilla porque las escalas permiten comparar días, activar avisos y mostrar progreso. Esa simplificación tiene un coste. Un reloj puede inferir descanso a partir del movimiento; un cuestionario puede convertir una respuesta puntual en una puntuación; una racha puede tratar la constancia como si fuera bienestar. Ninguno de esos resultados explica por qué ha cambiado una persona, qué significado tiene el cambio o qué apoyo sería adecuado.

Una aplicación suele transformar observaciones heterogéneas en una escala sencilla porque las escalas permiten comparar días, activar avisos y mostrar progreso.

La interfaz puede agravar el error cuando usa colores de alarma, rankings o mensajes que presentan una estimación como certeza. La persona puede sentir que ha fallado por perder una serie tras una noche de trabajo, cuidados o enfermedad. Quien acompaña puede tomar un panel como prueba de desinterés o riesgo. Una lectura prudente formula preguntas abiertas, permite añadir contexto y acepta que no registrar nada también puede ser una elección legítima.

Caso uno: la racha que convirtió el descanso en deuda#

Una persona mantiene durante meses una racha de ejercicios de respiración. Durante una semana de mudanza deja de abrir la aplicación y recibe avisos sobre una “serie perdida”. En lugar de ofrecer apoyo, el contador convierte una pausa comprensible en una sensación de fracaso. El dato útil era que existía una interrupción; la conclusión injustificada era que la persona había abandonado su cuidado.

Un diseño responsable permite silenciar rachas, ocultar comparaciones y reiniciar sin castigo. También evita que la continuidad sea el objetivo principal. La pregunta relevante no es cuántos días seguidos se completó una acción, sino si la herramienta sigue siendo deseada, segura y proporcionada al contexto. Ninguna plataforma debe usar una racha para presionar a revelar información o para atribuir una condición.

Caso dos: una puntuación baja sin contexto#

Un empleado contesta un breve registro de bienestar después de dormir poco mientras cuida a un familiar. El sistema asigna una puntuación baja y la muestra a una persona responsable del equipo. La cifra no distingue cansancio puntual, duelo, precariedad, conflicto o una posible emergencia. Compartirla amplía el daño: una señal concebida para abrir conversación se convierte en etiqueta laboral.

Los paneles institucionales deben recoger el mínimo imprescindible, explicar quién verá cada dato y ofrecer una alternativa humana no basada en puntuaciones. Si existe una alerta, su revisión ha de recaer en personal formado, con confidencialidad y un protocolo que permita contextualizar, corregir o no continuar. El número de alertas no es una medida de cuidado. Lo importante es que nadie sea expuesto, vigilado o penalizado por un dato ambiguo.

Caso tres: el gráfico que ocultaba un riesgo#

Una estudiante registra valores estables porque teme que una respuesta distinta llegue a su centro. Fuera de la pantalla atraviesa una situación de violencia y no se siente segura. El gráfico tranquiliza a quien lo mira, pero no demuestra seguridad. La ausencia de una señal no equivale a la ausencia de necesidad, y una puntuación favorable no reemplaza una conversación voluntaria y segura.

Una herramienta no debe afirmar que puede detectar o descartar riesgo a partir de una métrica. Debe explicar sus límites, ofrecer recursos visibles y facilitar una vía para contactar apoyo humano sin completar formularios. Ante señales directas de peligro o incapacidad para mantenerse a salvo, la prioridad es contactar ayuda urgente o profesional, no ajustar un umbral estadístico.

La presentación del dato cambia su efecto#

Los indicadores influyen porque sugieren qué importa. Una barra ascendente puede convertir una práctica opcional en obligación; un distintivo puede incentivar registrar incluso cuando no es conveniente; una predicción puede generar ansiedad. La transparencia exige decir qué se mide, con qué incertidumbre, qué no se puede inferir y cómo desactivar la función. También exige no emplear lenguaje de diagnóstico ni prometer que una puntuación mejora la salud.

Las organizaciones deberían probar estas decisiones con personas diversas, incluidos usuarios de dispositivos compartidos, personas con discapacidad y quienes disponen de pocos datos o intimidad. La privacidad forma parte de la interpretación: un registro hecho bajo vigilancia puede no ser libre ni fiable. La minimización de datos, la configuración privada por defecto y la posibilidad de borrar o corregir registros reducen daños antes de que aparezcan.

Usar la información sin convertirla en autoridad#

Una métrica puede apoyar una reflexión si la persona conserva control sobre ella: observar un patrón propio, decidir si quiere anotarlo y compartirlo solo si le resulta útil. Puede servir como punto de partida para preguntar “¿qué estaba pasando entonces?” y no como respuesta. Esa diferencia protege la autonomía y reconoce que los valores no tienen significado universal.

Las instituciones deben mantener responsables identificables, revisión independiente, mecanismos de reclamación y alternativas sin aplicación. La OMS, la AEPD, UNESCO y NIST subrayan, desde ámbitos distintos, la importancia de derechos, proporcionalidad, supervisión humana y gestión de riesgos. Aplicados aquí, esos principios impiden que un marcador cómodo ocupe el lugar de la escucha, la privacidad y el acceso a apoyo humano.

Cuando una persona expresa cansancio, soledad, ansiedad ante una situación cotidiana o dificultad para dormir, la respuesta digital más responsable no empieza por recomendar una aplicación, un chat o un ejercicio. Empieza por una pregunta abierta: qué está ocurriendo, qué espera esa persona, qué apoyos tiene y qué haría que la conversación fuera segura. Una herramienta puede ordenar información, ofrecer un recordatorio o facilitar el acceso a recursos, pero no conoce por sí misma el significado de una pérdida, una relación difícil, una precariedad económica o un riesgo inmediato. Escuchar antes de prescribir evita convertir una necesidad humana en una lista de funciones.

El bienestar digital no exige que nadie revele más de lo que desea ni que resuelva a solas un problema complejo. Requiere límites claros: una plataforma no sustituye la valoración de profesionales cualificados, no debe diagnosticar ni prometer resultados clínicos, y no es un canal adecuado para una emergencia. Si hay peligro inmediato, pensamientos de hacerse daño o de dañar a otra persona, violencia, abuso, confusión intensa o incapacidad para mantenerse a salvo, es importante buscar atención urgente mediante los servicios de emergencia locales, una línea de crisis o un servicio sanitario. En España puede llamarse al 112 ante una emergencia y al 024 para la línea de atención a la conducta suicida. Esta orientación es general y no constituye asesoramiento clínico.

La pregunta inicial protege mejor que una recomendación rápida#

Una recomendación apresurada puede parecer amable y aun así fallar. Dos personas que escriben “necesito desconectar” pueden estar describiendo cosas muy distintas: una quiere reducir notificaciones durante una semana exigente; otra se siente aislada y busca hablar con alguien; una tercera atraviesa una situación de riesgo. Por eso conviene preguntar qué tipo de ayuda se busca, si existe una persona de confianza, qué barreras hay para pedir apoyo y si la tecnología ha ayudado o empeorado antes la situación. La escucha no es un formulario que clasifica personas. Es una oportunidad para que la respuesta se ajuste a una necesidad expresada.

También importa preguntar por el contexto material. Un consejo que presupone móvil propio, datos ilimitados, intimidad en casa, dominio del idioma o tiempo libre puede aumentar la carga. Las alternativas deben incluir opciones no digitales: una conversación con atención primaria, orientación en un centro educativo, servicios sociales, asociaciones locales o una persona elegida por quien pide apoyo. La OMS recuerda que la salud mental está influida por condiciones sociales, económicas y ambientales. Ninguna interfaz compensa por sí sola la falta de vivienda, la violencia, la discriminación o una red de cuidados insuficiente.

Escenario uno: una aplicación de ánimo que ocultaba una necesidad de compañía#

Una estudiante descarga una aplicación que registra el estado de ánimo porque ha visto anuncios sobre rachas y gráficos. Tras varios días marca respuestas cada vez más bajas. El sistema propone mantener la serie y repetir ejercicios breves. En una conversación posterior, explica que acaba de llegar a una ciudad nueva, no conoce a nadie y le cuesta acudir a clase. El problema no era que hubiera olvidado registrar datos; era que necesitaba acompañamiento y una vía concreta para reconectar con su entorno.

Una respuesta prudente no interpreta el gráfico como un diagnóstico ni exige detalles íntimos. Puede preguntar si desea identificar a alguien seguro con quien hablar, si el centro dispone de orientación o si prefiere información sobre recursos comunitarios. Si expresa riesgo o no puede mantenerse segura, el paso adecuado es ayudar a contactar atención urgente o profesional, no prolongar una conversación automatizada. La aplicación, si se mantiene, queda en un lugar modesto: una libreta opcional para observar patrones propios, no una autoridad sobre lo que le ocurre.

Los límites deben entenderse antes de aceptar una pantalla#

Una herramienta de bienestar debe explicar con palabras sencillas su finalidad, sus límites, qué datos recoge, dónde se almacenan, quién puede acceder y cómo se eliminan. El consentimiento no es libre si la persona no comprende que un cuestionario puede generar alertas, compartir información con un proveedor o condicionar el acceso a otro servicio. En especial con menores, la institución tiene deberes reforzados de información, proporcionalidad y protección. Pedir datos sensibles solo porque son técnicamente fáciles de capturar es una mala práctica.

La Agencia Española de Protección de Datos señala derechos de acceso, rectificación, supresión y oposición, entre otros. Esos derechos deben poder ejercerse sin recorrer una ayuda interminable. Un botón para descargar o borrar datos no resuelve todos los riesgos, pero muestra que la persona no es materia prima del servicio. Los proveedores deben poder documentar medidas de seguridad, plazos de conservación, tratamiento de incidentes y límites de cualquier sistema automatizado. Si no pueden explicarlo, no deberían recibir información sobre salud o bienestar.

Escenario dos: el cuestionario que convirtió una alerta en etiqueta#

Una organización ofrece un cuestionario semanal de bienestar. Una respuesta desencadena un aviso visible para responsables del grupo. Una persona que había dormido mal por cuidar a un familiar descubre que varias personas conocen la alerta y teme que la consideren incapaz. El diseño confundió una señal de conversación con una conclusión sobre la persona. Además, no había explicado con precisión quién vería el resultado ni cuánto tiempo quedaría guardado.

El rediseño responsable elimina etiquetas, reduce la recogida al mínimo y deja claro qué ocurre con cada respuesta. Las alertas, cuando son necesarias y proporcionadas, deben llegar a una persona formada y con obligación de confidencialidad, mediante un protocolo revisable. Debe existir una alternativa para pedir ayuda sin completar el cuestionario y una forma de corregir o contextualizar lo registrado. El éxito no se mide por el número de alertas generadas, sino por si se ofrece apoyo sin exponer, vigilar o castigar.

Una derivación responsable es una puerta, no una expulsión#

Reconocer límites no significa abandonar a quien pide ayuda. Una derivación responsable explica por qué puede ser útil hablar con un profesional, qué clase de recurso existe, cómo acceder y qué puede hacer la persona mientras espera. Puede ofrecerse ayuda práctica para localizar atención primaria, servicios de salud mental, orientación escolar, recursos contra la violencia o entidades comunitarias. También puede preguntarse si la persona quiere que alguien de confianza la acompañe. La decisión y el ritmo deben respetarse siempre que no haya un riesgo urgente.

La derivación tampoco debe presentarse como un diagnóstico. Decir que una situación merece una conversación profesional es distinto de atribuir una condición clínica. Un sistema digital no debe evaluar por sí solo la gravedad, decidir tratamientos ni afirmar que una práctica será eficaz para una persona concreta. El National Institute of Mental Health y la OMS publican información general que puede ayudar a reconocer cuándo buscar apoyo, pero la evaluación individual corresponde a servicios cualificados. La claridad protege tanto a la persona como a quienes diseñan el servicio.

Escenario tres: un chatbot disponible de madrugada#

Un trabajador usa un chatbot a altas horas porque no quiere preocupar a su familia. El bot responde con tono cálido y propone respirar, escribir y volver al día siguiente. En un mensaje posterior, la persona indica que no se siente capaz de seguir y que tiene acceso a medios para hacerse daño. En ese momento la continuidad conversacional no es una virtud suficiente. El diseño debe ofrecer de forma visible instrucciones para contactar emergencias, líneas de crisis y una persona cercana, sin fingir que el sistema puede vigilar o rescatar.

Un servicio responsable prepara estos casos antes de su lanzamiento. Revisa el lenguaje de seguridad con especialistas, adapta recursos al país, prueba que los enlaces funcionan y no promete confidencialidad absoluta si hay mecanismos de escalado. También evita frases que culpabilizan o reducen una crisis a una técnica de autocuidado. La prioridad es facilitar contacto humano y urgente. Una vez pasado el momento crítico, el apoyo digital puede servir para recordar recursos o preferencias, pero nunca para reemplazar la atención necesaria.

Privacidad, accesibilidad y equidad forman parte del cuidado#

La privacidad no es un detalle legal separado del bienestar. Una persona puede dejar de pedir ayuda si teme que su pareja, empleador, familia, centro educativo o aseguradora conozcan lo escrito. Los avisos deben ser discretos, las cuentas protegidas sin crear barreras insalvables y el lenguaje comprensible. La accesibilidad exige compatibilidad con lectores de pantalla, tiempo suficiente, bajo consumo de datos, traducción cuando haga falta y canales humanos equivalentes. No todas las personas pueden o desean usar la misma tecnología.

La equidad obliga a revisar quién queda peor atendido. Un servicio solo por vídeo puede excluir a quien no tiene lugar privado; uno basado en texto puede dificultar la participación de personas con determinadas discapacidades o alfabetización limitada; uno que recomienda recursos de pago puede reforzar desigualdades. Antes de desplegar, conviene probar con grupos diversos y publicar qué cambios se han hecho. UNESCO vincula la ética de la inteligencia artificial con derechos humanos, inclusión y supervisión humana; esos principios son prácticos cuando cambian una pantalla, un horario o una ruta de apoyo.

Escenario cuatro: el recordatorio que llegaba a una pantalla compartida#

Una plataforma envía un mensaje con el asunto “seguimiento emocional pendiente”. La persona destinataria comparte tableta con su familia y el aviso aparece en la pantalla de inicio. Aunque la información no revela un diagnóstico, expone una petición de apoyo que la persona no había decidido compartir. La solución no consiste solo en cambiar una frase. Debe permitirse elegir el canal, desactivar vistas previas, usar mensajes neutrales y continuar por una vía no digital.

Este escenario recuerda que la seguridad depende de circunstancias cotidianas. Las pruebas de diseño han de incluir dispositivos compartidos, conexiones inseguras, diferencias lingüísticas y situaciones de control coercitivo. Quien solicita ayuda debe conservar el control sobre notificaciones y datos siempre que sea posible. Cuando una herramienta no puede ofrecer esa protección, debe decirlo de manera visible y proponer una alternativa segura.

Gobernar herramientas de apoyo con rendición de cuentas#

Las instituciones que ofrecen tecnología de bienestar necesitan responsables identificables, formación, evaluación periódica y un procedimiento de quejas. Deben registrar qué necesidad pretendían atender, qué riesgos identificaron, qué datos son imprescindibles, qué alternativas existen y cuándo dejarán de usar el sistema. Las personas afectadas han de poder cuestionar una recomendación, denunciar un daño y obtener una respuesta comprensible. NIST propone gestionar riesgos de IA de forma continua; en este ámbito, escuchar después del lanzamiento es tan importante como probar antes.

La primera pregunta no retrasa la ayuda: evita que una respuesta rápida se convierta en una respuesta equivocada. Preguntar, escuchar y explicar límites permite orientar sin invadir, recomendar sin prescribir y derivar sin desentenderse. Una herramienta bien situada puede acompañar pequeñas decisiones, reducir barreras y acercar recursos. La responsabilidad comienza cuando reconoce lo que no sabe hacer y deja siempre abierta una puerta hacia apoyo humano, profesional y urgente cuando haga falta.

El consentimiento de un menor necesita tiempo, alternativas y una explicación que se pueda repetir#

En una plataforma de bienestar dirigida a menores, marcar una casilla no demuestra por sí solo una elección informada. Puede haber presión del grupo, una instrucción del centro, temor a perder una actividad o la sensación de que negarse hará quedar mal ante la familia. También puede haber una diferencia de comprensión: términos como “perfil”, “mejora del servicio”, “alerta” o “proveedor” pueden sonar inocuos y ocultar decisiones sobre información íntima. El consentimiento significativo exige comprobar, con palabras adecuadas a la edad, qué se ofrece, qué ocurrirá si se acepta, quién verá los datos y qué alternativa existe si se prefiere no participar.

La explicación debe estar separada de las pantallas de juego, premios o urgencia. Un resumen breve puede decir que el uso es voluntario, que no se necesita compartir detalles personales para recibir orientación general y que la negativa no conlleva castigo. Después conviene ofrecer una segunda explicación, oral o escrita, y una pregunta de devolución: que la persona pueda explicar con sus propias palabras qué entiende. Esta práctica no es un examen; permite detectar confusión y corregirla. Si el servicio no puede explicar su funcionamiento sin lenguaje opaco, tampoco está preparado para pedir datos sensibles.

La participación de madre, padre o persona responsable puede aportar acompañamiento, pero no debe transformarse en una vía automática de vigilancia. La normativa aplicable y la edad determinan cuándo interviene el consentimiento de quien ejerce la responsabilidad parental; aun así, escuchar al menor sigue siendo esencial. La Convención sobre los Derechos del Niño reconoce el derecho a ser escuchado conforme a su edad y madurez. Una institución responsable diferencia entre informar a la familia, pedir autorización cuando corresponde y entregar sin necesidad todo el contenido de una conversación de bienestar.

Escenario cinco: la actividad obligatoria que se presentó como voluntaria#

Un instituto incorpora una aplicación de “equilibrio emocional” a una tutoría. La docente dice que nadie está obligado a descargarla, pero la clase debe completar una dinámica basada en sus resultados y quienes no la usan quedan sin tarea equivalente. Un adolescente acepta porque teme parecer poco colaborador. La aplicación solicita edad, estado de ánimo, horas de sueño y acceso a notificaciones. En estas condiciones, la elección existe en el papel, pero la presión social y la ausencia de alternativa la vuelven dudosa.

El centro puede rediseñar la actividad sin registrar datos personales: una conversación en grupo sobre hábitos digitales, materiales impresos y una opción individual que no requiera cuenta. Si una herramienta ofrece apoyo individual, debe haber una ruta para solicitarlo sin participar en analítica o clasificaciones. El personal necesita instrucciones claras para no consultar resultados, no premiar rachas y no usar la participación como indicador de conducta. La responsabilidad institucional consiste en crear condiciones en las que decir “no” sea tan sencillo y respetado como decir “sí”.

Escenario seis: la familia que pidió acceso total para quedarse tranquila#

Una adolescente utiliza una plataforma vinculada a un programa comunitario. Tras una discusión en casa, su familia solicita leer todas las respuestas porque considera que así podrá protegerla. El equipo no debe prometer secreto absoluto si hay un peligro grave que exige activar un protocolo, pero tampoco debe asumir que toda información necesita circular. Compartir más de lo necesario puede cerrar la puerta a futuras peticiones de ayuda, especialmente cuando existen conflictos, control o miedo dentro del hogar.

Un protocolo proporcionado explica desde el inicio qué información puede compartirse, con quién, por qué motivo y cómo se comunicará esa decisión. Debe prever conversaciones separadas, cuando sean seguras, para conocer la perspectiva del menor y de la familia. También debe indicar que el apoyo digital no resuelve una posible situación de violencia o riesgo. Si aparecen señales de peligro inmediato, autolesión, abuso o incapacidad para mantenerse a salvo, corresponde facilitar contacto urgente con emergencias, servicios sanitarios o protección especializada según el contexto; no prolongar una revisión de mensajes dentro de la plataforma.

Diseñar la retirada, no solo la aceptación#

Una elección continúa siendo libre solo si puede revisarse. Por eso un menor y su familia deben poder detener notificaciones, pedir una copia comprensible, corregir una respuesta y retirar el permiso para usos opcionales sin perder apoyos básicos. La retirada no puede quedar escondida en una política larga ni exigir que se justifique un malestar. Debe especificarse qué datos se borrarán, cuáles deban conservarse por una obligación concreta y durante cuánto tiempo, así como qué ocurre con información ya compartida con proveedores.

Las organizaciones han de evaluar de antemano si el beneficio esperado justifica cada dato y cada función de seguimiento. La protección de datos desde el diseño, la minimización y la configuración privada por defecto reducen daños antes de que exista una queja. La AEPD ofrece información sobre derechos de protección de datos, mientras que UNICEF ha publicado orientaciones sobre los derechos de la infancia en el entorno digital. Estas referencias no sustituyen el análisis jurídico y operativo propio, pero ayudan a recordar que la eficacia no autoriza a tratar a menores como una fuente disponible de señales.

La obligación institucional persiste después del lanzamiento#

Una escuela, administración, empresa proveedora o entidad social no puede delegar su responsabilidad en un aviso de condiciones. Debe nombrar responsables, formar a quienes acompañan, revisar proveedores, comprobar que los textos se entienden y publicar un canal de quejas accesible para menores y familias. También necesita medir daños previsibles: exclusión de quien no tiene teléfono, exposición en dispositivos compartidos, sesgos de idioma, errores de clasificación y uso secundario de datos. Un comité o una revisión independiente pueden detectar problemas que una métrica de descargas no muestra.

Aceptar no siempre significa haber podido elegir. En bienestar digital, esa frase obliga a mirar la escena completa: quién propone la herramienta, qué poder tiene, qué información se entiende, qué sucede al negarse y a quién se puede acudir fuera de la pantalla. El apoyo útil conserva opciones, protege la intimidad y facilita presencia humana. Cuando una situación requiere atención profesional o urgente, la plataforma debe decirlo claramente y ayudar a encontrar una vía segura, sin diagnosticar ni sustituir esa atención.

Fuentes institucionales y primarias: Organización Mundial de la Salud, salud mental; Ministerio de Sanidad, Línea 024; Agencia Española de Protección de Datos, derechos de protección de datos; Naciones Unidas, Convención sobre los Derechos del Niño; UNESCO, Recomendación sobre la ética de la IA; NIST, AI Risk Management Framework.