Cuando una persona expresa cansancio, soledad, ansiedad ante una situación cotidiana o dificultad para dormir, la respuesta digital más responsable no empieza por recomendar una aplicación, un chat o un ejercicio. Empieza por una pregunta abierta: qué está ocurriendo, qué espera esa persona, qué apoyos tiene y qué haría que la conversación fuera segura. Una herramienta puede ordenar información, ofrecer un recordatorio o facilitar el acceso a recursos, pero no conoce por sí misma el significado de una pérdida, una relación difícil, una precariedad económica o un riesgo inmediato. Escuchar antes de prescribir evita convertir una necesidad humana en una lista de funciones.
El bienestar digital no exige que nadie revele más de lo que desea ni que resuelva a solas un problema complejo. Requiere límites claros: una plataforma no sustituye la valoración de profesionales cualificados, no debe diagnosticar ni prometer resultados clínicos, y no es un canal adecuado para una emergencia. Si hay peligro inmediato, pensamientos de hacerse daño o de dañar a otra persona, violencia, abuso, confusión intensa o incapacidad para mantenerse a salvo, es importante buscar atención urgente mediante los servicios de emergencia locales, una línea de crisis o un servicio sanitario. En España puede llamarse al 112 ante una emergencia y al 024 para la línea de atención a la conducta suicida. Esta orientación es general y no constituye asesoramiento clínico.
La pregunta inicial protege mejor que una recomendación rápida#
Una recomendación apresurada puede parecer amable y aun así fallar. Dos personas que escriben “necesito desconectar” pueden estar describiendo cosas muy distintas: una quiere reducir notificaciones durante una semana exigente; otra se siente aislada y busca hablar con alguien; una tercera atraviesa una situación de riesgo. Por eso conviene preguntar qué tipo de ayuda se busca, si existe una persona de confianza, qué barreras hay para pedir apoyo y si la tecnología ha ayudado o empeorado antes la situación. La escucha no es un formulario que clasifica personas. Es una oportunidad para que la respuesta se ajuste a una necesidad expresada.
También importa preguntar por el contexto material. Un consejo que presupone móvil propio, datos ilimitados, intimidad en casa, dominio del idioma o tiempo libre puede aumentar la carga. Las alternativas deben incluir opciones no digitales: una conversación con atención primaria, orientación en un centro educativo, servicios sociales, asociaciones locales o una persona elegida por quien pide apoyo. La OMS recuerda que la salud mental está influida por condiciones sociales, económicas y ambientales. Ninguna interfaz compensa por sí sola la falta de vivienda, la violencia, la discriminación o una red de cuidados insuficiente.
Escenario uno: una aplicación de ánimo que ocultaba una necesidad de compañía#
Una estudiante descarga una aplicación que registra el estado de ánimo porque ha visto anuncios sobre rachas y gráficos. Tras varios días marca respuestas cada vez más bajas. El sistema propone mantener la serie y repetir ejercicios breves. En una conversación posterior, explica que acaba de llegar a una ciudad nueva, no conoce a nadie y le cuesta acudir a clase. El problema no era que hubiera olvidado registrar datos; era que necesitaba acompañamiento y una vía concreta para reconectar con su entorno.
Una respuesta prudente no interpreta el gráfico como un diagnóstico ni exige detalles íntimos. Puede preguntar si desea identificar a alguien seguro con quien hablar, si el centro dispone de orientación o si prefiere información sobre recursos comunitarios. Si expresa riesgo o no puede mantenerse segura, el paso adecuado es ayudar a contactar atención urgente o profesional, no prolongar una conversación automatizada. La aplicación, si se mantiene, queda en un lugar modesto: una libreta opcional para observar patrones propios, no una autoridad sobre lo que le ocurre.
Los límites deben entenderse antes de aceptar una pantalla#
Una herramienta de bienestar debe explicar con palabras sencillas su finalidad, sus límites, qué datos recoge, dónde se almacenan, quién puede acceder y cómo se eliminan. El consentimiento no es libre si la persona no comprende que un cuestionario puede generar alertas, compartir información con un proveedor o condicionar el acceso a otro servicio. En especial con menores, la institución tiene deberes reforzados de información, proporcionalidad y protección. Pedir datos sensibles solo porque son técnicamente fáciles de capturar es una mala práctica.
La Agencia Española de Protección de Datos señala derechos de acceso, rectificación, supresión y oposición, entre otros. Esos derechos deben poder ejercerse sin recorrer una ayuda interminable. Un botón para descargar o borrar datos no resuelve todos los riesgos, pero muestra que la persona no es materia prima del servicio. Los proveedores deben poder documentar medidas de seguridad, plazos de conservación, tratamiento de incidentes y límites de cualquier sistema automatizado. Si no pueden explicarlo, no deberían recibir información sobre salud o bienestar.
Escenario dos: el cuestionario que convirtió una alerta en etiqueta#
Una organización ofrece un cuestionario semanal de bienestar. Una respuesta desencadena un aviso visible para responsables del grupo. Una persona que había dormido mal por cuidar a un familiar descubre que varias personas conocen la alerta y teme que la consideren incapaz. El diseño confundió una señal de conversación con una conclusión sobre la persona. Además, no había explicado con precisión quién vería el resultado ni cuánto tiempo quedaría guardado.
El rediseño responsable elimina etiquetas, reduce la recogida al mínimo y deja claro qué ocurre con cada respuesta. Las alertas, cuando son necesarias y proporcionadas, deben llegar a una persona formada y con obligación de confidencialidad, mediante un protocolo revisable. Debe existir una alternativa para pedir ayuda sin completar el cuestionario y una forma de corregir o contextualizar lo registrado. El éxito no se mide por el número de alertas generadas, sino por si se ofrece apoyo sin exponer, vigilar o castigar.
Una derivación responsable es una puerta, no una expulsión#
Reconocer límites no significa abandonar a quien pide ayuda. Una derivación responsable explica por qué puede ser útil hablar con un profesional, qué clase de recurso existe, cómo acceder y qué puede hacer la persona mientras espera. Puede ofrecerse ayuda práctica para localizar atención primaria, servicios de salud mental, orientación escolar, recursos contra la violencia o entidades comunitarias. También puede preguntarse si la persona quiere que alguien de confianza la acompañe. La decisión y el ritmo deben respetarse siempre que no haya un riesgo urgente.
La derivación tampoco debe presentarse como un diagnóstico. Decir que una situación merece una conversación profesional es distinto de atribuir una condición clínica. Un sistema digital no debe evaluar por sí solo la gravedad, decidir tratamientos ni afirmar que una práctica será eficaz para una persona concreta. El National Institute of Mental Health y la OMS publican información general que puede ayudar a reconocer cuándo buscar apoyo, pero la evaluación individual corresponde a servicios cualificados. La claridad protege tanto a la persona como a quienes diseñan el servicio.
Escenario tres: un chatbot disponible de madrugada#
Un trabajador usa un chatbot a altas horas porque no quiere preocupar a su familia. El bot responde con tono cálido y propone respirar, escribir y volver al día siguiente. En un mensaje posterior, la persona indica que no se siente capaz de seguir y que tiene acceso a medios para hacerse daño. En ese momento la continuidad conversacional no es una virtud suficiente. El diseño debe ofrecer de forma visible instrucciones para contactar emergencias, líneas de crisis y una persona cercana, sin fingir que el sistema puede vigilar o rescatar.
Un servicio responsable prepara estos casos antes de su lanzamiento. Revisa el lenguaje de seguridad con especialistas, adapta recursos al país, prueba que los enlaces funcionan y no promete confidencialidad absoluta si hay mecanismos de escalado. También evita frases que culpabilizan o reducen una crisis a una técnica de autocuidado. La prioridad es facilitar contacto humano y urgente. Una vez pasado el momento crítico, el apoyo digital puede servir para recordar recursos o preferencias, pero nunca para reemplazar la atención necesaria.
Privacidad, accesibilidad y equidad forman parte del cuidado#
La privacidad no es un detalle legal separado del bienestar. Una persona puede dejar de pedir ayuda si teme que su pareja, empleador, familia, centro educativo o aseguradora conozcan lo escrito. Los avisos deben ser discretos, las cuentas protegidas sin crear barreras insalvables y el lenguaje comprensible. La accesibilidad exige compatibilidad con lectores de pantalla, tiempo suficiente, bajo consumo de datos, traducción cuando haga falta y canales humanos equivalentes. No todas las personas pueden o desean usar la misma tecnología.
La equidad obliga a revisar quién queda peor atendido. Un servicio solo por vídeo puede excluir a quien no tiene lugar privado; uno basado en texto puede dificultar la participación de personas con determinadas discapacidades o alfabetización limitada; uno que recomienda recursos de pago puede reforzar desigualdades. Antes de desplegar, conviene probar con grupos diversos y publicar qué cambios se han hecho. UNESCO vincula la ética de la inteligencia artificial con derechos humanos, inclusión y supervisión humana; esos principios son prácticos cuando cambian una pantalla, un horario o una ruta de apoyo.
Escenario cuatro: el recordatorio que llegaba a una pantalla compartida#
Una plataforma envía un mensaje con el asunto “seguimiento emocional pendiente”. La persona destinataria comparte tableta con su familia y el aviso aparece en la pantalla de inicio. Aunque la información no revela un diagnóstico, expone una petición de apoyo que la persona no había decidido compartir. La solución no consiste solo en cambiar una frase. Debe permitirse elegir el canal, desactivar vistas previas, usar mensajes neutrales y continuar por una vía no digital.
Este escenario recuerda que la seguridad depende de circunstancias cotidianas. Las pruebas de diseño han de incluir dispositivos compartidos, conexiones inseguras, diferencias lingüísticas y situaciones de control coercitivo. Quien solicita ayuda debe conservar el control sobre notificaciones y datos siempre que sea posible. Cuando una herramienta no puede ofrecer esa protección, debe decirlo de manera visible y proponer una alternativa segura.
Gobernar herramientas de apoyo con rendición de cuentas#
Las instituciones que ofrecen tecnología de bienestar necesitan responsables identificables, formación, evaluación periódica y un procedimiento de quejas. Deben registrar qué necesidad pretendían atender, qué riesgos identificaron, qué datos son imprescindibles, qué alternativas existen y cuándo dejarán de usar el sistema. Las personas afectadas han de poder cuestionar una recomendación, denunciar un daño y obtener una respuesta comprensible. NIST propone gestionar riesgos de IA de forma continua; en este ámbito, escuchar después del lanzamiento es tan importante como probar antes.
La primera pregunta no retrasa la ayuda: evita que una respuesta rápida se convierta en una respuesta equivocada. Preguntar, escuchar y explicar límites permite orientar sin invadir, recomendar sin prescribir y derivar sin desentenderse. Una herramienta bien situada puede acompañar pequeñas decisiones, reducir barreras y acercar recursos. La responsabilidad comienza cuando reconoce lo que no sabe hacer y deja siempre abierta una puerta hacia apoyo humano, profesional y urgente cuando haga falta.
Fuentes institucionales y primarias: Organización Mundial de la Salud, salud mental; Ministerio de Sanidad, Línea 024; Agencia Española de Protección de Datos, derechos de protección de datos; Naciones Unidas, Convención sobre los Derechos del Niño; UNESCO, Recomendación sobre la ética de la IA; NIST, AI Risk Management Framework.
