Quan una persona parla de cansament, solitud, malestar emocional o dificultats per dormir, la resposta digital responsable no hauria de començar amb una aplicació, un xat o un exercici. Ha de començar amb una pregunta oberta: què està passant, quin suport espera, quin context condiciona la situació i què faria segura la conversa. Una eina pot ordenar informació o facilitar recursos, però no pot entendre per si sola el significat d’una pèrdua, d’una relació difícil, de la precarietat o d’un perill immediat. Escoltar abans de recomanar evita convertir una necessitat humana en una llista de funcions.

El benestar digital requereix límits explícits. Una plataforma no substitueix la valoració de professionals qualificats, no ha de diagnosticar ni prometre resultats clínics, i no és un canal adequat per a una emergència. Si hi ha perill immediat, pensaments de fer-se mal o de fer mal a algú, violència, abús, confusió intensa o impossibilitat de mantenir-se segur, cal cercar ajuda urgent a través dels serveis d’emergència locals, una línia de crisi o un servei sanitari. A Espanya, el 112 atén emergències i el 024 ofereix atenció a la conducta suïcida. Aquesta és informació general, no assessorament clínic.

La pregunta inicial és més segura que una recomanació ràpida#

Dues persones que diuen “necessito desconnectar” poden descriure realitats diferents. Una pot voler reduir notificacions durant una setmana exigent; una altra pot sentir-se aïllada i buscar conversa; una tercera pot estar en risc. Per això és útil preguntar quin tipus d’ajuda es busca, si hi ha alguna persona de confiança, quines barreres hi ha per demanar suport i si la tecnologia ha ajudat o ha empitjorat abans la situació. Escoltar no és un formulari per classificar persones. És una oportunitat perquè la resposta s’ajusti a una necessitat expressada.

Dues persones que diuen “necessito desconnectar” poden descriure realitats diferents.

També s’ha de preguntar pel context material. Un consell que pressuposa mòbil propi, dades il·limitades, privacitat a casa, domini de l’idioma o temps lliure pot afegir càrrega. Les alternatives han d’incloure vies no digitals: atenció primària, orientació en un centre educatiu, serveis socials, entitats locals o una persona escollida per qui demana ajuda. L’OMS recorda que la salut mental està influïda per condicions socials, econòmiques i ambientals. Cap interfície resol per si sola la manca d’habitatge, la violència, la discriminació o una xarxa de cures insuficient.

Escenari primer: una aplicació d’estat d’ànim que amagava una necessitat de companyia#

Una estudiant descarrega una aplicació per registrar l’estat d’ànim. Durant dies marca respostes cada vegada més baixes i el sistema li demana mantenir la ratxa. Més tard explica que acaba d’arribar a una ciutat, no coneix ningú i li costa anar a classe. El problema no era oblidar de registrar dades; necessitava acompanyament i una manera concreta de reconnectar amb l’entorn.

La resposta prudent no converteix el gràfic en un diagnòstic ni exigeix informació íntima. Pot preguntar si vol identificar algú segur amb qui parlar, si el centre disposa d’orientació o si prefereix recursos comunitaris. Si expressa risc o no pot mantenir-se segura, el pas adequat és facilitar contacte urgent o professional, no prolongar una conversa automatitzada. L’aplicació només pot quedar com un diari opcional per observar patrons, mai com una autoritat sobre el que li passa.

Els límits s’han d’entendre abans d’acceptar una pantalla#

Una eina de benestar ha d’explicar amb llenguatge clar la finalitat, els límits, les dades que recull, on s’emmagatzemen, qui hi accedeix i com s’eliminen. El consentiment no és lliure si la persona no sap que un qüestionari pot generar avisos, compartir dades amb un proveïdor o afectar l’accés a un servei. Amb menors, la institució té deures reforçats d’informació, proporcionalitat i protecció. Recollir dades sensibles perquè és fàcil tècnicament és una mala pràctica.

Els drets de protecció de dades, com l’accés, la rectificació, la supressió i l’oposició, han de ser practicables i no quedar amagats en una ajuda llarga. Els proveïdors haurien de documentar mesures de seguretat, conservació, incidències i límits de l’automatització. Si no poden explicar-ho, no haurien de rebre informació sobre salut o benestar. La privacitat és una condició perquè moltes persones s’atreveixin a demanar suport.

Escenari segon: el qüestionari que va transformar una alerta en una etiqueta#

Una organització ofereix un qüestionari setmanal i una resposta activa un avís visible per a responsables del grup. Una persona que ha dormit malament perquè cuida un familiar descobreix que diverses persones coneixen l’alerta i tem que la considerin incapaç. El disseny ha confós un senyal per conversar amb una conclusió sobre la persona. Tampoc no havia explicat qui veuria el resultat ni durant quant de temps es conservaria.

Un redisseny responsable elimina etiquetes, recull només el necessari i explica què passa amb cada resposta. Les alertes que siguin necessàries han d’arribar a una persona formada, subjecta a confidencialitat i a un protocol revisable. Cal una alternativa per demanar ajuda sense qüestionari i una manera de corregir o contextualitzar el registre. L’èxit no és el nombre d’avisos, sinó oferir suport sense exposar, vigilar o sancionar.

Derivar amb responsabilitat és obrir una porta#

Reconèixer límits no és abandonar qui demana ajuda. Una derivació responsable explica per què pot ser útil parlar amb un professional, quins recursos existeixen, com s’hi accedeix i què es pot fer mentre s’espera. Es pot ajudar a localitzar atenció primària, serveis de salut mental, orientació educativa, recursos contra la violència o entitats comunitàries. També es pot preguntar si la persona vol anar-hi acompanyada per algú de confiança. La decisió i el ritme s’han de respectar sempre que no hi hagi risc urgent.

La derivació no s’ha de presentar com un diagnòstic. Dir que una situació mereix una conversa professional no és atribuir una condició clínica. Un sistema digital no hauria d’avaluar sol la gravetat, decidir tractaments ni assegurar que una pràctica funcionarà per a una persona concreta. La informació general de l’OMS o dels serveis sanitaris pot orientar, però la valoració individual correspon a professionals qualificats.

Escenari tercer: un xatbot disponible de matinada#

Un treballador utilitza un xatbot de nit perquè no vol preocupar la família. El bot proposa respirar, escriure i tornar l’endemà. Després, la persona diu que no se sent capaç de continuar i que té accés a mitjans per fer-se mal. En aquest moment, mantenir la conversa no és suficient. El disseny ha d’oferir de manera visible instruccions per contactar emergències, línies de crisi i una persona propera, sense fingir que el sistema pot vigilar o rescatar.

Un servei responsable prepara aquests casos abans de publicar-se. Revisa el llenguatge de seguretat amb especialistes, adapta els recursos al país, comprova que els enllaços funcionen i no promet confidencialitat absoluta si existeixen mecanismes d’escalat. També evita frases que culpabilitzen o redueixen una crisi a autocura. La prioritat és facilitar contacte humà i urgent; després, la tecnologia pot recordar recursos, però no substituir l’atenció necessària.

Privacitat, accessibilitat i equitat també són cura#

La privacitat no és un detall legal separat del benestar. Algú pot deixar de demanar ajuda si té por que la parella, l’ocupador, la família, el centre o una asseguradora coneguin el que ha escrit. Els avisos han de ser discrets, les comptes segures sense barreres impossibles i el llenguatge entenedor. L’accessibilitat exigeix lectors de pantalla, temps suficient, baix consum de dades, traducció quan calgui i canals humans equivalents. No tothom pot ni vol usar la mateixa tecnologia.

L’equitat obliga a examinar qui queda pitjor atès. Un servei només per vídeo exclou qui no té espai privat; un servei basat en text pot dificultar la participació de persones amb determinades discapacitats o alfabetització limitada; un servei que recomana recursos de pagament pot reforçar desigualtats. Abans del desplegament convé provar amb grups diversos i publicar canvis. Els principis d’inclusió i supervisió humana de la UNESCO són reals quan modifiquen una pantalla, un horari o una ruta de suport.

Escenari quart: un recordatori en una pantalla compartida#

Una plataforma envia el missatge “seguiment emocional pendent”. La persona comparteix tauleta amb la família i l’avís apareix a la pantalla inicial. Encara que no reveli cap diagnòstic, exposa una petició de suport que no havia decidit compartir. La resposta no és només canviar una frase: s’ha de poder escollir el canal, desactivar previsualitzacions, utilitzar missatges neutres i continuar per una via no digital.

La seguretat depèn de circumstàncies quotidianes. Les proves de disseny han d’incloure dispositius compartits, connexions insegures, llengües diferents i situacions de control coercitiu. Qui demana ajuda ha de conservar el control sobre notificacions i dades sempre que sigui possible. Si una eina no pot oferir aquesta protecció, ho ha de dir amb claredat i proposar una alternativa segura.

Governar les eines amb rendició de comptes#

Les institucions que ofereixen tecnologia de benestar necessiten responsables identificables, formació, revisió periòdica i un procediment de queixes. Han de registrar la necessitat, els riscos, les dades imprescindibles, les alternatives i la data en què deixaran d’usar el sistema. Les persones afectades han de poder qüestionar una recomanació, comunicar un dany i rebre una resposta comprensible. NIST proposa gestionar els riscos d’IA de manera contínua; escoltar després del llançament és tan important com provar abans.

La primera pregunta no retarda l’ajuda: evita que una resposta ràpida sigui equivocada. Preguntar, escoltar i explicar límits permet orientar sense envair, recomanar sense prescriure i derivar sense desentendre’s. Una eina ben situada pot reduir barreres i acostar recursos, però la responsabilitat comença quan reconeix allò que no sap fer i deixa oberta una porta cap a suport humà, professional i urgent quan cal.

Fonts institucionals i primàries: Organització Mundial de la Salut, salut mental; Ministeri de Sanitat, Línia 024; Agència Espanyola de Protecció de Dades, drets de protecció de dades; Nacions Unides, Convenció sobre els Drets de l’Infant; UNESCO, Recomanació sobre l’ètica de la IA; NIST, AI Risk Management Framework.