Quan una persona parla de cansament, solitud, malestar emocional o dificultats per dormir, la resposta digital responsable no hauria de començar amb una aplicació, un xat o un exercici. Ha de començar amb una pregunta oberta: què està passant, quin suport espera, quin context condiciona la situació i què faria segura la conversa. Una eina pot ordenar informació o facilitar recursos, però no pot entendre per si sola el significat d’una pèrdua, d’una relació difícil, de la precarietat o d’un perill immediat. Escoltar abans de recomanar evita convertir una necessitat humana en una llista de funcions.

El benestar digital requereix límits explícits. Una plataforma no substitueix la valoració de professionals qualificats, no ha de diagnosticar ni prometre resultats clínics, i no és un canal adequat per a una emergència. Si hi ha perill immediat, pensaments de fer-se mal o de fer mal a algú, violència, abús, confusió intensa o impossibilitat de mantenir-se segur, cal cercar ajuda urgent a través dels serveis d’emergència locals, una línia de crisi o un servei sanitari. A Espanya, el 112 atén emergències i el 024 ofereix atenció a la conducta suïcida. Aquesta és informació general, no assessorament clínic.

La pregunta inicial és més segura que una recomanació ràpida#

Dues persones que diuen “necessito desconnectar” poden descriure realitats diferents. Una pot voler reduir notificacions durant una setmana exigent; una altra pot sentir-se aïllada i buscar conversa; una tercera pot estar en risc. Per això és útil preguntar quin tipus d’ajuda es busca, si hi ha alguna persona de confiança, quines barreres hi ha per demanar suport i si la tecnologia ha ajudat o ha empitjorat abans la situació. Escoltar no és un formulari per classificar persones. És una oportunitat perquè la resposta s’ajusti a una necessitat expressada.

Dues persones que diuen “necessito desconnectar” poden descriure realitats diferents.

També s’ha de preguntar pel context material. Un consell que pressuposa mòbil propi, dades il·limitades, privacitat a casa, domini de l’idioma o temps lliure pot afegir càrrega. Les alternatives han d’incloure vies no digitals: atenció primària, orientació en un centre educatiu, serveis socials, entitats locals o una persona escollida per qui demana ajuda. L’OMS recorda que la salut mental està influïda per condicions socials, econòmiques i ambientals. Cap interfície resol per si sola la manca d’habitatge, la violència, la discriminació o una xarxa de cures insuficient.

Escenari primer: una aplicació d’estat d’ànim que amagava una necessitat de companyia#

Una estudiant descarrega una aplicació per registrar l’estat d’ànim. Durant dies marca respostes cada vegada més baixes i el sistema li demana mantenir la ratxa. Més tard explica que acaba d’arribar a una ciutat, no coneix ningú i li costa anar a classe. El problema no era oblidar de registrar dades; necessitava acompanyament i una manera concreta de reconnectar amb l’entorn.

La resposta prudent no converteix el gràfic en un diagnòstic ni exigeix informació íntima. Pot preguntar si vol identificar algú segur amb qui parlar, si el centre disposa d’orientació o si prefereix recursos comunitaris. Si expressa risc o no pot mantenir-se segura, el pas adequat és facilitar contacte urgent o professional, no prolongar una conversa automatitzada. L’aplicació només pot quedar com un diari opcional per observar patrons, mai com una autoritat sobre el que li passa.

Els límits s’han d’entendre abans d’acceptar una pantalla#

Una eina de benestar ha d’explicar amb llenguatge clar la finalitat, els límits, les dades que recull, on s’emmagatzemen, qui hi accedeix i com s’eliminen. El consentiment no és lliure si la persona no sap que un qüestionari pot generar avisos, compartir dades amb un proveïdor o afectar l’accés a un servei. Amb menors, la institució té deures reforçats d’informació, proporcionalitat i protecció. Recollir dades sensibles perquè és fàcil tècnicament és una mala pràctica.

Els drets de protecció de dades, com l’accés, la rectificació, la supressió i l’oposició, han de ser practicables i no quedar amagats en una ajuda llarga. Els proveïdors haurien de documentar mesures de seguretat, conservació, incidències i límits de l’automatització. Si no poden explicar-ho, no haurien de rebre informació sobre salut o benestar. La privacitat és una condició perquè moltes persones s’atreveixin a demanar suport.

Escenari segon: el qüestionari que va transformar una alerta en una etiqueta#

Una organització ofereix un qüestionari setmanal i una resposta activa un avís visible per a responsables del grup. Una persona que ha dormit malament perquè cuida un familiar descobreix que diverses persones coneixen l’alerta i tem que la considerin incapaç. El disseny ha confós un senyal per conversar amb una conclusió sobre la persona. Tampoc no havia explicat qui veuria el resultat ni durant quant de temps es conservaria.

Un redisseny responsable elimina etiquetes, recull només el necessari i explica què passa amb cada resposta. Les alertes que siguin necessàries han d’arribar a una persona formada, subjecta a confidencialitat i a un protocol revisable. Cal una alternativa per demanar ajuda sense qüestionari i una manera de corregir o contextualitzar el registre. L’èxit no és el nombre d’avisos, sinó oferir suport sense exposar, vigilar o sancionar.

Derivar amb responsabilitat és obrir una porta#

Reconèixer límits no és abandonar qui demana ajuda. Una derivació responsable explica per què pot ser útil parlar amb un professional, quins recursos existeixen, com s’hi accedeix i què es pot fer mentre s’espera. Es pot ajudar a localitzar atenció primària, serveis de salut mental, orientació educativa, recursos contra la violència o entitats comunitàries. També es pot preguntar si la persona vol anar-hi acompanyada per algú de confiança. La decisió i el ritme s’han de respectar sempre que no hi hagi risc urgent.

La derivació no s’ha de presentar com un diagnòstic. Dir que una situació mereix una conversa professional no és atribuir una condició clínica. Un sistema digital no hauria d’avaluar sol la gravetat, decidir tractaments ni assegurar que una pràctica funcionarà per a una persona concreta. La informació general de l’OMS o dels serveis sanitaris pot orientar, però la valoració individual correspon a professionals qualificats.

Escenari tercer: un xatbot disponible de matinada#

Un treballador utilitza un xatbot de nit perquè no vol preocupar la família. El bot proposa respirar, escriure i tornar l’endemà. Després, la persona diu que no se sent capaç de continuar i que té accés a mitjans per fer-se mal. En aquest moment, mantenir la conversa no és suficient. El disseny ha d’oferir de manera visible instruccions per contactar emergències, línies de crisi i una persona propera, sense fingir que el sistema pot vigilar o rescatar.

Un servei responsable prepara aquests casos abans de publicar-se. Revisa el llenguatge de seguretat amb especialistes, adapta els recursos al país, comprova que els enllaços funcionen i no promet confidencialitat absoluta si existeixen mecanismes d’escalat. També evita frases que culpabilitzen o redueixen una crisi a autocura. La prioritat és facilitar contacte humà i urgent; després, la tecnologia pot recordar recursos, però no substituir l’atenció necessària.

Privacitat, accessibilitat i equitat també són cura#

La privacitat no és un detall legal separat del benestar. Algú pot deixar de demanar ajuda si té por que la parella, l’ocupador, la família, el centre o una asseguradora coneguin el que ha escrit. Els avisos han de ser discrets, les comptes segures sense barreres impossibles i el llenguatge entenedor. L’accessibilitat exigeix lectors de pantalla, temps suficient, baix consum de dades, traducció quan calgui i canals humans equivalents. No tothom pot ni vol usar la mateixa tecnologia.

L’equitat obliga a examinar qui queda pitjor atès. Un servei només per vídeo exclou qui no té espai privat; un servei basat en text pot dificultar la participació de persones amb determinades discapacitats o alfabetització limitada; un servei que recomana recursos de pagament pot reforçar desigualtats. Abans del desplegament convé provar amb grups diversos i publicar canvis. Els principis d’inclusió i supervisió humana de la UNESCO són reals quan modifiquen una pantalla, un horari o una ruta de suport.

Escenari quart: un recordatori en una pantalla compartida#

Una plataforma envia el missatge “seguiment emocional pendent”. La persona comparteix tauleta amb la família i l’avís apareix a la pantalla inicial. Encara que no reveli cap diagnòstic, exposa una petició de suport que no havia decidit compartir. La resposta no és només canviar una frase: s’ha de poder escollir el canal, desactivar previsualitzacions, utilitzar missatges neutres i continuar per una via no digital.

La seguretat depèn de circumstàncies quotidianes. Les proves de disseny han d’incloure dispositius compartits, connexions insegures, llengües diferents i situacions de control coercitiu. Qui demana ajuda ha de conservar el control sobre notificacions i dades sempre que sigui possible. Si una eina no pot oferir aquesta protecció, ho ha de dir amb claredat i proposar una alternativa segura.

Governar les eines amb rendició de comptes#

Les institucions que ofereixen tecnologia de benestar necessiten responsables identificables, formació, revisió periòdica i un procediment de queixes. Han de registrar la necessitat, els riscos, les dades imprescindibles, les alternatives i la data en què deixaran d’usar el sistema. Les persones afectades han de poder qüestionar una recomanació, comunicar un dany i rebre una resposta comprensible. NIST proposa gestionar els riscos d’IA de manera contínua; escoltar després del llançament és tan important com provar abans.

La primera pregunta no retarda l’ajuda: evita que una resposta ràpida sigui equivocada. Preguntar, escoltar i explicar límits permet orientar sense envair, recomanar sense prescriure i derivar sense desentendre’s. Una eina ben situada pot reduir barreres i acostar recursos, però la responsabilitat comença quan reconeix allò que no sap fer i deixa oberta una porta cap a suport humà, professional i urgent quan cal.

El consentiment d’un menor necessita temps, alternatives i una explicació que es pugui repetir#

En una plataforma de benestar adreçada a menors, marcar una casella no prova per si sol una elecció informada. Hi pot haver pressió del grup, una indicació del centre, por de perdre una activitat o la idea que negar-s’hi farà quedar malament davant la família. També hi pot haver una diferència de comprensió: paraules com “perfil”, “millora del servei”, “alerta” o “proveïdor” poden semblar inofensives i amagar decisions sobre informació íntima. El consentiment significatiu demana comprovar, amb llenguatge adequat a l’edat, què s’ofereix, què passarà si s’accepta, qui veurà les dades i quina alternativa hi ha si no es vol participar.

L’explicació s’ha de separar de les pantalles de joc, premis o urgència. Un resum breu pot indicar que l’ús és voluntari, que no cal compartir detalls personals per rebre orientació general i que la negativa no comporta cap càstig. Després cal oferir una segona explicació, oral o escrita, i una pregunta de retorn: que la persona pugui dir amb paraules pròpies què ha entès. No és un examen; serveix per detectar confusió i corregir-la. Si el servei no pot explicar el seu funcionament sense llenguatge opac, tampoc no està preparat per demanar dades sensibles.

La participació de mare, pare o persona responsable pot aportar acompanyament, però no s’ha de convertir en una via automàtica de vigilància. La normativa aplicable i l’edat determinen quan intervé l’autorització de qui exerceix la responsabilitat parental; així i tot, escoltar el menor continua sent essencial. La Convenció sobre els Drets de l’Infant reconeix el dret a ser escoltat segons l’edat i la maduresa. Una institució responsable distingeix entre informar la família, demanar autorització quan cal i lliurar sense necessitat tot el contingut d’una conversa de benestar.

Escenari cinquè: l’activitat obligatòria que es presentava com a voluntària#

Un institut incorpora una aplicació d’“equilibri emocional” a una tutoria. La docent diu que ningú no està obligat a descarregar-la, però la classe ha de completar una dinàmica basada en els resultats i qui no la fa no rep una tasca equivalent. Un adolescent accepta perquè té por de semblar poc col·laborador. L’aplicació demana edat, estat d’ànim, hores de son i accés a notificacions. En aquestes condicions, l’elecció existeix sobre el paper, però la pressió social i la falta d’alternativa la fan dubtosa.

El centre pot redissenyar l’activitat sense registrar dades personals: conversa de grup sobre hàbits digitals, materials impresos i una opció individual que no requereixi cap compte. Si una eina ofereix suport individual, hi ha d’haver una via per demanar-lo sense participar en analítica o classificacions. El personal necessita instruccions per no consultar resultats, no premiar ratxes i no convertir la participació en un indicador de conducta. La responsabilitat institucional és crear condicions en què dir “no” sigui tan fàcil i respectat com dir “sí”.

Escenari sisè: la família que va demanar accés total per tranquil·litzar-se#

Una adolescent usa una plataforma vinculada a un programa comunitari. Després d’una discussió a casa, la família demana llegir totes les respostes perquè considera que així podrà protegir-la. L’equip no ha de prometre secret absolut si hi ha un perill greu que exigeix activar un protocol, però tampoc no pot donar per fet que tota informació hagi de circular. Compartir més del necessari pot tancar la porta a futures peticions d’ajuda, especialment quan hi ha conflicte, control o por dins la llar.

Un protocol proporcionat explica des del principi quina informació es pot compartir, amb qui, per quin motiu i com es comunicarà aquesta decisió. Ha de preveure converses separades, quan siguin segures, per conèixer la perspectiva del menor i de la família. També ha de dir que el suport digital no resol una possible situació de violència o risc. Si apareixen senyals de perill immediat, autolesió, abús o impossibilitat de mantenir-se segur, correspon facilitar contacte urgent amb emergències, serveis sanitaris o protecció especialitzada segons el context; no allargar una revisió de missatges dins la plataforma.

Dissenyar la retirada, no només l’acceptació#

Una elecció continua sent lliure només si es pot revisar. Per això un menor i la família han de poder aturar notificacions, demanar una còpia entenedora, corregir una resposta i retirar el permís per a usos opcionals sense perdre suports bàsics. La retirada no pot quedar amagada en una política llarga ni exigir que es justifiqui un malestar. Cal especificar quines dades s’esborraran, quines s’hagin de conservar per una obligació concreta i durant quant temps, així com què passa amb la informació ja compartida amb proveïdors.

Les organitzacions han d’avaluar abans si el benefici esperat justifica cada dada i cada funció de seguiment. La protecció de dades des del disseny, la minimització i la configuració privada per defecte redueixen danys abans que hi hagi una queixa. L’AEPD ofereix informació sobre drets de protecció de dades, i UNICEF ha publicat orientacions sobre els drets de la infància en l’entorn digital. Aquestes referències no substitueixen l’anàlisi jurídic i operatiu propi, però recorden que l’eficàcia no autoritza a tractar els menors com una font disponible de senyals.

El deure institucional continua després del llançament#

Una escola, administració, empresa proveïdora o entitat social no pot delegar la responsabilitat en un avís de condicions. Ha de nomenar responsables, formar qui acompanya, revisar proveïdors, comprovar que els textos s’entenen i publicar un canal de queixes accessible per a menors i famílies. També necessita mesurar danys previsibles: exclusió de qui no té telèfon, exposició en dispositius compartits, biaixos d’idioma, errors de classificació i ús secundari de dades. Una revisió independent pot detectar problemes que una mètrica de descàrregues no mostra.

Acceptar no sempre significa haver pogut escollir. En benestar digital, aquesta frase obliga a mirar l’escena completa: qui proposa l’eina, quin poder té, quina informació s’entén, què passa en negar-s’hi i a qui es pot recórrer fora de la pantalla. El suport útil conserva opcions, protegeix la intimitat i facilita presència humana. Quan una situació requereix atenció professional o urgent, la plataforma ho ha de dir amb claredat i ajudar a trobar una via segura, sense diagnosticar ni substituir aquesta atenció.

Fonts institucionals i primàries: Organització Mundial de la Salut, salut mental; Ministeri de Sanitat, Línia 024; Agència Espanyola de Protecció de Dades, drets de protecció de dades; Nacions Unides, Convenció sobre els Drets de l’Infant; UNESCO, Recomanació sobre l’ètica de la IA; NIST, AI Risk Management Framework.