Una puntuació de son, una ratxa de meditació, una mitjana d’estat d’ànim o un comptador de passes poden ser útils per recordar una experiència, però no descriuen per si sols l’estat emocional, la seguretat ni les necessitats d’una persona. El número surt d’una pregunta, un dispositiu, un algoritme i unes regles de càlcul; no coneix un dol, una amenaça, una jornada de cures ni la qualitat d’una conversa. En salut i benestar digital, una lectura responsable torna cada mètrica a la seva escala: pot ser un senyal parcial per a la reflexió voluntària, mai un veredicte sobre com està algú.

Ni una xifra baixa ni la interrupció d’una ratxa autoritzen una conclusió clínica. Les dades poden ser incompletes, errònies o llegides fora de context. Si hi ha perill immediat, pensaments de fer-se mal o de fer mal a una altra persona, violència, abús, confusió intensa o dificultat per mantenir-se segur, cal cercar ajuda urgent mitjançant emergències locals, una línia de crisi o serveis sanitaris. A Espanya, el 112 atén emergències i el 024 ofereix atenció a la conducta suïcida. Aquesta informació és general i no substitueix l’atenció professional.

Una mètrica mesura una regla, no una vida#

Una aplicació converteix observacions diverses en una escala simple perquè facilita comparacions, avisos i gràfics. Aquesta simplificació té un cost. Un rellotge pot inferir descans des del moviment; un qüestionari pot transformar una resposta puntual en una puntuació; una ratxa pot confondre constància amb benestar. Cap resultat no explica per què ha canviat una persona, què significa el canvi o quin suport seria adequat.

Una aplicació converteix observacions diverses en una escala simple perquè facilita comparacions, avisos i gràfics.

La interfície pot agreujar l’error amb colors d’alarma, rànquings o missatges que presenten una estimació com a certesa. Una lectura prudent formula preguntes obertes, permet afegir context i accepta que no registrar res també és una elecció legítima.

Cas u: la ratxa que va convertir el descans en deute#

Una persona manté durant mesos una ratxa d’exercicis de respiració. En una setmana de mudança deixa d’obrir l’aplicació i rep avisos sobre una “sèrie perduda”. El comptador converteix una pausa comprensible en sensació de fracàs. La dada útil és que hi ha una interrupció; la conclusió injustificada és que la persona ha abandonat la cura.

Un disseny responsable permet silenciar ratxes, amagar comparacions i reiniciar sense càstig. La pregunta rellevant no és quants dies seguits s’ha completat una acció, sinó si l’eina continua sent desitjada, segura i proporcionada al context.

Cas dos: una puntuació baixa sense context#

Un empleat respon un registre breu de benestar després de dormir poc mentre cuida un familiar. El sistema assigna una puntuació baixa i la mostra a una persona responsable de l’equip. La xifra no diferencia cansament puntual, dol, precarietat, conflicte o una possible emergència. Compartir-la pot convertir un senyal per iniciar conversa en una etiqueta laboral.

Els panells institucionals han de recollir el mínim imprescindible, explicar qui veurà cada dada i oferir una alternativa humana no basada en puntuacions. Si hi ha una alerta, l’ha de revisar personal format, amb confidencialitat i un protocol que permeti contextualitzar o corregir. El nombre d’alertes no mesura la cura.

Cas tres: el gràfic que amagava un risc#

Una estudiant registra valors estables perquè tem que una resposta diferent arribi al seu centre. Fora de la pantalla travessa una situació de violència i no se sent segura. El gràfic tranquil·litza qui el mira, però no demostra seguretat. L’absència d’un senyal no equival a l’absència de necessitat.

Una eina no ha d’afirmar que pot detectar o descartar risc a partir d’una mètrica. Ha d’explicar límits, oferir recursos visibles i facilitar contacte humà sense obligar a completar formularis. Davant senyals directes de perill, la prioritat és ajuda urgent o professional, no ajustar un llindar estadístic.

La presentació de la dada canvia l’efecte#

Els indicadors influeixen perquè suggereixen què importa. Una barra ascendent pot convertir una pràctica opcional en obligació; un distintiu pot incentivar registrar quan no convé; una predicció pot generar ansietat. La transparència exigeix dir què es mesura, amb quina incertesa, què no es pot inferir i com desactivar la funció. També exigeix no usar llenguatge de diagnòstic ni prometre que una puntuació millora la salut.

Les organitzacions han de provar aquestes decisions amb persones diverses, inclosos usuaris de dispositius compartits, persones amb discapacitat i qui té poca intimitat. La minimització de dades, la privacitat per defecte i l’opció d’esborrar o corregir registres redueixen danys.

Fer servir la informació sense convertir-la en autoritat#

Una mètrica pot donar suport a la reflexió si la persona en manté el control: observar un patró propi, decidir si vol anotar-lo i compartir-lo només si li és útil. Pot iniciar la pregunta “què passava llavors?” i no ser la resposta. Aquesta diferència protegeix l’autonomia.

Les institucions han de mantenir responsables identificables, revisió independent, canals de queixa i alternatives sense aplicació. L’OMS, l’AEPD, la UNESCO i el NIST destaquen drets, proporcionalitat, supervisió humana i gestió de riscos. Aquests principis impedeixen que un marcador còmode substitueixi l’escolta, la privacitat i el suport humà.

Quan una persona parla de cansament, solitud, malestar emocional o dificultats per dormir, la resposta digital responsable no hauria de començar amb una aplicació, un xat o un exercici. Ha de començar amb una pregunta oberta: què està passant, quin suport espera, quin context condiciona la situació i què faria segura la conversa. Una eina pot ordenar informació o facilitar recursos, però no pot entendre per si sola el significat d’una pèrdua, d’una relació difícil, de la precarietat o d’un perill immediat. Escoltar abans de recomanar evita convertir una necessitat humana en una llista de funcions.

El benestar digital requereix límits explícits. Una plataforma no substitueix la valoració de professionals qualificats, no ha de diagnosticar ni prometre resultats clínics, i no és un canal adequat per a una emergència. Si hi ha perill immediat, pensaments de fer-se mal o de fer mal a algú, violència, abús, confusió intensa o impossibilitat de mantenir-se segur, cal cercar ajuda urgent a través dels serveis d’emergència locals, una línia de crisi o un servei sanitari. A Espanya, el 112 atén emergències i el 024 ofereix atenció a la conducta suïcida. Aquesta és informació general, no assessorament clínic.

La pregunta inicial és més segura que una recomanació ràpida#

Dues persones que diuen “necessito desconnectar” poden descriure realitats diferents. Una pot voler reduir notificacions durant una setmana exigent; una altra pot sentir-se aïllada i buscar conversa; una tercera pot estar en risc. Per això és útil preguntar quin tipus d’ajuda es busca, si hi ha alguna persona de confiança, quines barreres hi ha per demanar suport i si la tecnologia ha ajudat o ha empitjorat abans la situació. Escoltar no és un formulari per classificar persones. És una oportunitat perquè la resposta s’ajusti a una necessitat expressada.

També s’ha de preguntar pel context material. Un consell que pressuposa mòbil propi, dades il·limitades, privacitat a casa, domini de l’idioma o temps lliure pot afegir càrrega. Les alternatives han d’incloure vies no digitals: atenció primària, orientació en un centre educatiu, serveis socials, entitats locals o una persona escollida per qui demana ajuda. L’OMS recorda que la salut mental està influïda per condicions socials, econòmiques i ambientals. Cap interfície resol per si sola la manca d’habitatge, la violència, la discriminació o una xarxa de cures insuficient.

Escenari primer: una aplicació d’estat d’ànim que amagava una necessitat de companyia#

Una estudiant descarrega una aplicació per registrar l’estat d’ànim. Durant dies marca respostes cada vegada més baixes i el sistema li demana mantenir la ratxa. Més tard explica que acaba d’arribar a una ciutat, no coneix ningú i li costa anar a classe. El problema no era oblidar de registrar dades; necessitava acompanyament i una manera concreta de reconnectar amb l’entorn.

La resposta prudent no converteix el gràfic en un diagnòstic ni exigeix informació íntima. Pot preguntar si vol identificar algú segur amb qui parlar, si el centre disposa d’orientació o si prefereix recursos comunitaris. Si expressa risc o no pot mantenir-se segura, el pas adequat és facilitar contacte urgent o professional, no prolongar una conversa automatitzada. L’aplicació només pot quedar com un diari opcional per observar patrons, mai com una autoritat sobre el que li passa.

Els límits s’han d’entendre abans d’acceptar una pantalla#

Una eina de benestar ha d’explicar amb llenguatge clar la finalitat, els límits, les dades que recull, on s’emmagatzemen, qui hi accedeix i com s’eliminen. El consentiment no és lliure si la persona no sap que un qüestionari pot generar avisos, compartir dades amb un proveïdor o afectar l’accés a un servei. Amb menors, la institució té deures reforçats d’informació, proporcionalitat i protecció. Recollir dades sensibles perquè és fàcil tècnicament és una mala pràctica.

Els drets de protecció de dades, com l’accés, la rectificació, la supressió i l’oposició, han de ser practicables i no quedar amagats en una ajuda llarga. Els proveïdors haurien de documentar mesures de seguretat, conservació, incidències i límits de l’automatització. Si no poden explicar-ho, no haurien de rebre informació sobre salut o benestar. La privacitat és una condició perquè moltes persones s’atreveixin a demanar suport.

Escenari segon: el qüestionari que va transformar una alerta en una etiqueta#

Una organització ofereix un qüestionari setmanal i una resposta activa un avís visible per a responsables del grup. Una persona que ha dormit malament perquè cuida un familiar descobreix que diverses persones coneixen l’alerta i tem que la considerin incapaç. El disseny ha confós un senyal per conversar amb una conclusió sobre la persona. Tampoc no havia explicat qui veuria el resultat ni durant quant de temps es conservaria.

Un redisseny responsable elimina etiquetes, recull només el necessari i explica què passa amb cada resposta. Les alertes que siguin necessàries han d’arribar a una persona formada, subjecta a confidencialitat i a un protocol revisable. Cal una alternativa per demanar ajuda sense qüestionari i una manera de corregir o contextualitzar el registre. L’èxit no és el nombre d’avisos, sinó oferir suport sense exposar, vigilar o sancionar.

Derivar amb responsabilitat és obrir una porta#

Reconèixer límits no és abandonar qui demana ajuda. Una derivació responsable explica per què pot ser útil parlar amb un professional, quins recursos existeixen, com s’hi accedeix i què es pot fer mentre s’espera. Es pot ajudar a localitzar atenció primària, serveis de salut mental, orientació educativa, recursos contra la violència o entitats comunitàries. També es pot preguntar si la persona vol anar-hi acompanyada per algú de confiança. La decisió i el ritme s’han de respectar sempre que no hi hagi risc urgent.

La derivació no s’ha de presentar com un diagnòstic. Dir que una situació mereix una conversa professional no és atribuir una condició clínica. Un sistema digital no hauria d’avaluar sol la gravetat, decidir tractaments ni assegurar que una pràctica funcionarà per a una persona concreta. La informació general de l’OMS o dels serveis sanitaris pot orientar, però la valoració individual correspon a professionals qualificats.

Escenari tercer: un xatbot disponible de matinada#

Un treballador utilitza un xatbot de nit perquè no vol preocupar la família. El bot proposa respirar, escriure i tornar l’endemà. Després, la persona diu que no se sent capaç de continuar i que té accés a mitjans per fer-se mal. En aquest moment, mantenir la conversa no és suficient. El disseny ha d’oferir de manera visible instruccions per contactar emergències, línies de crisi i una persona propera, sense fingir que el sistema pot vigilar o rescatar.

Un servei responsable prepara aquests casos abans de publicar-se. Revisa el llenguatge de seguretat amb especialistes, adapta els recursos al país, comprova que els enllaços funcionen i no promet confidencialitat absoluta si existeixen mecanismes d’escalat. També evita frases que culpabilitzen o redueixen una crisi a autocura. La prioritat és facilitar contacte humà i urgent; després, la tecnologia pot recordar recursos, però no substituir l’atenció necessària.

Privacitat, accessibilitat i equitat també són cura#

La privacitat no és un detall legal separat del benestar. Algú pot deixar de demanar ajuda si té por que la parella, l’ocupador, la família, el centre o una asseguradora coneguin el que ha escrit. Els avisos han de ser discrets, les comptes segures sense barreres impossibles i el llenguatge entenedor. L’accessibilitat exigeix lectors de pantalla, temps suficient, baix consum de dades, traducció quan calgui i canals humans equivalents. No tothom pot ni vol usar la mateixa tecnologia.

L’equitat obliga a examinar qui queda pitjor atès. Un servei només per vídeo exclou qui no té espai privat; un servei basat en text pot dificultar la participació de persones amb determinades discapacitats o alfabetització limitada; un servei que recomana recursos de pagament pot reforçar desigualtats. Abans del desplegament convé provar amb grups diversos i publicar canvis. Els principis d’inclusió i supervisió humana de la UNESCO són reals quan modifiquen una pantalla, un horari o una ruta de suport.

Escenari quart: un recordatori en una pantalla compartida#

Una plataforma envia el missatge “seguiment emocional pendent”. La persona comparteix tauleta amb la família i l’avís apareix a la pantalla inicial. Encara que no reveli cap diagnòstic, exposa una petició de suport que no havia decidit compartir. La resposta no és només canviar una frase: s’ha de poder escollir el canal, desactivar previsualitzacions, utilitzar missatges neutres i continuar per una via no digital.

La seguretat depèn de circumstàncies quotidianes. Les proves de disseny han d’incloure dispositius compartits, connexions insegures, llengües diferents i situacions de control coercitiu. Qui demana ajuda ha de conservar el control sobre notificacions i dades sempre que sigui possible. Si una eina no pot oferir aquesta protecció, ho ha de dir amb claredat i proposar una alternativa segura.

Governar les eines amb rendició de comptes#

Les institucions que ofereixen tecnologia de benestar necessiten responsables identificables, formació, revisió periòdica i un procediment de queixes. Han de registrar la necessitat, els riscos, les dades imprescindibles, les alternatives i la data en què deixaran d’usar el sistema. Les persones afectades han de poder qüestionar una recomanació, comunicar un dany i rebre una resposta comprensible. NIST proposa gestionar els riscos d’IA de manera contínua; escoltar després del llançament és tan important com provar abans.

La primera pregunta no retarda l’ajuda: evita que una resposta ràpida sigui equivocada. Preguntar, escoltar i explicar límits permet orientar sense envair, recomanar sense prescriure i derivar sense desentendre’s. Una eina ben situada pot reduir barreres i acostar recursos, però la responsabilitat comença quan reconeix allò que no sap fer i deixa oberta una porta cap a suport humà, professional i urgent quan cal.

El consentiment d’un menor necessita temps, alternatives i una explicació que es pugui repetir#

En una plataforma de benestar adreçada a menors, marcar una casella no prova per si sol una elecció informada. Hi pot haver pressió del grup, una indicació del centre, por de perdre una activitat o la idea que negar-s’hi farà quedar malament davant la família. També hi pot haver una diferència de comprensió: paraules com “perfil”, “millora del servei”, “alerta” o “proveïdor” poden semblar inofensives i amagar decisions sobre informació íntima. El consentiment significatiu demana comprovar, amb llenguatge adequat a l’edat, què s’ofereix, què passarà si s’accepta, qui veurà les dades i quina alternativa hi ha si no es vol participar.

L’explicació s’ha de separar de les pantalles de joc, premis o urgència. Un resum breu pot indicar que l’ús és voluntari, que no cal compartir detalls personals per rebre orientació general i que la negativa no comporta cap càstig. Després cal oferir una segona explicació, oral o escrita, i una pregunta de retorn: que la persona pugui dir amb paraules pròpies què ha entès. No és un examen; serveix per detectar confusió i corregir-la. Si el servei no pot explicar el seu funcionament sense llenguatge opac, tampoc no està preparat per demanar dades sensibles.

La participació de mare, pare o persona responsable pot aportar acompanyament, però no s’ha de convertir en una via automàtica de vigilància. La normativa aplicable i l’edat determinen quan intervé l’autorització de qui exerceix la responsabilitat parental; així i tot, escoltar el menor continua sent essencial. La Convenció sobre els Drets de l’Infant reconeix el dret a ser escoltat segons l’edat i la maduresa. Una institució responsable distingeix entre informar la família, demanar autorització quan cal i lliurar sense necessitat tot el contingut d’una conversa de benestar.

Escenari cinquè: l’activitat obligatòria que es presentava com a voluntària#

Un institut incorpora una aplicació d’“equilibri emocional” a una tutoria. La docent diu que ningú no està obligat a descarregar-la, però la classe ha de completar una dinàmica basada en els resultats i qui no la fa no rep una tasca equivalent. Un adolescent accepta perquè té por de semblar poc col·laborador. L’aplicació demana edat, estat d’ànim, hores de son i accés a notificacions. En aquestes condicions, l’elecció existeix sobre el paper, però la pressió social i la falta d’alternativa la fan dubtosa.

El centre pot redissenyar l’activitat sense registrar dades personals: conversa de grup sobre hàbits digitals, materials impresos i una opció individual que no requereixi cap compte. Si una eina ofereix suport individual, hi ha d’haver una via per demanar-lo sense participar en analítica o classificacions. El personal necessita instruccions per no consultar resultats, no premiar ratxes i no convertir la participació en un indicador de conducta. La responsabilitat institucional és crear condicions en què dir “no” sigui tan fàcil i respectat com dir “sí”.

Escenari sisè: la família que va demanar accés total per tranquil·litzar-se#

Una adolescent usa una plataforma vinculada a un programa comunitari. Després d’una discussió a casa, la família demana llegir totes les respostes perquè considera que així podrà protegir-la. L’equip no ha de prometre secret absolut si hi ha un perill greu que exigeix activar un protocol, però tampoc no pot donar per fet que tota informació hagi de circular. Compartir més del necessari pot tancar la porta a futures peticions d’ajuda, especialment quan hi ha conflicte, control o por dins la llar.

Un protocol proporcionat explica des del principi quina informació es pot compartir, amb qui, per quin motiu i com es comunicarà aquesta decisió. Ha de preveure converses separades, quan siguin segures, per conèixer la perspectiva del menor i de la família. També ha de dir que el suport digital no resol una possible situació de violència o risc. Si apareixen senyals de perill immediat, autolesió, abús o impossibilitat de mantenir-se segur, correspon facilitar contacte urgent amb emergències, serveis sanitaris o protecció especialitzada segons el context; no allargar una revisió de missatges dins la plataforma.

Dissenyar la retirada, no només l’acceptació#

Una elecció continua sent lliure només si es pot revisar. Per això un menor i la família han de poder aturar notificacions, demanar una còpia entenedora, corregir una resposta i retirar el permís per a usos opcionals sense perdre suports bàsics. La retirada no pot quedar amagada en una política llarga ni exigir que es justifiqui un malestar. Cal especificar quines dades s’esborraran, quines s’hagin de conservar per una obligació concreta i durant quant temps, així com què passa amb la informació ja compartida amb proveïdors.

Les organitzacions han d’avaluar abans si el benefici esperat justifica cada dada i cada funció de seguiment. La protecció de dades des del disseny, la minimització i la configuració privada per defecte redueixen danys abans que hi hagi una queixa. L’AEPD ofereix informació sobre drets de protecció de dades, i UNICEF ha publicat orientacions sobre els drets de la infància en l’entorn digital. Aquestes referències no substitueixen l’anàlisi jurídic i operatiu propi, però recorden que l’eficàcia no autoritza a tractar els menors com una font disponible de senyals.

El deure institucional continua després del llançament#

Una escola, administració, empresa proveïdora o entitat social no pot delegar la responsabilitat en un avís de condicions. Ha de nomenar responsables, formar qui acompanya, revisar proveïdors, comprovar que els textos s’entenen i publicar un canal de queixes accessible per a menors i famílies. També necessita mesurar danys previsibles: exclusió de qui no té telèfon, exposició en dispositius compartits, biaixos d’idioma, errors de classificació i ús secundari de dades. Una revisió independent pot detectar problemes que una mètrica de descàrregues no mostra.

Acceptar no sempre significa haver pogut escollir. En benestar digital, aquesta frase obliga a mirar l’escena completa: qui proposa l’eina, quin poder té, quina informació s’entén, què passa en negar-s’hi i a qui es pot recórrer fora de la pantalla. El suport útil conserva opcions, protegeix la intimitat i facilita presència humana. Quan una situació requereix atenció professional o urgent, la plataforma ho ha de dir amb claredat i ajudar a trobar una via segura, sense diagnosticar ni substituir aquesta atenció.

Fonts institucionals i primàries: Organització Mundial de la Salut, salut mental; Ministeri de Sanitat, Línia 024; Agència Espanyola de Protecció de Dades, drets de protecció de dades; Nacions Unides, Convenció sobre els Drets de l’Infant; UNESCO, Recomanació sobre l’ètica de la IA; NIST, AI Risk Management Framework.