La qualitat d'una aplicació o d'un protocol de benestar no es veu només quan tothom segueix el recorregut previst. Es veu sobretot quan una persona no pot utilitzar el formulari, no entén una pregunta, necessita parlar amb algú, rebutja compartir dades o viu una situació que una escala no descriu. L'excepció no és una avaria marginal: informa dels límits del sistema i de la consideració que rep qui queda fora del seu patró.

Una eina digital pot ordenar recordatoris, oferir informació general i facilitar una primera orientació. No diagnostica, no interpreta sola una experiència ni decideix quina atenció necessita una persona. Davant perill immediat, pensaments de fer-se mal o de fer mal a una altra persona, violència, abús, confusió intensa o dificultat per mantenir-se segur, cal contactar amb emergències locals, serveis sanitaris o una línia de crisi. A Espanya, el 112 atén emergències i el 024 atén la conducta suïcida.

L'excepció és una prova de disseny#

Molts serveis es construeixen al voltant d'una persona imaginada: té telèfon propi, connexió estable, temps, lectura fluida, una llengua dominant, privacitat i confiança per respondre. Aquesta imatge elimina circumstàncies habituals. Hi pot haver torns de feina, cures familiars, discapacitat, dol, violència, migració, dificultat econòmica o por que algú altre vegi la pantalla. Si l'únic camí exigeix aquestes condicions, el servei no és neutral; reparteix suport i càrregues de manera desigual.

Molts serveis es construeixen al voltant d'una persona imaginada: té telèfon propi, connexió estable, temps, lectura fluida, una llengua dominant, privacitat i confiança per respondre.

Un protocol responsable registra les excepcions sense convertir-les en defectes personals. Pregunta quina part del procés no serveix, permet aturar-se i ofereix camins equivalents. També analitza patrons: si moltes persones abandonen després d'una pregunta, demanen ajuda en una altra llengua o no completen una videotrucada, la resposta no és insistir. És revisar el disseny, els recursos i la decisió institucional que ha produït aquella barrera.

Cas primer: la resposta que no cap al menú#

Una persona obre una aplicació municipal després d'una setmana d'angoixa i troba opcions tancades: dormir millor, moure's més, practicar respiració. La seva necessitat principal és que una exparella controla el seu telèfon i té por de tornar a casa. Cap categoria permet explicar aquesta situació sense deixar un rastre detallat. Marcar una opció de son seria una simplificació enganyosa; abandonar l'aplicació pot ser la decisió més segura.

La resposta adequada no consisteix a demanar més detalls amb un bot. La pantalla ha d'oferir una sortida discreta, explicacions clares de privacitat i contactes de suport humà o especialitzat en el context local. Un botó de sortida ràpida pot reduir exposició, però no substitueix una valoració de seguretat ni garanteix protecció. L'equip ha de saber que una consulta incompleta pot ser prudència, no manca d'interès.

Cas segon: la videotrucada inaccessible#

Un programa corporatiu ofereix una sessió de benestar per vídeo. Una treballadora amb baixa visió usa lector de pantalla, però el calendari no té etiquetes i la plataforma exigeix identificar imatges. Una altra persona no pot participar perquè comparteix habitació i no té auriculars. Totes dues queden classificades com a absents. L'informe celebra l'assistència de qui ha pogut entrar i no mesura l'exclusió creada pel mateix canal.

Accessibilitat vol dir preveure formats alternatius abans que arribi una queixa: telèfon, text llegible, subtítols, interpretació quan calgui, materials compatibles amb tecnologies de suport i horaris raonables. També cal una persona que resolgui barreres sense obligar a revelar una condició davant d'un responsable. L'equivalència importa: una alternativa no pot oferir menys informació, menys confidencialitat o pitjors opcions de seguiment.

Cas tercer: l'alerta automàtica amb conseqüències#

Un qüestionari setmanal assigna una alerta alta a una estudiant que marca diverses respostes de malestar. El sistema envia el resultat a una administradora escolar sense explicar clarament qui el veurà. L'alerta pot reflectir una nit difícil, una resposta literal, una situació rellevant o un error. Convertir-la automàticament en una etiqueta disciplinària, una trucada pública o una notificació familiar extensa pot agreujar el dany i tancar converses futures.

Els senyals automatitzats poden servir per prioritzar una revisió humana definida amb cura, mai per prendre decisions sensibles sense context. Cal personal format, una explicació entenedora, possibilitat de corregir dades i un procediment proporcional. La revisió ha de preguntar respectuosament, no interrogar per confirmar un model. Si apareix un risc urgent, el protocol ha d'activar ajuda adequada; si no, ha d'evitar vigilància, càstig i divulgació innecessària.

L'equitat no és tractar tothom igual#

Oferir la mateixa pantalla a tothom pot semblar imparcial, però ignora desigualtats prèvies. Una interfície només en una llengua, una trucada només en horari laboral o una recomanació que pressuposa diners i espai privat afavoreixen unes persones davant d'altres. L'equitat exigeix identificar quins recursos demana el servei i qui els pot aportar. També exigeix participació de persones afectades, associacions de discapacitat i mediadors comunitaris quan s'avalua el producte.

La recollida de dades mereix la mateixa cautela. Demanar informació sensible per adaptar una experiència pot crear risc si no hi ha una finalitat concreta, base adequada, accés limitat i un període de conservació definit. La minimització no és pèrdua de precisió; és una manera de reduir danys previsibles. Una organització ha de poder explicar per què necessita cada dada, qui la consulta, com es protegeix i com la persona pot rectificar-la o retirar-la quan sigui opcional.

Derivar és acompanyar una transició#

Dir simplement “cerqui ajuda professional” pot ser correcte però insuficient. La persona pot no saber quin servei correspon, témer el cost, necessitar interpretació, viure lluny o no poder fer una trucada amb seguretat. Una derivació prudent ofereix informació general verificable, opcions segons el lloc i una manera de continuar sense obligar a revelar més dades de les necessàries. No promet disponibilitat, resultats ni confidencialitat absoluta que el servei receptor no controla.

La derivació ha d'explicitar límits: l'aplicació no reemplaça atenció clínica, protecció davant violència ni resposta d'emergència. Quan els indicadors suggereixen perill immediat o incapacitat per mantenir-se segur, la prioritat és facilitar contacte urgent amb els serveis locals pertinents, no prolongar un xat o recollir més mètriques. Fora d'aquesta urgència, algú pot preferir parlar amb atenció primària, un professional acreditat, serveis socials o una organització especialitzada; el sistema ha de respectar aquesta decisió.

No automatitzar decisions sensibles#

Una decisió sensible afecta accés a suport, privacitat, educació, feina, família o seguretat. Cap puntuació d'estat d'ànim, transcripció, patró d'ús o absència de clics no conté per si sola prou significat per decidir sobre aquestes matèries. Els models poden equivocar-se, reproduir biaixos i confondre correlació amb necessitat. A més, saber que una màquina classifica algú canvia com respon i pot portar a ocultar informació important.

La supervisió humana només és real si qui revisa té autoritat per apartar-se de la recomanació, temps per escoltar i formació per reconèixer incertesa. Prémer acceptar sobre un suggeriment no compleix aquesta funció. Cal documentar criteris, provar resultats desiguals, limitar usos secundaris i oferir un canal d'impugnació entenedor. La rendició de comptes no es resol amb una clàusula: requereix responsables identificables, auditoria i reparació quan una decisió perjudica.

Cas quart: el silenci interpretat com desinterès#

Un servei envia recordatoris diaris i marca com a “baixa adherència” qui no respon. Tanmateix, aquella persona ha canviat de número, comparteix dispositiu amb un familiar i ha decidit desactivar avisos perquè li provoquen angoixa. El sistema tracta l'absència de senyal com una conducta que cal corregir. Aquesta lectura converteix un límit legítim o una dificultat material en un motiu de pressió.

Un disseny curós permet pausar, sortir i tornar sense penalització. Els avisos han de ser configurables i discrets; l'absència d'activitat no ha de desencadenar contacte invasiu ni informes per a tercers. Quan una organització necessita seguiment per una obligació concreta, ho ha d'explicar abans, delimitar-ho i oferir contacte humà per revisar circumstàncies. L'autonomia inclou el dret a no convertir cada dia en una dada de benestar.

Privacitat, seguretat i confiança#

La informació de benestar pot revelar rutines, relacions, creences i moments de vulnerabilitat. Per això la privacitat no és una pantalla legal al final del registre, sinó una condició pràctica de seguretat. Les explicacions han de ser breus, accessibles i visibles en el moment de decidir. Han de diferenciar dades necessàries per a una funció, usos opcionals, destinataris i límits de confidencialitat. Els ajustos protectors han de venir activats per defecte quan sigui viable.

La seguretat també inclou l'entorn físic. Un missatge explícit en una pantalla compartida pot exposar algú; una notificació pot aparèixer davant d'una parella, família o ocupador. Convé oferir noms neutres, control de notificacions i sortida ràpida, però sense suggerir que aquestes mesures basten en contextos de coerció. L'anàlisi de riscos ha d'incloure amenaces tècniques, errors humans i dinàmiques de poder que cap xifratge resol per si sol.

Una governança que aprèn#

La feina comença abans del llançament i continua després. L'organització ha de definir finalitat, límits, responsables, formació i recursos per a les rutes de suport. Ha de provar el servei amb persones diverses i revisar dades d'accés, abandonament i queixes sense convertir l'avaluació en una vigilància nova. Les incidències han d'arribar a qui pot corregir formularis, contractes, missatges i protocols, no quedar enterrades en un tauler d'indicadors.

Convé publicar una manera senzilla d'informar d'un problema i respondre amb terminis raonables. Les persones afectades necessiten saber què passarà després d'una queixa i com demanar revisió humana. Els proveïdors també han de retre comptes: un contracte no elimina la responsabilitat de l'entitat que convida a usar l'eina. Avaluar proveïdors implica revisar accessibilitat, seguretat, tractaments de dades, subcontractació, explicacions i mecanismes reals per aturar un ús nociu.

Indicadors que no amaguen ningú#

Les xifres de descàrregues, sessions o qüestionaris completats són fàcils de comptar, però poden ocultar pressió, abandonament o exclusió. Un informe més honest combina mesures quantitatives amb evidència qualitativa: quines barreres es van notificar, quines alternatives es van utilitzar, quant va trigar una resposta humana i quins canvis es van fer. També separa participació voluntària de participació exigida per una institució. L'èxit no és aconseguir que tothom deixi dades; és que qui necessita suport trobi una opció segura i adequada.

L'avaluació ha de mirar conseqüències no previstes. Una alerta va arribar a algú que no l'havia de veure? Una traducció va alterar el sentit? Les persones amb menys connectivitat van rebre pitjor resposta? L'opció de no participar va tenir efectes? Aquestes preguntes eviten que la mitjana esborri experiències importants. L'excepció és un senyal d'aprenentatge quan es pot comunicar sense por i quan té capacitat efectiva de canviar el sistema.

Una ajuda digital amb límits clars#

Una plataforma responsable formula els seus límits amb llenguatge directe. Pot oferir educació general, eines voluntàries i vies de contacte; no pot determinar una condició clínica, garantir seguretat ni substituir una relació professional. Tampoc ha d'usar un to de certesa que faci sentir obligada una persona a seguir una recomanació. La claredat permet decidir amb més llibertat i ajuda a distingir una orientació general d'una atenció individualitzada.

La qualitat es demostra en detalls: una alternativa accessible existeix abans de demanar-la; una dada sensible no se sol·licita per costum; una alerta arriba a una persona competent i no a una llista extensa; una negativa no porta càstig; una possible urgència rep una ruta clara cap a suport immediat. Aquests detalls revelen si la tecnologia organitza cura o només organitza informació.

Fonts institucionals i primàries: Organització Mundial de la Salut, salut mental; Ministeri de Sanitat d'Espanya, Línia 024; Agència Espanyola de Protecció de Dades, drets de protecció de dades; Nacions Unides, Convenció sobre els Drets de l'Infant; UNESCO, Recomanació sobre l'ètica de la IA; NIST, AI Risk Management Framework.