Un adolescent enganxa en un xatbot una conversa privada, lliura una foto per crear un avatar, utilitza una resposta inventada en un treball o segueix un consell que li fa mal. Després descobreix el problema i calla. No sempre calla perquè no entengui el risc: pot témer que li retirin el mòbil, que el centre el sancioni, que la família se’n rigui o que les amistats el culpabilitzin. La seguretat comença abans de qualsevol ajust tècnic. Comença quan pot dir «ha passat això» i troba una persona capaç d’escoltar, reduir el dany i buscar responsabilitats sense convertir una mala decisió en una identitat.

L’adolescència combina curiositat, necessitat de pertinença, aprenentatge per assaig i una sensibilitat especial a l’avaluació social. Les eines d’intel·ligència artificial intensifiquen aquesta barreja: responen immediatament, semblen confidencials i permeten provar identitats, relacions i solucions sense la incomoditat de parlar amb una altra persona. Aquesta disponibilitat pot ser útil, però també fa probables els errors. Una política basada a exigir un ús perfecte des del primer dia només aconsegueix que els incidents s’amaguin.

La confiança no elimina els límits: permet que funcionin#

Un entorn de confiança no significa acceptar qualsevol conducta ni prometre que mai hi haurà conseqüències. Significa que la primera resposta diferencia entre protegir, comprendre i decidir responsabilitats. Si circula una imatge íntima, hi ha una amenaça, una possible estafa o un risc per a la salut, la prioritat és aturar la difusió, conservar l’evidència imprescindible i activar ajuda. La conversa educativa i les conseqüències proporcionades venen després, quan la urgència està continguda.

Un entorn de confiança no significa acceptar qualsevol conducta ni prometre que mai hi haurà conseqüències.

També convé separar intenció, impacte i context. No és igual compartir deliberadament material per humiliar que introduir per desconeixement una dada personal en una aplicació. El dany pot ser greu en tots dos casos, però la intervenció canvia. Preguntar «què esperaves que passés?», «què ha passat realment?» i «qui pot estar afectat?» produeix informació més útil que començar amb «com se t’ha acudit?». La precisió no exculpa; permet reparar millor.

La confiança es construeix abans de l’incident. Famílies i centres poden acordar una regla senzilla: demanar ajuda aviat redueix el dany i es tindrà en compte. L’han de complir. Si cada confessió acaba en exposició pública, càstig automàtic o sermó, el missatge après serà amagar la següent. Un adult pot mantenir límits clars i, alhora, agrair que el jove hagi parlat: «Això és important i ens n’ocuparem. Primer necessito entendre-ho amb tu».

Què fa difícil explicar una errada amb intel·ligència artificial#

Moltes interfícies produeixen una falsa sensació d’intimitat. El sistema escriu en primera persona, recorda detalls i respon sense sorpresa. L’adolescent pot atribuir-li comprensió, lleialtat o secret, encara que al darrere hi hagi proveïdors, registres, moderació i condicions d’ús. Reconèixer que hi va revelar informació sensible pot sentir-se com admetre una traïció a si mateix. La vergonya augmenta si l’aplicació estava prohibida o si el contingut tractava sobre sexualitat, salut mental, orientació, conflictes familiars o violència.

Un altre obstacle és l’ambigüitat. Una resposta falsa pot sonar raonable; un filtre d’imatge pot alterar un cos gradualment; una recomanació pot reforçar l’aïllament sense contenir una ordre clarament perillosa. El jove pot notar malestar sense poder demostrar una «errada». Els adults han d’acceptar relats incomplets: no cal decidir immediatament si va ser una al·lucinació, disseny persuasiu, ús indegut o coincidència. N’hi ha prou de reconèixer l’efecte i revisar què va passar.

També hi ha por de perdre l’accés. Per a algú que viu bona part de les relacions, tasques o creativitat en una plataforma, confessar un problema pot semblar equivalent a quedar-se fora del grup. Per això una resposta proporcionada busca alternatives: pausar una funció, ajustar la privacitat, canviar credencials o utilitzar una eina aprovada pot protegir millor que confiscar tots els dispositius. Quan la restricció total és necessària per un perill immediat, se n’ha d’explicar el motiu, la durada i el criteri de revisió.

Tres casos per aprendre a respondre sense culpa#

Cas 1: una consulta emocional que escala#

La Lucía, de quinze anys, conversa de matinada amb un assistent sobre ansietat. El sistema respon amb seguretat, li suggereix que s’aïlli de persones que «no l’entenen» i minimitza una frase sobre fer-se mal. La Lucía esborra part de l’historial perquè tem que els pares li prohibeixin internet. Una amiga avisa l’orientadora. La resposta adequada no comença avaluant si la Lucía ha infringit una norma: comprova directament i amb calma si hi ha perill immediat, no la deixa sola davant un risc urgent i contacta amb serveis d’emergència o professionals sanitaris quan correspon.

Després, un adult conserva només la informació necessària, revisa amb la Lucía quins missatges van influir i explica que un xatbot no substitueix l’atenció clínica. Acorden suports humans, horaris i una manera senzilla de demanar companyia. Si hi ha risc d’autolesió o suïcidi, no es promet secret absolut i s’activa ajuda local immediata. La tecnologia s’analitza sense atribuir-li diagnòstic ni intenció; la prioritat és la seguretat i la continuïtat de la cura.

Cas 2: una imatge creada com a broma#

En Pol, de setze anys, genera una imatge sexualitzada falsa d’una companya i la comparteix en un grup petit. Algú la reenvia. En Pol vol confessar, però tem l’expulsió i el rebuig. Que demani ajuda no esborra el dany ni centra el cas en la seva por. L’adult ha de protegir primer la persona representada: evitar còpies noves, no demanar-li que confronti l’autor, preservar evidència mínima per vies segures i activar el protocol del centre. La imatge no es reenvia «per comprovar-la» ni es desa en dispositius personals.

La intervenció amb en Pol exigeix responsabilitat concreta: reconèixer l’impacte, aturar la difusió, col·laborar amb les mesures legítimes i participar en una reparació que respecti allò que vulgui la persona afectada. Una disculpa directa no sempre és segura ni desitjada. Les possibles obligacions legals i disciplinàries han de ser valorades per responsables competents, especialment si hi ha menors i contingut sexual. La conversa educativa aborda consentiment, dignitat i la facilitat amb què una imatge sintètica escapa del context inicial.

Cas 3: una tasca lliurada amb dades falses#

L’Amir utilitza un generador per preparar un informe de ciències. L’eina inventa dos estudis i ell els inclou sense comprovar-los. Quan el professor demana les fonts, l’Amir pensa a mantenir la mentida. Un canal segur permet dir la veritat abans que el problema creixi. El docent pot retirar provisionalment la qualificació, demanar una reconstrucció del procés i oferir una nova entrega amb criteris clars. La conseqüència es vincula a l’aprenentatge no demostrat, no a etiquetar l’alumne com a trampós per sempre.

L’Amir compara les afirmacions amb fonts reals, marca quines parts va produir l’eina i explica com verificarà la propera vegada. Si la política del centre era confusa, l’incident també revela una responsabilitat institucional: aclarir quan es pot utilitzar IA, com es declara i quines evidències del procés es demanen. L’honestedat primerenca ha de comptar en la resposta, encara que no elimini la necessitat de refer el treball.

Un protocol breu per a les primeres vint-i-quatre hores#

La primera conversa pot seguir cinc moviments. Primer, regular la reacció adulta: to baix, preguntes curtes i cap publicació impulsiva. Segon, comprovar si hi ha perill per a la integritat, extorsió, contacte sexual, localització exposada, frau, discriminació o risc mèdic. Tercer, aturar accions reversibles: tancar una sessió, canviar una contrasenya, bloquejar un contacte o sol·licitar retirada de contingut sense destruir evidència necessària. Quart, identificar qui més necessita protecció. Cinquè, acordar el pas següent i quan tornaran a parlar.

Documentar no significa acumular material sensible. Convé anotar data, plataforma, compte, descripció del resultat, persones que el van rebre i mesures realitzades. Les captures s’han de limitar a l’imprescindible i emmagatzemar-se mitjançant canals autoritzats. En imatges íntimes de menors, no es descarreguen ni redistribueixen; es demana orientació a autoritats o serveis especialitzats. Tampoc s’interroga repetidament l’adolescent: repetir detalls traumàtics davant de diverses persones pot augmentar el dany.

Les decisions rellevants no haurien de recaure en una sola persona. En un centre educatiu, el referent de protecció, orientació, direcció i protecció de dades poden tenir funcions diferents. A casa, pot ser necessari acudir a salut, policia, serveis socials o suport jurídic segons el risc. Si el sistema pertany a l’escola, la institució ha de registrar l’incident, informar d’acord amb les seves obligacions i revisar si la configuració o contractació va contribuir al problema.

Converses que obren la porta i frases que la tanquen#

Són útils frases com «Gràcies per explicar-ho», «No ho has de resoldre sol», «Et preguntaré el necessari per protegir-te» i «T’explicaré abans de compartir-ho, tret que hi hagi un perill que exigeixi actuar». No prometen impunitat ni confidencialitat impossible. Donen previsibilitat. També ajuda oferir eleccions petites: parlar ara o d’aquí a deu minuts, escriure primer, triar quin adult de confiança serà present o decidir si cal una pausa.

Tanquen la porta expressions com «ja t’ho vaig advertir», «això et passa per fer-ho servir», «ensenya-m’ho tot ara mateix» o «si m’estimessis, m’ho hauries explicat abans». La humiliació pública, les bromes i l’amenaça desproporcionada desplacen l’atenció des del dany cap a l’autoprotecció. Fins i tot quan el jove ha perjudicat una altra persona, l’objectiu és obtenir fets fiables, protegir la víctima i promoure responsabilitat. La vergonya pot produir obediència momentània, però rarament ensenya bon criteri.

Una pregunta especialment valuosa és «què necessites que no passi quan t’ajudi?». La resposta pot revelar por de represàlies, sortida forçada de l’armari, violència a casa o pèrdua d’amistats. L’adult no sempre ho podrà garantir, però pot explicar quin control té i dissenyar mesures de seguretat. Quan hi ha indicis d’abús, explotació o coacció, ha de seguir els deures de protecció aplicables i evitar confrontar pel seu compte la persona sospitosa.

Responsabilitat compartida: no tot depèn de l’adolescent#

Les plataformes han de dissenyar per a usuaris reals, inclosos menors previsibles, amb privacitat alta per defecte, avisos comprensibles, límits davant contingut perjudicial i canals de denúncia accessibles. Les escoles han d’avaluar eines abans d’imposar-les, minimitzar dades, oferir una alternativa humana i formar el personal. Les famílies necessiten normes que puguin explicar i revisar. Culpar només l’usuari jove oculta les decisions comercials i institucionals que modelen allò que resulta fàcil, atractiu o difícil d’abandonar.

La guia d’UNICEF sobre intel·ligència artificial i drets de la infància proposa situar benestar, inclusió, privacitat, seguretat i rendició de comptes en el disseny i ús d’aquests sistemes. La UNESCO, en la seva guia sobre IA generativa en educació i recerca, subratlla un enfocament humà, protecció de dades i adequació per edats. Són referències per exigir condicions, no simples materials per ensenyar el menor a adaptar-s’hi.

A Espanya, l’Agència Espanyola de Protecció de Dades reuneix guies oficials sobre menors, educació, privacitat i gestió de riscos. El Reglament europeu d’intel·ligència artificial a EUR-Lex estableix un marc basat en riscos i obligacions per a determinats sistemes. L’aplicació concreta depèn de l’ús, el proveïdor, la data i la jurisdicció; davant un dany greu convé acudir a professionals i autoritats competents.

Convertir cada incident en aprenentatge i reparació#

Tancar un cas exigeix més que desactivar un compte. Cal revisar si el dany continua, qui necessita informació, quina dada s’ha d’esborrar o corregir, quin suport emocional segueix disponible i quin canvi evitarà una repetició. Una reunió breu dies després permet comprovar si hi ha hagut reenviaments, represàlies, ansietat o dubtes nous. El seguiment comunica que demanar ajuda no va ser un tràmit i que la persona no queda sola després de confessar.

La reparació ha de mirar totes les persones afectades sense forçar la reconciliació. Pot incloure retirar contingut, rectificar una afirmació, refer un treball, restaurar un accés bloquejat injustament, reconèixer públicament un error institucional o canviar una configuració. No ha de demanar a la víctima que eduqui qui va causar el dany. Tampoc ha de convertir per sempre l’adolescent responsable en «el problema»: assumir conseqüències i desenvolupar capacitats noves forma part de la prevenció.

Finalment, la comunitat aprèn sense identificar ni exposar. El centre pot comunicar que ha detectat un tipus de risc, recordar el canal d’ajuda i actualitzar les pràctiques, ometent detalls que permetin reconèixer les persones. La confiança creix quan les regles són clares, els adults compleixen allò promès i els errors condueixen a millores visibles. Una generació que conversa amb màquines necessita saber una cosa molt humana: explicar aviat una errada no la redueix a aquella errada; obre la possibilitat de protegir, respondre i reparar.