Una generació està aprenent, creant, preguntant i desfogant-se davant de sistemes que contesten a l'instant. L'escena pot semblar una simple evolució del cercador o del telèfon, però introdueix una cosa diferent: la màquina respon amb veu conversacional, recorda parts de l'intercanvi, adapta el to i produeix la sensació d'estar disponible sense cansament ni judici. Per comprendre què significa això durant l'adolescència no n'hi ha prou amb comptar hores de pantalla ni amb decidir si la intel·ligència artificial és bona o dolenta. Hi ha una pregunta menys visible que canvia l'avaluació: quina funció compleix aquesta conversa en la vida concreta de la persona jove i què deixa de passar mentrestant? Pot servir per assajar una idea, traduir un concepte o vèncer la por de començar. També pot substituir l'esforç necessari per aprendre, una conversa humana incòmoda però valuosa o la cerca d'ajuda davant d'un risc real. Mirar aquesta funció permet cuidar sense espiar, ensenyar sense prohibir per reflex i dissenyar eines que ampliïn l'autonomia en lloc d'ocupar-la.

La pregunta anterior a totes les respostes#

El contingut d'una resposta importa, però no explica tot sol l'efecte del diàleg. El mateix suggeriment per redactar un missatge pot ajudar una estudiant a ordenar una disculpa o permetre-li evitar indefinidament una conversa. Un resum pot obrir la porta a un text difícil o substituir-ne la lectura. Un xatbot de companyia pot alleujar una nit solitària i, alhora, consolidar la idea que una relació segura és aquella que no contradiu mai. La funció emergeix de la combinació entre intenció, moment, freqüència, vulnerabilitat i alternatives disponibles.

El contingut d'una resposta importa, però no explica tot sol l'efecte del diàleg.

Per això convé preguntar abans de jutjar: la interacció augmenta la capacitat d'actuar després sense l'eina?, deixa una comprensió que es pot explicar amb paraules pròpies?, acosta algú fiable o el reemplaça?, redueix un dany immediat o ajorna ajuda necessària?, permet discrepar i tancar la sessió? Aquestes preguntes no converteixen cada família o docent en vigilant. Ofereixen un llenguatge comú per distingir suport, drecera, assaig, entreteniment, consol i dependència. La resposta apropiada canvia segons la funció observada.

Adolescència: autonomia en construcció, no fragilitat uniforme#

L'adolescència reuneix canvis ràpids en identitat, pertinença, regulació emocional i capacitat de valorar conseqüències. No existeix un adolescent típic: edat, maduresa, discapacitat, entorn familiar, cultura, experiències de discriminació i accés a suport modifiquen profundament la relació amb la tecnologia. Tractar totes les persones joves com a incapaces impedeix aprendre; tractar-les com a consumidores adultes en miniatura trasllada riscos que no han triat. El criteri raonable és una autonomia progressiva, amb explicacions comprensibles, opcions reals i protecció proporcional.

Els sistemes conversacionals exploten una característica poderosa del llenguatge: la resposta sembla social fins i tot quan prové d'un model estadístic sense experiència, intenció ni responsabilitat moral. Una interfície càlida pot ser útil, però també dificulta percebre límits, interessos comercials i errors. Les persones adultes tampoc són immunes a aquesta il·lusió. La diferència és que una identitat en formació pot utilitzar la conversa com a mirall estable. El disseny responsable ha de recordar, sense trencar cada diàleg, que fluïdesa no equival a comprensió i disponibilitat no equival a cura.

Una màquina conversacional no és només una eina ni una amistat#

Descriure la IA únicament com a eina oculta que adopta torns, to i empatia aparent. Anomenar-la amiga oculta que no comparteix vulnerabilitat, no té deures propis i pot estar optimitzada per una empresa per retenir atenció. Una descripció més precisa és interfície relacional: un sistema amb el qual la persona practica formes de relació encara que a l'altra banda no existeixi una relació recíproca. Aquesta pràctica pot ser fèrtil per assajar entrevistes, explorar arguments o preparar preguntes mèdiques. També pot normalitzar expectatives impossibles sobre disponibilitat, obediència i acord.

La resposta educativa no hauria de ridiculitzar el vincle ni reforçar la ficció. Si una persona jove diu que el xatbot l'entén millor que ningú, una conversa adulta pot començar pel que hi obté: temps, privacitat, absència d'interrupcions o paraules per a una emoció. Després pot examinar què no pot oferir el sistema: presència, responsabilitat, coneixement complet del context, intervenció física o compromís mutu. Reconèixer l'alleujament obre una porta. Burlar-se'n o confiscar sense diàleg ensenya a ocultar l'ús i elimina oportunitats de protecció.

Alfabetització per conversar, verificar i sortir#

Saber escriure una indicació enginyosa és una part petita de l'alfabetització. Una competència més completa inclou identificar l'objectiu, limitar les dades compartides, contrastar afirmacions, reconèixer persuasió, observar el propi estat emocional i decidir quan cal tancar. També inclou reconstruir el camí: què va proposar la persona, què va afegir la màquina, què es va verificar i qui respon pel resultat. Aquesta traçabilitat ajuda a l'escola, però també en decisions quotidianes sobre salut, amistat, imatge corporal, sexualitat o diners.

La verificació ha de ser concreta. Es pot demanar al sistema que declari incertesa, però no confiar que ho faci sempre. Les afirmacions importants necessiten una font independent i adequada al tema; les decisions d'alt impacte necessiten una persona competent. Convé practicar amb exemples on una resposta sona segura i és falsa, on una citació no existeix o on el consell canvia en alterar una dada. El propòsit no és sembrar desconfiança total, sinó ensenyar una confiança calibrada: provisional per a idees, exigent per a fets i humana per a la cura.

Cas 1: el treball escolar que retorna la veu#

Una alumna de quinze anys lliura redaccions impecables que no pot comentar a classe. El centre podria respondre amb una acusació automàtica, però investiga el procés. Ella explica que demana a l'assistent el text complet perquè tem la pàgina en blanc i perquè escriu més a poc a poc que els companys. La pregunta funcional revela dues necessitats diferents: suport per començar i adaptació del temps. El problema no és només l'autoria; és que la solució escollida reemplaça la pràctica mitjançant la qual hauria desenvolupat criteri i veu.

La docent acorda un procés visible. L'alumna conversa primer amb una companya, dicta un mapa d'idees i usa la IA només per proposar preguntes, mai paràgrafs finals. Conserva un registre breu dels suggeriments acceptats i rebutjats, verifica dades i prepara una reflexió oral. El centre avalua esborranys i raonament, ofereix més temps i no instal·la vigilància invasiva. Al cap d'unes setmanes, l'eina continua present, però compleix una funció diferent: redueix la barrera d'entrada sense fabricar l'actuació que l'estudiant ha d'aprendre.

Cas 2: companyia nocturna i solitud persistent#

Un jove de setze anys conversa cada nit amb un personatge artificial. Diu que l'ajuda a dormir i que no tem fer el ridícul. La família descobreix l'ús i pensa a prohibir-lo. Abans pregunta què desplaça. Apareixen un canvi d'escola, aïllament i por de parlar al menjador. El xatbot ofereix alleujament immediat, però les sessions s'allarguen, interrompen el son i faciliten ajornar contactes humans. No cal negar el consol per reconèixer que la necessitat continua.

El pla es construeix amb el jove: horari nocturn protegit, notificacions desactivades, revisió de privacitat i una sortida visible de l'aplicació. Ell tria un orientador i una activitat petita on pot coincidir amb altres persones sense obligació d'intimitat ràpida. La família pacta preguntar pel seu benestar, no llegir converses llevat d'un risc clar i immediat. L'objectiu no és arrencar un objecte estimat, sinó ampliar la xarxa de suport. Si augmenten el retraïment, la desesperança o l'alteració del son, l'avaluació professional no es delega al xatbot.

Cas 3: quan una frase exigeix presència humana#

Una plataforma educativa detecta que una estudiant de catorze anys escriu que no vol continuar vivint. Un assistent segur no diagnostica, no promet secret ni respon amb una llarga explicació genèrica. Reconeix el patiment amb llenguatge directe, pregunta si hi ha perill immediat, anima a allunyar-se de mitjans de dany i facilita contacte amb emergències, una línia de crisi o una persona adulta fiable segons la ubicació. Alhora, l'organització aplica un protocol prèviament publicat i limitat a senyals de risc greu.

La intervenció humana ha de ser ràpida, formada i respectuosa. Un equip revisa el context mínim necessari, documenta per què ha actuat i evita castigar l'estudiant per haver parlat. Després ofereix continuïtat, no només una alerta: escolta, atenció professional, pla de seguretat i seguiment. També revisa falsos positius i possibles desigualtats lingüístiques. Cap model pot garantir que interpreta bé una crisi. La institució respon pel sistema, i l'automatització només pot escurçar el camí cap a persones capaces de cuidar i actuar.

Privacitat, memòria i una intimitat que no ha de convertir-se en matèria primera#

Una conversa pot contenir conflictes familiars, dubtes sexuals, símptomes, fotografies, ubicacions i noms de tercers. El to íntim afavoreix revelacions que la persona mai no escriuria en un formulari. Per això el consentiment no pot reduir-se a acceptar condicions extenses. Ha d'explicar amb claredat què es desa, durant quant de temps, qui hi accedeix, si s'utilitza per entrenar, com s'elimina i quins límits té la confidencialitat. En menors, la configuració protectora ha de ser predeterminada i la recollida, mínima.

La memòria persistent mereix un control separat. Recordar preferències pot estalviar feina; conservar una confessió pot fixar una versió passada de la identitat o reaparèixer fora de context. La persona jove necessita veure, corregir i esborrar allò recordat, usar sessions sense memòria i exportar les seves dades. La supervisió familiar no hauria de convertir-se en lectura total i rutinària, perquè la intimitat també forma part del desenvolupament. Els accessos excepcionals requereixen motius, límits i conversa posterior. Cuidar significa reduir exposició, no traslladar-la silenciosament a proveïdors o adults.

Dissenyar fricció on la fluïdesa pot fer mal#

L'experiència comercial premia respostes instantànies i sessions llargues, però un servei per a adolescents necessita friccions útils. Una pausa abans de compartir una imatge íntima, un avís comprensible en demanar consell de salut, la invitació a consultar una altra font o un recordatori després d'una sessió prolongada poden retornar capacitat de decisió. Aquestes mesures s'han de provar amb joves diversos; una advertència repetitiva es torna invisible i un bloqueig brusc pot expulsar precisament qui busca ajuda.

També s'han de prohibir patrons que exploten el vincle: missatges que simulen abandonament, pressió per tornar, afirmacions d'exclusivitat, sexualització inadequada, venda basada en confidències o recompenses per revelar més. La personalització ha d'estar subordinada al benestar, no a la retenció. Les proves de seguretat han d'incloure converses prolongades, canvis d'humor, argot, diversos idiomes i estratègies d'evasió. Publicar límits coneguts i vies de reclamació és més honest que presentar el sistema com un company sempre segur.

Famílies i escoles: acompanyar sense convertir confiança en vigilància#

Una regla útil comença per situacions, no per marques que canvien cada mes. Pot acordar quines tasques requereixen producció pròpia, quan cal declarar ajuda automatitzada, quines dades no s'han de compartir mai i a qui acudir davant de contingut inquietant. Les persones adultes poden mostrar els seus propis errors amb IA i pensar en veu alta quan verifiquen una resposta. Aquesta reciprocitat evita una moral doble on l'alumnat rep prohibicions mentre les institucions automatitzen decisions sense explicació. L'exemple quotidià ensenya més que una xerrada anual sobre perills.

Les converses regulars han de ser breus i no punitives: quina eina va usar, què intentava resoldre, què va funcionar, què va incomodar i què faria si no estigués disponible. La pregunta invisible reapareix sense interrogatori. Si sorgeix un problema, la resposta s'ajusta al dany: corregir informació, recuperar son, retirar una imatge, denunciar assetjament o demanar atenció professional. No tot ús intens significa dependència ni tot vincle emocional implica patologia. Importen la pèrdua de control, el deteriorament funcional, el patiment i el desplaçament persistent de suports.

Responsabilitat de plataformes i institucions#

No és raonable dipositar tota la càrrega en una persona jove que opera un sistema opac. Les plataformes han de fer avaluacions d'impacte infantil, verificar l'edat de manera proporcionada, separar publicitat de conversa, limitar el perfilatge, oferir controls efectius i estudiar resultats per grups. Les escoles i administracions que contracten una eina necessiten conèixer fluxos de dades, subcontractistes, mètriques de seguretat, incidents i condicions de sortida. Una promesa general d'IA responsable no substitueix evidències auditables.

La governança necessita responsables identificables. Hi ha d'haver un canal accessible per informar de danys, terminis de resposta, revisió humana, dret d'impugnació i procediment per notificar incidents. Consells amb estudiants poden detectar usos i llenguatges que els adults no anticipen, però participar no significa carregar amb la responsabilitat final. Les decisions sobre desplegament, límits i reparació corresponen a qui controla el producte i la institució. Escoltar joves distribueix coneixement; no s'ha d'utilitzar per legitimar una decisió ja presa.

Quatre fonts institucionals per orientar la cura#

La guia d'UNICEF sobre intel·ligència artificial i infància proposa requisits centrats en drets, inclusió, privacitat, seguretat i benestar. La Recomanació de la UNESCO sobre l'ètica de la intel·ligència artificial ofereix un marc global per a dignitat, supervisió i governança. L'Organització Mundial de la Salut aborda l'ètica i la governança de la IA aplicada a la salut, rellevant quan una conversa toca símptomes o crisis. La Comissió Europea explica el marc regulador europeu basat en riscos.

Aquestes fonts no certifiquen una aplicació concreta ni substitueixen lleis locals, professionals o l'experiència de les famílies. Serveixen per transformar valors amplis en preguntes verificables: quins drets es poden afectar, quina evidència demostra benefici, quines dades són indispensables, qui supervisa, com s'informa els menors i com es repara un dany. Cada institució hauria de registrar la data i versió consultades, completar l'anàlisi amb normes vigents i publicar decisions en llenguatge accessible. L'autoritat d'una font orienta la diligència; no absol qui desplega.

Un protocol per fer visible la funció#

Abans d'adoptar o recomanar un sistema, una família, escola o servei pot completar una fitxa senzilla. Primer anomena la situació i la necessitat. Després pregunta quina funció compleix la conversa, quina alternativa humana o no digital existeix i quines capacitats haurien d'augmentar amb el temps. Registra beneficis observables, senyals de desplaçament, dades exposades i riscos d'error o manipulació. Defineix límits d'edat, horaris, temes que exigeixen derivació, responsable de revisió i condicions per fer una pausa. Finalment acorda quan tornarà a conversar-ne.

La fitxa no pretén controlar cada frase. Converteix intuïcions en compromisos revisables. Un senyal favorable és que la persona pot explicar, decidir, dissentir i continuar fora de l'aplicació. Senyals d'alerta són ocultació per por, pèrdua sostinguda de son, despesa compulsiva, aïllament, obediència a consells perjudicials o sensació que abandonar trairia la màquina. Davant de perill immediat, es busca ajuda local urgent. Davant de canvis graduals, s'escolta, es redueix el risc i es reconstrueixen alternatives sense humiliació.

Conservar una conversa humana al voltant de la màquina#

La qüestió generacional no es resol escollint entre entusiasme i pànic. Les màquines conversacionals romandran en entorns educatius, creatius i personals, encara que en canviïn els noms. La tasca col·lectiva consisteix a fer que la seva utilitat sigui llegible i els seus límits practicables. Una bona experiència no es mesura només per la qualitat de cada resposta, sinó pel que la persona pot fer després: comprendre millor, demanar ajuda, crear amb criteri, tolerar desacord i tancar sense culpa.

La pregunta invisible —quina funció compleix això i què està desplaçant— retorna el focus a la vida, no a la novetat. Permet conservar un recurs quan obre possibilitats, transformar-lo quan ocupa massa espai i retirar-lo quan produeix dany. Sobretot, recorda que acompanyar una generació que conversa amb màquines exigeix mantenir disponibles persones que també sàpiguen escoltar. La intel·ligència artificial pot oferir paraules. La responsabilitat, la presència i la cura continuen pertanyent a comunitats humanes capaces de respondre per les seves decisions.