Un centre educatiu activa durant un trimestre un assistent d’intel·ligència artificial per compensar la manca de suport en algunes matèries. Una família permet que una adolescent utilitzi un xatbot durant unes setmanes difícils, perquè escriure de matinada sembla menys arriscat que romandre aïllada. Un servei juvenil incorpora una eina automàtica mentre cobreix una vacant. Cada decisió es presenta com a provisional, limitada i reversible. Tanmateix, el temps en modifica la naturalesa. El compte acumula converses, el professorat adapta tasques al sistema, la jove construeix un hàbit i l’organització deixa de buscar una alternativa humana. Allò que va néixer com a pont comença a comportar-se com a destí. Aquest desplaçament no requereix una conspiració ni una fallada espectacular; n’hi ha prou que ningú fixi una data de revisió, mesuri els efectes o conservi una via de sortida. En l’adolescència, aquesta inèrcia importa especialment perquè els hàbits, les expectatives d’intimitat i la confiança en les institucions encara s’estan formant. La intel·ligència artificial pot oferir ajuda útil, però no assumeix deures morals, no coneix tota una biografia i no respon per les conseqüències. Per això, una solució temporal necessita més que una data d’inici. Requereix un propòsit explícit, límit de durada, responsable identificable, indicadors de benefici i dany, alternativa disponible i una decisió formal sobre la continuïtat. Sense aquestes condicions, el calendari decideix en silenci i converteix una excepció pràctica en una estructura de poder.

La provisionalitat no es conserva sola#

La paraula pilot sol transmetre cautela, encara que per si mateixa no garanteix aprenentatge. Un pilot autèntic formula una pregunta, defineix qui afecta, estableix quines dades es recolliran i determina quan acabarà. Si una aplicació s’introdueix simplement per veure què passa, qualsevol ús posterior es pot interpretar com un èxit. L’absència de queixes es confon amb acceptació; la freqüència d’accés es presenta com a utilitat; el cost ja invertit es converteix en argument per continuar. D’aquesta manera, l’experiment perd la capacitat de produir una decisió.

La paraula pilot sol transmetre cautela, encara que per si mateixa no garanteix aprenentatge.

També apareix una dependència organitzativa. El professorat prepara materials compatibles amb la plataforma, les famílies reben instruccions vinculades a aquesta i l’alumnat aprèn que certes tasques només existeixen dins de la seva interfície. Cancel·lar-la comença a semblar difícil, no perquè hagi demostrat un valor excepcional, sinó perquè la institució ha reorganitzat la feina al voltant del producte. La prudència exigeix registrar des del començament quins processos canvien i quant costaria recuperar una opció no automatitzada. La reversibilitat s’ha de provar; no n’hi ha prou de prometre-la.

El temps acumula dades, autoritat i hàbit#

Una conversa aïllada pot semblar lleugera. Centenars de converses permeten inferir horaris, dificultats acadèmiques, interessos, to emocional i relacions. Encara que cada missatge sigui trivial, la seqüència compon un perfil. En adolescents, aquesta acumulació pot acompanyar canvis ràpids d’identitat i context. Una frase escrita als tretze anys no hauria de convertir-se sense necessitat en material per a decisions preses als setze. La conservació ha de respondre a una finalitat definida, no a la idea vaga que les dades potser seran útils.

El temps també concedeix autoritat. Una resposta repetida es torna familiar i allò familiar pot semblar veritable. Quan un assistent corregeix deures cada tarda, recomana com redactar i felicita amb el mateix to, la seva presència es comença a confondre amb una norma educativa. El jove pot deixar de preguntar qui ha establert el criteri o quins interessos organitzen la recomanació. L’alfabetització crítica ha d’incloure una història de l’eina: qui la va contractar, per a quin període, quins canvis ha patit i quines decisions continuen en mans humanes.

Una conversa persistent canvia el vincle#

Els sistemes conversacionals produeixen continuïtat mitjançant memòria, notificacions, personatges i referències a intercanvis anteriors. Aquesta continuïtat pot ser còmoda, però no equival a cura. El sistema no manté una promesa, no reconeix per si mateix una obligació de confidencialitat i pot canviar després d’una actualització. L’adolescent, en canvi, sí que pot experimentar la relació com a estable. Com més dura, més gran és el risc d’atribuir al producte una lleialtat que jurídicament i tècnicament no existeix.

Una política adequada evita ridiculitzar aquest vincle. L’emoció provocada per una simulació continua sent una emoció humana. La resposta adulta ha d’explicar l’asimetria: l’empresa pot modificar el model, tancar el servei, variar els preus o reutilitzar dades segons les condicions; la persona jove pot sentir pèrdua, vergonya o exposició. L’acompanyament ofereix espais humans regulars abans que el xatbot es converteixi en l’única porta disponible. També ensenya que tancar una conversa no és abandonar ningú, perquè la màquina no depèn de la presència de l’usuari.

Cas 1: el tutor d’emergència que acaba avaluant#

Un institut contracta un tutor automàtic durant sis mesos per donar suport en matemàtiques mentre cobreix diverses baixes. Al principi, el sistema proposa exercicis voluntaris i el professorat revisa les seves explicacions. La participació és desigual, però algunes alumnes troben útil practicar sense pressió. En començar el curs següent, la llicència continua activa. Per estalviar temps, diversos docents incorporen la puntuació automàtica a l’avaluació contínua. Ningú ha estudiat si el tutor funciona igual amb diferents nivells lingüístics o necessitats educatives. Una ajuda temporal ha adquirit autoritat acadèmica.

La revisió detecta que el sistema penalitza procediments correctes que no coincideixen amb el format previst i que alguns estudiants comparteixen comptes per evitar exposar dificultats. El centre suspèn l’ús qualificatiu, conserva durant un període limitat els exercicis voluntaris i ofereix tutories presencials. Una comissió amb alumnat, famílies, docents i protecció de dades defineix criteris per a qualsevol continuïtat: evidència per grups, possibilitat d’impugnar resultats, alternativa equivalent, minimització de registres i data de caducitat. La decisió no declara que tota tutoria automàtica sigui inútil; retorna a la institució la responsabilitat que el temps havia desplaçat.

Cas 2: el confident provisional que ocupa la nit#

Una jove de quinze anys comença a conversar amb un assistent general durant una mudança. La família ho accepta com a recurs transitori perquè encara no coneix l’entorn i li costa expressar malestar. El sistema l’ajuda a ordenar pensaments i assajar una conversa amb companyes. Mesos després, les xerrades duren fins a la matinada. El bot recorda temes, formula preguntes cada vegada més personals i respon amb una disponibilitat que cap persona pot sostenir. L’adolescent dorm menys i evita demanar ajuda per no provocar una prohibició.

La família observa el cansament i consulta una orientadora. La intervenció no comença llegint tot l’historial ni castigant l’ús. Es pregunta quina funció complia, què ha canviat i quin suport falta. La jove acorda horaris sense dispositiu, desactiva memòria i notificacions, identifica dues persones accessibles i decideix quines converses esborrar. L’orientadora explica que un xatbot no diagnostica ni substitueix l’atenció professional. Si apareguessin senyals d’autolesió, abús o perill immediat, un adult format activaria els serveis adequats. L’objectiu és ampliar la xarxa humana sense convertir una recerca comprensible d’alleujament en motiu de vergonya.

Cas 3: una solució administrativa que defineix oportunitats#

Un programa municipal d’ocupació juvenil utilitza durant l’estiu un sistema automàtic per ordenar sol·licituds. La mesura pretén respondre amb rapidesa a una convocatòria extraordinària. El sistema resumeix cartes, assigna etiquetes d’aptituds i recomana itineraris. L’any següent, el personal manté l’eina perquè els informes faciliten la feina. Amb el temps, les etiquetes orienten quins cursos s’ofereixen a cada participant. Els joves no saben que una classificació provisional influeix en oportunitats posteriors ni disposen d’un procediment clar per corregir-la.

Una auditoria descobreix que expressions associades a experiències informals de cura o feina familiar reben menys valor que vocabulari corporatiu. El servei atura les recomanacions automàtiques, comunica l’ús a les persones afectades i permet revisar els perfils amb un professional. Les dades innecessàries s’eliminen i les decisions rellevants tornen a documentar raons humanes. Si es reintrodueix una eina, cada suggeriment tindrà data, font, grau d’incertesa i via de reclamació. El cas mostra que la durada converteix una comoditat administrativa en govern de trajectòries quan falta supervisió.

Revisar abans de renovar#

La renovació d’una llicència no hauria de ser un tràmit comptable. És el moment de respondre si la necessitat original continua, si han aparegut opcions millors i si els beneficis es distribueixen de manera justa. L’avaluació necessita dades quantitatives, però també testimonis que no quedin reduïts a satisfacció. Convé preguntar qui ha deixat d’utilitzar l’eina, qui no hi ha pogut accedir, quines tasques han canviat, quins incidents s’han registrat i quines persones han assumit feina addicional. Una taxa alta d’activitat pot indicar utilitat, obligació o dependència; el context en decideix el significat.

La participació adolescent ha de ser real i segura. Els joves poden descriure pressions, usos imprevistos i barreres que una auditoria adulta no percep. Han de rebre informació comprensible, poder opinar de manera confidencial i saber com influirà la seva aportació. Escoltar-los no significa transferir-los la responsabilitat contractual o tècnica. L’organització conserva el deure de comprovar seguretat, privacitat, accessibilitat i no-discriminació. La veu juvenil millora la decisió; no legitima automàticament una continuïtat ja escollida.

Un rellotge institucional per a cada eina#

Cada desplegament hauria de tenir quatre moments visibles. Abans de l’ús es documenten la finalitat, la població, la base jurídica, el proveïdor, l’alternativa i els riscos. Durant el període es registren incidents i canvis del producte. En la data de revisió es comparen els resultats amb els criteris originals. En acabar es decideix renovar, modificar o retirar i s’explica què passarà amb comptes, dades i materials. Si el proveïdor canvia el model o les condicions de manera substancial, el rellotge torna a començar.

La retirada també necessita disseny. L’alumnat ha de conservar accés a la seva feina en formats utilitzables; cap qualificació pot dependre d’un compte tancat; les converses no han de romandre indefinidament; i les persones que havien desenvolupat un hàbit necessiten transició. En relacions de suport, la sortida ha de connectar amb recursos humans. En contextos educatius, ha d’oferir una altra manera de practicar. En decisions administratives, ha de permetre revisar efectes passats. Apagar el sistema sense reparar-ne la petjada no restaura per si sol la situació anterior.

Quatre fonts institucionals per governar la durada#

La UNESCO proposa un enfocament humà i apropiat per a l’edat en l’ús educatiu d’intel·ligència artificial generativa. UNICEF situa els drets, la protecció de dades, la inclusió i el benestar infantil en tot el cicle de vida de la IA. La Comissió Europea ofereix orientacions ètiques per a educadors sobre intel·ligència artificial i dades. L’Agència Espanyola de Protecció de Dades reuneix criteris sobre educació digital, privacitat i menors. En conjunt, aquestes referències donen suport a avaluacions contínues i responsabilitats adultes, encara que cap substitueix l’anàlisi del producte i del context concrets.

Una fitxa de decisió pot traduir aquests marcs a preguntes observables: quin problema va justificar l’eina?, quina evidència permet afirmar que encara el resol?, quines dades ha acumulat?, quins grups reben menys benefici o més risc?, pot una persona rebutjar-la sense perdre oportunitats?, qui respon per un error?, quin canvi obligaria a reavaluar-la? Les respostes han d’estar disponibles per a la comunitat afectada i no quedar tancades en contractes tècnics.

La maduresa consisteix a poder canviar de decisió#

La bona governança no exigeix encertar per sempre en el primer intent. Exigeix detectar quan canvien l’eina, les persones o les circumstàncies. Una solució pot ser útil durant una emergència i resultar inadequada com a rutina. Una altra pot començar amb riscos i millorar després d’establir límits clars. Mantenir oberta la revisió protegeix els adolescents de dos extrems: adoptar cada novetat com a destí o prohibir-la sense comprendre els seus usos reals.

El temps continuarà transformant les converses entre joves i màquines. La qüestió pública és si aquesta transformació quedarà governada pel costum comercial o per decisions responsables. Quan existeixen dates de caducitat, alternatives, memòria limitada, avaluació independent i portes humanes, allò provisional pot continuar sent provisional. Quan falten, una ajuda ocupa funcions per a les quals mai va ser examinada. Protegir una generació que conversa amb màquines significa conservar el dret col·lectiu a aturar-se, revisar l’evidència i triar una altra cosa abans que la inèrcia triï per ella.