La Irene coordina la convivència en un institut. Un matí rep una alerta d'una aplicació que ha detectat «risc d'absentisme» en en Leo, un alumne de catorze anys. L'eina ha unit retards, faltes i algunes tasques sense lliurar; proposa que el centre activi un seguiment. La Irene no mira l'alerta com si fos una sentència. Coneix en Leo, sap que durant unes setmanes va acompanyar el seu avi a l'hospital i que alguns dies arribava tard perquè el seu autobús havia canviat de ruta. Sense aquella conversa, unes dades certes haurien explicat una història incompleta. La pregunta important no és si el sistema va encertar una etiqueta, sinó què passa quan una interpretació provisional comença a acompanyar una persona durant anys.
La intel·ligència artificial invisible entra sovint per portes com aquesta. No arriba anunciada com un robot que substitueix una escola, sinó com una ajuda per ordenar avisos, detectar patrons o repartir temps. La seva utilitat pot ser real: un equip sobrecarregat pot trobar abans qui necessita suport. Tanmateix, tota ajuda que transforma observacions en prioritats construeix també una memòria. Si aquesta memòria conserva només dificultats, si ningú no hi pot afegir context o si l'etiqueta circula d'un curs a l'altre com una veritat estable, una decisió presa per cuidar avui pot estrènyer les oportunitats de demà.
Les dades no són el futur, però el poden empènyer#
És temptador parlar d'una predicció com si descrivís allò que passarà. En realitat, descriu una relació trobada en dades anteriors i convertida en una hipòtesi sobre el present. En Leo no és una probabilitat. És una persona que pot faltar per una malaltia, per una responsabilitat familiar, per por d'un problema a classe o perquè travessa una etapa que canviarà. Confondre la hipòtesi amb el destí fa que qui l'envolta busqui confirmacions d'allò que ja creu veure. Una alerta creada per obrir una conversa pot acabar tancant-la.
És temptador parlar d'una predicció com si descrivís allò que passarà. En realitat, descriu una relació trobada en dades anteriors i convertida en una hipòtesi sobre el present.
Aquest mecanisme importa perquè les institucions tenen memòria. Una nota breu, una categoria o una puntuació poden viatjar a una tutoria nova, a una orientació posterior o a una reunió on en Leo no és present. Cada trasllat sembla petit. Junts produeixen un expedient que decideix quina atenció rep, quines expectatives es formen sobre ell i quins errors s'interpreten com a normals. La conseqüència futura no sempre és una decisió dramàtica. De vegades és més silenciosa: un adult que ja no pregunta, una oportunitat que no s'ofereix o una explicació a la qual ningú no dona el mateix crèdit.
Per això el primer deure no és acumular més informació, sinó decidir quina informació mereix romandre. Un centre pot necessitar registrar que es va activar un suport, qui el revisarà i si va funcionar. No necessita conservar indefinidament cada sospita o cada detall íntim que va servir per entendre un moment concret. La diferència sembla administrativa, però és profundament humana. Guardar allò necessari per acompanyar no equival a guardar-ho tot per si de cas. Una memòria sense límits pot convertir una circumstància temporal en una identitat administrada.
Preguntar qui va escriure la història#
Quan una eina recomana intervenir, convé reconstruir el recorregut d'aquella recomanació. Quines dades hi van entrar? Qui va decidir que un retard compta igual que una falta? Es registren igual les absències justificades i les que ningú no va poder explicar? Quins grups apareixen més sovint en les alertes i per què? Aquestes preguntes no són un rebuig tècnic. Són una manera de comprovar si el sistema llegeix una realitat o repeteix les desigualtats amb què ha estat alimentat.
La Irene podria descobrir que l'aplicació rep els parts de puntualitat, però no coneix els canvis de transport, les cures familiars ni els motius que les famílies comuniquen per telèfon. També podria comprovar que l'equip fa servir codis diferents per a situacions semblants, perquè cada docent té una manera de registrar. Aleshores l'aparent precisió de l'alerta no prové només d'una fórmula: depèn de decisions petites, horaris, formularis i temps d'escolta. Anomenar aquesta cadena permet corregir el procés abans d'exigir a una persona que s'adapti a una classificació injusta.
La persona afectada ha de formar part d'aquesta correcció. En Leo i la seva família no necessiten rebre una explicació tècnica interminable. Necessiten saber que existeix un seguiment, quines observacions l'han activat, quin suport es proposa, qui pot modificar el registre i com poden indicar que falta context. Una via de resposta útil no pot dependre de conèixer el llenguatge de l'administració ni de tenir temps lliure per insistir. Ha d'estar disponible en una conversa comprensible, amb alternatives per a qui no pot anar al centre o no comparteix la llengua dominant.
Dissenyar una ajuda que no es converteixi en una marca#
Un bon punt de partida és separar el senyal de la decisió. L'aplicació pot suggerir que algú miri un cas, però no hauria de decidir tota sola una mesura disciplinària, un itinerari educatiu o una conclusió sobre la família. Aquesta separació obliga a conservar un espai per a l'evidència nova. Si la Irene descobreix que les faltes d'en Leo es relacionen amb una situació temporal, pot canviar el suport i deixar constància que l'alerta inicial no explica completament la seva experiència. La correcció no ha de quedar amagada en una conversa oral que es perd al final del trimestre.
També importa donar caducitat als registres. Algunes notes serveixen durant una setmana; d'altres, durant un curs; molt poques justifiquen acompanyar una persona durant tota la seva trajectòria. Abans de guardar res, el centre pot preguntar quina decisió futura necessita aquella dada, qui la podrà veure i quan es revisarà o s'eliminarà. Aquestes preguntes redueixen la temptació de conservar per comoditat. Protegeixen també el professorat: quan les regles de memòria són clares, no ha d'improvisar sota pressió entre esborrar informació important o acumular-la sense criteri.
La revisió necessita recursos, no només bones intencions. Si una tutora rep trenta alertes i deu reunions en una setmana, la possibilitat de llegir cada context serà fictícia. L'organització ha de limitar l'ús a un volum que pugui atendre, assignar un responsable amb autoritat i reservar temps per comprovar resultats. La supervisió humana no es demostra amb la presència d'una signatura al final del flux. Es demostra quan una persona pot preguntar, corregir, aturar i explicar sense pagar aquesta feina amb el seu descans.
Una prova responsable pot començar en un àmbit petit. El centre podria utilitzar el sistema només per proposar converses voluntàries, durant un trimestre i amb una mostra d'expedients revisats per docents, alumnat i famílies. Hauria de mesurar no només quantes alertes es van emetre, sinó quantes van ser útils, quantes es van corregir, qui no va ser detectat i si algú es va sentir etiquetat o va evitar demanar ajuda. La xifra d'encerts no n'hi ha prou. Importa saber si l'eina millora la relació educativa o si transforma un problema que requeria confiança en una llista de vigilància.
Mantenir oberta la possibilitat de ser diferent#
Les decisions presents importen perquè distribueixen el dret a canviar. Tota persona hauria de poder travessar una mala temporada sense que aquella temporada es converteixi en la seva presentació permanent. Això no significa amagar dificultats ni abandonar els suports. Significa dissenyar-los perquè siguin una porta, no una marca. Un registre pot dir «es va oferir acompanyament i es revisarà en sis setmanes» en lloc de fixar una identitat com «alumne de risc». El primer llenguatge reconeix moviment; el segon suggereix destí.
La mateixa lògica serveix fora de l'escola. Un historial d'atenció social, una avaluació laboral o una recomanació sanitària pot ajudar si conserva data, context i possibilitat de resposta. Pot perjudicar si s'acumula com una opinió inqüestionable sobre una persona. Com més condiciona una dada les opcions futures, més important és preguntar qui la va produir, amb quin propòsit, quant de temps mereix sobreviure i com es pot discutir. La comoditat d'una base de dades no hauria de decidir la durada d'una conseqüència humana.
El futur tecnològic no es decideix només quan apareix una eina nova. Es decideix quan una organització defineix què recorda, què oblida, què es pot corregir i qui té veu en aquest procés. La Irene pot utilitzar una alerta per començar una conversa amb en Leo; no ha de permetre que l'alerta escrigui tota la història d'en Leo. Aquesta diferència, feta de temps, regles i escolta, és la que converteix una tecnologia en suport o en una frontera invisible. Cuidar aquesta diferència avui és una manera concreta de protegir la llibertat de demà.
