Un centre afirma que el seu assistent d’intel·ligència artificial millora, de mitjana, la comprensió lectora. La xifra és certa i, tanmateix, pot explicar una història incompleta. Potser l’alumnat amb bona connexió, habitació tranquil·la i experiència digital avança molt, mentre qui comparteix dispositiu o aprèn en una segona llengua retrocedeix. Potser una aplicació d’orientació juvenil obté valoracions altes, però les respostes menys útils es concentren en adolescents amb discapacitat, en llars amb menys recursos o en qui expressa el malestar amb paraules que el sistema interpreta malament. La mitjana reuneix experiències diferents en un sol número i esborra precisament la distribució que una política d’equitat necessita observar. En l’adolescència, quan l’educació, la participació i l’accés a suport poden alterar trajectòries duradores, aquesta omissió no és menor. Avaluar una eina exigeix preguntar no només si funciona, sinó per a qui, en quines condicions, amb quin cost i davant de quina alternativa. També exigeix escoltar qui l’ha abandonada, no hi ha pogut entrar o ha après a callar per adaptar-se al sistema. La desigualtat digital ja no consisteix únicament a tenir connexió o no. Inclou la qualitat del dispositiu, el temps disponible, l’accessibilitat, l’exposició de dades, la capacitat de verificar una resposta i la possibilitat real d’acudir a una persona. Una mitjana favorable no compensa un dany concentrat. La responsabilitat institucional comença quan els resultats es desagreguen sense convertir els joves en etiquetes permanents i quan cada diferència condueix a una revisió concreta.

La mitjana respon una pregunta massa petita#

Una mitjana resumeix, però no explica. Si vint estudiants milloren molt i cinc empitjoren de manera greu, el resultat general encara pot semblar satisfactori. Passa el mateix quan una majoria rep respostes ràpides i una minoria troba barreres repetides. La dada agregada serveix per descriure volum, però no demostra justícia, seguretat ni qualitat. Abans de celebrar un percentatge, la institució ha de definir quines variacions considera rellevants: edat, gènere, llengua, discapacitat, nivell socioeconòmic, territori, experiència digital i altres circumstàncies vinculades al context. La finalitat no és fabricar perfils rígids, sinó comprovar si el benefici i el risc es distribueixen de manera acceptable.

Una mitjana resumeix, però no explica. Si vint estudiants milloren molt i cinc empitjoren de manera greu, el resultat general encara pot semblar satisfactori.

Desagregar també requereix prudència. En grups petits, una taula pot revelar identitats; una categoria mal triada pot estigmatitzar; i una comparació sense context pot presentar com a dèficit individual el que en realitat és una barrera del disseny. Convé combinar indicadors quantitatius amb entrevistes confidencials, observació i mecanismes de reclamació. Les dades s’han de recollir amb una finalitat legítima, minimitzar-se i conservar-se només el temps necessari. Mesurar la desigualtat no autoritza a crear un arxiu il·limitat sobre adolescents. La pregunta correcta uneix dos deures: descobrir diferències importants i protegir les persones l’experiència de les quals permet descobrir-les.

Accés no significa igualtat de condicions#

Dos joves poden disposar de la mateixa aplicació i trobar-se davant d’oportunitats molt diferents. Una la fa servir en un portàtil actualitzat, amb teclat, auriculars i connexió estable; un altre depèn d’un telèfon antic i dades mòbils limitades. Una pot contrastar la resposta amb llibres i adults disponibles; un altre rep el missatge que l’assistent és l’única ajuda. Fins i tot el temps importa: qui cuida familiars o treballa després de classe no pot experimentar, corregir instruccions i verificar fonts durant hores. Comptar comptes actius com a accés efectiu confon presència tècnica amb capacitat d’aprofitar l’eina.

La igualtat tampoc no s’aconsegueix lliurant el mateix dispositiu si la interfície no és accessible, el llenguatge resulta aliè o el servei exigeix registrar informació que algunes famílies no poden assumir amb seguretat. Una avaluació responsable registra abandonaments, temps d’espera, errors, consum de dades i necessitat de suport humà. Ha d’oferir préstec d’equips, espais connectats, formats accessibles, formació i una opció equivalent sense intel·ligència artificial. L’alternativa no pot ser deliberadament més lenta o humiliant, perquè aleshores el consentiment és fictici. La justícia s’observa en l’experiència completa, no en la simple obertura d’un compte.

La qualitat de la resposta també es distribueix#

Els sistemes generatius produeixen text convincent, però la seva precisió pot variar segons la llengua, el tema i la manera de preguntar. Un adolescent familiaritzat amb el vocabulari escolar sol formular peticions que el model interpreta bé; un altre pot escriure amb abreviatures, interferències lingüístiques o expressions locals i rebre una resposta menys pertinent. Si el centre mesura únicament quantes tasques es completen, no veurà qui inverteix més esforç a corregir el sistema. La càrrega d’obtenir una resposta útil forma part del resultat i s’ha de mesurar juntament amb la resposta final.

També varia la possibilitat de detectar errors. Una explicació falsa sobre història pot passar desapercebuda per a qui no disposa de materials alternatius. Un consell massa segur sobre relacions o benestar pot pesar més quan falten adults de confiança. Per això, les tasques d’alt impacte necessiten revisió humana, fonts visibles i límits clars. L’alfabetització en intel·ligència artificial no es pot reduir a escriure instruccions millors; ha d’ensenyar a reconèixer incertesa, buscar evidència, assenyalar un error i abandonar l’eina quan no és apropiada. La institució respon de crear aquestes condicions, no el menor de compensar les deficiències del producte.

Cas 1: la tutoria que eleva la nota mitjana#

Un institut introdueix un tutor automàtic de matemàtiques i, després d’un trimestre, la nota mitjana puja. El proveïdor presenta la dada com a prova d’èxit. En desagregar-la, l’equip descobreix que la millora es concentra en estudiants que ja obtenien bons resultats i utilitzen ordinador a casa. Qui accedeix des del mòbil completa menys exercicis perquè les fórmules es mostren malament. Diverses alumnes nouvingudes reben correccions confuses quan expliquen el procediment barrejant dues llengües. Algunes deixen d’utilitzar el sistema i apareixen a l’informe com a manca de participació, no com a persones afectades per una barrera.

El centre no elimina immediatament tota tutoria digital, però suspèn el seu pes en la qualificació. Organitza sessions amb alumnat, presta equips, exigeix correccions d’accessibilitat i compara el tutor amb suport presencial en grups petits. Les mètriques inclouen progrés per punt de partida, taxa d’error, temps necessari, abandonaments i sol·licituds d’ajuda. Cada estudiant pot escollir una via equivalent i recórrer una avaluació. Al cap d’un altre trimestre, la institució decideix mantenir només les funcions que mostren benefici sense ampliar la bretxa. El cas demostra que una mitjana ascendent pot coexistir amb una distribució injusta i que la correcció depèn de mirar les diferències.

Cas 2: un orientador sempre disponible, excepte per a algunes veus#

Un servei juvenil ofereix un xatbot per resoldre dubtes sobre estudis, habitatge i benestar emocional. Les enquestes generals són positives perquè la majoria aprecia respostes nocturnes. Tanmateix, adolescents que utilitzen lectors de pantalla troben botons sense etiqueta; joves de zones rurals reben recursos situats a hores de distància; i algunes expressions indirectes d’angoixa no activen la recomanació de buscar ajuda humana. Qui obté una resposta inútil poques vegades completa l’enquesta. La satisfacció mitjana representa sobretot les persones per a qui el canal ja funciona i silencia les que se’n van.

El servei obre una auditoria accessible i ofereix telèfon, atenció presencial i missatgeria amb professionals. Prova frases reals amb consentiment i sense conservar historials identificables, corregeix el directori per territori i estableix derivació humana davant de senyals de risc o incertesa. Els informes separen disponibilitat, pertinència, accessibilitat i seguretat. Cap xatbot diagnostica ni substitueix atenció professional, i una urgència es dirigeix als serveis locals adequats. La millora principal no consisteix a fer que tothom conversi amb la màquina, sinó a assegurar que cada jove trobi una porta practicable i que el sistema reconegui quan ha de deixar de parlar.

Cas 3: la creativitat mesurada amb un patró estret#

Una convocatòria municipal convida adolescents a crear projectes amb intel·ligència artificial. El jurat utilitza una eina per preseleccionar propostes segons claredat, originalitat i viabilitat. L’informe agregat indica coherència i estalvi de temps. En revisar els descartats, una educadora observa que els projectes redactats amb estructura acadèmica passen amb facilitat, mentre idees narrades mitjançant àudio, expressions comunitàries o castellà no estàndard reben puntuacions baixes. Els participants amb accés a versions de pagament també presenten imatges més polides. El concurs sembla obert a tothom, però el criteri automàtic recompensa recursos i estils distribuïts de manera desigual.

L’ajuntament anul·la la preselecció, admet formats múltiples i remunera un panell divers que revisa totes les propostes amb criteris publicats. La intel·ligència artificial queda limitada a tasques administratives sense decisió final. S’ofereix un taller opcional i equips compartits, sense exigir l’ús d’una marca. L’acta explica els canvis i permet comentaris. En l’edició següent s’avalua la diversitat de qui arriba a cada fase, no per omplir quotes mecàniques, sinó per detectar barreres. La innovació adquireix sentit públic quan amplia les formes de participar en lloc de confondre acabat comercial amb talent.

Qui paga el preu invisible#

Una eina gratuïta es pot finançar mitjançant dades, atenció o dependència. Aquest preu pesa de manera diferent. Una família amb recursos pot pagar una versió amb més privacitat, contractar suport addicional o abandonar el servei; una altra accepta condicions extenses perquè l’escola presenta la plataforma com a imprescindible. Un adolescent amb coneixements tècnics pot desactivar memòria i publicitat; un altre desconeix que les seves converses alimenten perfils. L’avaluació d’equitat ha d’incloure quina informació lliura cada grup, qui comprèn les condicions, qui es pot negar i quines conseqüències té fer-ho.

També hi ha treball invisible. Docents corregeixen respostes, mediadors tradueixen, famílies resolen bloquejos i joves reformulen preguntes fins que la màquina entén. Si aquest esforç no es comptabilitza, l’automatització sembla més eficient del que és. Convé registrar incidències i hores d’acompanyament, distribuir suport i evitar que la reparació recaigui sempre en les mateixes persones. L’estalvi institucional no és legítim si trasllada costos a llars amb menys temps o a adolescents que s’han de convertir en tècnics de la seva pròpia inclusió.

Mesurar sense reduir ningú a una categoria#

Un quadre d’equitat útil combina resultats i processos. Pot observar accés efectiu, qualitat, errors, temps, abandonaments, reclamacions, derivacions humanes, accessibilitat i exposició de dades. Ha de comparar amb una alternativa real i revisar interseccions, perquè una barrera pot aparèixer només quan coincideixen diverses circumstàncies. Els llindars d’actuació es defineixen abans de mirar el resultat: una diferència greu en seguretat no queda compensada per una millora acadèmica general. Tampoc no n’hi ha prou de dir que la mostra és petita; precisament els grups petits poden patir danys que l’estadística no detecta.

La participació juvenil aporta interpretació. Un número assenyala on mirar, però les persones expliquen què ha passat. Consells d’estudiants, entrevistes independents i canals anònims permeten conèixer pressions i usos imprevistos. Participar ha de ser voluntari, accessible i acompanyat, sense demanar revelacions íntimes innecessàries. L’organització informa què ha canviat gràcies a aquestes aportacions. Escoltar no transfereix la responsabilitat als adolescents: la contractació, l’avaluació d’impacte, la protecció de dades i la reparació continuen sent deures adults.

Quatre fonts institucionals per a una avaluació justa#

UNICEF proposa situar els drets, la inclusió, la privacitat i el benestar de la infància en tot el cicle de vida de la intel·ligència artificial. La UNESCO recomana un enfocament humà, apropiat per a l’edat i atent a la diversitat en educació. La Comissió Europea explica el marc europeu basat en riscos i les seves obligacions per a sistemes d’intel·ligència artificial. L’Agència Espanyola de Protecció de Dades reuneix orientacions sobre educació digital, privacitat i menors. Són punts de partida institucionals, no certificats automàtics de cap producte concret.

Traduir aquests marcs a la pràctica suposa nomenar una persona responsable, documentar la finalitat, avaluar l’impacte abans del desplegament i repetir la revisió quan canvien el model o el context. Els contractes han de permetre auditoria, eliminació de dades, accessibilitat, explicació d’incidents i sortida sense pèrdua de treballs. Els resultats es comuniquen en llenguatge comprensible, incloent-hi incerteses i diferències entre grups. Quan apareix una bretxa, la resposta pot ser modificar, limitar, compensar o retirar. Esperar que la mitjana general empitjori significa acceptar que una minoria suporti el dany durant massa temps.

L’equitat és una pràctica, no una xifra final#

No existeix una mètrica única capaç de declarar justa una tecnologia. La distribució canvia amb l’ús, les actualitzacions i les circumstàncies dels joves. Una funció útil a classe pot resultar invasiva a casa; un sistema accessible en una llengua pot fallar en una altra; una eina voluntària es pot convertir en obligatòria per pressió social. La vigilància ha de ser periòdica, independent quan el risc ho exigeix i oberta a rectificació. També ha de conservar una sortida humana prou finançada, perquè la possibilitat de triar perd valor si l’alternativa desapareix.

Una generació que conversa amb màquines necessita institucions capaces de mirar més enllà del titular estadístic. Preguntar qui millora, qui queda enrere, qui lliura més i qui pot reclamar transforma l’avaluació tècnica en responsabilitat pública. L’objectiu no és produir experiències idèntiques, sinó garantir drets equivalents, suports proporcionats i límits davant de danys concentrats. Quan la mitjana deixa de ser el final de la conversa, apareixen les persones que havia ocultat. Aleshores la intel·ligència artificial es pot jutjar per una cosa més exigent que el seu rendiment general: per la seva capacitat d’ampliar oportunitats sense demanar als adolescents amb menys marge que paguin el preu del progrés aliè.