Una eina educativa no està supervisada perquè una persona aparegui en un organigrama o pugui mirar una pantalla. La supervisió existeix quan té informació, temps, autoritat i mitjans per aturar una decisió, revisar-la i corregir-ne les conseqüències. Si el sistema assigna un ajut, ordena prioritats, qualifica una activitat o limita un accés, la revisió humana ha de ser una possibilitat pràctica i no una promesa decorativa.

L'automatització pot estalviar tasques repetitives, però també pot convertir dades incompletes en decisions ràpides i difícils de discutir. En educació, un error no és només tècnic: pot excloure una matrícula, reforçar un prejudici, assenyalar injustament un estudiant o privar una família d'una explicació. Per això aprendre importa més que completar un flux sense interrupcions.

Aturar no significa rebutjar tota tecnologia. Significa suspendre provisionalment un resultat quan apareixen senyals de dany, incertesa o incoherència. Revisar significa comprendre dades, regla i context; corregir significa canviar el resultat i la causa; reparar significa atendre les conseqüències per a la persona afectada. Aquestes quatre capacitats formen una sola responsabilitat.

Supervisar és tenir capacitat d'intervenció#

Un panell amb indicadors no basta si qui el consulta no pot canviar res. La institució ha de definir qui pot pausar el sistema, en quines situacions, com es conserva evidència sense amplificar dades personals i qui decideix la represa. També ha d'establir un termini de resposta. La supervisió perd valor quan la persona afectada rep resposta després que hagi vençut una matrícula, una beca o una oportunitat de participació.

Un panell amb indicadors no basta si qui el consulta no pot canviar res. La institució ha de definir qui pot pausar el sistema, en quines situacions, com es conserva evidència sense amplificar dades personals i qui decideix la represa.

L'autoritat ha d'anar acompanyada de comprensió. Una persona revisora necessita saber quines dades alimenten el model, quines variables tenen més pes, quins errors coneguts presenta i quins grups poden patir efectes desiguals. No se li exigeix programar, però sí reconèixer quan una explicació és insuficient i quan correspon demanar suport tècnic, pedagògic o jurídic. El Reglament europeu d'intel·ligència artificial insisteix en la supervisió humana proporcionada al risc; aquesta exigència s'ha de traduir en procediments utilitzables.

També convé separar la funció de revisar de la pressió per complir objectius de velocitat. Qui avalua una alerta no hauria de ser penalitzat per pausar un procés raonablement. Les mètriques d'èxit han de comptar les correccions, els recursos atesos i la reducció de danys, no únicament el nombre d'expedients tancats. Una organització que premia la rapidesa per damunt de la prudència converteix la supervisió en una signatura posterior.

Aturar a temps protegeix l'aprenentatge#

La suspensió s'ha d'activar davant llindars clars: resultats anòmals, dades desactualitzades, queixes reiterades, canvis en la política educativa o indicis de discriminació. No cal demostrar un perjudici definitiu per aturar una automatització; n'hi ha prou amb una raó fundada per investigar. Mentre dura la revisió, ha d'existir una alternativa humana que no penalitzi qui necessita continuar aprenent o sol·licitant un servei.

El registre de la pausa forma part de la rendició de comptes. Ha d'anotar què va activar la mesura, quin abast va tenir, quines dades es van examinar, qui va intervenir i quina decisió es va prendre. No s'ha de convertir en un arxiu de sospites sobre estudiants. La finalitat és millorar el sistema i permetre auditoria, amb accés limitat i terminis de conservació definits.

Una pausa responsable comunica el que és necessari. Les persones afectades han de saber que el seu cas serà revisat, quin suport immediat poden rebre i com poden aportar informació contextual. No necessiten una explicació tècnica incomprensible ni quedar obligades a demostrar que l'algoritme es va equivocar. La càrrega d'investigar correspon a la institució que va triar l'eina.

Cas primer: l'alerta d'abandonament que va confondre una absència#

Un centre va incorporar un sistema que marcava risc d'abandonament quan baixaven les connexions a l'aula virtual i els lliuraments. La llista va arribar a l'equip d'orientació amb prioritat alta. Una estudiant va aparèixer entre els primers casos després de setmanes sense activitat; el sistema ignorava que una lesió temporal li impedia usar el teclat i que havia avisat per telèfon. Aplicar automàticament una trucada disciplinària hauria afegit pressió a una situació ja difícil.

L'orientadora va aturar l'acció automàtica i va revisar l'expedient amb l'estudiant i el tutor. Va confirmar que la dada d'absència no descrivia desinterès, sinó una barrera d'accessibilitat. Es va acordar una extensió, materials en un altre format i una revisió manual d'alertes relacionades amb salut o suports registrats. L'estudiant no va haver de revelar detalls mèdics a tot l'equip: va bastar la informació necessària per adaptar l'aprenentatge.

Després, el centre va modificar el protocol. Cap alerta produiria contacte sancionador sense contrast humà; les alertes serien invitacions de suport i hi hauria un camp per a circumstàncies comunicades per canals no digitals. El cas no va provar que tots els models fossin inútils. Va mostrar que un indicador pot orientar una pregunta, però no reemplaçar una conversa ni una decisió pedagògica.

Revisar significa contrastar regla, dades i context#

Una revisió sòlida formula tres preguntes. Primer, si la regla aplicada era apropiada per a la finalitat anunciada. Segon, si les dades són exactes, actuals i representatives. Tercer, si existeix context rellevant que el sistema no pot captar. Aquesta seqüència evita la falsa objectivitat d'assumir que un resultat numèric és neutral només perquè procedeix d'una màquina.

Les persones afectades han de poder demanar revisió per una via senzilla, accessible i gratuïta. Ha d'acceptar explicació oral, presencial o mitjançant mediació, perquè no totes les famílies poden redactar una reclamació tècnica o connectar-se en el mateix horari. La UNESCO vincula la governança de la intel·ligència artificial amb drets humans, inclusió i responsabilitat; una apel·lació inaccessible contradiu aquests principis encara que el model sigui precís de mitjana.

Revisar també exigeix independència suficient. Si el mateix proveïdor decideix que la seva eina no ha fallat, la confiança queda debilitada. La institució usuària conserva responsabilitat sobre la seva decisió i necessita accés a documentació, proves i contactes capaços de respondre. Els contractes han de preveure cooperació per investigar errors, no amagar-la rere secrets comercials genèrics.

Cas segon: la beca denegada per una dada heretada#

Una plataforma d'ajuts ordenava sol·licituds segons renda i composició familiar extretes de registres anteriors. Una família va rebre una denegació automàtica perquè el sistema mantenia la situació de dues llars després d'una separació ja resolta. L'avís deia només que no complia criteris. La mare va haver de buscar pel seu compte l'origen de la discrepància mentre s'acostava el termini de pagament del material escolar.

L'oficina de beques va suspendre la denegació en rebre la reclamació, va habilitar una revisió prioritària i va acceptar documents alternatius. La persona revisora va comparar la dada històrica amb la documentació actual i va corregir la decisió. A més, va autoritzar un ajut provisional perquè el retard administratiu no impedís assistir a classe amb els materials necessaris. Corregir l'expedient sense atendre el termini hauria estat una reparació incompleta.

L'anàlisi posterior va detectar que el sistema no assenyalava conflictes entre fonts ni informava de la data de cada dada. Es van afegir avisos d'antiguitat, una explicació clara dels criteris i una opció de revisió abans d'emetre una denegació definitiva. L'OCDE recomana que la transformació digital pública preservi transparència, inclusivitat i rendició de comptes; aquests principis es concreten quan una dada heretada es pot discutir i rectificar a temps.

Corregir un resultat i corregir el sistema#

Una correcció individual és indispensable, però no basta quan revela un patró. La institució ha de preguntar quantes decisions semblants es van prendre, quines persones van poder quedar afectades i si cal revisar casos anteriors d'ofici. Esperar que cada persona descobreixi el problema i reclami multiplica la desigualtat, perquè no totes coneixen el procediment ni tenen temps per insistir.

La correcció sistèmica pot requerir canviar dades d'entrada, ajustar regles, retirar una variable, millorar una interfície o abandonar un ús automatitzat. S'ha de provar abans de reprendre el servei i documentar amb criteris comprensibles. Quan no es pot explicar per què una eina arriba a un resultat rellevant, no hauria de decidir tota sola sobre accés, avaluació o suport educatiu.

L'Agència Espanyola de Protecció de Dades recorda que les decisions basades únicament en tractaments automatitzats tenen límits i garanties específiques. En l'àmbit educatiu, la prudència aconsella anar més enllà del mínim legal: informar amb claredat, facilitar intervenció humana i dissenyar alternatives. La legalitat no substitueix la responsabilitat pedagògica.

Cas tercer: la qualificació automàtica que va penalitzar l'idioma#

En un curs híbrid, una eina classificava respostes breus i assignava una puntuació inicial. Diverses respostes d'alumnat nouvingut van rebre notes molt baixes perquè el sistema confonia construccions lingüístiques en aprenentatge amb manca de comprensió conceptual. El professorat va detectar una concentració inusual d'errors en un grup i va aturar la publicació automàtica de qualificacions.

La revisió va comparar les respostes amb explicacions orals i treballs fets a classe. Es va comprovar que moltes persones entenien el contingut, encara que expressaven la idea amb gramàtica incompleta. Les notes es van corregir, es va informar individualment del canvi i es va oferir una oportunitat addicional sense que la primera qualificació quedés visible com una etiqueta permanent. El centre va explicar al grup que s'havia revisat el mètode, sense identificar ningú.

Com a reparació, es va ajustar l'eina per usar-la només com a esborrany de suport docent, no com a nota final. Es van incorporar mostres diverses en les proves i es van revisar resultats per idioma, modalitat d'accés i necessitat de suport. L'Institut Nacional d'Estàndards i Tecnologia dels Estats Units proposa gestionar riscos d'IA de manera contínua; observar efectes desiguals després del desplegament és part d'aquesta gestió, no una tasca opcional.

Reparar retorna condicions, no només explicacions#

Reparar comença per reconèixer el dany amb un llenguatge clar. Pot incloure rectificar una nota, reobrir una sol·licitud, recuperar accés, eliminar un registre erroni, cobrir un cost causat pel retard o oferir suport acadèmic. La mesura ha de correspondre a l'efecte real: una disculpa no compensa una oportunitat perduda si encara és possible restaurar-la.

La reparació requereix terminis i seguiment. La persona afectada ha de saber qui respon, quan rebrà notícies i quina via existeix si discrepa de la solució. Quan intervenen menors, convé prestar atenció a la comunicació amb famílies i a la confidencialitat. Un procés que exigeix repetir diverses vegades una experiència perjudicial pot produir un dany addicional.

També hi ha d'haver aprenentatge institucional. Els casos, anonimitzats quan correspongui, permeten formar responsables i millorar salvaguardes. La supervisió humana no és una última barrera individual; és una pràctica organitzativa que distribueix responsabilitat entre disseny, adquisició, ús i avaluació. La seva qualitat es demostra precisament quan el sistema admet que pot estar equivocat.

Condicions per a una supervisió que funcioni#

Abans d'adoptar una eina convé elaborar una fitxa pública: finalitat, decisions que pot influir, dades utilitzades, persones responsables, riscos previsibles i via de reclamació. Durant el seu ús, cal revisar indicadors d'error, diferències entre grups, temps de resposta i casos en què es va exercir la pausa. Després de cada incident rellevant, s'ha de decidir si n'hi ha prou amb una correcció o si cal redissenyar.

La participació d'estudiants, famílies, docents i personal de suport millora aquestes salvaguardes. No se'ls ha de demanar que validin tecnologia opaca, sinó que identifiquin impactes que els equips tècnics poden no veure. Escoltar les seves experiències aviat redueix danys i millora l'adequació educativa. El dret a ser escoltat té valor pràctic quan pot modificar una decisió.

La supervisió efectiva mesura el seu èxit d'una altra manera: per la capacitat d'impedir una injustícia abans que es consolidi, corregir-la quan passa i reparar allò que no es va poder evitar. Una educació que aprèn dels seus automatismes protegeix millor la dignitat de cada persona que una educació que confon acabar processos amb fer les coses bé.

Fonts institucionals i primàries: Unió Europea, Reglament d'IA; UNESCO, Recomanació sobre l'ètica de la IA; Agència Espanyola de Protecció de Dades, drets en protecció de dades; OCDE, IA i govern digital; NIST, AI Risk Management Framework.