Un centre educatiu anuncia que utilitzarà un sistema d’intel·ligència artificial per orientar tasques, detectar dificultats i recomanar itineraris. La contractació està tancada, els comptes ja existeixen i el calendari està decidit. Aleshores convoca sis estudiants, els ensenya una presentació i els pregunta quin color prefereixen per a la pantalla inicial. La reunió produeix fotografies i una frase sobre escolta juvenil, però cap decisió queda oberta. Participar després només decora allò que han decidit els adults; participar abans hauria permès discutir si aquell era el problema correcte, quines dades no s’havien de recollir, quina alternativa humana calia mantenir i quines condicions justificarien abandonar l’eina.

L’adolescència no és una categoria d’usuari que s’hagi de consultar únicament per millorar l’acceptació. Els qui estudien, creen, conversen i busquen ajuda amb sistemes automatitzats coneixen friccions que no apareixen en un contracte ni en una prova tècnica. Saben quan una recomanació es converteix en etiqueta, quan un avís no s’entén, quan compartir dispositiu altera la privacitat o quan dir que no té un cost social. Aquest coneixement no substitueix la responsabilitat adulta, jurídica o professional. La fa més informada i permet anticipar efectes abans que siguin difícils de reparar.

Participar és tenir influència, no ser-hi present#

La participació significativa exigeix una relació visible entre allò que expressen els adolescents i allò que una institució pot decidir. No n’hi ha prou d’invitar-los, escoltar-los amablement o comptar respostes. Abans de començar han de conèixer el propòsit, els marges reals, les persones responsables i la manera com es comunicarà el resultat. Si una condició no és negociable per llei, pressupost o seguretat, cal dir-ho. Si tot està tancat, l’activitat no s’ha de presentar com a codisseny.

La participació significativa exigeix una relació visible entre allò que expressen els adolescents i allò que una institució pot decidir.

La influència pot adoptar graus diferents. Un grup pot aportar experiències per definir el problema; comparar opcions amb criteris acordats; crear prototips; provar l’accessibilitat; formar part d’un comitè amb vot; o revisar evidències durant un pilot. No tots els processos necessiten el nivell màxim, però sí honestedat sobre el nivell escollit. Consultar pot ser legítim quan la institució conserva la decisió, sempre que les aportacions arribin a temps, rebin una resposta raonada i puguin modificar alguna cosa rellevant.

També importa qui formula la pregunta. Si el centre pregunta quin assistent prefereixen, pressuposa que necessita un assistent. Una fase inicial preguntaria on s’encalla l’aprenentatge, quins suports falten i quines solucions serien acceptables. Potser la resposta és millorar tutories, simplificar una plataforma existent o canviar horaris, no comprar IA. Obrir el diagnòstic protegeix davant el solucionisme i reconeix que una eina només té sentit en relació amb una necessitat demostrada.

La participació ha de començar abans del pressupost i la compra#

El moment decisiu arriba quan encara poden canviar el plec, el proveïdor, la configuració o fins i tot la decisió d’adquirir. Un equip responsable pot organitzar la feina en cinc portes. La primera defineix necessitat i població afectada. La segona tradueix necessitats en requisits: minimització de dades, accessibilitat, llengua, possibilitat d’impugnar, alternativa humana i límits d’ús. La tercera compara ofertes i evidències. La quarta fa un pilot petit i reversible. La cinquena decideix continuar, modificar o aturar.

A cada porta convé reservar decisions concretes per a la participació adolescent. Per exemple, l’alumnat pot rebutjar que una aplicació mostri públicament una classificació, exigir que una recomanació expliqui els seus factors o assenyalar que el consentiment familiar no resol la pressió dins l’aula. La institució conserva el deure de protegir drets i justificar la despesa; no trasllada als menors la càrrega d’aprovar riscos. La seva tasca consisteix a integrar coneixement situat i documentar com ha influït.

El temps també és una salvaguarda. Una consulta de vint minuts durant el pati afavoreix respostes ràpides i els qui parlen amb facilitat. Diverses sessions, informació en formats comprensibles i canals escrits permeten pensar, preguntar a altres persones i discrepar. La participació pot ser remunerada o reconeguda quan exigeix feina sostinguda. Mai no hauria de condicionar notes, accés a serveis o relació amb docents. Participar ha de ser voluntari, i no participar no es pot convertir en sospita.

Representació, accessibilitat i desacord#

Sis estudiants excel·lents i disponibles no representen per si sols tota una comunitat. El disseny ha d’incloure edats, trajectòries, capacitats, llengües i condicions materials diferents. Ha de buscar deliberadament els qui solen quedar fora: adolescents amb discapacitat, nouvinguts, residents en zones rurals, persones que comparteixen dispositiu, alumnat amb dificultats acadèmiques o joves sotmesos a vigilància intensa. No se’ls convida per exhibir diversitat, sinó perquè les conseqüències poden recaure de manera desigual.

L’accessibilitat no consisteix només a adaptar la sala. La informació prèvia ha d’explicar amb exemples què fa el sistema, què no sap, quines dades utilitza i quins efectes pot produir. Es pot oferir lectura fàcil, interpretació, suports visuals, temps addicional o participació individual. Una persona facilitadora independent redueix la pressió quan qui escolta també qualifica, sanciona o presta el servei. Les famílies poden donar suport, però la veu adolescent no ha de quedar substituïda automàticament per l’adulta.

El desacord és informació valuosa. Un procés que busca consens obligatori tendeix a esborrar experiències minoritàries. L’informe final ha de conservar reserves, condicions i preguntes obertes. Si dos grups valoren de manera diferent una funció de seguiment, la institució pot limitar-la, oferir elecció o investigar més. No necessita presentar una veu juvenil única. Necessita mostrar quines posicions ha trobat, com ha ponderat els riscos i qui assumeix la decisió final.

Tres casos en què arribar a temps canvia el resultat#

Cas 1: un detector de risc d’abandonament#

Un institut estudia una eina que assigna una puntuació de risc a cada estudiant mitjançant assistència, qualificacions i activitat digital. Abans de contractar-la, reuneix alumnat divers, orientació, docents i protecció de dades. Els joves expliquen que algunes absències corresponen a cures familiars, problemes de transport o cites mèdiques, i que una etiqueta visible pot alterar com els tracta el professorat. També assenyalen que una activitat baixa no significa desconnexió quan diverses persones comparteixen ordinador.

La discussió canvia la decisió. El centre abandona el rànquing individual automàtic i crea un sistema de senyals limitats que mai no produeix sancions ni decisions sense entrevista. Redueix les dades, restringeix accessos, fixa un termini d’esborrament i permet corregir el context. Destina part del pressupost a tutories. Durant el pilot mesura suports oferts, avisos falsos i diferències entre grups, no només precisió agregada. La participació no va legitimar el detector: va transformar el problema i va desplaçar recursos cap a una resposta menys invasiva.

Cas 2: un xatbot de benestar#

Un servei municipal vol oferir conversa automatitzada fora de l’horari juvenil. En tallers previs, adolescents diferencien entre demanar informació i buscar ajuda durant una crisi. Sol·liciten que el sistema no fingeixi amistat, no faci promeses de secret i mostri sempre com contactar amb una persona. Els qui han utilitzat serveis de salut mental adverteixen que una finestra emergent genèrica es pot sentir com una expulsió i que revelar de cop una conversa completa a la família pot crear perill.

El servei limita el xatbot a orientació i informació, elimina llenguatge antropomòrfic i dissenya una transició càlida cap a professionals. Estableix un protocol específic per a risc immediat, avisos clars sobre privacitat i una opció d’esborrar contingut. Els joves proven situacions, però no se’ls demana representar crisis personals ni revisar material pertorbador sense suport. Un comitè de salvaguarda supervisa incidents. El que és decisiu passa abans del llançament: l’experiència juvenil defineix fronteres que el màrqueting i el rendiment tècnic no havien contemplat.

Cas 3: IA generativa per a tasques#

Una escola pretén activar un assistent d’escriptura per a tot l’alumnat. Abans del desplegament, diversos grups comparen tasques reals. Alguns estudiants valoren exemples i reformulació; altres temen que el sistema homogeneïtzi la seva veu, penalitzi varietats lingüístiques o reveli necessitats educatives. Demanen saber quan un suggeriment prové de la màquina, conservar esborranys propis i poder lliurar feina sense utilitzar-la. El professorat descobreix, a més, que els seus criteris sobre autoria no eren consistents.

El pilot es limita a dues assignatures, amb alternativa equivalent, registre local mínim i cap qualificació automàtica. S’ensenya a verificar afirmacions i declarar suports. Al final, una revisió conjunta troba beneficis per iniciar esborranys, però també dependència i referències inventades. El centre manté algunes funcions, en desactiva d’altres i modifica l’avaluació per valorar el procés. La decisió final no coincideix plenament amb cap preferència individual, però cada canvi es pot rastrejar fins a evidència i deliberació compartida.

Un procés segur no extreu històries personals#

Escoltar adolescents sobre IA es pot acostar a experiències d’assetjament, sexualitat, salut, discriminació o conflicte familiar. La institució ha d’explicar per endavant quina informació recollirà, qui la veurà, durant quant de temps i quins límits té la confidencialitat. No necessita noms ni detalls íntims per comprendre molts patrons. Ha de permetre exemples hipotètics, respostes anònimes i retirada posterior quan sigui viable. Enregistrar una sessió per comoditat rarament justifica acumular veus i imatges identificables.

Les normes de protecció no poden aparèixer després d’una revelació. L’equip necessita un procediment per respondre si sorgeix risc de dany, abús o explotació, i l’ha de comunicar amb llenguatge adequat a l’edat. Una persona facilitadora no promet secret absolut. Tampoc interroga, diagnostica ni converteix un taller de disseny en atenció terapèutica. Escolta allò necessari, activa el canal competent i evita que la persona repeteixi la història davant de múltiples adults.

Hi ha un altre risc: utilitzar treball emocional juvenil per millorar gratuïtament un producte comercial. Els acords amb proveïdors han d’impedir l’ús secundari d’aportacions, enregistraments o prototips per entrenar models o fer publicitat. La institució defineix propietat, esborrament i publicació. Si els participants creen materials o fan anàlisi substantiva, se’n reconeix l’autoria quan ho desitgen i es compensa la contribució de manera equitativa. L’agraïment simbòlic no substitueix condicions justes.

Retornar resultats tanca el cercle de responsabilitat#

El retorn ha de respondre tres preguntes: què s’ha escoltat, què ha canviat i què no ha canviat amb el motiu. Pot adoptar una taula pública sense dades personals, una sessió de retorn o una versió accessible de l’informe. Frases vagues com es tindrà en compte no permeten avaluar influència. És millor precisar que s’ha eliminat una classificació, s’ha afegit una alternativa sense IA o no s’ha acceptat una petició perquè entrava en conflicte amb una obligació de protecció.

La rendició de comptes continua durant l’ús. Els adolescents necessiten un canal per assenyalar errors, apel·lar decisions i proposar canvis sense por de represàlies. El comitè responsable revisa indicadors desagregats, incidents, queixes, ús real i abandonaments. També acorda llindars de pausa: filtració de dades, dany greu, desigualtat persistent o incapacitat del proveïdor per explicar un resultat. La possibilitat d’aturar no és un fracàs; és part d’un pilot honest.

Una institució madura evita seleccionar únicament comentaris favorables. Publica tensions i límits, protegeix identitats i explica qui ha pres la decisió. Si el proveïdor invoca secret comercial per impedir una explicació suficient, aquesta limitació forma part de l’avaluació. La participació primerenca té valor precisament perquè pot incomodar, alentir o cancel·lar. Si només serveix per confirmar, ha deixat de ser participació i s’ha convertit en promoció.

Marcs institucionals per convertir el principi en pràctica#

La Convenció sobre els Drets de l’Infant de les Nacions Unides reconeix el dret d’infants i adolescents a expressar l’opinió en assumptes que els afecten i que sigui tinguda degudament en compte segons edat i maduresa. La guia Engaged and Heard d’UNICEF desenvolupa condicions per a una participació adolescent voluntària, inclusiva, segura i amb impacte. Totes dues referències situen l’escolta com a dret i pràctica de govern, no com a recurs de comunicació.

Per a l’àmbit tecnològic, l’orientació d’UNICEF sobre IA i drets de la infància proposa benestar, inclusió, privacitat, seguretat, transparència i rendició de comptes com a requisits de disseny. La guia de la UNESCO sobre IA generativa en educació i recerca reclama un enfocament humà, protecció de dades i adequació per edats. Aquestes fonts no ofereixen una autorització automàtica per a una eina; ajuden a formular preguntes, salvaguardes i obligacions.

El Consell d’Europa, en els seus recursos sobre escolta infantil, reuneix estàndards perquè la participació sigui ètica i efectiva. El Reglament d’Intel·ligència Artificial de la Unió Europea estableix obligacions basades en riscos per a determinats usos i actors. L’aplicació concreta depèn del sistema, la funció, la data i la jurisdicció; per això un procés participatiu complementa, però mai no reemplaça, l’avaluació jurídica, de seguretat, pedagògica i de protecció de dades.

Preguntes que una institució ha de poder contestar#

Abans de convocar joves, l’equip hauria de poder explicar quina decisió continua oberta, quins recursos hi ha, quins riscos preveu i com evitarà dany. Durant el procés ha de registrar qui falta, quins suports necessita cada participant i si el poder adult silencia crítiques. Abans de decidir ha de contrastar les aportacions amb drets, evidència i obligacions. Després ha de retornar resultats, conservar només dades necessàries i programar una revisió.

Una prova senzilla revela la qualitat: si es retiressin de l’expedient les aportacions adolescents, la decisió seria idèntica? Si la resposta sempre és sí, hi va haver activitat, però no influència. La petjada pot ser un requisit nou, un proveïdor descartat, una funció desactivada, un pressupost redistribuït o una pregunta reformulada. No cal acceptar cada proposta; sí demostrar que les veus van arribar quan encara podien alterar el rumb.

Participar abans distribueix coneixement sense diluir responsabilitats. Permet veure la tecnologia des de la vida quotidiana dels qui en suportaran els efectes, mantenir obertes alternatives i detectar costos invisibles. Participar després pot servir per avaluar, reclamar o corregir, però no s’ha de maquillar com a codisseny d’una decisió ja tancada. Una generació que conversa amb màquines mereix alguna cosa més que ser fotografiada al costat del producte acabat: mereix intervenir quan encara és possible decidir si aquell producte ha d’existir, sota quines condicions i en benefici de qui.