El futur no es torna humà perquè una màquina parli amb naturalitat, anticipi una necessitat o acompanyi cada hora del dia. Es torna humà quan una adolescent pot dir prou, demanar una persona, esborrar una conversa, canviar de canal o continuar sense el sistema i seguir rebent el mateix tracte. Una sortida real no és un enllaç amagat ni una concessió excepcional: és la prova que la relació conserva llibertat. Quan abandonar una intel·ligència artificial significa perdre una nota, una cita, un grup o una oportunitat, la suposada elecció es converteix en obediència dissenyada.

L’adolescència amplifica aquesta qüestió perquè combina exploració, dependència institucional i una necessitat intensa de pertinença. Un assistent pot ser útil per estudiar, crear o expressar una preocupació difícil. També pot ocupar ràpidament el lloc d’una tutoria, una amistat o una porta d’accés a serveis. El problema no és únicament allò que respon el model. Importa qui va decidir que hi fos, què passa quan falla i si hi ha una ruta practicable cap a una altra forma d’ajuda. La qualitat d’una tecnologia també es mesura per la dignitat amb què permet deixar-la.

Sortir no és tancar una finestra#

Una sortida efectiva té diverses dimensions. La persona ha de poder interrompre una interacció concreta, desactivar una funció, retirar dades quan correspongui i triar un servei equivalent no automatitzat. Ha de comprendre les conseqüències abans de decidir i poder tornar sense represàlies. Tancar una pantalla no basta si l’escola continua qualificant mitjançant el perfil produït, si el servei conserva inferències sensibles o si l’única alternativa exigeix explicar públicament una situació privada.

Una sortida efectiva té diverses dimensions. La persona ha de poder interrompre una interacció concreta, desactivar una funció, retirar dades quan correspongui i triar un servei equivalent no automatitzat.

També hi ha una sortida cognitiva. Un sistema conversacional es pot presentar com a ajudant, orientador o company fins que costa distingir suggeriment, instrucció i judici. La interfície hauria de recordar-ne els límits, assenyalar la incertesa i evitar fórmules que fabriquin dependència afectiva. La pausa ha d’estar a l’abast, sobretot després d’intercanvis llargs o sensibles. Mantenir una porta cap al silenci, el paper, la trobada i la deliberació pròpia impedeix que la comoditat automàtica es converteixi en ocupació permanent de l’atenció.

La sortida social exigeix que dir no no sigui estrany. Si tot el grup utilitza un tutor automàtic, qui demana una explicació docent pot semblar lent o problemàtic. Si una aplicació de benestar reparteix insígnies per conversar cada dia, la interrupció es torna visible. Les institucions han de normalitzar alternatives, anunciar-les al costat de l’opció digital i evitar recompenses que castiguin indirectament la negativa. La llibertat no depèn només d’un botó; depèn d’una cultura que no interpreta el límit com a manca de col·laboració.

El consentiment no corregeix una arquitectura sense alternativa#

Un formulari acceptat per una família no converteix en voluntari allò que cal per estudiar, accedir a suport o pertànyer al grup. Encara menys quan les condicions són llargues, canvien sense explicació o barregen funcions indispensables amb usos secundaris. L’autorització pot formar part de la protecció, però no substitueix la minimització de dades, els límits de finalitat, la supervisió adulta ni una via equivalent. La institució que selecciona el sistema conserva la responsabilitat encara que l’adolescent premi acceptar.

Convé separar decisions que sovint s’agrupen. Una persona pot acceptar ajuda per resumir un text i rebutjar que els esborranys entrenin un model. Pot voler recomanacions acadèmiques sense un perfil emocional. Pot parlar amb un canal automatitzat per localitzar un servei i preferir una persona quan comença a explicar una qüestió íntima. Els controls granulars expressen aquesta diversitat. L’alternativa de tot o res força una renúncia desproporcionada: lliurar dades i agència, o quedar-se sense el benefici principal.

La comprensió s’ha de comprovar en situacions reals. Un avís pot ser jurídicament correcte i continuar sent inútil per a qui està cansat, angoixat o empra una altra llengua. Abans de desplegar una eina, adolescents diversos poden provar de localitzar com aturar-la, corregir una inferència, descarregar contingut i contactar amb una persona. Si no se’n surten sense ajuda de l’equip creador, la sortida encara no existeix. La prova ha d’incloure mòbils antics, lectors de pantalla, connexions inestables i moments de pressió, no només una demostració ideal.

Dissenyar una porta humana des del principi#

L’alternativa humana no es pot improvisar quan arriba una crisi. Requereix persones identificades, horaris, formació, temps màxims de resposta i protocols que diferenciïn una consulta ordinària d’un risc immediat. El sistema ha d’explicar amb precisió quan intervé algú, quina part de la conversa podrà veure i què passarà després. Un missatge que recomana buscar ajuda sense facilitar el pas següent abandona la responsabilitat en l’instant en què és més important.

La transició ha de conservar context sense envair. Pot oferir a l’adolescent triar quin fragment comparteix, redactar un resum perquè el revisi o començar de nou. Transferir-ho tot automàticament pot agilitzar el servei, però també revelar detalls innecessaris. En situacions de perill, una obligació de protecció pot limitar aquesta elecció; fins i tot aleshores cal informar amb llenguatge comprensible, limitar la divulgació i evitar promeses falses de secret absolut.

Dissenyar capacitat humana costa diners. Si un projecte finança llicències, integració i promoció però no reserva recursos per a tutories, suport, revisió de decisions i atenció fora del flux automatitzat, la sortida serà decorativa. El pressupost revela la prioritat ètica. També calen substitucions durant absències, canals accessibles i mecanismes per escalar queixes. La tecnologia no ha de generar una cua silenciosa de casos complexos que cap persona no té temps d’atendre.

Tres casos per comprovar si la sortida és veritable#

Cas 1: el tutor que condiciona la tasca#

Un institut incorpora un assistent generatiu a la plataforma de deures. Per lliurar un assaig, l’alumnat ha de passar per una conversa que proposa un esquema i marca presumptes febleses. Una estudiant vol escriure sense assistència perquè desenvolupa una veu bilingüe que el sistema corregeix cap a un registre uniforme. El botó ometre existeix, però redueix la puntuació de procés i envia una alerta al docent. Formalment pot sortir; acadèmicament paga per fer-ho.

El centre revisa el disseny i crea dos recorreguts equivalents. Tots dos conserven esborranys, reflexió sobre decisions i una tutoria disponible; cap no rep avantatge per utilitzar IA. Els suggeriments automàtics es distingeixen visualment, no s’incorporen sense acció explícita i es poden esborrar. El professorat avalua el text i el procés demostrat, no la docilitat davant l’eina. La mètrica rellevant deixa de ser l’ús diari i passa a incloure aprenentatge, sol·licituds humanes resoltes i diferències entre els qui trien cada ruta.

Cas 2: una conversa sobre benestar que necessita aturar-se#

Un ajuntament ofereix un chatbot nocturn per orientar joves cap a recursos de benestar. Un noi comença preguntant per insomni i acaba descrivint por dins de casa. El sistema repeteix preguntes, declara que és allà per a ell i mostra un telèfon genèric al final. No hi ha cap manera clara de demanar una persona, controlar què es comparteix ni saber si algú rebrà el missatge. La conversa sembla propera, però la sortida condueix a un buit operatiu.

El servei limita aleshores el sistema a informació i primera orientació. En qualsevol moment permet triar contacte humà, explica disponibilitat i ofereix trucada, text o cita presencial. Per als riscos urgents mostra accions concretes i activa un protocol supervisat, amb avisos previs sobre confidencialitat. El jove decideix quin resum envia excepte quan hi ha una obligació clara de protecció. Els incidents són revisats per professionals i per una persona responsable independent; no s’utilitzen com a material d’entrenament ni com a històries promocionals.

Cas 3: el filtre que decideix qui pertany#

Una xarxa d’activitats juvenils utilitza un recomanador per assignar places segons interessos, ubicació i conducta prèvia. Una adolescent rep sempre propostes llunyanes i mai no veu el taller de robòtica que demana. Pot tancar les recomanacions, però el formulari manual està amagat i les places s’esgoten abans que un empleat respongui. La sortida existeix a la interfície, no al calendari. El retard automatitzat es converteix en una barrera d’accés.

L’organització reserva places per a sol·licituds manuals, publica criteris comprensibles i estableix revisió humana abans del tancament. Cada recomanació permet indicar que no encaixa sense convertir l’objecció en un senyal negatiu. L’adolescent pot corregir dades i demanar explicació. Una auditoria compara la distribució per barri, gènere, discapacitat i via de sol·licitud. Si persisteixen diferències injustificades, el sistema s’atura. L’alternativa compta amb el mateix termini, informació i possibilitats; per això deixa de ser una opció inferior.

Governar el dret a aturar, corregir i tornar#

Una política de sortida ha d’assignar responsabilitats. Algú manté els controls, una altra persona atén les derivacions i un òrgan amb autoritat decideix pauses o retirada. Els contractes han de garantir portabilitat, esborrament, accés als registres pertinents i continuïtat quan canvia el proveïdor. Si la institució no pot recuperar continguts o explicar què passa en cancel·lar un compte, ha lliurat al proveïdor una part essencial de la seva capacitat de cura.

La revisió necessita indicadors diferents del creixement i la permanència. Convé mesurar quantes persones troben la sortida, quant esperen una alternativa, quantes tornen sense problemes, quines reclamacions apareixen i si abandonar produeix resultats pitjors. Les dades s’han de desagregar amb prudència per descobrir barreres sense exposar identitats. Un nombre alt de sortides no demostra per si sol un fracàs: pot revelar una població capaç de triar o una eina que necessita canvis. La interpretació exigeix escoltar raons.

Els adolescents han de participar en aquesta governança sense carregar-la. Poden identificar pressions, provar missatges, revisar recorreguts i proposar llindars de pausa. La direcció, els professionals i el proveïdor continuen sent responsables de seguretat, legalitat i recursos. Mai no correspon a una persona menor decidir si un dany greu és acceptable a canvi d’innovació. La seva experiència informa la decisió; no serveix per transferir-li el risc ni per legitimar una conclusió presa per endavant.

Quatre referències institucionals per convertir la sortida en obligació#

La Convenció sobre els Drets de l’Infant de les Nacions Unides situa l’interès superior, la participació, la privacitat i l’accés a informació adequada dins un marc de drets. L’orientació d’UNICEF sobre IA i infància tradueix aquest marc en requisits d’inclusió, protecció de dades, seguretat, transparència i rendició de comptes. Totes dues impedeixen tractar la sortida com una preferència d’interfície.

La guia de la UNESCO sobre IA generativa en educació i recerca defensa un enfocament humà, adequat a l’edat i sotmès a protecció de dades i validació pedagògica. El Reglament general de protecció de dades de la Unió Europea estableix principis com licitud, transparència, limitació de finalitat, minimització i drets davant determinats tractaments. L’aplicació concreta depèn de la funció i la jurisdicció, però cap compra educativa no hauria d’ocultar aquestes preguntes darrere la novetat.

Aquestes referències s’han de convertir en decisions observables: alternativa no automatitzada, informació accessible, intervenció humana competent, canals de reclamació, límits de conservació i capacitat de suspendre. Citar una norma a la política no compensa una porta bloquejada a la pràctica. L’equip ha de documentar proves, incidents, canvis i raons. També ha de revisar periòdicament si la sortida continua funcionant després d’una actualització, una reducció pressupostària o un canvi de proveïdor.

Un futur obert admet la negativa#

Abans d’aprovar un sistema, una institució pot formular preguntes senzilles i exigents. Què perd qui no l’utilitza? Quant triga a arribar a una persona? Pot retirar una part sense renunciar a tot? Qui corregeix un resultat i en quin termini? Què es conserva després de sortir? Pot tornar sense quedar marcat? Quin esdeveniment aturaria el servei? Si les respostes depenen de favors, coneixements tècnics o insistència familiar, el dret només existeix per als qui ja tenen poder.

La sortida tampoc no equival a nostàlgia per un món sense tecnologia. Fa possible experimentar amb límits, aprendre dels errors i conservar alternatives quan les promeses no es compleixen. Un pilot reversible és més responsable que un desplegament presentat com a inevitable. Una persona disponible no competeix amb la innovació: aporta judici, context i obligació de respondre. El paper, la conversa presencial i els procediments manuals poden semblar menys brillants, però ofereixen redundància quan cau una xarxa o un model s’equivoca.

Una generació que conversa amb màquines no necessita que cada conversa duri per sempre. Necessita saber que el seu silenci serà respectat, que un dubte pot arribar a algú responsable i que cap oportunitat depèn de simular confiança en un sistema. El futur conserva humanitat quan no tanca les persones dins la solució triada per a elles. Dissenyar la sortida significa reconèixer que canviar d’opinió, demanar ajuda, aturar-se i tornar no són errors de l’usuari: són formes essencials de llibertat.