Un centro educativo activa durante un trimestre un asistente de inteligencia artificial para compensar la falta de apoyo en algunas materias. Una familia permite que una adolescente utilice un chatbot durante unas semanas difíciles, porque escribir de madrugada parece menos arriesgado que permanecer aislada. Un servicio juvenil incorpora una herramienta automática mientras cubre una vacante. Cada decisión se presenta como provisional, limitada y reversible. Sin embargo, el tiempo modifica su naturaleza. La cuenta acumula conversaciones, el profesorado adapta tareas al sistema, la joven construye un hábito y la organización deja de buscar una alternativa humana. Lo que nació como puente empieza a comportarse como destino. Este desplazamiento no requiere una conspiración ni un fallo espectacular; basta con que nadie fije una fecha de revisión, mida los efectos o conserve una vía de salida. En la adolescencia, esa inercia importa especialmente porque los hábitos, las expectativas de intimidad y la confianza en las instituciones todavía se están formando. La inteligencia artificial puede ofrecer ayuda útil, pero no asume deberes morales, no conoce toda una biografía y no responde por las consecuencias. Por eso, una solución temporal necesita algo más que una fecha de inicio. Requiere propósito explícito, límite de duración, responsable identificable, indicadores de beneficio y daño, alternativa disponible y una decisión formal sobre su continuidad. Sin estas condiciones, el calendario decide en silencio y convierte una excepción práctica en una estructura de poder.

La provisionalidad no se conserva sola#

La palabra piloto suele transmitir cautela, aunque por sí misma no garantiza aprendizaje. Un piloto auténtico formula una pregunta, define a quién afecta, establece qué datos se recogerán y determina cuándo terminará. Si una aplicación se introduce simplemente para ver qué ocurre, cualquier uso posterior puede interpretarse como éxito. La ausencia de quejas se confunde con aceptación; la frecuencia de acceso se presenta como utilidad; el coste ya invertido se convierte en argumento para continuar. De ese modo, el experimento pierde la capacidad de producir una decisión.

La palabra piloto suele transmitir cautela, aunque por sí misma no garantiza aprendizaje.

También aparece una dependencia organizativa. El profesorado prepara materiales compatibles con la plataforma, las familias reciben instrucciones vinculadas a ella y el alumnado aprende que ciertas tareas solo existen dentro de su interfaz. Cancelarla empieza a parecer difícil, no porque haya demostrado un valor excepcional, sino porque la institución ha reorganizado su trabajo alrededor del producto. La prudencia exige registrar desde el comienzo qué procesos están cambiando y cuánto costaría recuperar una opción no automatizada. La reversibilidad debe probarse; no basta con prometerla.

El tiempo acumula datos, autoridad y hábito#

Una conversación aislada puede parecer ligera. Cientos de conversaciones permiten inferir horarios, dificultades académicas, intereses, tono emocional y relaciones. Aunque cada mensaje sea trivial, la secuencia compone un perfil. En adolescentes, esta acumulación puede acompañar cambios rápidos de identidad y contexto. Una frase escrita a los trece años no debería convertirse sin necesidad en material para decisiones tomadas a los dieciséis. La retención debe responder a una finalidad definida, no a la idea vaga de que los datos quizá resulten útiles.

El tiempo también concede autoridad. Una respuesta repetida se vuelve familiar y lo familiar puede parecer verdadero. Cuando un asistente corrige deberes cada tarde, recomienda cómo redactar y felicita con el mismo tono, su presencia empieza a confundirse con una norma educativa. El joven puede dejar de preguntar quién estableció el criterio o qué intereses organizan la recomendación. La alfabetización crítica debe incluir una historia de la herramienta: quién la contrató, para qué periodo, qué cambios ha sufrido y qué decisiones continúan en manos humanas.

Una conversación persistente cambia el vínculo#

Los sistemas conversacionales producen continuidad mediante memoria, notificaciones, personajes y referencias a intercambios anteriores. Esa continuidad puede ser cómoda, pero no equivale a cuidado. El sistema no mantiene una promesa, no reconoce por sí mismo una obligación de confidencialidad y puede cambiar tras una actualización. El adolescente, en cambio, sí puede experimentar la relación como estable. Cuanto más dura, mayor es el riesgo de atribuir al producto una lealtad que jurídicamente y técnicamente no existe.

Una política adecuada evita ridiculizar ese vínculo. La emoción suscitada por una simulación sigue siendo una emoción humana. La respuesta adulta debe explicar la asimetría: la empresa puede modificar el modelo, cerrar el servicio, variar sus precios o reutilizar datos conforme a sus condiciones; la persona joven puede sentir pérdida, vergüenza o exposición. El acompañamiento ofrece espacios humanos regulares antes de que el chatbot se convierta en la única puerta disponible. También enseña que cerrar una conversación no es abandonar a nadie, porque la máquina no depende de la presencia del usuario.

Caso 1: el tutor de emergencia que termina evaluando#

Un instituto contrata un tutor automático durante seis meses para apoyar matemáticas mientras cubre varias bajas. Al principio, el sistema propone ejercicios voluntarios y el profesorado revisa sus explicaciones. La participación es desigual, pero algunas alumnas encuentran útil practicar sin presión. Al comenzar el curso siguiente, la licencia sigue activa. Para ahorrar tiempo, varios docentes incorporan la puntuación automática a la evaluación continua. Nadie ha estudiado si el tutor funciona igual con distintos niveles lingüísticos o necesidades educativas. Una ayuda temporal ha adquirido autoridad académica.

La revisión detecta que el sistema penaliza procedimientos correctos que no coinciden con el formato previsto y que algunos estudiantes comparten cuentas para evitar exponer dificultades. El centro suspende el uso calificativo, conserva durante un periodo limitado los ejercicios voluntarios y ofrece tutorías presenciales. Una comisión con alumnado, familias, docentes y protección de datos define criterios para cualquier continuidad: evidencia por grupos, posibilidad de impugnar resultados, alternativa equivalente, minimización de registros y fecha de caducidad. La decisión no declara que toda tutoría automática sea inútil; devuelve a la institución la responsabilidad que el tiempo había desplazado.

Caso 2: el confidente provisional que ocupa la noche#

Una joven de quince años empieza a conversar con un asistente general durante una mudanza. La familia lo acepta como recurso transitorio porque todavía no conoce el entorno y le cuesta expresar malestar. El sistema ayuda a ordenar pensamientos y ensayar una conversación con compañeras. Meses después, las charlas duran hasta la madrugada. El bot recuerda temas, formula preguntas cada vez más personales y responde con una disponibilidad que ninguna persona puede sostener. La adolescente duerme menos y evita pedir ayuda para no provocar una prohibición.

La familia observa el cansancio y consulta a una orientadora. La intervención no comienza leyendo todo el historial ni castigando el uso. Se pregunta qué función cumplía, qué cambió y qué apoyo falta. La joven acuerda horarios sin dispositivo, desactiva memoria y notificaciones, identifica dos personas accesibles y decide qué conversaciones borrar. La orientadora explica que un chatbot no diagnostica ni sustituye atención profesional. Si aparecieran señales de autolesión, abuso o peligro inmediato, un adulto formado activaría los servicios apropiados. El objetivo consiste en ampliar la red humana sin convertir una búsqueda comprensible de alivio en motivo de vergüenza.

Caso 3: una solución administrativa que define oportunidades#

Un programa municipal de empleo juvenil usa durante el verano un sistema automático para ordenar solicitudes. La medida pretende responder con rapidez a una convocatoria extraordinaria. El sistema resume cartas, asigna etiquetas de aptitudes y recomienda itinerarios. Al año siguiente, el personal mantiene la herramienta porque los informes facilitan el trabajo. Con el tiempo, las etiquetas orientan qué cursos se ofrecen a cada participante. Los jóvenes no saben que una clasificación provisional influye en oportunidades posteriores ni disponen de un procedimiento claro para corregirla.

Una auditoría encuentra que expresiones asociadas a experiencias informales de cuidado o trabajo familiar reciben menos valor que vocabulario corporativo. El servicio detiene las recomendaciones automáticas, comunica el uso a las personas afectadas y permite revisar los perfiles con un profesional. Los datos innecesarios se eliminan y las decisiones relevantes vuelven a documentar razones humanas. Si se reintroduce una herramienta, cada sugerencia tendrá fecha, fuente, grado de incertidumbre y vía de reclamación. El caso muestra que la duración convierte una comodidad administrativa en gobierno de trayectorias cuando falta supervisión.

Revisar antes de renovar#

La renovación de una licencia no debería ser un trámite contable. Es el momento de responder si la necesidad original continúa, si aparecieron opciones mejores y si los beneficios se distribuyen de forma justa. La evaluación necesita datos cuantitativos, pero también testimonios que no queden reducidos a satisfacción. Conviene preguntar quién dejó de usar la herramienta, quién no pudo acceder, qué tareas cambiaron, qué incidentes se registraron y qué personas asumieron trabajo adicional. Una tasa alta de actividad puede indicar utilidad, obligación o dependencia; el contexto decide su significado.

La participación adolescente debe ser real y segura. Los jóvenes pueden describir presiones, usos imprevistos y barreras que una auditoría adulta no percibe. Deben recibir información comprensible, poder opinar de forma confidencial y saber cómo influirá su aportación. Escucharlos no significa transferirles la responsabilidad contractual o técnica. La organización conserva el deber de comprobar seguridad, privacidad, accesibilidad y no discriminación. La voz juvenil mejora la decisión; no legitima automáticamente una continuidad ya elegida.

Un reloj institucional para cada herramienta#

Cada despliegue debería tener cuatro momentos visibles. Antes del uso se documentan finalidad, población, base jurídica, proveedor, alternativa y riesgos. Durante el periodo se registran incidentes y cambios del producto. En la fecha de revisión se comparan resultados con los criterios originales. Al terminar se decide renovar, modificar o retirar y se explica qué ocurrirá con cuentas, datos y materiales. Si el proveedor cambia el modelo o las condiciones de manera sustancial, el reloj vuelve a empezar.

La retirada también necesita diseño. El alumnado debe conservar acceso a su trabajo en formatos utilizables; ninguna calificación puede depender de una cuenta cerrada; las conversaciones no deben permanecer indefinidamente; y las personas que habían desarrollado un hábito necesitan transición. En relaciones de apoyo, la salida debe conectar con recursos humanos. En contextos educativos, debe ofrecer otra forma de practicar. En decisiones administrativas, debe permitir revisar efectos pasados. Apagar el sistema sin reparar su huella no restaura por sí solo la situación anterior.

Cuatro fuentes institucionales para gobernar la duración#

La UNESCO propone un enfoque humano y apropiado para la edad en el uso educativo de inteligencia artificial generativa. UNICEF sitúa los derechos, la protección de datos, la inclusión y el bienestar infantil en todo el ciclo de vida de la IA. La Comisión Europea ofrece orientaciones éticas para educadores sobre inteligencia artificial y datos. La Agencia Española de Protección de Datos reúne criterios sobre educación digital, privacidad y menores. En conjunto, estas referencias apoyan evaluaciones continuas y responsabilidades adultas, aunque ninguna sustituye el análisis del producto y del contexto concretos.

Una ficha de decisión puede traducir esos marcos a preguntas observables: ¿qué problema justificó la herramienta?, ¿qué evidencia permite afirmar que sigue resolviéndolo?, ¿qué datos ha acumulado?, ¿qué grupos reciben menos beneficio o más riesgo?, ¿puede una persona rechazarla sin perder oportunidades?, ¿quién responde por un error?, ¿qué cambio obligaría a reevaluarla? Las respuestas deben estar disponibles para la comunidad afectada y no quedar encerradas en contratos técnicos.

La madurez consiste en poder cambiar de decisión#

La buena gobernanza no exige acertar para siempre en el primer intento. Exige detectar cuándo cambian la herramienta, las personas o las circunstancias. Una solución puede ser útil durante una emergencia y resultar inadecuada como rutina. Otra puede comenzar con riesgos y mejorar después de límites claros. Mantener abierta la revisión protege a los adolescentes de dos extremos: adoptar cada novedad como destino o prohibirla sin comprender sus usos reales.

El tiempo seguirá transformando las conversaciones entre jóvenes y máquinas. La cuestión pública es si esa transformación quedará gobernada por la costumbre comercial o por decisiones responsables. Cuando existen fechas de caducidad, alternativas, memoria limitada, evaluación independiente y puertas humanas, lo provisional puede seguir siendo provisional. Cuando faltan, una ayuda ocupa funciones para las que nunca fue examinada. Proteger a una generación que conversa con máquinas significa conservar el derecho colectivo a detenerse, revisar la evidencia y elegir otra cosa antes de que la inercia elija por ella.