Un repartidor de diecinueve años recibe menos encargos durante tres semanas. Pregunta qué ocurre y escucha una frase aparentemente definitiva: «lo decide el sistema». Nadie sabe señalar una incidencia concreta, explicar qué datos pesaron ni decir quién puede corregirlos. El discurso oficial promete eficiencia, objetividad y oportunidades asignadas según el mérito; su experiencia cotidiana es una caída de ingresos sin interlocutor. La pregunta incómoda no es si la tecnología funciona en promedio. Es quién eligió aquello que debía optimizar, quién obtiene el beneficio cuando funciona y quién responde cuando una persona paga el error.

Esta pregunta importa a una familia porque el primer empleo enseña reglas que un joven puede aceptar como naturales durante años. Si aprende que una puntuación no se discute, confundirá cálculo con autoridad. Si aprende a exigir hechos, plazos y una revisión humana con capacidad real de cambiar el resultado, desarrollará autonomía profesional. No se trata de sospechar de toda herramienta. Un sistema puede ordenar solicitudes, anticipar demanda o detectar riesgos con utilidad. El problema aparece cuando una organización usa la apariencia técnica para ocultar decisiones humanas sobre productividad, disponibilidad, riesgo y reparto del poder.

La neutralidad no viene instalada#

Todo sistema de gestión parte de elecciones. Alguien define el resultado deseado, selecciona variables, decide qué casos históricos sirven para entrenar o comparar, fija umbrales y establece qué consecuencia sigue a cada puntuación. Incluso una regla sencilla —dar prioridad a quien acepta turnos con poca antelación— contiene una idea sobre el trabajador ideal. Premia a quien puede reorganizar su vida inmediatamente y perjudica a quien estudia, cuida, depende del transporte público o necesita anticipación por una discapacidad. La fórmula puede aplicarse igual a todos y producir, sin embargo, una desigualdad perfectamente previsible.

Todo sistema de gestión parte de elecciones. Alguien define el resultado deseado, selecciona variables, decide qué casos históricos sirven para entrenar o comparar, fija umbrales y establece qué consecuencia sigue a cada puntuación.

Por eso «el algoritmo no ve nombres» no resuelve el problema. El código postal, el horario disponible, los periodos sin empleo o el tipo de dispositivo pueden funcionar como aproximaciones a condiciones sociales. Tampoco basta afirmar que el modelo acierta muchas veces. Una tasa global oculta quién concentra los fallos y cuál es su coste. Confundir una entrega tardía con otra temprana quizá afecte una estadística; confundir a una persona apta con una no apta puede cerrarle el acceso al empleo. La evaluación responsable separa grupos, contextos y consecuencias, y pregunta qué error resulta tolerable antes de desplegar.

La conversación se vuelve más clara al distinguir cuatro actores: quien encarga la herramienta, quien la diseña, quien la utiliza y quien soporta sus efectos. Pueden pertenecer a organizaciones diferentes, pero eso no disuelve la responsabilidad. Una empresa no debería responder «es cosa del proveedor» cuando usa la recomendación para cambiar un turno o rechazar una candidatura. El proveedor tampoco debería ocultarse tras el secreto comercial cuando faltan controles básicos. Dibujar ese mapa permite formular preguntas dirigidas: quién puede detener el sistema, quién corrige datos, quién audita resultados y quién repara una pérdida.

Las preguntas que un joven sí puede hacer#

Ante una decisión adversa, conviene abandonar acusaciones imposibles de demostrar y pedir información concreta. «¿Qué decisión se ha tomado y desde cuándo produce efectos? ¿Ha intervenido una herramienta automática? ¿Qué categorías de datos se utilizaron? ¿Hay algún dato que yo pueda comprobar? ¿Quién revisará el caso y en qué plazo?» Estas preguntas no presuponen mala fe y obligan a convertir una respuesta vaga en un proceso verificable. Si la conversación es oral, el joven puede enviar después un correo breve que resuma lo entendido y pedir confirmación. Esa huella ayuda si el problema se repite.

Documentar no significa grabar a escondidas ni recopilar información de compañeros. Basta conservar la oferta, contrato, cuadrantes, comunicaciones, capturas propias permitidas, evaluaciones y cambios de acceso. Resulta útil crear una cronología: fecha, decisión, explicación recibida, efecto económico y persona contactada. También se anotan circunstancias que el sistema pudo ignorar, como una baja autorizada, una avería registrada o una adaptación acordada. La evidencia de contexto es más poderosa que cien impresiones. Si el asunto afecta salario, discriminación, salud o continuidad laboral, procede buscar asesoramiento sindical, profesional o de la autoridad competente.

En materia de datos, la empresa debe explicar de forma comprensible el tratamiento que realiza; no basta una política interminable que nadie puede aplicar al caso. La guía de la Agencia Española de Protección de Datos sobre relaciones laborales ofrece criterios sobre información, necesidad, proporcionalidad y derechos. La pregunta práctica es si cada dato resulta necesario para una finalidad laboral concreta. Una aplicación de turnos no debería acceder por defecto a contactos personales; medir ubicación fuera del horario requiere una justificación mucho más fuerte que registrar una llegada al centro.

Revisión humana no significa pulsar aceptar#

Muchas organizaciones aseguran que siempre hay una persona supervisando. La afirmación solo vale si esa persona comprende el resultado, ve información suficiente, dispone de tiempo, puede apartarse de la recomendación y no recibe incentivos para confirmarla automáticamente. Un mando que revisa quinientas alertas por hora no ejerce criterio; actúa como sello. La empresa debe observar cuántas decisiones se cambian, por qué motivos, cuánto tarda la corrección y si ciertos grupos necesitan reclamar más. Una tasa de rectificación igual a cero puede indicar perfección, pero con mayor frecuencia revela que el recurso no funciona.

Una revisión efectiva empieza identificando la decisión exacta, no defendiendo el sistema en abstracto. Después contrasta los datos de entrada, escucha el contexto y aplica criterios conocidos. La respuesta final explica qué se mantiene o modifica y por qué. Cuando sea posible, se suspende una consecuencia irreversible mientras dura el examen. Si una candidatura fue descartada por un dato erróneo, no sirve corregir la base después de cubrir la vacante y declarar el caso resuelto. La reparación considera el efecto: recuperar una oportunidad, devolver horas, retirar una sanción o restablecer acceso, además de corregir el registro.

El Estatuto de los Trabajadores reconoce a la representación legal el derecho a ser informada sobre parámetros, reglas e instrucciones en que se basan algoritmos o sistemas de inteligencia artificial que inciden en decisiones capaces de afectar a las condiciones de trabajo. Esa información colectiva complementa la reclamación individual. Permite detectar un patrón que una sola persona no ve: menos turnos para quienes rechazan disponibilidad instantánea, peores evaluaciones tras una baja o exclusiones concentradas en determinadas trayectorias. Una familia puede animar al joven a consultar representación sindical sin presentar ese paso como conflicto inevitable.

La prueba del beneficio y del riesgo#

Antes de implantar una herramienta, una organización debería completar una ficha de una página. Problema que intenta resolver; alternativa menos invasiva; personas beneficiadas; personas que asumen nuevos riesgos; datos necesarios; decisiones prohibidas; responsable; canal de recurso; indicadores de daño; fecha de revisión y condición de retirada. Obligar a escribir «quién gana» y «quién puede perder» desmonta el lenguaje impersonal. Si el ahorro de planificación depende de avisar turnos más tarde, no se ha eliminado incertidumbre: se ha trasladado de la empresa a las familias de la plantilla.

La misma prueba sirve durante un piloto. No se mide únicamente precisión o ahorro. Se comparan avisos con poca antelación, descansos interrumpidos, reclamaciones, correcciones, diferencias entre grupos, accidentes, rotación y tiempo adicional dedicado a alimentar el sistema. Se pregunta a trabajadores qué tareas invisibles ha creado: justificar pausas, corregir fichajes, competir por encargos o mantener una aplicación encendida. Un resultado técnicamente correcto puede deteriorar el oficio si induce a evitar casos complejos o a ocultar problemas para proteger una puntuación. Lo que el indicador provoca importa tanto como lo que mide.

Determinados usos de inteligencia artificial en empleo, selección y gestión de trabajadores reciben obligaciones específicas en el Reglamento europeo de inteligencia artificial. La norma no convierte automáticamente cualquier resultado en justo, ni sustituye el análisis laboral y de protección de datos. Sí refuerza una idea esencial: el riesgo depende del uso y de sus efectos, no de lo espectacular que parezca la tecnología. Una hoja de cálculo con reglas opacas puede dañar más que un modelo avanzado limitado a ayudar. La organización debe gobernar todo el proceso, incluidos proveedores, actualizaciones y nuevos usos.

Un caso práctico: la puntuación de disponibilidad#

Imaginemos que una cafetería asigna más horas a quien acepta sustituciones rápidas. La dirección lo llama flexibilidad; una estudiante que acude a clase lo vive como castigo. El primer paso es precisar la regla: ¿cada rechazo resta puntos?, ¿durante cuánto tiempo?, ¿se diferencia una indisponibilidad ya declarada?, ¿la puntuación influye también en renovaciones? El segundo es comprobar datos y efectos. El tercero es preguntar por una alternativa: publicar turnos antes, crear una bolsa voluntaria o repartir urgencias con límites. La conversación deja de enfrentar «innovación» contra «resistencia» y compara diseños concretos.

Una solución razonable podría separar disponibilidad ordinaria de disponibilidad extraordinaria, impedir penalizaciones por rechazar cambios no pactados y poner un máximo de urgencias por persona. El sistema mostraría la razón de cada asignación, permitiría corregir disponibilidad y señalaría conflictos al responsable, sin resolverlos solo. El equipo revisaría mensualmente si las horas se concentran y si estudios, cuidados o discapacidad generan desventajas. Este diseño no promete neutralidad: hace visibles sus valores y ofrece controles. La transparencia útil no enseña código; permite entender la regla, anticipar su consecuencia y cuestionarla con pruebas.

Cómo hablarlo en casa sin sembrar indefensión#

Las familias pueden ensayar tres escenas: una candidatura rechazada sin explicación, una caída repentina de turnos y una alerta de bajo rendimiento. En cada escena, el joven practica cuatro movimientos: describir el hecho sin exagerar, pedir el criterio, aportar contexto y solicitar una decisión revisable con plazo. El adulto evita ocupar su lugar salvo que exista riesgo serio o el menor necesite apoyo legal. El objetivo es que aprenda una competencia transferible: hablar con firmeza sin inventar certezas. También conviene reconocer que a veces no obtendrá una respuesta satisfactoria y necesitará escalar.

Hay señales que justifican ayuda rápida: impacto importante en ingresos, indicios de discriminación, vigilancia fuera de horario, uso de datos especialmente sensibles, represalia por reclamar, amenaza a la salud o una sanción grave. En esos casos no se improvisa una batalla en redes sociales. Se conserva evidencia, se consulta a representación laboral o asesoría adecuada y se utilizan canales formales. Publicar nombres, capturas de terceros o acusaciones puede crear nuevos problemas. La protección combina voz y prudencia. Preguntar bien no garantiza ganar, pero transforma una experiencia confusa en un caso que otra persona puede examinar.

La respuesta que el discurso oficial suele evitar#

La pregunta incómoda tiene una respuesta sencilla: decide la organización que elige usar el sistema, aunque intervengan proveedores y modelos complejos. Por eso debe poder explicar la finalidad, justificar datos y criterios, ofrecer supervisión real y reparar daños. La responsabilidad no desaparece dentro de una caja técnica. Tampoco recae en el joven por no comprender un cálculo inaccesible. Quien obtiene capacidad de organizar, seleccionar o vigilar asume el deber proporcional de gobernar esa capacidad y abrir una vía para discutir resultados.

Un futuro laboral digno no exige elegir entre máquinas perfectas y rechazo tecnológico. Exige instituciones capaces de decir qué quieren optimizar, qué no permitirán sacrificar y quién responderá cuando fallen. Para un adolescente, conservar esa pregunta es una forma de ciudadanía: ¿quién decidió y con qué derecho? Para una empresa, contestarla bien es una prueba de madurez. Cuando una organización puede nombrar responsable, evidencia, límites y reparación, la tecnología deja de ser excusa y vuelve a ser herramienta. Ahí empieza una conversación menos cómoda, pero mucho más honesta.