El cambio importante no siempre llega con un robot entrando por la puerta. A veces aparece como una aplicación que propone el horario, una cámara que calcula tiempos, un cuestionario que descarta candidaturas o un panel que convierte cada tarea en una puntuación. Para quien empieza a trabajar, puede parecer una parte inevitable del empleo moderno. Sin embargo, cuando un sistema recomienda, clasifica o vigila, sigue habiendo una organización responsable de decidir para qué se usa, con qué datos y qué ocurre cuando se equivoca.

Imaginemos a Alex, de diecinueve años, en su primer almacén. La aplicación reparte recorridos, registra pausas y compara unidades por hora. Un viernes recibe menos turnos. Su encargado dice que «lo decide el sistema» y no sabe explicar qué dato pesó. Alex piensa que preguntar dará mala imagen. En casa tampoco saben si se trata de una simple herramienta de planificación o de una decisión que debería poder discutirse. Ese desconcierto es precisamente el terreno donde la gestión algorítmica crece sin debate.

Qué significa que un sistema decida en el trabajo#

Un sistema no necesita firmar un despido para influir de forma decisiva. Puede ordenar currículos, predecir quién abandonará la empresa, recomendar salarios, distribuir pedidos, fijar objetivos, activar alertas de fraude o seleccionar las llamadas que revisará un supervisor. La decisión formal quizá la tome una persona, pero si acepta siempre la recomendación, no entiende el modelo o dispone de pocos segundos para revisarla, la intervención humana es decorativa.

Un sistema no necesita firmar un despido para influir de forma decisiva. Puede ordenar currículos, predecir quién abandonará la empresa, recomendar salarios, distribuir pedidos, fijar objetivos, activar alertas de fraude o seleccionar las llamadas que revisará un supervisor.

Conviene separar automatización de decisión. Automatizar el envío de una nómina calculada conforme a reglas conocidas no plantea lo mismo que asignar una «probabilidad de compromiso» a cada empleado. La primera tarea puede comprobarse con operaciones visibles; la segunda interpreta conductas mediante variables cuya relación con el rendimiento es discutible. Cuanto más afecta el resultado al acceso, los ingresos, la reputación, la salud o la continuidad laboral, mayor debe ser la explicación y el control.

También importa el origen de los datos. Un sistema puede mezclar fichajes, ubicación, velocidad de teclado, ventas, incidencias, evaluaciones, ausencias o respuestas a pruebas de personalidad. Tener esos datos no significa que sea legítimo reutilizarlos para cualquier propósito. Una medición creada para seguridad no debería transformarse silenciosamente en disciplina; una adaptación por discapacidad no debe convertirse en señal de baja productividad; una ausencia protegida no debería alimentar una predicción de abandono.

Por qué afecta especialmente a quien empieza#

Los jóvenes suelen entrar mediante empleos temporales, plataformas, prácticas o procesos de selección masivos, justamente donde más se automatiza. Tienen menos referencias para distinguir una práctica normal de una abusiva y más miedo a parecer conflictivos. Una interfaz limpia transmite autoridad: si una pantalla muestra 62 sobre 100, parece que ese número describe una realidad exacta. Pero toda puntuación incorpora elecciones humanas sobre qué medir, a quién comparar, cuánto pesa cada variable y qué errores se consideran aceptables.

Las familias pueden ayudar sin convertir la conversación en interrogatorio. En vez de preguntar solamente «¿qué tal el trabajo?», resulta más útil preguntar: «¿Quién organiza tus turnos?», «¿puedes corregir un dato?», «¿te han explicado qué mide la aplicación?» o «¿hay una persona que revise una sanción?». El objetivo no es alarmar, sino ofrecer vocabulario. Poder nombrar una puntuación, una alerta o una clasificación permite contar el problema con precisión.

Hay señales que merecen atención: horarios que cambian sin explicación, objetivos que suben automáticamente, penalizaciones por pausas necesarias, rankings públicos, mensajes que inducen a permanecer conectado, rechazos instantáneos o respuestas del tipo «nadie puede cambiarlo». Ninguna señal demuestra por sí sola una ilegalidad. Sí indica que hace falta conocer el proceso, documentarlo y comprobar qué garantías existen.

La falsa neutralidad de los números#

Un modelo aprende de datos históricos o aplica reglas diseñadas por personas. Si el pasado contenía desigualdad, el patrón puede reproducirla. Si se define el éxito como aceptar cualquier turno, quienes cuidan a familiares quedan peor clasificados. Si se mide productividad por pulsaciones, se penaliza el trabajo de pensar, escuchar o acompañar. Si un filtro aprende del perfil de antiguos directivos, puede favorecer características que se parecen a quienes ya ocuparon esos puestos.

Además, los indicadores cambian la conducta. Una plantilla evaluada por llamadas cortas tenderá a terminar antes, aunque el usuario necesite más ayuda. Un repartidor medido por velocidad puede asumir riesgos. Una enfermera puntuada por número de atenciones puede disponer de menos tiempo para observar. El problema no es solo que la métrica sea inexacta: puede empujar a hacer peor el trabajo que pretende mejorar.

Preguntar por la tasa de acierto no basta. Hay que preguntar quién soporta los errores. Un falso positivo en una recomendación musical es molesto; un falso positivo que etiqueta a una persona como fraudulenta puede bloquear ingresos. También deben examinarse diferencias entre grupos, condiciones atípicas y cambios de contexto. Un modelo probado en oficinas quizá no funcione en trabajo remoto, ni una prueba diseñada en un idioma mide con justicia a quien lo aprendió después.

Derechos y límites que ya existen#

En la Unión Europea, el Reglamento General de Protección de Datos establece garantías sobre decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o afecten significativamente de modo similar. El artículo 22 no convierte cualquier cálculo en una práctica prohibida, pero obliga a analizar si existe una decisión relevante, si es exclusivamente automatizada y qué excepción o salvaguarda se aplica. El texto oficial puede consultarse en EUR-Lex: Reglamento (UE) 2016/679.

La normativa europea de inteligencia artificial adopta un enfoque basado en riesgos. Incluye entre los sistemas de alto riesgo determinados usos en empleo, gestión de trabajadores y acceso al autoempleo, como selección, asignación de tareas basada en rasgos o comportamiento y evaluación del rendimiento. Esto implica obligaciones para quienes desarrollan y despliegan esos sistemas, aunque su aplicación concreta depende del calendario y del caso. La fuente primaria es EUR-Lex: Reglamento (UE) 2024/1689 de inteligencia artificial.

Para el trabajo en plataformas, la Directiva europea 2024/2831 aborda de forma específica la transparencia, supervisión humana y revisión de decisiones en la gestión algorítmica. También limita ciertos tratamientos de datos especialmente intrusivos. Las directivas requieren incorporación al derecho nacional, por lo que conviene comprobar la norma vigente y pedir orientación sindical o profesional. El texto oficial está en EUR-Lex: Directiva (UE) 2024/2831.

Estos textos son un punto de partida, no una respuesta automática. También intervienen la legislación laboral, la negociación colectiva, las reglas de igualdad y no discriminación, la prevención de riesgos y la protección de datos nacional. Ante una sanción, despido, discriminación o daño serio, esta guía no sustituye el asesoramiento de un sindicato, representante laboral, abogado, inspección de trabajo o autoridad de protección de datos.

Las preguntas que convierten una caja negra en un proceso discutible#

Antes de aceptar la frase «lo dice el algoritmo», conviene pedir una descripción sencilla: qué decisión se tomó, qué sistema intervino y quién conserva autoridad para cambiarla. Después, preguntar qué categorías de datos se utilizaron, de dónde proceden y si estaban actualizadas. No hace falta exigir el código fuente para obtener información útil. Una explicación operativa debe permitir entender los factores principales y detectar un error concreto.

También hay que saber cuál era el objetivo declarado. «Mejorar la eficiencia» es demasiado amplio. ¿Se buscaba reducir esperas, prever personal necesario o sancionar bajo rendimiento? Una herramienta adquirida para planificar puede acabar usada para evaluar sin nuevas comprobaciones. Preguntar por el propósito ayuda a descubrir ese desplazamiento y a exigir una evaluación proporcional al nuevo impacto.

La revisión humana debe ser real. La persona revisora necesita competencia, tiempo, información suficiente y permiso para apartarse de la recomendación. Si solo pulsa «confirmar», no hay garantía efectiva. Resulta razonable preguntar cuántas decisiones se modifican tras una reclamación, qué plazo existe y cómo se comunica el resultado. Una vía que nunca cambia nada puede ser un trámite vacío.

Finalmente, hay que conocer la caducidad. Los modelos, reglas y datos envejecen. ¿Cuándo se comprobó el sistema por última vez? ¿Qué ocurre cuando cambia el puesto? ¿Durante cuánto tiempo se conserva una alerta? ¿Puede una incidencia antigua seguir reduciendo turnos meses después? Una decisión responsable necesita revisión periódica, trazabilidad y criterios para retirar el sistema si causa daños.

Cómo documentar un caso sin ponerse en peligro#

Cuando algo parece injusto, el primer paso es construir una cronología factual. Fecha, decisión recibida, pantalla o mensaje, explicación solicitada, respuesta y efecto concreto. Conviene separar hechos de hipótesis: «el martes pasé de cuatro turnos a uno tras una alerta de puntualidad» es más útil que «el algoritmo me odia». Guardar contratos, políticas, nóminas y comunicaciones ayuda, siempre respetando secretos empresariales y datos de otras personas.

No es aconsejable extraer bases de datos, grabar donde esté prohibido ni llevarse información confidencial para demostrar un problema. Puede anotarse lo observado y usar los canales legítimos de acceso o reclamación. Si hacer una captura revela datos de compañeros o usuarios, hay que evitarlos o pedir orientación. Documentar no significa exponerse a otra infracción.

Después se formula una petición concreta: corregir un dato, recibir los criterios principales, obtener revisión humana, suspender una penalización mientras se investiga o conocer el canal de recurso. Una solicitud breve suele funcionar mejor que un manifiesto general. Si varias personas experimentan el mismo patrón, el representante de los trabajadores o el sindicato puede analizarlo colectivamente sin dejar a una sola persona frente al sistema.

Qué debería hacer una empresa antes de desplegarlo#

Una organización responsable empieza por demostrar necesidad. Debe comparar la herramienta con alternativas menos intrusivas y definir qué decisiones nunca delegará. Después identifica a las personas afectadas, incluidos candidatos rechazados que nunca llegan a ser empleados, trabajadores temporales y grupos con necesidades de accesibilidad. La evaluación debe incluir no solo precisión media, sino errores graves, discriminación, privacidad, carga mental y seguridad.

La participación temprana mejora el diseño. Quienes realizan la tarea conocen excepciones que el proveedor ignora: una pausa puede responder a una incidencia, un trayecto más largo puede ser más seguro y una conversación extensa puede evitar una reclamación. Incorporar esa experiencia no es resistencia a innovar; es una forma de comprobar si la métrica representa el trabajo real.

La empresa debe informar con lenguaje comprensible antes de usar el sistema, formar a mandos y revisores, limitar accesos, registrar cambios y establecer un canal de impugnación. También necesita un plan para incidentes: quién detiene decisiones, cómo avisa, cómo repara ingresos perdidos y cómo corrige decisiones derivadas. Comprar tecnología a un proveedor no transfiere la responsabilidad sobre las consecuencias laborales.

Una conversación familiar útil#

Cuando un joven cuenta que una aplicación controla su jornada, la respuesta familiar no debería ser «aguanta, todos los trabajos son así» ni «denúncialos ya». Primero hay que escuchar qué ocurrió y qué desea conseguir. Quizá necesita entender un horario, recuperar un turno o prepararse para hablar con su responsable. Preguntar por el resultado deseado devuelve capacidad de decisión.

Puede ensayarse una frase: «He visto que mi puntuación bajó después de esta incidencia. ¿Podéis confirmar los datos utilizados, explicar cómo afecta a los turnos y pedir que una persona revise el caso?». El tono sereno no renuncia a los derechos. Si la respuesta es confusa, se pide por escrito. Si hay represalias, riesgo, discriminación o pérdida importante, se busca apoyo especializado pronto.

También conviene cuidar el impacto emocional. Ser puntuado continuamente puede generar hipervigilancia, vergüenza y sensación de inutilidad. Una clasificación laboral no mide el valor de una persona. Dormir, hablar con alguien de confianza y separar el rendimiento medido de la identidad no resuelve el conflicto, pero ayuda a afrontarlo sin quedar absorbido por él.

Una lista de control antes de aceptar una decisión automática#

  • ¿Qué decisión concreta se tomó y qué efecto tiene sobre empleo, salario, turnos o reputación?
  • ¿El sistema decidió solo, recomendó o aportó un dato entre varios?
  • ¿Qué datos principales utilizó y existe algún error verificable?
  • ¿Quién puede revisarlo con autoridad real para cambiar el resultado?
  • ¿Cómo se reclama, en qué plazo y qué ocurre mientras se revisa?
  • ¿Se ha informado a la plantilla y consultado a sus representantes cuando corresponde?
  • ¿Hay indicios de impacto desigual, presión insegura o vigilancia desproporcionada?
  • ¿Se conserva una copia lícita de la comunicación y de la respuesta?

El cambio silencioso deja de ser inevitable cuando se hace visible el proceso. No se trata de rechazar cualquier algoritmo: una buena herramienta puede repartir carga, detectar riesgos o facilitar accesibilidad. La frontera está en si amplía la capacidad humana o esconde el poder detrás de una puntuación. El futuro del trabajo no lo decide el sistema por sí solo; también lo deciden las preguntas, garantías y límites que personas e instituciones exigen hoy.