Cuando una aplicación asigna turnos, mide pausas, ordena candidaturas o propone una sanción, resulta útil pensar que el sistema se ha convertido en una parte del jefe. No porque el programa tenga intención o autoridad jurídica, sino porque traduce objetivos empresariales en instrucciones que condicionan ingresos, tiempo y oportunidades. Esta idea permite a una persona joven mirar más allá de la pantalla: detrás de cada puntuación hay decisiones humanas sobre qué medir, qué ignorar y cuánto error se tolera.

Imaginemos a Leo, de veintidós años, en su primer empleo en un almacén. Una pulsera registra recorridos y una aplicación le comunica cada tarea. Tras varias jornadas cuidando una zona con productos frágiles, su indicador baja y pierde acceso a los turnos preferidos. Nadie le acusa de trabajar mal; simplemente aparece por debajo del umbral. Su encargado dice que no puede cambiarlo porque la asignación es automática. Pensar en el sistema como parte del jefe aclara el problema: existe una decisión laboral, aunque se presente como un resultado técnico inevitable.

El sistema no manda solo: ejecuta una política#

Un algoritmo no decide qué es un buen trabajador por naturaleza. La organización escoge un objetivo —más entregas, menor espera, menos ausencias— y selecciona datos que lo representan. Paquetes por hora pueden parecer productividad, pero no reflejan quién forma a un compañero, evita un accidente o atiende correctamente un caso difícil. Disponibilidad inmediata puede confundirse con compromiso, penalizando a quien estudia o cuida. La métrica es una interpretación parcial del trabajo. Preguntar quién la eligió y qué conductas deja invisibles es más útil que discutir si la tecnología es buena o mala en abstracto.

Un algoritmo no decide qué es un buen trabajador por naturaleza. La organización escoge un objetivo —más entregas, menor espera, menos ausencias— y selecciona datos que lo representan.

También hay decisiones en el diseño del proceso. Alguien fija el umbral, determina cuánto dura una puntuación, decide si una recomendación necesita confirmación y establece quién puede corregir un dato. El proveedor construye una herramienta; la empresa elige dónde usarla y qué consecuencias producir. Un supervisor puede pulsar «aceptar», pero si solo ve un número, dispone de segundos y será cuestionado cuando discrepe, su intervención no es una revisión real. La autoridad queda distribuida entre código, políticas, mandos y contratos, pero la responsabilidad no puede evaporarse entre ellos.

Esta mirada evita atribuir voluntad al programa. Decir «el algoritmo me odia» expresa frustración, aunque dificulta localizar una solución. Conviene traducirlo a hechos: qué dato entró, qué regla se aplicó, qué resultado apareció, quién actuó y qué perjuicio siguió. Quizá una ausencia justificada figura como falta; quizá el sistema compara tareas distintas; quizá una regla aparentemente neutral castiga más a quienes necesitan una adaptación. Separar entrada, inferencia y consecuencia permite solicitar una corrección concreta y conservar aquello que sí funciona.

Cinco preguntas que devuelven la decisión al mundo humano#

La primera pregunta es «¿para qué se usa?». No basta responder «para mejorar la eficiencia». Hay que nombrar la decisión: filtrar currículos, repartir rutas, prever demanda, calcular una prima o señalar rendimiento anómalo. La segunda es «¿qué información utiliza y de dónde procede?». Incluye datos introducidos por la persona, registros del dispositivo, evaluaciones previas e inferencias. La tercera es «¿qué consecuencia puede tener?». Una recomendación que solo ayuda a ordenar trabajo no equivale a una puntuación que reduce horas o provoca despido.

La cuarta pregunta es «¿quién puede revisarla y cambiarla?». Debe existir una persona identificable con acceso al contexto, tiempo suficiente y autoridad efectiva. La quinta es «¿cómo se reclama sin sufrir represalias?». Un correo que nadie responde o un formulario que vuelve al mismo cálculo no constituyen una vía de recurso. Deben conocerse plazo, responsable y posible resultado. Estas preguntas sirven en una entrevista, una reunión de equipo o una conversación con representación laboral; no exigen revelar código fuente ni dominar estadística.

En España, la representación legal de las personas trabajadoras tiene derecho a ser informada sobre parámetros, reglas e instrucciones en que se basan algoritmos o sistemas de inteligencia artificial que inciden en condiciones de trabajo, acceso o mantenimiento del empleo, incluida la elaboración de perfiles. La reforma puede consultarse en el texto oficial del BOE. Este derecho no resuelve cada caso automáticamente, pero demuestra que «lo decide el sistema» no cierra la conversación. La empresa debe poder explicar su propio proceso y dialogar sobre efectos colectivos.

Cómo documentar un caso sin convertirse en especialista#

Cuando una decisión parece injusta, conviene construir una cronología breve. Fecha de la comunicación, captura del resultado, turno o tarea afectada, explicación recibida y dato que podría ser erróneo. Hay que guardar contrato, políticas accesibles y mensajes relevantes, evitando llevarse información confidencial ajena. Después se formula una petición concreta: corregir un registro, conocer el criterio relevante, obtener revisión humana, recuperar horas o suspender una sanción hasta aclarar los hechos. Una narración precisa facilita que un delegado sindical, una inspección o un asesor distinga un fallo aislado de un patrón.

El Reglamento General de Protección de Datos contiene garantías frente a determinadas decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente de modo similar. Según las circunstancias, pueden incluir intervención humana, expresar el propio punto de vista e impugnar la decisión. El texto oficial del RGPD está en EUR-Lex. No toda recomendación algorítmica entra automáticamente en su artículo 22: importan el grado de automatización y el efecto. Por eso conviene describir hechos y pedir orientación profesional en casos graves, en lugar de prometer una respuesta legal universal.

Una revisión humana significativa debe poder cambiar algo. El revisor necesita ver datos y motivos relevantes, escuchar a la persona afectada y dejar constancia de lo comprobado. Si solo confirma que el programa funcionó técnicamente, no examina si el resultado es correcto o proporcionado. Tampoco debe penalizarse a quien reclama. La organización puede aprender agrupando incidencias: cinco errores parecidos quizá revelen un sensor defectuoso, una categoría mal definida o una regla que perjudica sistemáticamente a un turno.

Qué debe comprobar una empresa antes de desplegar#

Un equipo responsable puede elaborar un mapa de una página. Para cada uso anota finalidad, personas afectadas, datos, beneficio esperado, peor daño plausible, forma de detectarlo, responsable y condición de parada. Después prueba casos habituales y casos límite: conexión inestable, discapacidad, embarazo, cambio de nombre, pausa autorizada, tarea cooperativa o idioma distinto. El objetivo no es adivinar toda la realidad, sino buscar de forma deliberada dónde una regla uniforme pierde contexto y produce un coste desigual.

También necesita una línea roja. Un sistema puede proponer un horario, pero no publicarlo sin comprobar descansos, disponibilidad pactada y necesidades protegidas. Puede señalar una variación, pero no convertirla directamente en sanción. Puede ordenar candidaturas, pero no descartar silenciosamente trayectorias atípicas. Cuanto mayor sea el efecto sobre salario, salud o continuidad laboral, más fuerte debe ser la supervisión, la prueba y la posibilidad de detener. La aprobación debe caducar cuando cambia el modelo, el propósito o la población sobre la que se utiliza.

El Reglamento europeo de Inteligencia Artificial considera de alto riesgo determinados usos en empleo, como contratación y selección, decisiones sobre condiciones laborales, promoción o terminación, asignación de tareas basada en rasgos o comportamiento y seguimiento o evaluación del rendimiento. El alcance y las excepciones constan en el Reglamento (UE) 2024/1689. «Alto riesgo» no significa que cada uso esté prohibido, sino que necesita controles proporcionales, documentación, vigilancia y supervisión humana. Las fechas y obligaciones concretas deben revisarse en la norma vigente.

La experiencia laboral sigue siendo conocimiento#

Quienes realizan el trabajo conocen detalles ausentes de la base de datos: cooperación informal, ritmos distintos según el turno, riesgos físicos, clientes complejos y atajos que mantienen el servicio. Incluirles antes de implantar la herramienta mejora tanto la justicia como la calidad. Una prueba piloto debería medir no solo rapidez o coste, sino errores, reclamaciones, lesiones, previsibilidad de horarios, carga mental y tiempo empleado en alimentar o corregir el sistema. Si la supuesta eficiencia desplaza trabajo invisible a la plantilla, el balance está incompleto.

La investigación conjunta de la Organización Internacional del Trabajo y el Centro Común de Investigación de la Comisión Europea ha estudiado prácticas de gestión algorítmica en lugares de trabajo ordinarios y muestra que pueden coexistir ganancias operativas con vigilancia invasiva y deterioro de la calidad laboral. El informe puede consultarse en el repositorio oficial de la OIT. La lección no es rechazar toda herramienta, sino evaluar quién obtiene el beneficio, quién asume el riesgo y qué capacidad real existe para negociar el diseño.

Para una familia, acompañar a un hijo o hija joven no significa dirigir su conflicto. Puede ayudar a ordenar fechas, leer comunicaciones, separar sospechas de hechos y decidir qué solución solicita. También conviene atender a la salud: sentir que cada movimiento se puntúa puede generar ansiedad, acelerar ritmos y dificultar el descanso. Síntomas persistentes, una sanción seria o riesgo de despido justifican buscar apoyo sindical, jurídico o sanitario adecuado. La prudencia consiste en no minimizar el daño ni anunciar certezas que aún no están comprobadas.

Un acuerdo mínimo para que la herramienta sea gobernable#

Antes de aceptar un sistema conviene pactar propósito limitado, inventario de datos, pruebas de precisión y desigualdad, consulta previa, formación, revisión humana, canal de corrección, auditorías periódicas, plazo de borrado, registro de cambios y mecanismo de suspensión. Cada tarea debe tener un responsable nombrado. El proveedor debe ofrecer información suficiente; el secreto comercial no puede impedir que la empresa conozca variables, limitaciones y condiciones de fallo de una herramienta que utiliza para decidir sobre personas.

Pensar en el sistema como parte del jefe es una idea útil porque hace visible una autoridad que de otro modo parece natural. Permite preguntar quién fijó la meta, quién puede discrepar y quién repara. El programa puede calcular una ruta o detectar un patrón, pero no establece por sí solo qué trato es digno ni qué riesgo resulta aceptable. Esas siguen siendo decisiones humanas, colectivas y revisables. Cuando una organización puede explicarlas, probarlas y corregirlas, la tecnología se convierte en herramienta; cuando nadie responde, se convierte en poder sin rostro.