Una empresa puede decidir comprar un programa para seleccionar candidaturas, repartir turnos o medir productividad. La pregunta difícil empieza después: ¿qué decisiones sobre la vida laboral es legítimo delegar y bajo qué condiciones? Esa respuesta no pertenece únicamente a dirección, informática ni al proveedor del sistema. Afecta al sueldo, la salud, la intimidad y las oportunidades de personas concretas; por eso exige participación de quienes soportan el riesgo, representación laboral y criterios públicos que puedan discutirse.

Pensemos en Nora, de veinte años, empleada en una cadena de tiendas. Un programa pronostica la demanda y publica sus turnos con dos días de antelación. Para la empresa es eficiencia; para Nora significa no saber si podrá asistir a clase o cuidar a su hermano. Cuando pregunta, su responsable responde que el algoritmo trabaja con miles de datos y que nadie puede cambiarlo. El problema no es solo técnico. Alguien decidió que reducir costes pesaba más que la previsibilidad de la plantilla, aunque esa preferencia haya quedado escondida dentro de una herramienta.

La decisión invisible que precede al algoritmo#

Ningún sistema descubre por sí solo qué significa hacer bien un trabajo. Antes de calcular, una organización escoge un objetivo: vender más, reducir tiempos, evitar accidentes, cubrir turnos o retener clientes. Después elige indicadores que sustituyen parcialmente ese objetivo. Las llamadas atendidas pueden representar servicio; los paquetes por hora, productividad; la disponibilidad inmediata, compromiso. Cada sustitución pierde contexto. Una conversación breve puede resolver un caso complejo, una pausa puede prevenir una lesión y quien no responde por la noche quizá cumple perfectamente su contrato. Lo cuantificable no es automáticamente lo importante.

Ningún sistema descubre por sí solo qué significa hacer bien un trabajo. Antes de calcular, una organización escoge un objetivo: vender más, reducir tiempos, evitar accidentes, cubrir turnos o retener clientes.

Por eso la pregunta correcta no es si el algoritmo acierta en promedio. Hay que preguntar quién definió el éxito, qué errores se consideran aceptables y quién paga sus consecuencias. Un sistema que mejora un dos por ciento la planificación puede parecer excelente en una presentación, pero ser injusto si concentra los horarios imprevisibles en personas con responsabilidades de cuidado. La empresa conoce su operación, pero no conoce por sí sola todas las cargas que genera. Necesita escuchar experiencia laboral situada y admitir que eficiencia, dignidad y seguridad pueden entrar en tensión.

La gestión algorítmica incluye mucho más que una decisión completamente automática. Puede recomendar a quién entrevistar, ordenar una lista que después mira un supervisor, asignar tareas, calcular incentivos, detectar supuestas anomalías o producir una puntuación de riesgo. La persona humana que pulsa aceptar no garantiza una revisión real. Si carece de tiempo, información, autoridad o voluntad para discrepar, actúa como sello del sistema. Conviene observar el proceso entero: datos de entrada, inferencias, recomendación, decisión, posibilidad de reclamar y efectos acumulados.

Cuatro voces necesarias antes de implantarlo#

La dirección debe explicar el problema que quiere resolver y asumir la responsabilidad final. El equipo técnico debe describir límites, datos y condiciones en las que el modelo deja de ser fiable. Las personas trabajadoras aportan situaciones que rara vez aparecen en una base de datos: tareas informales, barreras de accesibilidad, cooperación invisible, riesgos físicos y diferencias entre un turno tranquilo y otro desbordado. La representación laboral puede detectar efectos colectivos, comparar departamentos y negociar salvaguardas. Cuando falta una de esas voces, el análisis queda incompleto aunque el programa sea sofisticado.

El proveedor también debe responder, pero no puede convertirse en coartada. Decir que el modelo es secreto comercial no resuelve qué variables utiliza la empresa, cómo comprueba sus resultados o quién atiende una impugnación. Tampoco basta un manual genérico de cien páginas. La información útil permite comprender qué conducta influye, qué datos son corregibles y qué consecuencia concreta puede producirse. Si la organización no puede obtener esa explicación del proveedor, quizá no está en condiciones de usar la herramienta en decisiones importantes.

En España, el artículo 64.4.d del Estatuto de los Trabajadores reconoce a la representación legal el derecho a ser informada sobre los parámetros, reglas e instrucciones de algoritmos o sistemas de inteligencia artificial que inciden en condiciones laborales, acceso o mantenimiento del empleo, incluida la elaboración de perfiles. Puede consultarse en el texto publicado por el BOE. No significa que cada trabajador reciba el código fuente, pero sí desmiente la idea de que todo debe permanecer en una caja negra inaccesible.

Un mapa de riesgos que cabe en una reunión#

Antes de poner el sistema en marcha, el equipo puede dibujar una tabla sencilla. En una columna, cada decisión influida: contratar, evaluar, asignar horarios, fijar objetivos, sancionar o despedir. En otra, las personas afectadas y los grupos que podrían quedar en desventaja. Después se anotan datos utilizados, beneficio esperado, peor daño plausible, forma de detectarlo y responsable de detener el proceso. Esta práctica obliga a abandonar frases abstractas como mejorar la eficiencia y hablar de efectos observables.

Hay que probar casos normales y casos límite. ¿Qué ocurre con una persona que usa una tecnología de apoyo, comparte dispositivo, tiene una conexión inestable, cambia de nombre, está embarazada, trabaja en una lengua distinta o necesita una adaptación? ¿Cómo interpreta el sistema una baja médica, una pausa autorizada o una tarea de ayuda a un compañero que reduce la producción individual? No se trata de imaginar todas las vidas posibles, sino de buscar activamente dónde una regla uniforme puede producir un perjuicio desigual.

También debe definirse una línea roja. Un sistema de apoyo puede proponer horarios, pero no publicarlos sin comprobar descansos, disponibilidad acordada y necesidades protegidas. Puede señalar una variación de rendimiento, pero no convertirla directamente en sanción. Puede ordenar candidaturas para revisión, pero no borrar silenciosamente a quienes no siguen una trayectoria típica. Cuanto mayor sea el impacto sobre ingresos, continuidad o salud, más fuerte debe ser la supervisión, la documentación y la posibilidad de suspender la automatización.

Qué puede preguntar una persona joven#

Quien entra en su primer empleo no necesita dominar matemáticas para formular preguntas legítimas. Puede preguntar: ¿se usa algún sistema para evaluar mi candidatura o mi rendimiento?, ¿qué datos toma?, ¿de dónde proceden?, ¿durante cuánto tiempo se conservan?, ¿quién ve la puntuación?, ¿puede afectar a mis turnos, salario o continuidad?, ¿qué persona tiene autoridad para revisarla? Conviene pedir una respuesta por escrito, con tono sereno, y guardar el anuncio, contrato, políticas, capturas y comunicaciones relevantes.

Si aparece una decisión perjudicial, resulta útil describir hechos, no adivinar intenciones. Por ejemplo: el 4 de mayo la aplicación cambió tres turnos; el responsable indicó que se debía a una puntuación; la puntuación contiene dos ausencias que estaban autorizadas. Después se solicita rectificación del dato, explicación del criterio y revisión por alguien capaz de modificar el resultado. Una cronología precisa ayuda más que afirmar que el algoritmo me odia, y permite que representación laboral, sindicato o asesoría valoren el caso.

El Reglamento General de Protección de Datos contempla en su artículo 22 decisiones basadas únicamente en tratamiento automatizado que producen efectos jurídicos o afectan de modo similar y significativo. Incluye salvaguardas en determinados supuestos, como intervención humana, expresar el propio punto de vista e impugnar la decisión; el texto oficial del RGPD está disponible en EUR-Lex. Su aplicación depende de los hechos y no toda recomendación algorítmica encaja automáticamente, por lo que ante un caso serio conviene acudir a representación laboral o asesoramiento profesional.

La revisión humana tiene que poder cambiar algo#

Una revisión digna de ese nombre identifica a una persona responsable, le muestra los datos y la lógica relevante, le concede tiempo para escuchar a quien reclama y le permite alterar el resultado sin ser penalizada. Además debe dejar constancia de qué comprobó y por qué confirmó o corrigió la decisión. Si el revisor solo ve una puntuación, desconoce cómo se creó o debe aceptar el resultado salvo error informático, la intervención humana es decorativa.

La reclamación tampoco debería empeorar la situación de quien la presenta. Debe existir un canal accesible, plazo razonable de respuesta y protección frente a represalias. En organizaciones grandes conviene analizar reclamaciones agregadas: diez correcciones similares pueden revelar un fallo de diseño, no diez excepciones. Publicar internamente cuántas decisiones fueron revisadas, cuántas cambiaron y qué mejoras se adoptaron convierte la rendición de cuentas en aprendizaje.

Lo que aporta la regulación europea#

El Reglamento europeo de inteligencia artificial considera de alto riesgo determinados usos en empleo, como selección, decisiones sobre condiciones laborales, promoción o finalización, asignación de tareas basada en rasgos o comportamiento y seguimiento o evaluación del rendimiento. El alcance y las excepciones deben leerse con cuidado en el Reglamento (UE) 2024/1689. La etiqueta de alto riesgo no significa prohibición automática: establece obligaciones para controlar riesgos, documentar, vigilar y mantener supervisión humana según el papel de cada actor.

Las normas son un suelo, no una conversación completa sobre el trabajo que queremos. Algo puede cumplir formalmente y aun así generar ritmos insoportables, aislamiento o pérdida de autonomía. La investigación conjunta de la Organización Internacional del Trabajo y el Centro Común de Investigación europeo sobre logística y sanidad muestra beneficios operativos junto con preocupaciones por vigilancia intrusiva y deterioro de la calidad laboral; puede consultarse en el repositorio oficial de la OIT. Medir ambos lados evita presentar la tecnología como salvación o amenaza inevitable.

Un acuerdo mínimo antes de decir sí#

Un protocolo razonable puede incluir finalidad limitada; inventario de datos; prohibición de reutilizarlos para otros objetivos sin nueva evaluación; pruebas de precisión y desigualdad; consulta previa; formación; revisión humana efectiva; canal de corrección; auditorías periódicas; plazo de eliminación; registro de cambios y mecanismo de suspensión. Debe indicar nombres o funciones responsables, no un ambiguo departamento competente. También debe fijar cuándo caduca la autorización: un sistema actualizado o aplicado a otro colectivo requiere revisarse de nuevo.

Para una familia, acompañar no significa dirigir la reclamación del hijo adulto. Significa ayudarle a ordenar fechas, separar hechos de sospechas, leer documentos y pensar qué resultado pide: corregir un dato, recuperar turnos, obtener explicación o detener una sanción. También conviene cuidar la salud. La vigilancia constante puede producir ansiedad, hiperdisponibilidad y miedo a descansar. Si hay síntomas persistentes, conflicto grave o riesgo de despido, es sensato buscar apoyo sindical, jurídico o sanitario adecuado.

La pregunta que una empresa no puede responder sola es sencilla de formular: ¿qué parte del riesgo estamos autorizados a imponer a otras personas para obtener este beneficio? Contestarla exige escuchar a quienes conocen el trabajo desde dentro, hacer visibles las prioridades escondidas y aceptar límites. Un algoritmo puede calcular una ruta o detectar un patrón; no puede decidir por sí mismo qué trato es digno. Esa sigue siendo una responsabilidad humana, colectiva y revisable.