Cuando una aplicación decide a quién entrevistar, qué turno recibe cada persona, cuánto tarda una tarea o quién merece una advertencia, no estamos ante una simple mejora informática. Estamos decidiendo cómo se reparte el poder dentro del trabajo. Para una familia con hijos que empiezan su vida laboral, la pregunta importante no es si la inteligencia artificial creará o destruirá empleos, sino qué condiciones encontrarán quienes consigan uno: qué datos se usarán para juzgarlos, quién escuchará su versión y cómo podrán impugnar un error.
Los titulares suelen reducir el debate a una cifra neta de puestos. Esa cuenta importa, pero deja fuera la intensidad, la autonomía, el salario, la seguridad, el aprendizaje y la posibilidad de organizarse con otras personas. Un almacén puede conservar toda la plantilla y empeorar el empleo si un sistema eleva el ritmo cada semana sin considerar averías, experiencia o fatiga. También puede mejorar una tarea si distribuye cargas con límites claros y participación de quienes la realizan. La tecnología no determina por sí sola el resultado: lo hacen el diseño, las reglas y la capacidad real de cuestionarlas.
Cómo reconocer que un sistema está ejerciendo de jefe#
La gestión algorítmica no siempre lleva la etiqueta de inteligencia artificial. Puede ser un programa de cuadrantes, una puntuación de productividad, un filtro de currículos, una cámara con analítica o una aplicación que asigna repartos. La Organización Internacional del Trabajo la describe como el uso de procedimientos programados para coordinar, asignar, vigilar o evaluar el trabajo. Su portal sobre gestión algorítmica en el lugar de trabajo ayuda a identificarla tanto en plataformas digitales como en empresas convencionales. Si una salida del sistema influye en contratar, pagar, sancionar, promocionar o despedir, está participando en una decisión laboral relevante.
La gestión algorítmica no siempre lleva la etiqueta de inteligencia artificial. Puede ser un programa de cuadrantes, una puntuación de productividad, un filtro de currículos, una cámara con analítica o una aplicación que asigna repartos.
Conviene dibujar el recorrido completo. ¿Qué datos entran: ventas, ubicación, pulsaciones, llamadas, ausencias o valoraciones de clientes? ¿Qué transforma el programa: una predicción, una clasificación o un objetivo? ¿Quién recibe el resultado y qué hace con él? La frase «solo recomienda» puede ocultar mucho. Si el supervisor carece de tiempo, información o permiso para apartarse de la recomendación, la decisión es automática en la práctica. La supervisión humana no consiste en que alguien pulse aceptar; requiere comprender los límites, contrastar el contexto y poder decir que no sin ser penalizado.
Una puntuación nunca es la persona completa#
Los indicadores seleccionan una parte de la realidad. Contar paquetes por hora puede ignorar los productos frágiles, la ayuda a un compañero nuevo o una máquina defectuosa. Medir minutos de llamada puede castigar a quien resuelve casos difíciles. Usar la aceptación de turnos como señal de compromiso perjudica a quien cuida a un familiar. Incluso un dato exacto puede sostener una conclusión injusta si falta contexto. Antes de aceptar una métrica hay que preguntar qué conducta incentiva, qué trabajo valioso deja invisible y quién tiene más probabilidades de aparecer como excepción.
También existen datos derivados: etiquetas como «riesgo de abandono», «bajo potencial» o «probabilidad de ausencia». No son hechos observados, sino inferencias. Pueden alimentarse de historiales que reflejan discriminación previa o de variables que funcionan como sustitutos de edad, origen, discapacidad o situación familiar. Auditar el promedio no basta: hay que comparar falsos positivos y negativos entre grupos, revisar casos concretos y comprobar si el error se acumula. Una clasificación equivocada puede negar formación; esa falta de formación empeora después la puntuación y crea un círculo que parece confirmar la primera predicción.
Qué derechos y reglas ofrece el marco europeo#
El Reglamento General de Protección de Datos establece en su artículo 22 protección frente a determinadas decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten de modo similar y significativo. Según el caso y su base jurídica, deben existir salvaguardas como intervención humana, posibilidad de expresar el punto de vista y de impugnar. No significa que cualquier cálculo quede prohibido ni que toda situación tenga idéntico remedio. Sí impide tratar una decisión importante como una caja cerrada ante la que la persona solo pueda obedecer.
El Reglamento europeo de Inteligencia Artificial incluye en su anexo III determinados sistemas usados para contratación, selección, decisiones sobre condiciones laborales, promoción, finalización, asignación de tareas basada en rasgos o conducta, y seguimiento o evaluación del rendimiento. El texto oficial está disponible en EUR-Lex. La clasificación y las obligaciones dependen del uso concreto y del calendario de aplicación, por lo que un comité no debe convertir este artículo en asesoramiento jurídico. La lección práctica es más estable: documentar finalidad, datos, responsables, revisión humana, riesgos y canal de reclamación antes de desplegar.
La salud laboral también está en juego#
Un sistema puede optimizar cada minuto y, al mismo tiempo, destruir los márgenes que permiten recuperarse, aprender o ayudar. Cuando el ritmo se actualiza desde los resultados de quienes van más rápido, la referencia puede subir sin una evaluación ergonómica. Cuando una aplicación cambia turnos con poca antelación, traslada la incertidumbre a las familias. La Agencia Europea para la Seguridad y la Salud en el Trabajo advierte en su ficha sobre gestión de trabajadores mediante IA y algoritmos de efectos posibles sobre autonomía, carga, estrés y privacidad, y defiende participación y prevención.
La evaluación de riesgos debe observar el trabajo real, no solo el funcionamiento técnico. Hay que registrar picos de carga, pausas omitidas, cambios de turno, lesiones, conflictos, miedo a desconectarse y tiempo dedicado a corregir al sistema. Debe incluir a temporales, subcontratados, teletrabajadores y personas con discapacidad, porque suelen vivir recorridos distintos. Una reducción de accidentes puede ser positiva, pero no justifica una vigilancia ilimitada. La pregunta correcta es qué dato resulta necesario para prevenir un riesgo, durante cuánto tiempo se conserva y si existe una alternativa menos intrusiva que cumpla la misma finalidad.
Un caso cotidiano: la advertencia que nadie sabe explicar#
Imaginemos que una joven recibe una advertencia por «baja fiabilidad». Su responsable ve una puntuación, pero no los factores. La trabajadora recuerda dos retrasos causados por una avería y varios cambios de turno rechazados para cuidar a su hermano. Una respuesta justa empieza por suspender cualquier consecuencia, conservar la evidencia y nombrar a una persona con autoridad para revisar. Después se comprueban datos, periodos, comparadores y reglas; se escucha el contexto; se corrige la decisión y, si el error puede repetirse, se revisan los demás casos afectados.
Una explicación útil no necesita revelar código protegido, pero sí debe permitir entender y discutir la decisión: finalidad, datos relevantes, periodo evaluado, peso aproximado de los factores, consecuencia prevista, responsable y plazo de recurso. «Lo dice el algoritmo» no es explicación. Tampoco sirve remitir a un proveedor sin poder resolutivo. Si la empresa no puede reconstruir por qué se produjo una advertencia, no debería usarla para una medida disciplinaria. Registrar las anulaciones humanas ayuda además a detectar reglas defectuosas; las discrepancias no son ruido que ocultar, sino información para gobernar el sistema.
Preguntas que un joven puede hacer antes de aceptar#
En una entrevista o incorporación quizá no sea posible negociar todo, pero sí observar. ¿Se usa una prueba automática para seleccionar? ¿Hay videovigilancia o seguimiento de ubicación? ¿Cómo se fijan objetivos y turnos? ¿Puede una persona revisar una puntuación? ¿Existe comité de empresa, delegado sindical, responsable de protección de datos o canal de prevención? Una respuesta clara, proporcionada y por escrito inspira más confianza que una promesa de objetividad. La ausencia total de información, la presión para consentir o la imposibilidad de trabajar sin instalar una aplicación personal son señales para pedir asesoramiento.
Las familias pueden ensayar estas preguntas sin hablar por el joven ni alimentar pánico. Conviene guardar oferta, contrato, políticas, mensajes de horarios y comunicaciones sobre evaluaciones. Si aparece un problema, una cronología breve ayuda más que cien capturas desordenadas: fecha, decisión, explicación solicitada, respuesta y efecto concreto. No se deben extraer secretos ni vulnerar sistemas; se documenta la propia experiencia. Según el asunto, pueden orientar la representación laboral, la inspección de trabajo, el servicio de prevención, la autoridad de protección de datos o un profesional. La vía adecuada depende del país y del caso.
Cómo debería comprar o implantar una empresa responsable#
Antes del contrato hay que definir el problema sin mencionar el producto. Después se comparan alternativas, incluida no automatizar. El piloto debe tener alcance, duración, criterios de éxito y de parada. No basta medir ahorro: se comparan calidad, errores, tiempo total, salud, autonomía, reclamaciones y distribución de beneficios. Debe probarse con casos difíciles y datos incompletos. Si el proveedor afirma que el modelo es imparcial, debe explicar la evaluación, la población y las limitaciones. Una demostración comercial no sustituye la prueba en el contexto donde una decisión afectará a personas reales.
El contrato debe permitir auditoría, registro de cambios, comunicación de incidentes, control de subcontratistas, exportación y borrado. También necesita una salida: cómo volver al proceso anterior sin perder salarios, turnos o expedientes. Los representantes de los trabajadores deben participar antes de que el diseño quede cerrado, no cuando solo queda aprender la interfaz. La investigación internacional sobre logística y sanidad muestra que estas prácticas ya existen en lugares de trabajo ordinarios y que deben evaluarse junto con organización, calidad del empleo y relaciones laborales.
Un cuadro de mando que mida algo más que producción#
Cada revisión debería responder cinco preguntas. ¿Cumple el propósito declarado? ¿Qué grupos reciben beneficios y costes? ¿Qué errores se impugnan y cuántos se corrigen? ¿Cómo cambian salud, autonomía y aprendizaje? ¿Sigue siendo necesaria la recogida de cada dato? Se combinan cifras con entrevistas confidenciales y observación. Un promedio estable puede esconder un turno agotado o una categoría sin acceso a formación. También conviene medir el trabajo añadido: minutos para arreglar horarios, justificar excepciones o alimentar datos. Automatizar una tarea no ahorra tiempo si crea otra que permanece invisible.
Los umbrales deben fijarse antes de ver resultados. Por ejemplo: ninguna sanción sin contraste humano; plazo máximo para revisar una impugnación; pausa del sistema tras un patrón de errores; revisión trimestral de diferencias entre grupos; borrado al vencer la finalidad. Cada control necesita dueño, evidencia y autoridad. Un comité que solo recomienda mientras otro departamento conserva todos los incentivos para producir más no gobierna. Publicar internamente decisiones, límites e incidencias crea memoria y permite aprender cuando cambia el proveedor, la dirección o el modelo.
La conversación que sí merece un titular#
Preguntar cuántos empleos desaparecerán resulta atractivo porque produce una cifra. Gobernar el trabajo exige preguntas más incómodas: quién captura la ganancia de productividad, quién soporta la incertidumbre, qué capacidades se desarrollan y quién puede detener una orden equivocada. Una herramienta puede liberar tiempo repetitivo y mejorar seguridad si ese beneficio se convierte en formación, descansos o mejor servicio. Puede también intensificar el ritmo y debilitar la voz colectiva. El resultado debe evaluarse en la nómina, el horario, el cuerpo, las oportunidades y la dignidad, no únicamente en el balance agregado.
Para una familia, la conclusión no es enseñar a desconfiar de toda tecnología, sino preparar a los jóvenes para reconocer cuándo una medida requiere explicación. Para una empresa, no es renunciar a innovar, sino asumir que dirigir mediante datos sigue siendo dirigir y conserva responsabilidades. Para la sociedad, significa no confundir empleo con buen empleo. Cuando un sistema decide, alguien eligió su objetivo, sus datos y sus límites. Nombrar a esa persona, escuchar a quienes viven la consecuencia y mantener una salida real es la discusión que falta en demasiados titulares.
