Una penalización de veinte céntimos parece demasiado pequeña para ocupar un titular. Sin embargo, cuando un sistema la aplica miles de veces, sin explicar el criterio y sin ofrecer una revisión viable, deja de ser una anécdota entre una empresa y una persona: se convierte en un problema público. El detalle que cambia la lectura de la noticia no es que haya un algoritmo, sino la combinación de escala, repetición y falta de recurso. Para entender qué está pasando hay que sumar el daño distribuido, observar quién queda sistemáticamente afectado y comprobar si alguien conserva autoridad para corregir la regla.

Imaginemos una plataforma que descuenta una cantidad mínima cada vez que detecta una entrega fuera del tiempo previsto. Para una persona, reclamar puede requerir veinte minutos, capturas, formularios y varios correos; el importe perdido no compensa el esfuerzo. La empresa interpreta la ausencia de reclamaciones como señal de precisión. Pero si el sistema realiza cien mil descuentos, una tasa de error del dos por ciento ya crea dos mil decisiones injustas. Cada una parece pequeña; juntas transfieren dinero, tiempo y poder de negociación. Esta asimetría explica por qué la escala importa tanto como la gravedad del caso individual.

El detalle que convierte un caso privado en una cuestión pública#

No toda equivocación automática exige una respuesta colectiva. Un error aislado, reconocido y reparado con rapidez puede resolverse por los canales ordinarios. La alarma aparece cuando coinciden cinco rasgos: muchas personas están expuestas a la misma regla; el perjuicio se repite; reclamar cuesta más que lo que se recupera; la organización conoce el patrón o podría conocerlo; y el sistema continúa funcionando sin corrección. Esa combinación produce un daño agregado que las historias individuales no muestran. La pregunta ya no es únicamente «¿qué le ocurrió a esta trabajadora?», sino «¿cuántas veces puede estar ocurriendo y por qué nadie lo ve?».

No toda equivocación automática exige una respuesta colectiva. Un error aislado, reconocido y reparado con rapidez puede resolverse por los canales ordinarios.

La escala tiene varias dimensiones. Está el número de personas, pero también la frecuencia, la duración y la profundidad de la consecuencia. Un sistema de turnos puede perjudicar a cincuenta empleados cada semana; un filtro de contratación puede excluir a miles una sola vez; una puntuación de rendimiento puede acompañar durante años a quien la recibe. Conviene calcular exposición, no solo incidentes confirmados. Si veinte mil personas pasan por un modelo y nadie registra quién pudo desistir antes de reclamar, contar únicamente expedientes formales subestima el alcance real.

También importa la distribución. Un promedio aceptable puede ocultar errores concentrados en jóvenes, personas con discapacidad, quienes cuidan familiares, trabajadores migrantes o quienes desempeñan tareas menos predecibles. El sistema puede acertar en el noventa y ocho por ciento y aun así fallar de forma persistente con un grupo pequeño. Por eso una auditoría útil desagrega resultados, siempre con garantías de privacidad, y busca diferencias en falsas alarmas, penalizaciones, cambios de turno, exclusiones y tiempo de resolución. La precisión global nunca sustituye a la pregunta «¿para quién falla?».

Por qué casi nadie reclama aunque el sistema se equivoque#

El silencio no demuestra conformidad. Una persona puede no reclamar porque desconoce que intervino un sistema, teme represalias, no conserva pruebas, carece de tiempo o supone que nadie revisará el resultado. En trabajos precarios, la posibilidad de perder horas futuras pesa más que recuperar una cantidad pequeña. Además, la reclamación suele individualizar un problema producido en serie: cada trabajador debe narrar desde cero hechos que la organización podría detectar comparando registros. Si el canal exige un esfuerzo repetido a quien soporta el daño, actúa como barrera y no como garantía.

Un recurso efectivo debe ser visible, sencillo y proporcional. La comunicación debería indicar qué decisión se tomó, qué datos influyeron, el efecto concreto, quién puede revisarla y en qué plazo. Para importes o consecuencias pequeñas, una revisión agrupada puede ser más razonable que cien expedientes idénticos. La persona revisora necesita acceso a registros y autoridad para anular el resultado; reenviar una respuesta automática no es supervisión humana. Mientras se revisa, la consecuencia debería suspenderse cuando sea posible, especialmente si afecta a salario, acceso al trabajo o reputación profesional.

La representación colectiva permite descubrir patrones que cada persona ve solo parcialmente. El artículo 64.4.d del Estatuto de los Trabajadores publicado por el BOE reconoce a la representación legal de la plantilla información sobre parámetros, reglas e instrucciones de algoritmos o sistemas de inteligencia artificial que incidan en decisiones capaces de afectar a condiciones de trabajo. La aplicación concreta requiere análisis jurídico, pero el principio operativo es claro: «lo decidió el programa» no basta. Deben poder discutirse finalidad, factores relevantes, consecuencias y controles.

Cómo medir un daño repartido en miles de decisiones#

El primer paso es construir un denominador. No basta con decir que hubo cuarenta quejas; hay que saber cuántas decisiones se emitieron, cuántas personas estuvieron expuestas y cuántas sufrieron una consecuencia. Después se mide la tasa de reversión: qué proporción de decisiones reclamadas terminó corregida. Una tasa alta puede señalar un modelo impreciso o un control previo insuficiente. También se calcula el tiempo y coste de reclamar, porque un sistema que devuelve un euro después de una hora de trámite sigue imponiendo una pérdida.

El segundo paso es buscar acumulación. Una penalización aislada puede ser accidental; varias sobre la misma persona pueden alterar su puntuación, acceso a turnos o continuidad. La evaluación debe sumar efectos monetarios y no monetarios: salario perdido, horas no asignadas, ansiedad, desplazamientos inútiles, oportunidades rechazadas y datos erróneos que se reutilizan. Cuando no pueda ponerse precio a todo, se documenta por separado. Convertir únicamente lo fácil de contar en «impacto» reproduce el mismo punto ciego del sistema.

El tercero es reconstruir el recorrido de una decisión. Se eligen casos normales, errores confirmados y casos dudosos, y se sigue la cadena completa: dato de entrada, regla aplicada, salida, acción humana, notificación y recurso. Esa trazabilidad distingue un problema del modelo de un dato incorrecto o una instrucción organizativa desproporcionada. También muestra dónde puede detenerse el daño. A veces no hace falta sustituir la herramienta: basta impedir que una alerta produzca automáticamente una sanción y exigir comprobación contextual antes de actuar.

La guía de la AEPD sobre protección de datos en las relaciones laborales ayuda a examinar necesidad, proporcionalidad e información cuando se tratan datos de trabajadores. La protección de datos no resuelve por sí sola todas las injusticias laborales, pero obliga a preguntar qué información se recoge, para qué se utiliza, cuánto se conserva y quién accede. Una organización no debería almacenar cada señal disponible «por si acaso» ni reutilizarla después para una finalidad incompatible sin una base y una explicación adecuadas.

Qué debe publicar una empresa sin revelar datos personales#

La transparencia útil no consiste en publicar código ni expedientes individuales. Consiste en ofrecer información suficiente para evaluar el sistema: finalidad, población expuesta, tipo de datos, frecuencia de uso, consecuencias posibles, tasas de error y corrección, grupos de control, responsable y mecanismo de reclamación. Un informe periódico puede mostrar cuántas decisiones se emitieron, cuántas se revisaron, cuántas se anularon y qué cambios se introdujeron. Los datos deben agregarse de forma que no permitan identificar a personas, especialmente en equipos pequeños.

También deben publicarse los límites conocidos. Si la herramienta funciona peor con conexiones inestables, rutas rurales, jornadas discontinuas o datos incompletos, ocultarlo transforma una limitación técnica en una injusticia organizativa. Reconocer el límite permite introducir excepciones, ampliar márgenes o excluir ciertos usos. Una ficha honesta explica qué no debe hacerse con el resultado. El sistema no puede decidir por sí solo una sanción grave, por ejemplo, si fue diseñado únicamente para priorizar una revisión.

El Reglamento europeo de inteligencia artificial clasifica como de alto riesgo determinados usos en empleo, gestión de trabajadores y acceso al autoempleo, con obligaciones que dependen del sistema, el papel de cada actor y el calendario de aplicación. Su valor práctico para una organización es recordar que la supervisión humana, la documentación, la calidad de datos y la gestión de riesgos deben diseñarse antes del incidente. No conviene improvisar una explicación cuando una noticia ya ha revelado el patrón.

En el trabajo mediante plataformas, la Directiva europea 2024/2831 aborda la transparencia y la supervisión humana en la gestión algorítmica, entre otros aspectos. Su transposición y aplicación deben revisarse con asesoramiento actualizado. Aun así, ofrece una lección general: cuando un sistema asigna, vigila, evalúa o limita oportunidades laborales, la organización necesita responsables humanos identificables y procedimientos capaces de revisar decisiones, no solo un buzón técnico administrado por el proveedor.

Un protocolo de respuesta cuando aparece la noticia#

Durante las primeras cuarenta y ocho horas, la empresa debería preservar registros, suspender la regla si existe riesgo de repetición y nombrar a una persona con autoridad para coordinar la revisión. Debe informar de qué se sabe, qué falta por comprobar y cuándo habrá una actualización. Negar el problema porque el importe individual es pequeño suele empeorarlo: comunica que la organización no entiende la escala. Tampoco conviene culpar a un empleado concreto antes de reconstruir el proceso y las instrucciones que recibió.

Después se delimita el universo potencialmente afectado. Se consulta quién estuvo sometido a la misma versión, regla y periodo, no solo quién reclamó. Se realiza una búsqueda proactiva y, cuando corresponda, se corrigen decisiones sin obligar a cada persona a iniciar un expediente. La reparación puede incluir devolver cantidades, restaurar puntuaciones, reasignar oportunidades y eliminar datos derivados del error. Debe abarcar consecuencias posteriores: corregir el descuento sin reparar una baja puntuación acumulada deja vivo el daño.

La investigación debe contar con trabajadores y representación colectiva. Quienes usan el sistema conocen atajos, alertas falsas y tareas invisibles que no aparecen en el contrato del proveedor. Sus testimonios se contrastan con registros, no se tratan como impresiones sin valor. El equipo técnico aporta funcionamiento; recursos humanos y prevención examinan consecuencias; protección de datos revisa tratamientos; y la dirección responde por la decisión organizativa. Reunir perspectivas evita que cada departamento declare que el problema pertenece a otro.

Antes de reactivar la regla se prueba la corrección con casos adversos y se fijan umbrales de retirada. Hay que comprobar qué ocurre ante datos ausentes, desconexión, discapacidad, emergencia familiar o tarea atípica. El control debe medir falsos positivos y diferencias entre grupos, además de productividad. Se establece una revisión próxima y una fecha de caducidad. Si nadie puede explicar qué evidencia demostraría que el sistema debe detenerse, la evaluación está diseñada para justificarlo, no para aprender.

Qué puede hacer una persona afectada y cómo puede ayudar su familia#

La persona trabajadora puede guardar comunicaciones, nóminas, capturas y fechas, y formular una petición concreta: qué decisión se adoptó, qué datos se usaron, qué consecuencia produjo y quién puede revisarla. No necesita adivinar el algoritmo. Si detecta casos parecidos, puede comunicar el patrón a la representación legal o solicitar asesoramiento sindical, laboral o de protección de datos. En decisiones importantes conviene recibir orientación profesional adaptada al caso; este artículo ofrece un método de observación, no sustituye ese asesoramiento.

Una familia puede ayudar a un joven en su primer empleo ordenando la cronología, ensayando preguntas y distinguiendo hechos de hipótesis. También puede recordar límites básicos: no entregar contraseñas, no instalar aplicaciones laborales sin comprender permisos y no difundir capturas con datos de compañeros. Ayudar no significa hablar siempre en su nombre; significa darle herramientas para reclamar con claridad y sin exponerse innecesariamente. Cuando el perjuicio parece pequeño, acompañar el trámite reduce precisamente la barrera que permite que el patrón permanezca oculto.

El detalle decisivo de la noticia, por tanto, no es una máquina misteriosa. Es una arquitectura que multiplica una regla y divide el daño hasta volverlo casi invisible. Una respuesta pública madura vuelve a reunir lo que el sistema separó: suma incidentes, escucha experiencias, identifica responsables y repara de forma colectiva. La buena automatización puede mejorar el trabajo, pero solo merece confianza cuando permite conocer sus límites, discutir sus criterios y corregir una injusticia sin exigir heroísmo a cada persona afectada.