La excepción no rompe la regla: la explica. Cuando un sistema de selección, seguimiento o reparto funciona para la mayoría, el caso que queda fuera no constituye ruido que deba borrarse. Muestra qué presupuestos contiene la regla, qué información considera válida y quién soporta el coste cuando la realidad no cabe en sus categorías. En el trabajo automatizado, esa diferencia puede decidir un contrato, un turno, una pausa, una evaluación o la posibilidad de seguir obteniendo ingresos.

La excepción no equivale siempre a un error informático. Puede ser una ausencia por enfermedad que parece falta de compromiso, una pausa de seguridad registrada como inactividad o una trayectoria profesional que un filtro confunde con una edad inconveniente. El sistema ejecuta entonces con coherencia una regla insuficiente. La precisión técnica no resuelve esa insuficiencia: una clasificación puede reproducirse sin fallos y seguir siendo injusta porque mide un sustituto pobre, omite contexto o convierte una correlación en consecuencia laboral.

Esta distinción cambia la pregunta de control. No basta con saber cuántas decisiones fueron correctas en promedio. Hace falta observar qué casos discrepan, por qué lo hacen, qué grupos aparecen con más frecuencia entre las discrepancias y si existe una vía efectiva para suspender el daño. Los tres casos siguientes son reales y proceden de actuaciones institucionales. No se presentan como equivalentes jurídicos: pertenecen a países, normas y momentos distintos. Se leen juntos porque revelan un mismo principio de diseño laboral: una regla responsable debe aprender de aquello que no sabe interpretar.

Por qué la excepción revela el diseño real#

Todo sistema de gestión reduce una situación compleja a variables operables. Una herramienta logística registra escaneos, tiempos y recorridos; una plataforma de reparto combina disponibilidad, aceptación y entregas; un filtro de contratación ordena datos de candidatura. Esa reducción puede ayudar a coordinar tareas, pero deja de ser una simple ayuda cuando sus resultados distribuyen oportunidades o sanciones. En ese momento, cada variable expresa una decisión normativa: qué cuenta como rendimiento, qué ausencia se considera legítima, cuánto tiempo parece normal y qué diferencia se trata como sospecha.

Todo sistema de gestión reduce una situación compleja a variables operables. Una herramienta logística registra escaneos, tiempos y recorridos; una plataforma de reparto combina disponibilidad, aceptación y entregas; un filtro de contratación ordena datos de candidatura.

El promedio oculta precisamente la zona donde esas decisiones se vuelven visibles. Si nueve de cada diez registros encajan, el décimo permite examinar el modelo mental incorporado. Tal vez una persona trabajó con un equipo defectuoso, acompañó a alguien nuevo, siguió un protocolo de seguridad, necesitó una adaptación o sufrió una interrupción ajena a su voluntad. Si solo se conserva el número final, el comportamiento prudente puede parecer improductivo. Si se incorpora la explicación, el mismo dato puede descubrir una avería, una mala planificación o una carga imposible.

La revisión humana tampoco sirve cuando se limita a confirmar la pantalla. Debe tener competencia, tiempo, información y autoridad para cambiar el resultado. Una persona revisora necesita conocer la finalidad del indicador, su procedencia, los límites de la comparación y la evidencia aportada por quien resulta afectado. También debe quedar constancia de qué se corrigió. Sin esas condiciones, el recurso se convierte en una segunda ejecución de la misma regla y la apariencia de supervisión encubre la ausencia de decisión real.

Una organización puede comprobar la calidad mediante un registro de excepciones. Cada discrepancia debería describir el dato activador, la consecuencia propuesta, el contexto que faltaba, la decisión final y la modificación preventiva. El registro no tendría que utilizarse para perfilar a la persona, sino para detectar patrones del sistema. Si varias pausas justificadas terminan como inactividad, la cuestión ya no es individual. Si un grupo necesita recurrir más veces para lograr el mismo resultado, el coste de corregir funciona como una desigualdad añadida.

La dignidad laboral aparece en esa capacidad de no quedar reducido al indicador. No exige eliminar toda automatización ni aceptar cualquier explicación sin contraste. Exige proporcionalidad, datos pertinentes, posibilidad de ser oído y una responsabilidad localizable. La excepción se convierte así en una prueba de estrés: si la regla puede reconocerla, detener la consecuencia y aprender de ella, existe gobierno. Si solo la penaliza con mayor rapidez, existe automatización del poder sin contrapeso.

Caso uno: Amazon France y el segundo convertido en señal#

En diciembre de 2023, la autoridad francesa de protección de datos sancionó con 32 millones de euros a Amazon France Logistique. La actuación examinó el uso de escáneres en grandes almacenes franceses. Cada lectura generaba datos con los que se calculaban indicadores sobre calidad, productividad y periodos de inactividad. La autoridad consideró excesivamente intrusiva una parte del seguimiento y señaló, entre otros problemas, la evaluación muy detallada vinculada a cada escaneo y la posibilidad de que interrupciones incluso breves tuvieran que ser justificadas.

El caso muestra cómo una excepción temporal puede explicar la regla entera. Un intervalo sin lectura parece un dato objetivo, pero no contiene su causa. Puede representar desplazamiento, espera, conversación necesaria, problema del dispositivo, reorganización de una tarea o pausa. Cuando el indicador transforma automáticamente el intervalo en sospecha de bajo rendimiento, no descubre una intención; la presupone. La regla real deja de ser «registrar la actividad» y pasa a ser «toda fracción no registrada necesita defensa». El dispositivo convierte la falta de señal en señal contra la persona.

La CNIL no negó que el almacén necesitara datos para planificar, formar o asistir. Su decisión destacó que podían utilizarse datos menos detallados o agregados para determinados fines. Esta diferencia resulta central: una finalidad legítima no autoriza cualquier granularidad. El dato por segundo puede parecer mejor porque es más abundante, aunque aumente la vigilancia sin mejorar una decisión necesaria. La minimización obliga a explicar qué resolución aporta valor y durante cuánto tiempo debe conservarse.

La prueba de excepción para un almacén empezaría por clasificar las interrupciones antes de atribuirlas. Un umbral nunca debería producir por sí solo una advertencia laboral. Tendría que abrir una revisión que contrastara estado del equipo, incidencias de zona, cambios de tarea, formación, seguridad y relato de la persona. Los patrones colectivos también importan: si muchos intervalos aparecen en el mismo pasillo o turno, la hipótesis razonable se desplaza desde la conducta individual hacia la organización del trabajo.

El caso enseña además que la salud no puede tratarse como una desviación estadística. Un ritmo construido con los registros más rápidos puede convertir el extremo en norma y presionar al resto para alcanzarlo. La referencia debería apoyarse en un trabajo seguro y sostenible, no solo en la capacidad máxima observada. La excepción de quien se detiene para evitar un riesgo no rompe la productividad; revela si la definición de productividad incluye el cuerpo que realiza la tarea.

Caso dos: Foodinho y el reparto que no admite contexto#

En junio de 2021, el Garante italiano de protección de datos dictó una orden contra Foodinho, empresa del grupo Glovo, e impuso una sanción de 2,6 millones de euros. La investigación alcanzó a unos 19.000 repartidores. La autoridad describió un tratamiento amplio de datos, desde geolocalización y tiempos de entrega hasta comunicaciones con atención al cliente, valoraciones y nivel de batería. También analizó un sistema de puntuación que podía favorecer a quien aceptaba con rapidez y realizaba más entregas, y penalizar rechazos o falta de conexión en una franja reservada.

Una negativa a un pedido constituye el tipo de excepción que un sistema puede contar sin comprender. El registro confirma que no hubo aceptación, pero no distingue una avería, un riesgo vial, un encargo incompatible, una urgencia, una instrucción contradictoria o una conexión deficiente. Si todas las negativas reducen acceso futuro a trabajo, la plataforma presenta como preferencia libre una decisión tomada bajo presión. La regla premia disponibilidad inmediata, aunque formalmente solo mida fiabilidad.

El Garante señaló carencias de información sobre la lógica y las consecuencias del tratamiento, así como salvaguardas insuficientes para exactitud y equidad. También exigió medidas que permitieran intervención humana, expresión del punto de vista e impugnación de decisiones automatizadas. Esos elementos no forman un apéndice administrativo. Determinan si un dato parcial puede convertirse en pérdida de oportunidades antes de que se incorpore el contexto que lo completa.

Una gestión proporcionada separaría la coordinación inmediata de la valoración laboral duradera. Saber que un pedido necesita otra persona puede ser necesario en segundos; concluir que quien lo rechazó merece menos turnos exige una justificación distinta. La primera decisión resuelve una entrega. La segunda redistribuye ingresos y requiere datos pertinentes, explicación y recurso. Mezclarlas permite que una necesidad operativa breve produzca una sanción acumulativa invisible.

La excepción también descubre la dependencia entre métricas. Geolocalización, tiempo estimado, batería y respuesta pueden parecer señales independientes, aunque procedan de una misma incidencia técnica. Sumarlas como confirmaciones aumenta artificialmente la certeza. Una auditoría debería rastrear esa dependencia, medir falsos positivos y examinar quién queda penalizado por cobertura, dispositivo, discapacidad, responsabilidades de cuidado o exposición a zonas difíciles. El objetivo no sería fabricar un trato especial, sino impedir que condiciones ajenas al desempeño se disfracen de mérito.

El caso Foodinho convierte la impugnación en una medida de calidad. Cada recurso aceptado aporta evidencia sobre una categoría defectuosa. Debería activar corrección individual, restitución de oportunidades perdidas y revisión del modelo. Si el sistema aprende solo de pedidos completados y no de decisiones corregidas, la experiencia institucional desaparece. La excepción vuelve a ocurrir como si fuera nueva y la persona paga repetidamente por un defecto ya conocido.

Caso tres: iTutorGroup y la edad que delató el filtro#

En septiembre de 2023, la Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos anunció un acuerdo de 365.000 dólares con iTutorGroup. Según la demanda de la EEOC, el software de candidatura había sido programado para rechazar automáticamente a mujeres de 55 años o más y a hombres de 60 años o más. Más de 200 candidaturas cualificadas con base en Estados Unidos fueron rechazadas por edad. El acuerdo incluyó compensación y medidas no monetarias, además de seguimiento institucional.

Aquí la excepción no fue un caso fronterizo que el modelo no supo clasificar. Fue la regla discriminatoria expuesta por sus resultados. Una candidatura podía contener experiencia pertinente, disponibilidad y capacidades suficientes; al cruzar un umbral de edad, todo ese contenido dejaba de importar. La aparente eficiencia del filtro ocultaba una decisión de empleo prohibida. La automatización no creó distancia respecto del criterio: permitió aplicarlo de manera uniforme, silenciosa y a escala.

El caso demuestra por qué una tasa global de aciertos sería una defensa inadecuada. Un sistema podría procesar miles de solicitudes y coincidir a menudo con decisiones posteriores, pero el rechazo sistemático de un grupo seguiría siendo material. La evaluación necesita desgloses por edad y sexo, pruebas alrededor de cada umbral y candidaturas equivalentes que varíen solo el atributo protegido. La excepción estadística puede ser pequeña en volumen y absoluta en la vida de quien pierde el acceso.

También debe distinguirse proveedor, herramienta y empleador. Una organización no transfiere su responsabilidad por contratar software. Antes de desplegarlo tendría que documentar criterios, probar resultados, limitar campos, verificar cambios y conservar capacidad de suspenderlo. Durante el uso debería comparar quién avanza, quién queda fuera y qué recursos prosperan. Después de detectar un daño, la reparación no se agota al ajustar el código: alcanza a las personas rechazadas y a las oportunidades que no pudieron disputar.

La revisión individual necesita llegar antes de cerrar la vacante. Un canal que responde meses después puede reconocer el error sin devolver la opción laboral. Por eso deben fijarse plazos, una suspensión de la decisión cuando sea viable y una persona responsable con acceso a la candidatura completa. El mensaje de rechazo debería ofrecer información suficiente para identificar una posible equivocación, sin revelar mecanismos que faciliten fraude ni esconder la razón bajo una fórmula vacía.

iTutorGroup deja una lección especialmente clara: la consistencia no es neutralidad. Una regla aplicada igual en todos los servidores puede discriminar con perfecta estabilidad. La pregunta responsable no consiste en si la máquina se desvió, sino en si el criterio era legítimo, relevante y probado. La excepción —la persona cualificada que desaparece por un dato ajeno a su capacidad— explica la función real del filtro mejor que cualquier descripción comercial.

Cuatro fuentes institucionales y una prueba para decidir#

Las cuatro fuentes permiten reconstruir el argumento sin confundir hechos con interpretación. La CNIL sobre Amazon France Logistique documenta el seguimiento mediante escáneres, la sanción y el criterio de proporcionalidad. El Garante italiano sobre Foodinho describe la puntuación, los riesgos de error o discriminación y las garantías exigidas. La EEOC sobre iTutorGroup recoge la demanda, el acuerdo y las reparaciones. La OIT sobre gestión algorítmica aporta el marco: procedimientos programados coordinan trabajo tanto en plataformas como en centros convencionales y pueden afectar organización y calidad del empleo.

De esas fuentes puede derivarse una prueba en siete preguntas. Primero, debe declararse qué decisión recibe apoyo automático y qué consecuencia puede producir. Segundo, debe identificarse el dato sustituto: escaneo, rechazo, puntuación, edad u otra señal. Tercero, debe anotarse qué causas distintas generan el mismo dato. Cuarto, deben probarse casos límite y grupos potencialmente afectados. Quinto, debe existir revisión humana competente antes de un daño difícil de revertir. Sexto, la corrección individual debe reparar ingresos, turno u oportunidad cuando sea posible. Séptimo, cada excepción confirmada debe modificar la regla, la interfaz, la formación o el umbral.

La prueba debe realizarse antes del despliegue, repetirse tras cambios y continuar durante el uso. Una muestra de casos normales no basta. Se necesitan escenarios adversos: equipo averiado, caída de red, pausa segura, enfermedad, discapacidad, responsabilidad de cuidado, candidatura no convencional y combinación de atributos protegidos. También se requiere observar la carga del recurso. Un procedimiento que exige tiempo, lenguaje técnico o documentación inaccesible desplaza el coste del defecto hacia quien ya sufrió la decisión.

Los indicadores de gobierno deberían incluir más que precisión. Conviene medir tasa de impugnación, proporción de decisiones corregidas, tiempo hasta la reparación, oportunidades restituidas, diferencias entre grupos, reincidencia del mismo error y cambios introducidos. Una tasa alta de correcciones puede revelar una regla pobre; una tasa baja no prueba calidad si nadie conoce el canal o teme represalias. Los datos necesitan acompañarse de entrevistas, representación laboral y revisión de casos cerrados sin respuesta.

La participación de quienes realizan el trabajo aporta conocimiento que no existe en el conjunto de datos. Una persona conoce por qué una ruta se retrasa, cuándo una pausa evita una lesión o qué experiencia no cabe en un formulario. Esa voz no sustituye la evidencia; completa la definición del problema. La representación colectiva ayuda además a detectar patrones que cada individuo percibe como accidente privado. Lo que se repite deja de ser excepción personal y se convierte en señal organizativa.

Una regla digna conserva tres capacidades. Puede explicar con lenguaje comprensible qué dato influyó. Puede detener una consecuencia mientras se revisa un desacuerdo serio. Puede reparar y aprender sin exigir que cada afectado demuestre desde cero un fallo conocido. Estas capacidades cuestan tiempo y recursos, pero ese coste pertenece al sistema que decide automatizar, no a la persona clasificada.

La excepción, por tanto, no es el residuo que queda después de optimizar el promedio. Es la prueba que permite saber qué se está optimizando. Amazon France Logistique mostró el riesgo de convertir intervalos sin escaneo en vigilancia detallada; Foodinho, el de transformar una respuesta sin contexto en acceso desigual a encargos; iTutorGroup, el de aplicar a escala un umbral discriminatorio. En los tres casos, mirar el resultado discrepante reveló una regla que el indicador agregado podía ocultar.

Un trabajo que no renuncia a la dignidad no promete sistemas incapaces de errar. Exige sistemas capaces de reconocer el límite, escuchar la explicación, corregir la consecuencia y cambiar la regla. Cuando esa cadena existe, la automatización permanece subordinada al propósito laboral. Cuando falta, la excepción sigue explicando la regla, pero lo hace a costa de quien quedó fuera.