El mito que más enturbia el debate sobre algoritmos laborales dice así: «si decide una máquina, desaparecen los prejuicios humanos». Suena tranquilizador porque presenta el sistema como una balanza neutral, pero confunde cálculo con justicia. Un programa puede aplicar una regla de forma constante y, aun así, heredar datos injustos, medir un sustituto equivocado o imponer prioridades que nadie ha debatido. Entender esta diferencia ayuda a jóvenes, familias y equipos a preguntar con precisión, sin caer ni en el miedo tecnológico ni en la obediencia ciega.

Imaginemos a Diego, de veintidós años, que solicita un puesto de almacén. Completa un vídeo breve y recibe un rechazo automático pocos minutos después. La empresa asegura que el proceso es objetivo porque todos pasan por la misma herramienta. Sin embargo, igualdad de procedimiento no significa igualdad de oportunidad: quizá el modelo aprendió de contrataciones antiguas, penaliza una pausa relacionada con una discapacidad o interpreta una conexión deficiente como falta de interés. La cuestión importante no es si hubo una persona enfadada detrás del rechazo, sino qué criterios produjeron el resultado y si pueden justificarse.

El mito nace de una verdad incompleta#

Los ordenadores sí pueden evitar algunas inconsistencias. No llegan cansados a la entrevista, no cambian de humor entre la primera candidatura y la última y pueden comprobar miles de registros siguiendo las mismas instrucciones. Esa regularidad es valiosa. El error aparece cuando se deduce que una regla constante es necesariamente una regla justa. Un límite de disponibilidad nocturna se aplica igual a todo el mundo, pero puede excluir de forma desproporcionada a quienes cuidan, estudian o dependen de transporte público, aunque la noche no sea esencial para el puesto.

Los ordenadores sí pueden evitar algunas inconsistencias. No llegan cansados a la entrevista, no cambian de humor entre la primera candidatura y la última y pueden comprobar miles de registros siguiendo las mismas instrucciones.

Tampoco existe un dato totalmente bruto. Alguien decide qué recoger, cómo clasificarlo, cuánto tiempo conservarlo y qué ausencias cuentan como falta de rendimiento. Incluso una variable aparentemente sencilla, como paquetes por hora, depende de la zona asignada, el peso, las incidencias, el estado de la maquinaria y la ayuda prestada a compañeros. Cuando el sistema convierte ese número en una puntuación individual, encoge una realidad colectiva. La precisión matemática del cálculo no repara la pobreza de la pregunta.

El modelo, además, suele aprender del pasado. Si las promociones históricas favorecieron a personas disponibles fuera de horario, un sistema puede descubrir que esa disponibilidad predice ascensos sin comprender que refleja una cultura concreta. Si una palabra del currículo se relaciona estadísticamente con candidatos rechazados, puede usarla como señal aunque no tenga relación causal con la competencia. Quitar nombres o sexo no garantiza neutralidad: código postal, pausas profesionales, centro educativo o patrones lingüísticos pueden funcionar como sustitutos.

Objetividad no es lo mismo que ausencia de intención#

Una discriminación algorítmica no necesita que un programador quiera perjudicar. Puede surgir de objetivos mal definidos, muestras incompletas o impactos desiguales. Por eso discutir solo si hubo mala fe nos distrae. En una auditoría responsable se observan resultados: quién queda fuera, con qué frecuencia, en qué condiciones y con qué posibilidad de corrección. También se examina la necesidad: si una variable no es imprescindible para realizar el trabajo, su capacidad predictiva por sí sola no basta para justificarla.

La palabra «inteligencia» añade otra confusión. Estos sistemas no comprenden una trayectoria vital como la comprendería alguien que escucha. Detectan patrones y producen clasificaciones, predicciones o recomendaciones. Una puntuación de riesgo no es una propiedad de la persona; es el resultado de un modelo, unos datos, un umbral y un momento. Puede cambiar si cambia cualquiera de esos elementos. Presentarla como una verdad descubierta convierte una herramienta probabilística en una etiqueta moral.

También importa quién formula el objetivo. Optimizar retención puede parecer favorable, pero si el modelo busca perfiles parecidos a quienes permanecieron años en una empresa hostil, puede excluir a personas que habrían prosperado con mejores condiciones. Optimizar rapidez puede empujar a saltarse pausas. Reducir absentismo puede penalizar derechos de salud. Antes de valorar el algoritmo, hay que escribir en lenguaje corriente qué conducta premia, qué daño podría causar y quién recibe el beneficio.

Una prueba sencilla para desmontar la falsa neutralidad#

Una familia puede enseñar a un joven a hacer cinco preguntas. Primera: ¿qué decisión cambia realmente, una entrevista, un turno, una prima o la continuidad? Segunda: ¿qué datos alimentan el sistema y de dónde salen? Tercera: ¿qué representa la puntuación y qué no puede representar? Cuarta: ¿qué errores se han probado en grupos distintos? Quinta: ¿qué persona puede revisar y modificar el resultado? Si la organización solo responde «es nuestro algoritmo», todavía no ha explicado la decisión.

En el trabajo conviene convertir esas preguntas en una ficha. Se anota la finalidad declarada, población afectada, variables principales, momento de uso, umbral, consecuencia y responsable humano. Después se ensayan casos límite: discapacidad, embarazo, baja médica, nombre cambiado, acento, dispositivo antiguo, conexión inestable, empleo discontinuo o responsabilidades de cuidado. No se busca demostrar de antemano que el sistema falla; se intenta conocer dónde puede fallar antes de que el daño recaiga sobre alguien.

La comparación debe incluir una alternativa. Preguntar si una herramienta tiene un 90 % de acierto no dice si mejora el proceso anterior, si el diez por ciento de errores se concentra en un grupo ni si el error es reversible. Rechazar por equivocación a una candidatura y mostrarle otro anuncio no equivale a despedir a alguien por una alerta defectuosa. Cuanto más grave e irreversible sea la consecuencia, más evidencia, supervisión y capacidad de suspensión hacen falta.

Qué dicen las normas y qué no pueden decidir por nosotros#

El Reglamento europeo de inteligencia artificial clasifica como de alto riesgo ciertos sistemas usados para contratación, selección, condiciones laborales, promoción, despido, asignación de tareas y evaluación del rendimiento. El texto oficial puede consultarse en EUR-Lex, Reglamento (UE) 2024/1689. La clasificación no prueba que todo uso sea injusto, pero reconoce que estas herramientas pueden afectar de forma intensa al sustento y exige gestión de riesgos, documentación, calidad de datos, supervisión humana y vigilancia durante su funcionamiento.

En España, la representación legal de las personas trabajadoras tiene derecho a ser informada sobre parámetros, reglas e instrucciones de algoritmos o sistemas de inteligencia artificial que incidan en condiciones laborales, acceso y mantenimiento del empleo, incluida la elaboración de perfiles. La modificación está publicada en el Boletín Oficial del Estado. Este derecho no convierte automáticamente cada sistema en comprensible, pero impide tratar su funcionamiento como un asunto exclusivamente privado entre empresa y proveedor.

El artículo 22 del Reglamento General de Protección de Datos aborda determinadas decisiones basadas únicamente en tratamiento automatizado que producen efectos jurídicos o afectan significativamente de modo similar. Incluye salvaguardas en los casos aplicables, como intervención humana, expresar el propio punto de vista e impugnar la decisión. Conviene leer el texto oficial del RGPD y evitar promesas universales: no toda herramienta laboral encaja de la misma manera y los hechos concretos importan.

La ley fija un suelo, no responde por sí sola qué trabajo queremos. Una medición puede ser legal y aun deteriorar autonomía, cooperación o salud mental. La investigación conjunta de la Organización Internacional del Trabajo y el Centro Común de Investigación europeo describe beneficios operativos y, a la vez, riesgos de intensificación, vigilancia y pérdida de calidad laboral en sectores reales. El informe está disponible en el repositorio oficial de la OIT.

Cómo debe funcionar una revisión humana de verdad#

Poner a una persona al final no basta. Si solo ve una puntuación, debe resolver cientos de casos por hora o teme ser penalizada por discrepar, su intervención es decorativa. Una revisión real muestra los datos relevantes, explica el criterio, permite escuchar información contextual y concede autoridad para cambiar el resultado. Además deja registro de lo revisado y de la razón de confirmar o corregir, de modo que los errores repetidos alimenten mejoras del sistema.

El canal de reclamación debe ser accesible y seguro. Una persona joven puede guardar anuncio, contrato, política interna, correos, capturas y una cronología de hechos. En lugar de afirmar «la inteligencia artificial me discrimina», resulta más útil escribir: el día concreto cambió mi turno; el responsable atribuyó el cambio a una puntuación; esa puntuación contiene dos ausencias autorizadas; solicito rectificación, explicación y revisión por alguien con capacidad de modificarla. La precisión protege mejor que una acusación imposible de probar.

La organización, por su parte, no debería analizar cada reclamación como excepción aislada. Si varias personas corrigen la misma variable o un grupo recurre con mayor frecuencia, puede existir un problema de diseño. Son indicadores útiles el porcentaje de decisiones modificadas, el tiempo de respuesta, los errores por tipo y grupo, las quejas, los daños y los cambios posteriores. Auditar no es producir un certificado una vez; es observar el sistema mientras cambian los datos, el empleo y las prácticas.

Una conversación familiar sin tecnofobia ni ingenuidad#

Cuando un hijo cuenta que una aplicación le da turnos imposibles o le rechaza, la familia puede escuchar antes de concluir. Quizá sea una decisión automática, una regla empresarial implementada en software o una explicación cómoda del encargado. Se separan hechos, mensajes recibidos y sospechas; después se identifica qué resultado se busca: información, corregir un dato, recuperar horas, revisar una sanción o pedir apoyo. No hace falta comprender el código para exigir un proceso comprensible.

También conviene rechazar el mito opuesto: que todo algoritmo es necesariamente dañino. Un sistema bien delimitado puede detectar incompatibilidades de horarios, repartir cargas de forma más transparente o advertir riesgos de seguridad. La pregunta no es máquina contra humano. Es qué combinación de herramienta, reglas, participación, evidencia y control protege mejor a las personas. Los humanos también se equivocan y discriminan; automatizar puede revelar patrones, pero solo si se mide el impacto y existe voluntad de corregir.

Un acuerdo mínimo antes de implantar debería fijar finalidad, datos permitidos, usos prohibidos, pruebas antes y después, participación laboral, formación, responsable humano, canal de impugnación, plazos, eliminación de datos y criterio de suspensión. También debe prever cambios: actualizar el modelo, ampliar la plantilla o usarlo para otra decisión exige nueva evaluación. Un consentimiento genérico al entrar en la empresa no legitima cualquier vigilancia futura ni sustituye obligaciones laborales y de protección de datos.

La frase que mejora el debate#

En vez de preguntar «¿el algoritmo es objetivo?», conviene preguntar «¿objetivo para qué, medido con qué datos, comparado con qué alternativa y revisable por quién?». Esa frase obliga a concretar. Permite reconocer ventajas sin borrar daños, y señalar riesgos sin convertir la tecnología en un personaje malvado. Sobre todo devuelve las decisiones a su lugar: una organización elige finalidades, umbrales, consecuencias y salvaguardas, aunque compre el software fuera.

Diego no necesita demostrar que una máquina tuvo prejuicios. Puede pedir qué evaluó, cómo influyó, si una persona revisó el rechazo y cómo corregir datos o aportar contexto. La empresa no necesita prometer perfección; debe demostrar que conoce límites, compara resultados, escucha impugnaciones y detiene usos que dañan. El mito de la neutralidad hace el debate más pobre porque cierra preguntas. Abandonarlo no significa desconfiar de toda innovación, sino exigir que el poder de decidir sobre el trabajo permanezca explicable, compartido y responsable.