«Nuestra inteligencia artificial elimina el sesgo, encuentra el talento oculto y permite decidir con datos». Es una promesa seductora para cualquier empresa y especialmente peligrosa cuando afecta a contratación, turnos, productividad o despidos. Este artículo ofrece un método para leerla con cuidado: exigir que cada ventaja se convierta en una afirmación comprobable, identificar quién soporta los errores y conservar una decisión humana con información, tiempo y autoridad reales.

La promesa no es todavía una prueba#

Imaginemos que una empresa de selección presenta una herramienta que analiza currículos y entrevistas grabadas. Afirma que reduce tiempo, mejora la objetividad y descubre candidatos que un equipo humano pasaría por alto. Ninguna de esas frases es absurda, pero ninguna demuestra por sí sola que el producto funcione en este puesto, con esta población y bajo estas condiciones. «Objetivo» puede significar simplemente que se aplica la misma fórmula; una fórmula uniforme también puede repetir desigualdades históricas.

Imaginemos que una empresa de selección presenta una herramienta que analiza currículos y entrevistas grabadas.

El primer trabajo consiste en traducir lenguaje comercial a preguntas medibles. Si promete contratar mejor, debe aclarar qué entiende por mejor: permanencia, desempeño observado, seguridad, satisfacción del equipo o diversidad. Si promete ahorrar un treinta por ciento de tiempo, hay que incluir la revisión de errores, las reclamaciones, la adaptación de personas con discapacidad y el trabajo de supervisión que antes no existía. Un ahorro calculado solo durante la demostración no describe el coste completo del sistema.

También importa la comparación. Un proveedor puede anunciar una precisión del noventa por ciento sin explicar la tarea, el conjunto de prueba ni la gravedad del diez por ciento restante. Para una recomendación formativa, cierto error puede ser reparable; para descartar a una candidata antes de entrevistarla, el mismo porcentaje puede cerrar cientos de oportunidades. La métrica debe relacionarse con una consecuencia concreta, y debe compararse con el proceso actual, no con una perfección humana imaginaria.

Seis afirmaciones que deben convertirse en evidencia#

«Elimina el sesgo». Ningún sistema demuestra neutralidad por no utilizar directamente sexo, edad u origen. Un código postal, una pausa laboral, el tipo de centro educativo o una forma de hablar pueden actuar como sustitutos. La empresa debe mostrar resultados separados por grupos pertinentes, explicar qué desigualdad intenta reducir y revisar falsos positivos y falsos negativos. Si solo entrega una cifra media, puede estar ocultando un resultado excelente para la mayoría y muy malo para un grupo pequeño.

«Es explicable». Una pantalla que muestra una puntuación y tres palabras clave no necesariamente explica nada. La persona afectada necesita conocer los hechos relevantes, cómo influyeron y qué información puede corregir. El responsable necesita comprender limitaciones, incertidumbre y situaciones en las que no debe seguir la recomendación. Una explicación útil permite actuar; una explicación decorativa solo hace que una conclusión opaca parezca más amable.

«Hay supervisión humana». No basta con colocar a alguien al final del flujo para pulsar aceptar. Esa persona debe recibir los datos originales, poder apartarse de la recomendación sin castigo, disponer de tiempo y registrar sus razones. Conviene medir cuántas decisiones se modifican: si nunca ocurre, quizá el sistema sea perfecto, pero es más probable que la revisión sea rutinaria, que exista presión por objetivos o que la interfaz presente la puntuación como un veredicto.

«Mejora con el tiempo». Aprender no significa necesariamente mejorar. Un modelo puede adaptarse a decisiones anteriores y reforzar precisamente lo que debía corregir. Deben constar qué datos nuevos entran, quién etiqueta los resultados, cuándo cambia una versión y cómo se comprueba que la modificación no perjudica a otro grupo. Todo cambio relevante requiere una prueba antes del despliegue y la posibilidad de volver a la versión anterior.

«Cumple la normativa». Un certificado del proveedor no sustituye las obligaciones de la organización que decide usar la herramienta. Hay que conocer finalidad, base jurídica, información ofrecida, conservación, proveedores secundarios, transferencias, seguridad y derechos. Además, que un tratamiento sea posible desde la protección de datos no resuelve por sí solo la igualdad, la legislación laboral, la negociación colectiva ni las obligaciones específicas de los sistemas de inteligencia artificial.

«Los datos están anonimizados». En el trabajo resulta difícil separar un registro de la persona cuando incluye turno, ubicación, voz, trayectoria o combinación de tareas. Se debe preguntar qué identificadores se retiraron, quién conserva la tabla de correspondencia, si es posible volver a identificar mediante cruces y cuánto tiempo permanecen los datos. «Anonimizado» no puede utilizarse como palabra mágica para evitar límites y responsabilidades.

Una prueba pequeña antes de entregar poder#

La prueba piloto debe empezar con una decisión reversible y un grupo suficientemente variado. Antes de activarla se registra la situación de partida: tiempos, errores, abandonos, reclamaciones y diferencias entre grupos. Después se fija qué resultado justificaría continuar y qué señal obligaría a detenerse. No vale cambiar la definición de éxito cuando llegan los datos. La evaluación debe incluir a quienes operan el proceso y a quienes sufrirían una clasificación equivocada.

Conviene crear casos de prueba que el proveedor no haya elegido: un currículo con una pausa por cuidados, una persona que usa tecnología de apoyo, un acento minoritario, una conexión deficiente, dos perfiles equivalentes con formulaciones distintas y un dato deliberadamente incorrecto. El objetivo no es engañar al sistema, sino descubrir qué supuestos convierten una diferencia inocua en una desventaja. Los resultados y las correcciones deben quedar por escrito.

El equipo debe ensayar también el recurso. Una persona pide explicación, aporta una rectificación y solicita que se pause la consecuencia. ¿Quién responde? ¿En cuántos días? ¿Puede ver la evidencia o solo recibe una frase estándar? ¿La rectificación llega a todos los sistemas donde se copió el dato? Una vía de reclamación que solo funciona durante una auditoría anunciada no protege a nadie en la actividad cotidiana.

El contrato debe contar la historia del peor día#

Las condiciones comerciales suelen describir el día ideal. Un contrato responsable contempla datos defectuosos, caída del servicio, cambio unilateral del modelo, incidente de seguridad, investigación sindical, reclamación de una candidata y cierre del proveedor. Debe garantizar acceso a registros, aviso previo de cambios, asistencia para responder derechos, límites de reutilización, auditoría independiente y devolución o borrado verificable al terminar. Sin salida practicable, la organización queda atrapada precisamente cuando descubre el daño.

También hay que repartir responsabilidades con nombres, no con verbos impersonales. Una persona interna aprueba finalidad y población; otra controla protección de datos y seguridad; el área laboral revisa consecuencias; representantes de trabajadores participan cuando corresponda; y alguien con autoridad puede suspender. El proveedor explica el producto, pero no decide qué riesgo es aceptable para la plantilla. Esa decisión pertenece a quien ejerce poder sobre el trabajo.

Qué puede preguntar quien recibe una decisión#

Una candidata o trabajadora no necesita ser ingeniera para pedir claridad. Puede solicitar qué decisión se tomó, si intervino una recomendación automatizada, qué datos se usaron, de dónde procedían, cuáles fueron los factores principales, quién revisó el resultado y cómo corregir información. Conviene guardar oferta, comunicaciones, capturas y documentos propios. Una petición concreta suele ser más eficaz que exigir «el algoritmo» entero, porque centra la discusión en hechos y consecuencias.

Cuando el efecto sea grave —exclusión de un proceso, pérdida de turnos, sanción o despido—, hay que pedir que la medida se pause mientras se revisa. La revisión debe apoyarse en evidencia independiente de la misma puntuación. Según el caso, puede ser útil acudir a representación sindical, delegación de protección de datos, inspección laboral o asesoramiento especializado. Este artículo ofrece orientación general, no sustituye consejo jurídico individual.

El marco europeo ya exige mirar más allá del eslogan#

El Reglamento europeo de inteligencia artificial clasifica como alto riesgo determinados sistemas destinados a empleo y gestión de trabajadores, incluidos algunos usados para contratar, asignar tareas, evaluar, promover o terminar relaciones laborales. La clasificación trae exigencias de gestión de riesgos, documentación, registros, calidad de datos, transparencia y supervisión humana. La fuente primaria es el Reglamento (UE) 2024/1689, que debe leerse junto con las fechas de aplicación y las obligaciones concretas de cada actor.

En protección de datos, el Reglamento General de Protección de Datos establece principios como finalidad, minimización, exactitud y responsabilidad proactiva, además de garantías para ciertas decisiones exclusivamente automatizadas con efectos jurídicos o similares. La colección oficial de guías de la AEPD ayuda a realizar evaluaciones y diseñar controles. Para trabajo en plataformas, la Directiva (UE) 2024/2831 incorpora reglas específicas sobre gestión algorítmica.

Una conversación familiar sobre el primer empleo#

Muchas personas jóvenes conocerán estas herramientas en su primera candidatura, práctica, almacén, reparto o centro de atención. En casa se puede enseñar a distinguir una puntuación de un hecho, revisar permisos antes de grabar una entrevista, cuidar contraseñas, conservar mensajes importantes y pedir una explicación concreta sin asumir que reclamar equivale a causar problemas. También conviene evitar la falsa seguridad de «si no ocultas nada, no te afecta»: datos correctos pueden recibir una interpretación equivocada.

Leer una promesa con cuidado no significa rechazar toda tecnología. Un sistema puede ampliar acceso, detectar incoherencias o reducir tareas administrativas. La cuestión es si la organización puede demostrar el beneficio, reconocer a quién perjudica, corregir el error y retirarlo cuando no cumple. Antes de comprar una frase como «decisiones mejores y objetivas», pidamos finalidad precisa, comparación honesta, pruebas por grupos, recurso real y salida contractual. Si falta una de esas piezas, la promesa todavía no está preparada para decidir sobre la vida laboral de nadie.