Marta abre el correo a las ocho y encuentra un mensaje breve: la empresa a la que envió su candidatura ha decidido no continuar con el proceso. No hubo entrevista ni conversación. Dos semanas antes había rellenado un formulario con experiencia, disponibilidad, idiomas y una pregunta sobre cómo resolvía conflictos. La compañía compró un sistema que ordena miles de solicitudes y lo llama una herramienta interna. Ese nombre parece inocente, pero para Marta la consecuencia no es interna: una puerta de empleo se cerró antes de que una persona leyera su recorrido.
El problema no consiste en negar que una organización tenga que gestionar muchas candidaturas. Seleccionar lleva tiempo, y una herramienta puede ayudar a clasificar documentación o a detectar si falta un requisito básico anunciado con claridad. La dificultad empieza cuando el sistema produce una puntuación, un descarte o un orden de prioridad que afecta a personas reales y la empresa pretende que, por haber comprado el programa, puede fijar sola las reglas, los datos admisibles y la forma de corregir los errores. Una decisión sobre acceso al trabajo no se vuelve privada solo porque ocurra dentro de una oficina o de una pantalla.
La etiqueta de “uso interno” no elimina las consecuencias#
Conviene mirar la cadena completa. Una candidatura entra en un portal; el proveedor transforma frases, fechas o historiales en variables; un modelo compara esos datos con patrones anteriores; una regla asigna una posición; y alguien recibe una invitación, una espera indefinida o un rechazo. En cada tramo hay decisiones humanas: qué información se pide, qué se considera señal de potencial, qué datos se descartan, a qué resultados del pasado se parece un perfil y qué umbral excluye a una persona. Hablar únicamente de la última acción —“el sistema recomendó”— borra las decisiones previas que hicieron posible esa recomendación.
Conviene mirar la cadena completa. Una candidatura entra en un portal; el proveedor transforma frases, fechas o historiales en variables; un modelo compara esos datos con patrones anteriores; una regla asigna una posición; y alguien recibe una invitación, una espera indefinida o un rechazo.
La empresa puede tener motivos legítimos para buscar personas con una certificación obligatoria o disponibilidad para un turno anunciado. Sin embargo, no es igual comprobar un requisito objetivo que inferir la capacidad de alguien a partir de palabras usadas en una carta, de lagunas en un currículum o de similitudes con quienes fueron contratados antes. Un historial de contratación puede reflejar preferencias antiguas, redes de contacto, desigualdades de acceso a formación o criterios que nunca fueron buenos, aunque hayan sido frecuentes. Cuando ese pasado se convierte en patrón automático, la eficiencia puede conservar una exclusión sin que nadie la formule expresamente.
También importa la asimetría de conocimiento. La compañía conoce el proveedor, el contrato, las pruebas prometidas y quizá el detalle de la puntuación. Quien busca empleo solo ve un formulario y una respuesta final. Si Marta debe adivinar qué ocurrió, no puede aportar contexto, corregir un dato ni saber si la vacante exigía de verdad lo que el sistema valoró. La opacidad no necesita ser un secreto deliberado: basta con que nadie haya diseñado una explicación accesible para que el proceso se vuelva imposible de discutir.
Antes de implantar, hay que discutir quién asume el riesgo#
Una decisión de este alcance no debería empezar con una demostración comercial y terminar con una firma apresurada. Antes de poner el sistema en producción, la empresa necesita una evaluación que no sea propiedad exclusiva del departamento que espera ahorrar horas. Deben participar personas de selección, representación laboral cuando exista, especialistas independientes en impacto y protección de datos, responsables de accesibilidad y, de forma segura, personas que conocen las barreras de entrar al mercado laboral. No se trata de convertir cada compra en una asamblea interminable. Se trata de incorporar experiencias que el proveedor no ve cuando presenta un panel de resultados.
La participación puede ser concreta. Un grupo de candidatas, orientadores de empleo y organizaciones de personas con discapacidad puede revisar el formulario y señalar qué preguntas obligan a revelar más de lo necesario. Personas con trayectorias no lineales pueden comprobar si una pausa por cuidados, enfermedad o migración se convierte injustamente en una señal negativa. Representantes de trabajadores pueden preguntar si la herramienta premia palabras de currículos corporativos y castiga la experiencia adquirida fuera de formatos convencionales. Estas observaciones no sustituyen una auditoría técnica; muestran dónde una regla aparentemente neutral puede chocar con la vida real.
La evaluación independiente debe tener acceso suficiente para ser algo más que una fotografía publicitaria. Quien revise el sistema necesita conocer qué tarea concreta se automatiza, qué datos llegan al proveedor, qué variables se derivan, cómo se calcula el orden y qué margen tiene la empresa para ignorar la recomendación. Debe poder probar casos simulados y revisar resultados por grupos relevantes, sin exigir a las personas que revelen categorías sensibles para obtener protección. Si el proveedor no permite examinar los elementos necesarios para valorar daños, la empresa no tiene base para delegarle una decisión que puede cerrar oportunidades laborales.
Una prueba responsable no es un filtro oculto#
El primer despliegue debería ser limitado, reversible y acompañado. Por ejemplo, durante un periodo definido, el sistema podría ayudar a agrupar documentos por requisitos claramente verificables, pero no rechazar de forma automática ni ordenar la lista final. Un equipo humano revisaría una muestra amplia de candidaturas que la herramienta situó arriba, abajo y en zonas intermedias. La comparación permitiría preguntar qué casos se pierden, qué explicaciones ofrece la herramienta y qué diferencias aparecen entre perfiles con experiencias equivalentes redactadas de maneras distintas.
Los indicadores deben mirar más que la velocidad. Reducir el tiempo medio de lectura puede ser útil, pero no demuestra que la selección sea justa ni adecuada. La empresa debería registrar cuántas decisiones se corrigen después de una revisión humana, cuántas personas completan el proceso con apoyos de accesibilidad, qué diferencias se observan en las tasas de avance y si el sistema trata de forma desigual trayectorias comparables. También necesita un umbral de parada: un resultado que muestre una desventaja no explicada, una tasa elevada de errores o una incapacidad para justificar criterios relevantes debe detener la prueba, no abrir una diapositiva de “mejora continua”.
La supervisión humana solo vale si tiene poder y tiempo. Decir que una persona puede revisar una recomendación no sirve cuando recibe quinientas alertas en una hora, no puede acceder a los datos de entrada o teme contradecir un objetivo de productividad. Quien revise debe conocer los límites de la herramienta, poder pedir información adicional, apartarse de la puntuación sin autorización excepcional y dejar constancia de por qué lo hizo. De ese modo, la revisión no es un sello al final del proceso: es una intervención capaz de cambiar el resultado.
Impugnar no es pedir un favor#
Marta necesita una vía comprensible para cuestionar una exclusión. La empresa no tiene que entregar el código ni facilitar información que permita manipular futuras candidaturas. Sí debe explicar, con palabras claras, si una herramienta automatizada participó en la primera clasificación, qué tipo de información influyó, cuál fue el efecto práctico y cómo pedir que una persona revise el caso. La explicación tiene que llegar a tiempo: ofrecerla meses después de cubrir la vacante equivale a reconocer un derecho cuando ya no puede reparar nada.
Un mecanismo individual de revisión es necesario, pero no basta. Si varias personas informan de que una plataforma descarta experiencias de cuidado, no corresponde resolver cada caso como una excepción aislada. Debe existir un canal colectivo para que sindicatos, asociaciones profesionales, organizaciones de defensa de derechos y grupos de candidatas puedan aportar evidencia, pedir datos agregados y solicitar que se suspenda una regla dañina. Las decisiones de clasificación se aplican a mucha gente; por eso la respuesta no puede depender solo de que cada persona tenga tiempo, conocimientos y ánimo para reclamar sola.
La reparación debe producir efectos visibles. Puede incluir reabrir una candidatura, corregir información, repetir una evaluación con otra metodología, conservar la vacante mientras se revisa el caso o compensar un perjuicio cuando corresponda. También debe alimentar el aprendizaje del sistema: una incidencia bien documentada puede mostrar que una variable no era pertinente, que una explicación confundía o que el proveedor presentó resultados insuficientes. Guardar esos hallazgos, revisarlos con una fecha y comunicar los cambios adoptados convierte la responsabilidad en una práctica, no en una cláusula de contrato.
Elegir tecnología también es elegir relaciones#
La pregunta decisiva no es si un programa puede ordenar candidaturas más rápido. Es qué clase de acceso al empleo acepta construir una organización cuando usa ese programa. Una empresa que comparte los riesgos, prueba con límites, escucha a quienes pueden quedar fuera y permite impugnar decisiones reconoce que contratar no es solo optimizar una lista. Es distribuir oportunidades, ingresos y tiempo de vida.
Marta quizá no obtenga ese empleo tras una revisión; una garantía seria no promete resultados favorables por defecto. Lo que debe poder obtener es un proceso en el que su candidatura no desaparezca por una regla inexplicable e intocable. Para empezar, cualquier empresa que compre una herramienta de selección puede hacer cuatro cosas esta semana: nombrar a quien responde por el sistema, publicar una explicación breve para candidatas, abrir un canal de revisión con plazos y pedir una evaluación independiente antes de ampliar su uso. Si no puede sostener esas medidas, todavía no está preparada para dejar que una IA invisible influya en quién llega a ser visto.
