La primera clasificación de Marta no la hizo un algoritmo. La hizo un formulario. En el centro municipal de empleo le explicaron que una nueva plataforma ordenaría las citas y recomendaría itinerarios de formación. Marta abrió el enlace desde su teléfono, mientras esperaba que terminara la clase de su hijo. La pantalla preguntaba por “último empleo” y ofrecía una lista de contratos, empresas y fechas. Durante los dos últimos años ella había limpiado casas por horas, acompañado a su madre después de una operación y vendido comidas los fines de semana. No había una casilla para ello. Marcó “sin actividad” porque era lo único que el sistema aceptaba.
Dos semanas más tarde recibió una recomendación de curso básico y una cita distante. La empleada que la atendió vio una historia demasiado corta: inactividad, disponibilidad alta, poca experiencia reciente. Nada de aquello describía su vida, pero la plataforma trataba la ausencia de un campo como ausencia de trabajo, responsabilidad o habilidad. El problema no era que un modelo hubiera descubierto un patrón perverso; era que la persona ya había quedado reducida antes de que el modelo recibiera una fila de datos.
El formulario decide quién resulta legible#
Cuando se habla de sesgo algorítmico, suele mirarse el resultado final: quién recibió una oferta, quién quedó fuera o qué grupo obtiene una puntuación peor. Esa revisión es necesaria, pero llega tarde si el formulario inicial ya obliga a unas vidas a caber en casillas estrechas. Cada campo determina qué experiencias podrán contar como evidencia. Cada menú cerrado define una versión de la realidad que será fácil de procesar. Y cada pregunta imposible traslada a la persona el coste de una simplificación institucional.
Cuando se habla de sesgo algorítmico, suele mirarse el resultado final: quién recibió una oferta, quién quedó fuera o qué grupo obtiene una puntuación peor.
El trabajo informal no es una anécdota estadística. Puede incluir ingresos irregulares, colaboración familiar, tareas de reparto, cuidados remunerados sin contrato o empleos que se interrumpen por una enfermedad. Los cuidados no remunerados tampoco son un vacío: requieren organización, conocimientos, desplazamientos, negociación y tiempo. Si un sistema solo reconoce aquello que deja una huella administrativa convencional, premia a quien ya ha podido documentar su trayectoria y castiga a quien tuvo que sostener su vida fuera de ese carril.
La consecuencia aparece en cadena. Una etiqueta de inactividad puede reducir la prioridad de una cita, limitar las ofertas que se muestran, disparar una alerta de “baja vinculación” o activar una recomendación que no corresponde. Después la organización interpreta esas decisiones como si fueran observaciones neutrales sobre la persona. Así se fabrica un círculo: la interfaz no recoge un hecho, la decisión usa ese vacío y el resultado parece confirmar que no había nada que recoger.
Preguntar qué no puede decirse#
Auditar un sistema no debería empezar solo con tablas de resultados. También debe incluir una prueba de lenguaje y de posibilidad. ¿Qué contestaría alguien que trabaja por horas para varias familias? ¿Dónde registra una persona que dejó un empleo para cuidar a un hijo o a un familiar dependiente? ¿Puede explicar que no tiene nómina pero sí referencias, recibos, habilidades o una red de clientes? Si la respuesta es “llame a este número” o “coméntelo en la entrevista”, el diseño ha desplazado información esencial a un canal más lento y menos seguro.
La prueba debe hacerse con personas que conocen esas situaciones, no únicamente con quienes diseñaron el catálogo de opciones. Conviene observar el momento en que alguien duda: si interpreta “inactividad” como una acusación, si teme que declarar una situación irregular le cierre puertas, si abandona porque no entiende qué prueba sería aceptada. Esos tropiezos son hallazgos de diseño. No se corrigen añadiendo una nota amable al pie de página, sino cambiando los campos, las ayudas y las reglas que usan sus respuestas.
Una solución responsable no exige convertir una vida en un expediente infinito. Puede ofrecer categorías amplias, una opción de descripción breve y una forma de adjuntar o presentar evidencia alternativa. Lo importante es que el sistema distinga entre “no consta”, “no se preguntó”, “la persona no desea declarar” y “no aplica”. Son estados distintos. Mezclarlos en un cero silencioso es una decisión, no una limitación técnica inevitable.
La corrección debe tener fecha y responsable#
Marta pulsó “solicitar corrección” cuando descubrió el problema. El mensaje de confirmación decía que su petición se registraría, sin indicar quién la leería, qué dato podía modificarse ni si la cita se revisaría antes del curso asignado. Una corrección sin plazo puede ser una bandeja de sugerencias: existe, pero no protege a quien necesita que una decisión cambie a tiempo.
Un mecanismo útil empieza por devolver una copia legible de lo que el sistema entendió. La persona debe poder ver los campos utilizados, señalar el que no representa su situación y aportar una explicación en lenguaje corriente. Debe saber qué pruebas son admisibles, incluso cuando no hay contrato: una declaración, referencias, un calendario de cuidados, recibos o la conversación con un profesional. No todas esas pruebas tendrán el mismo peso, pero ninguna debería quedar excluida por no parecerse a una nómina.
Después hace falta una respuesta fechada. Por ejemplo: confirmación inmediata de recepción, revisión humana en cinco días laborables y decisión antes de ejecutar una exclusión o de cerrar una vacante relevante. Si no puede resolverse a tiempo, la medida prudente es no empeorar la posición de la persona con el dato discutido. Esto no equivale a aceptar cualquier afirmación sin contraste. Significa reconocer que una clasificación dudosa no debe producir un daño irreversible mientras se investiga.
El responsable también importa. “El sistema” no puede contestar una pregunta ni explicar una regla. La organización debe nombrar un equipo o una función con capacidad de corregir el registro, modificar el itinerario y documentar el motivo. Cuando una persona recibe una negativa, necesita saber qué evidencia faltó, qué otra evidencia sería útil y cómo pedir una segunda revisión. Una respuesta genérica protege el proceso; una respuesta concreta permite que el proceso aprenda.
Mirar los vacíos como señales de desigualdad#
La mejora no termina al añadir una casilla de cuidados. Hay que medir qué ocurre después. El centro puede registrar cuántas personas usan la corrección, qué campos se cuestionan, cuánto tarda cada caso y si las recomendaciones cambian tras completarse la información. También debería comparar el abandono y la asignación de oportunidades entre quienes siguen la ruta estándar y quienes declaran trayectorias no convencionales. Si la segunda ruta tarda más, recibe menos citas o termina con menos ofertas, la desigualdad ha cambiado de lugar, no ha desaparecido.
Es importante revisar estos datos con cautela. Una categoría de trabajo informal puede revelar una situación vulnerable si se comparte sin límites. Por eso la auditoría debe recoger lo necesario, restringir el acceso y separar el uso de apoyo del uso punitivo. Declarar cuidados para explicar una pausa laboral no puede transformarse en una excusa para descartar a alguien por disponibilidad presunta. El propósito declarado de un campo tiene que imponer límites reales a quienes lo consultan.
También conviene mantener un registro de cambios. Si el formulario añade una opción, alguien debe comprobar a los tres meses si la gente la encuentra, si la entiende y si la respuesta abre una vía efectiva. Las decisiones sobre vocabulario, pruebas y plazos no son detalles de interfaz; son políticas de acceso. Dejarlas sin revisión permite que una buena intención se convierta otra vez en un botón escondido.
El próximo paso concreto para un servicio de empleo es sencillo y exigente: tomar una solicitud real, pedir a cinco personas con trayectorias laborales distintas que la completen y anotar cada dato que no pudieron expresar. Por cada ausencia, el equipo debe decidir si crea un campo, una evidencia alternativa o una revisión humana, y publicar un plazo de corrección. La justicia no empieza cuando el algoritmo calcula mejor. Empieza cuando nadie tiene que llamarse “inactiva” para poder continuar.
