Una decisión automática puede parecer neutral porque llega en forma de puntuación, semáforo o correo generado por una plataforma. Sin embargo, detrás siempre hay elecciones humanas: qué datos cuentan, qué objetivo se optimiza, cuánto error se acepta y quién soporta sus consecuencias. Cuando el sistema filtra candidaturas, reparte turnos, mide productividad o propone un despido, el reto no consiste solo en mejorar el algoritmo. Consiste en conservar un lugar real para escuchar el contexto, corregir una injusticia y asumir responsabilidad. Para una persona joven que entra en el mercado laboral, conocer ese lado humano es una herramienta de protección y también una forma de participar con criterio.

La decisión nunca es solamente de la máquina#

Imaginemos a Lucía, que solicita su primer empleo en un supermercado. Cumple los requisitos, pero una herramienta descarta su candidatura en segundos. Nadie le explica si influyó una palabra del currículo, una laguna laboral, el código postal o una prueba de personalidad. Decir que «lo decidió el sistema» borra a quienes eligieron comprarlo, configurarlo y utilizar su resultado. Una organización sigue siendo responsable aunque contrate tecnología externa. Debe saber para qué sirve, comprobar si discrimina y definir quién puede corregirla. La interfaz no puede convertirse en escondite institucional: una pantalla no firma contratos, no dirige equipos y no responde ante una persona perjudicada.

Imaginemos a Lucía, que solicita su primer empleo en un supermercado. Cumple los requisitos, pero una herramienta descarta su candidatura en segundos.

Automatizar tampoco significa siempre decidir sin personas. Hay herramientas que ordenan información, alertan de anomalías o ofrecen una recomendación. El riesgo aparece cuando esa recomendación se convierte en una orden de hecho. Si un responsable acepta siempre la puntuación porque dispone de veinte segundos, la revisión humana es decorativa. Una intervención auténtica exige tiempo, autoridad, información comprensible y posibilidad de apartarse del resultado sin ser penalizado. Conviene preguntar: ¿quién revisa?, ¿qué evidencia distinta puede consultar?, ¿puede hablar con la persona afectada?, ¿queda registrada la razón de cambiar o confirmar la propuesta? Sin esas respuestas, el botón «validar» solo maquilla una decisión automática.

En qué momentos puede decidir un sistema#

La selección es el ejemplo más visible, pero no el único. Un programa puede decidir qué anuncio ve cada candidato, extraer rasgos de un currículo, puntuar una entrevista grabada o predecir quién abandonará pronto. Ya dentro de la empresa, puede asignar turnos, rutas y tareas; fijar objetivos; comparar tiempos; detectar supuestas conductas anómalas; calcular incentivos; recomendar formación, promoción o sanción. En plataformas de reparto o transporte, una calificación puede reducir encargos o bloquear una cuenta. Cada uso afecta de manera distinta a la igualdad, el salario, la salud y la reputación. Por eso no basta una autorización general para «usar IA»: cada finalidad necesita su propio análisis y sus límites.

La primera pregunta práctica es si el dato tiene relación legítima con el trabajo. Haber atendido bien a un cliente puede ser relevante; dormir poco una noche, vivir lejos o cuidar a un familiar quizá no lo sea. Los datos históricos tampoco son verdad neutral. Si durante años se promocionó menos a mujeres o se asignaron peores turnos a quienes tenían responsabilidades familiares, un modelo entrenado con esos registros puede aprender la desigualdad como si fuera éxito empresarial. Eliminar el sexo no resuelve el problema cuando otras variables funcionan como sustitutos. La prueba seria compara resultados entre grupos, investiga diferencias y modifica o retira el sistema cuando el daño no puede justificarse.

También importa la calidad cotidiana. Un lector de credenciales falla, el GPS pierde señal, una cámara no reconoce un equipo protector o un cliente puntúa mal por prejuicio. Si esos eventos alimentan automáticamente una evaluación, el error pequeño se acumula hasta parecer un patrón. La persona debe poder aportar una explicación: hubo una avería, cambió la ruta por seguridad, ayudó a un compañero o el encargo estaba mal medido. Un buen proceso conserva datos de contexto y permite rectificarlos antes de tomar una medida perjudicial. No exige al trabajador demostrar que una caja negra se equivoca; obliga a la empresa a justificar que su información es adecuada y su conclusión razonable.

Qué significa conservar el lado humano#

La humanidad no consiste en añadir un mensaje amable al rechazo. Significa tratar a la persona como sujeto con voz, no como fila de una tabla. Antes de una decisión importante debería conocer qué se evalúa, con qué finalidad y qué consecuencias puede tener. Después debería recibir una explicación útil: los factores principales, los datos relevantes y el camino para corregirlos. No necesita el código fuente completo para entender que su turno se redujo por una tasa de aceptación calculada con pedidos que nunca llegaron a su teléfono. Una explicación que solo dice «el perfil no alcanza el umbral» no permite aprender, responder ni detectar un fallo.

La revisión humana debe situarse antes de que el daño sea irreversible. Si una cuenta se bloquea y la apelación tarda dos meses, ganar finalmente la reclamación no paga el alquiler perdido. Para decisiones con impacto en ingresos, continuidad o salud hacen falta plazos breves, una vía accesible y, cuando sea posible, suspensión de la medida mientras se revisa. El revisor debe ser distinto de quien diseñó el objetivo y tener capacidad para restaurar turnos, corregir salarios o retirar una sanción. También debe escuchar sin convertir la apelación en una prueba imposible. La pregunta no es solo «¿falló el modelo?», sino «¿es justa esta decisión concreta con toda la información disponible?».

Hay decisiones que no deberían delegarse. Una máquina puede ayudar a localizar incoherencias, pero despedir, sancionar, negar una adaptación por discapacidad o calificar el potencial de una persona requiere especial prudencia. El Reglamento europeo de inteligencia artificial considera de alto riesgo diversos sistemas usados en empleo y gestión laboral. Eso no significa que todo uso esté prohibido, sino que exige gestión de riesgos, calidad de datos, documentación, supervisión humana y otros controles. La norma completa puede consultarse en EUR-Lex: Reglamento (UE) 2024/1689. La obligación práctica es anticipar daños, no esperar a que cientos de personas reclamen.

Derechos que convierten una queja en una respuesta#

La protección de datos aporta reglas esenciales cuando se usan datos personales para perfilar o decidir. El Reglamento General de Protección de Datos establece principios de licitud, transparencia, minimización, exactitud y limitación de finalidad, y regula determinadas decisiones basadas únicamente en tratamiento automatizado con efectos jurídicos o similares significativos. El texto oficial está en EUR-Lex: Reglamento (UE) 2016/679. No toda puntuación activa exactamente el mismo derecho, pero ninguna empresa debería interpretar esa discusión técnica como permiso para ocultar el funcionamiento. Información clara, acceso a los datos, rectificación y evaluación del impacto son controles básicos.

En España existe además una dimensión colectiva. La representación legal de las personas trabajadoras tiene derecho a ser informada sobre los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que inciden en decisiones capaces de afectar a las condiciones de trabajo, el acceso o el mantenimiento del empleo. El texto consolidado del Estatuto de los Trabajadores puede consultarse en el Boletín Oficial del Estado. Esta información permite detectar un problema que una reclamación individual no ve: por ejemplo, que un criterio reduce sistemáticamente horas a un grupo o castiga pausas necesarias para trabajar con seguridad.

Para reclamar conviene documentar hechos, no intentar adivinar el algoritmo. Guarda anuncios, condiciones, mensajes, capturas, horarios, puntuaciones y cambios observables. Anota fechas y consecuencias: «el 4 de mayo mi indicador bajó tras rechazar un turno incompatible con el descanso; desde entonces recibí seis horas menos». Solicita por escrito los datos utilizados, la lógica o factores relevantes, quién tomó la decisión y cómo pedir revisión humana. Corrige datos inexactos y formula una petición concreta: restaurar acceso, recalcular una puntuación, revisar una sanción o explicar una diferencia salarial. Si existe comité de empresa, delegado sindical, canal de protección de datos o inspección laboral, su apoyo puede transformar un caso aislado en una revisión estructural.

Una conversación familiar para el primer empleo#

Madres y padres pueden ayudar sin vigilar ni sustituir al joven. Antes de firmar, conviene leer juntos qué aplicaciones serán obligatorias, qué permisos solicitan y si usan localización fuera de jornada. Preguntas sencillas revelan mucho: ¿cómo se corrige un fichaje erróneo?, ¿quién decide los turnos?, ¿puede una mala valoración del cliente bloquear la cuenta?, ¿hay teléfono o solo formulario?, ¿se puede hablar con una persona? El objetivo no es asustar, sino normalizar que pedir claridad es profesional. Un empleo digitalizado sigue siendo una relación laboral; aceptar una aplicación no equivale a renunciar a la privacidad, al descanso ni a una explicación.

Durante las primeras semanas ayuda llevar un registro privado y proporcionado de horarios, tareas asignadas y comunicaciones relevantes. No es necesario grabarlo todo ni conservar datos de clientes. Basta anotar diferencias que después serían difíciles de reconstruir. Si la aplicación ordena trabajar de forma insegura, la prioridad es detenerse y seguir los canales de prevención, no obedecer para proteger una métrica. Si aparecen ansiedad constante, miedo a desconectarse, competencia destructiva o cambios imprevisibles de ingresos, no debe atribuirse automáticamente a falta de adaptación personal. Puede existir un problema de diseño del trabajo que necesita conversación colectiva y apoyo profesional.

Una buena frase para iniciar la conversación es: «No quiero resolverlo por ti; quiero ayudarte a ordenar lo que pasó». Después pueden separar cuatro capas: el hecho verificable, la interpretación del sistema, la consecuencia y la petición. Por ejemplo: el GPS registró una parada; el sistema la llamó inactividad; se perdió un incentivo; se pide revisar el trayecto y la incidencia. Esta estructura evita discusiones abstractas sobre si la IA es buena o mala. También protege la autonomía del joven: él decide a quién acudir y qué documentación compartir, salvo que haya un riesgo inmediato para su seguridad o una vulneración grave que requiera ayuda urgente.

Cómo debería comprar y gobernar tecnología una empresa#

Una organización responsable empieza por definir el problema sin nombrar una herramienta. Si desea reducir rotación, debe investigar salarios, horarios, mandos y aprendizaje antes de comprar un predictor de abandono. Después concreta qué decisión apoyará, qué datos quedan excluidos, qué nivel de error es tolerable y qué grupos podrían resultar perjudicados. La prueba piloto debe incluir a trabajadores y representantes, medir falsos positivos y falsos negativos y comparar con una alternativa menos invasiva. El proveedor debe explicar limitaciones, cambios de versión, seguridad, subcontratistas y posibilidades de auditoría. «El modelo es propietario» no puede impedir que el empleador cumpla sus obligaciones.

El control continúa después del estreno. Hay que vigilar resultados por centro, turno, modalidad contractual y otros grupos pertinentes; investigar quejas; registrar anulaciones humanas; revisar si las métricas crean atajos peligrosos; y fijar una fecha de retirada. Un sistema puede funcionar en una prueba y deteriorarse cuando cambian la plantilla, la demanda o las condiciones. También puede producir el resultado previsto y seguir siendo indeseable: aumentar velocidad a costa de lesiones no es éxito. El cuadro de mando debe incluir calidad, seguridad, igualdad, estabilidad y experiencia de quienes trabajan. Si solo mide producción, optimizará lo único que sabe ver.

La participación mejora tanto la justicia como la precisión. Quien realiza una tarea conoce excepciones invisibles para el diseñador: una dirección inaccesible, una conversación que evita una devolución o una pausa necesaria para limpiar una máquina. Incorporar ese conocimiento no significa pedir una aprobación simbólica al final, sino intervenir al definir objetivos, probar datos y diseñar reclamaciones. Debe existir una opción real de parar el despliegue. Además, formar a mandos y revisores es decisivo: deben reconocer el sesgo de automatización, pedir evidencia adicional y explicar por qué confirman o corrigen una recomendación. La última firma humana solo tiene valor cuando va acompañada de juicio independiente.

Una prueba sencilla antes de aceptar el resultado#

Ante cualquier decisión automática importante, aplica cinco preguntas. Primera: ¿qué decisión concreta se está tomando y quién responde por ella? Segunda: ¿qué datos se usaron y son exactos, pertinentes y actuales? Tercera: ¿qué daño produciría un error y puede suspenderse mientras se revisa? Cuarta: ¿la persona revisora conoce el contexto y posee autoridad para cambiar el resultado? Quinta: ¿se comprueba el impacto colectivo, además del caso individual? Si falta una respuesta, el proceso no está maduro. La solución puede ser mejorar información, retirar una variable, ampliar el plazo, crear una segunda revisión o dejar de usar el sistema en esa decisión.

El lado humano no es nostalgia por un trabajo sin tecnología. Las decisiones exclusivamente humanas también pueden ser arbitrarias, opacas y discriminatorias. Una herramienta bien limitada puede hacer visibles incoherencias, repartir cargas mejor o recordar controles que antes se olvidaban. La diferencia está en gobernarla: propósito legítimo, datos adecuados, participación, explicación, revisión efectiva y reparación. Para quien empieza a trabajar, aprender a formular preguntas y conservar pruebas es tan importante como dominar una aplicación. Para la empresa, escuchar una impugnación no es un obstáculo a la innovación: es información esencial para saber si su sistema merece seguir decidiendo.