Una empresa estrena un sistema que reparte turnos, calcula objetivos y recomienda a quién renovar. Durante las primeras semanas todo parece innovación: menos hojas de cálculo, respuestas más rápidas y una planificación ordenada. Seis meses después nadie sabe elaborar el cuadrante sin la plataforma, los responsables aceptan sus puntuaciones aunque no puedan explicarlas y una caída del servicio paraliza el trabajo. La tecnología no se volvió malvada; la organización cruzó, casi sin verlo, la frontera entre usar una herramienta y depender de ella.

Esta frontera importa especialmente a quien empieza a trabajar. Una persona joven puede interpretar cualquier aplicación nueva como una autoridad neutral porque llega acompañada de cifras, gráficos y palabras como inteligencia, optimización o precisión. Sin embargo, un sistema no descubre por sí solo qué significa hacer bien un trabajo. Alguien selecciona los datos, define la meta, decide cuánto error es aceptable y determina quién puede corregir una salida. La pregunta útil no es si la empresa emplea inteligencia artificial, sino qué capacidades conserva el equipo cuando el sistema falla, se equivoca o persigue un objetivo inadecuado.

La Organización Internacional del Trabajo señala que la inteligencia generativa probablemente transformará muchas ocupaciones más que eliminarlas, precisamente porque numerosas tareas siguen necesitando aportación humana. Esa transformación puede mejorar el empleo si existe diálogo, formación y capacidad de intervenir. También puede empobrecerlo si convierte a profesionales en ejecutores que ya no comprenden el proceso. Innovar consiste en aumentar la capacidad humana; depender significa perder alternativas reales.

Una prueba sencilla: ¿qué ocurre cuando el sistema dice no?#

Imaginemos a Sara, técnica recién contratada en una empresa de mantenimiento. Un programa asigna las visitas según distancia, historial y duración prevista. La propuesta ahorra desplazamientos, pero un día coloca una reparación urgente al final porque el cliente nuevo carece de historial. Sara avisa del riesgo. Su coordinador puede abrir los criterios, cambiar el orden y registrar el motivo. Aquí el sistema ayuda: propone, deja huella y admite una decisión profesional mejor informada.

Imaginemos a Sara, técnica recién contratada en una empresa de mantenimiento. Un programa asigna las visitas según distancia, historial y duración prevista.

Ahora cambiemos tres detalles. El coordinador no conoce los criterios, la pantalla no permite alterar la ruta y la dirección penaliza cualquier desviación respecto a la recomendación. Aunque una persona aparezca formalmente en el circuito, no existe supervisión humana efectiva. El supuesto supervisor solo confirma. Si además nadie mantiene una alternativa para planificar durante una avería, la organización depende de un sistema que no puede cuestionar ni sustituir.

Para analizar cualquier herramienta conviene formular cinco preguntas: ¿qué decisión prepara o toma?, ¿qué datos deja fuera?, ¿quién puede detectar un caso excepcional?, ¿quién tiene autoridad y tiempo para cambiar la salida?, ¿cómo continúa el servicio si la herramienta no está disponible? Una respuesta vaga como “lo revisa un responsable” no basta. Hay que identificar un cargo, un canal, un plazo y una acción posible. La supervisión existe únicamente cuando puede modificar el resultado antes de que el daño sea irreversible.

Innovación mejora una capacidad; dependencia sustituye el criterio#

Una hoja de cálculo que detecta incoherencias puede liberar tiempo para hablar con clientes. Un asistente que resume expedientes puede ayudar a localizar antecedentes. Un algoritmo que anticipa carga de trabajo puede facilitar refuerzos. En esos ejemplos la ganancia es concreta, medible y compatible con el conocimiento profesional. Las personas pueden contrastar la propuesta con documentos originales y siguen sabiendo ejecutar la tarea esencial.

La dependencia aparece mediante señales distintas. Primera: pérdida de comprensión. El equipo sabe pulsar botones, pero no puede explicar qué información produce la recomendación. Segunda: pérdida de destreza. Tras unos meses nadie puede completar manualmente una operación crítica, ni siquiera de forma más lenta. Tercera: autoridad desplazada. Contradecir el sistema exige justificar mucho más que obedecerlo. Cuarta: concentración. Datos, instrucciones y soporte pertenecen a un proveedor imposible de sustituir sin detener el servicio. Quinta: ausencia de memoria. Las excepciones resueltas por personas no se documentan y, por tanto, la organización no aprende.

No toda automatización debe tener un duplicado manual permanente. Sería absurdo exigir que cada cálculo complejo pudiera reproducirse con lápiz. La proporcionalidad depende del impacto. Si el sistema corrige el color de una presentación, una interrupción es molesta. Si decide acceso a empleo, salario, evaluación, seguridad o despido, el coste de un error es mayor y la alternativa debe ser más sólida. La Comisión Europea incluye determinados usos de IA en empleo y gestión de trabajadores entre los ámbitos de alto riesgo y destaca obligaciones como trazabilidad, información y supervisión humana. Es una pista práctica: cuanto más afecta una salida a derechos y oportunidades, menos razonable es aceptar una caja cerrada.

Las cuatro capas de una dependencia#

La dependencia técnica es la más visible: servidores, conexión, licencias o formatos propietarios sin los cuales se detiene la actividad. Se reduce con copias utilizables, exportación de datos, procedimientos de continuidad, pruebas de restauración y contratos que aclaren qué sucede al terminar el servicio. Guardar archivos no es suficiente si nadie sabe abrirlos o reconstruir las relaciones entre ellos.

La dependencia cognitiva aparece cuando el equipo deja de practicar juicio profesional. Puede manifestarse en un médico que lee primero una recomendación y después busca confirmarla, un seleccionador que solo entrevista perfiles bien puntuados o un repartidor que sigue una ruta insegura porque la aplicación la ordena. El problema no es consultar una ayuda, sino permitir que ancle la interpretación. Una medida sencilla consiste en resolver una muestra de casos sin ver primero la puntuación automática y comparar después ambas conclusiones.

La dependencia organizativa surge cuando incentivos y jerarquías convierten la recomendación en mandato. Si anularla reduce la evaluación del trabajador, exige un trámite imposible o genera una llamada disciplinaria, el botón de revisión es decorativo. La dirección debe medir también las correcciones acertadas, proteger el desacuerdo razonado y evitar objetivos que premien velocidad a costa de seguridad o calidad.

La dependencia moral es la más peligrosa: “lo decidió el algoritmo” se usa para diluir responsabilidad. Ninguna interfaz puede responder ante una persona perjudicada, valorar circunstancias nuevas o asumir una reparación. Debe existir un responsable humano del resultado y otro del funcionamiento del sistema, con funciones claras. El marco de gestión de riesgos de IA del NIST propone gobernar, mapear, medir y gestionar los riesgos durante todo el ciclo de vida; además insiste en documentar roles y diferenciar responsabilidades en configuraciones humano-IA.

Un semáforo para evaluar una herramienta antes de adoptarla#

En verde, la finalidad está escrita en una frase verificable; por ejemplo, reducir errores de transcripción sin decidir sanciones. Se conoce el origen de los datos, las personas afectadas reciben información comprensible, hay pruebas con casos reales, el equipo conserva acceso a la evidencia original y una persona competente puede corregir la salida. También existe un plan ensayado para incidentes y una fecha de revisión. En estas condiciones, la tecnología puede ampliar capacidad sin secuestrar el proceso.

En ámbar, el proveedor promete precisión pero no explica límites; la organización mide ahorro, aunque no errores por grupos; la revisión depende de pedir un favor; o solo una persona sabe operar sin la aplicación. Estas señales no obligan siempre a cancelar, pero sí a limitar el piloto. Conviene reducir el número de afectados, prohibir decisiones irreversibles, recoger discrepancias y acordar criterios de salida antes de ampliar el uso.

En rojo, nadie puede identificar al responsable, no se puede obtener una explicación suficiente para revisar un caso, faltan registros, las reclamaciones vuelven al mismo resultado automático o una caída paraliza una función crítica sin alternativa. También es rojo usar datos reunidos para otro fin sin evaluar su pertinencia, ocultar la herramienta a quienes soportan sus decisiones o castigar a quien detecta fallos. En ese escenario, desplegar más rápido no es innovación; es transferir riesgo a trabajadores y ciudadanos.

Qué puede pedir una persona trabajadora sin ser especialista#

No hace falta programar para plantear preguntas precisas. Ante una puntuación que afecta a un turno, incentivo o candidatura, se puede pedir: qué función cumple el sistema; qué datos personales y laborales utiliza; qué periodo considera; qué factores no contempla; quién revisa errores; cómo presentar contexto adicional; y cuándo llegará una respuesta humana. Conviene conservar capturas, comunicaciones, resultados anteriores y hechos concretos, sin llevarse datos confidenciales que no corresponda guardar.

Una reclamación eficaz describe la discrepancia en vez de atribuir intenciones: “La puntuación considera tres entregas tardías, pero dos ocurrieron durante una avería registrada; solicito revisión por una persona con autoridad para corregirla”. Si el impacto es colectivo, hablar con representantes de los trabajadores permite observar patrones que un caso aislado no revela. La normativa y los canales concretos varían según país y situación; en decisiones importantes puede ser necesaria orientación sindical, profesional o jurídica.

También cabe preguntar qué formación recibirá el equipo. Un tutorial sobre botones no enseña a supervisar. La formación debe incluir límites conocidos, ejemplos de error, grupos o circunstancias peor representados, señales de deriva, forma de detener el sistema y obligaciones de documentación. Una persona encargada de supervisar necesita tiempo, acceso y protección para discrepar; nombrarla sin esos recursos solo crea una coartada.

Cómo diseñar una salida antes de entrar#

La pregunta “¿cómo dejamos de usarlo?” debe responderse antes de comprar. El plan de salida identifica qué datos pueden exportarse, en qué formato, cuánto tarda la migración, qué conocimiento debe conservarse dentro del equipo y qué tareas críticas requieren procedimiento alternativo. Debe asignar responsables y probarse periódicamente, igual que un simulacro. Una copia que nunca se ha restaurado es una esperanza, no una garantía.

Para procesos sensibles puede mantenerse una muestra manual. No busca competir en velocidad, sino conservar competencia y descubrir desviaciones. Por ejemplo, revisar independientemente un porcentaje de candidaturas, comparar turnos propuestos con fatiga y conciliación, o evaluar expedientes sin mostrar primero la clasificación. Las discrepancias deben alimentar cambios: ajustar criterios, formar al equipo, restringir el uso o retirar la herramienta. Si se recopilan incidencias pero nunca alteran decisiones, la supervisión es teatro.

También hacen falta umbrales de parada definidos de antemano: tasa de errores, quejas sin resolver, impacto desigual, falta de disponibilidad o cambios del proveedor. Sin umbral, cada fallo se presenta como excepcional y el sistema se vuelve permanente por inercia. La verdadera capacidad de innovar incluye poder abandonar una solución que ya no cumple su propósito.

Una conversación familiar sobre el futuro del trabajo#

Madres, padres y educadores pueden preparar a un adolescente sin asustarlo ni prometerle que dominar una aplicación garantizará empleo. Una buena conversación parte de una tarea cotidiana: usar un navegador para elegir ruta, un corrector para escribir o una recomendación para escoger música. Se pregunta qué gana la persona, qué deja de practicar, qué datos entrega, cómo reconoce un error y qué haría sin la herramienta. Después se traslada el razonamiento a un trabajo.

Las competencias resistentes a la dependencia no son solo digitales. Incluyen formular el problema antes de abrir la aplicación, comprobar evidencia, explicar una decisión a otra persona, reconocer incertidumbre, documentar excepciones, cuidar a quien soporta el error y aprender un procedimiento alternativo. Saber usar IA será útil; saber cuándo no obedecerla será igualmente profesional.

Puede proponerse un ejercicio: resolver una tarea primero con ayuda automática y otra vez mediante una fuente primaria; anotar diferencias, tiempo, errores y dudas. El objetivo no es demostrar superioridad humana, sino comprender la división del trabajo. Cuando la herramienta aporta velocidad y la persona conserva contexto, responsabilidad y capacidad de corrección, existe colaboración. Cuando la persona solo presta su nombre para validar una salida incomprensible, existe dependencia.

Lista de comprobación para conservar el mando#

Antes de llamar innovador a un sistema, el equipo debería poder afirmar: conocemos el problema concreto que resuelve; hemos medido beneficios y daños, no solo velocidad; sabemos qué datos usa y qué realidad omite; las personas afectadas entienden su papel; existe una revisión humana accesible que puede cambiar el resultado; se registran discrepancias; se ensaya la continuidad; se mantiene conocimiento interno; hay responsables identificables; y existen condiciones para suspender o retirar el sistema.

Si faltan varias respuestas, no es necesario rechazar toda tecnología. Se puede detener el despliegue, reducir su alcance y convertir esas carencias en requisitos. La prudencia no se opone a innovar: impide que una promesa comercial se convierta en infraestructura incuestionable. La mejor herramienta no es la que decide más cosas, sino la que permite a personas competentes decidir mejor y responder cuando algo sale mal.

Para profundizar, pueden consultarse la actualización de la OIT sobre IA generativa y empleo, la explicación oficial de la Comisión Europea sobre el Reglamento de IA, el Marco de Gestión de Riesgos de IA del NIST y su guía específica sobre interacción y responsabilidades humano-IA.