La Marta obre el correu a les vuit i hi troba un missatge curt: l'empresa on va presentar candidatura ha decidit no continuar amb el procés. No hi ha hagut entrevista ni conversa. Dues setmanes abans havia omplert un formulari amb experiència, disponibilitat, idiomes i una pregunta sobre com resol conflictes. La companyia ha comprat un sistema que ordena milers de sol·licituds i l'anomena eina interna. El nom sembla inofensiu, però per a la Marta la conseqüència no és interna: una porta d'accés a la feina s'ha tancat abans que una persona llegeixi el seu recorregut.
El problema no és negar que una organització hagi de gestionar moltes candidatures. Seleccionar requereix temps, i una eina pot ajudar a ordenar documentació o a detectar si falta un requisit bàsic anunciat de manera clara. La dificultat comença quan el sistema produeix una puntuació, un descart o un ordre de prioritat que afecta persones reals i l'empresa sosté que, perquè ha comprat el programa, pot fixar sola les regles, les dades admissibles i la manera de corregir errors. Una decisió sobre l'accés a l'ocupació no es torna privada perquè passi dins d'una oficina o d'una pantalla.
Dir-ne “ús intern” no esborra els efectes#
Cal seguir tota la cadena. Una candidatura entra en un portal; el proveïdor transforma frases, dates o historials en variables; un model compara les dades amb patrons anteriors; una regla assigna una posició; i algú rep una invitació, una espera indefinida o un rebuig. A cada tram hi ha decisions humanes: quina informació es demana, què es considera un senyal de potencial, quines dades es deixen fora, a quins resultats del passat s'assembla un perfil i quin llindar exclou una persona. Parlar només de la darrera acció —“el sistema ho va recomanar”— amaga les decisions que han fet possible aquella recomanació.
Cal seguir tota la cadena. Una candidatura entra en un portal; el proveïdor transforma frases, dates o historials en variables; un model compara les dades amb patrons anteriors; una regla assigna una posició; i algú rep una invitació, una espera indefinida o un rebuig.
L'empresa pot tenir motius legítims per cercar algú amb una certificació obligatòria o disponibilitat per a un torn anunciat. Però comprovar un requisit objectiu no és el mateix que inferir la capacitat d'una persona a partir de paraules d'una carta, buits en un currículum o semblances amb qui va ser contractat abans. Un historial de contractació pot reflectir preferències antigues, xarxes de contacte, desigualtats d'accés a formació o criteris que mai no van ser encertats, encara que fossin habituals. Quan aquest passat es converteix en patró automàtic, l'eficiència pot conservar una exclusió sense que ningú la formuli obertament.
També pesa l'asimetría de coneixement. La companyia coneix el proveïdor, el contracte, les proves promeses i potser el detall de la puntuació. Qui busca feina només veu un formulari i una resposta final. Si la Marta ha d'endevinar què ha passat, no pot aportar context, corregir una dada ni saber si la vacant exigia realment allò que el sistema ha valorat. L'opacitat no necessita ser un secret voluntari: n'hi ha prou que ningú no hagi dissenyat una explicació accessible perquè el procés deixi de poder-se discutir.
Abans d'implantar-lo, cal preguntar qui assumeix el risc#
Una decisió d'aquest abast no hauria de començar amb una demostració comercial i acabar amb una signatura precipitada. Abans de posar el sistema en funcionament, l'empresa necessita una avaluació que no sigui propietat exclusiva del departament que espera estalviar hores. Hi han de participar persones de selecció, representació laboral quan n'hi hagi, especialistes independents en impacte i protecció de dades, responsables d'accessibilitat i, de manera segura, persones que coneixen les barreres d'entrada al mercat laboral. No es tracta de transformar cada compra en una assemblea interminable; es tracta d'incorporar experiències que el proveïdor no veu quan presenta un quadre de resultats.
La participació pot ser molt concreta. Un grup de candidates, orientadors laborals i organitzacions de persones amb discapacitat pot revisar el formulari i assenyalar quines preguntes obliguen a revelar més del necessari. Persones amb trajectòries no lineals poden comprovar si una pausa per cures, malaltia o migració es converteix injustament en un senyal negatiu. Representants de treballadors poden preguntar si l'eina premia les paraules dels currículums corporatius i castiga experiència adquirida fora de formats convencionals. Aquestes observacions no substitueixen una auditoria tècnica; indiquen on una regla aparentment neutral pot topar amb la vida real.
L'avaluació independent ha de tenir prou accés per ser més que una fotografia de màrqueting. Qui revisi el sistema necessita saber quina tasca s'automatitza, quines dades arriben al proveïdor, quines variables se'n deriven, com es calcula l'ordre i quin marge té l'empresa per ignorar la recomanació. Ha de poder provar casos simulats i revisar resultats per grups rellevants sense exigir que ningú reveli categories sensibles per rebre protecció. Si el proveïdor no permet examinar els elements necessaris per valorar danys, l'empresa no té base per delegar-li una decisió que pot tancar oportunitats laborals.
Una prova responsable no és un filtre amagat#
El primer desplegament hauria de ser limitat, reversible i acompanyat. Durant un període definit, el sistema podria ajudar a agrupar documents segons requisits clarament verificables, però no rebutjar automàticament ni ordenar la llista final. Un equip humà revisaria una mostra àmplia de candidatures que l'eina ha situat amunt, avall i a zones intermèdies. La comparació permetria veure quins casos es perden, quines explicacions ofereix l'eina i quines diferències apareixen entre perfils amb experiències equivalents redactades de maneres diferents.
Els indicadors han de mirar més enllà de la rapidesa. Reduir el temps mitjà de lectura pot ser útil, però no demostra que la selecció sigui justa ni adequada. L'empresa hauria de registrar quantes decisions es corregeixen després d'una revisió humana, quantes persones completen el procés amb suports d'accessibilitat, quines diferències hi ha en les taxes d'avenç i si el sistema tracta de manera desigual trajectòries comparables. També necessita un llindar d'aturada: un resultat que reveli un desavantatge sense explicació, una taxa elevada d'errors o la incapacitat de justificar criteris rellevants ha d'aturar la prova, no inaugurar una diapositiva de “millora contínua”.
La supervisió humana només té valor si disposa de poder i temps. Afirmar que una persona pot revisar una recomanació no serveix de res si rep cinc-centes alertes en una hora, no pot accedir a les dades d'entrada o tem contradir un objectiu de productivitat. Qui revisi ha de conèixer els límits de l'eina, poder demanar informació addicional, apartar-se de la puntuació sense una autorització excepcional i deixar constància del motiu. Així la revisió no és un segell al final del procés: és una intervenció que pot canviar el resultat.
Impugnar no és demanar un favor#
La Marta necessita una via comprensible per qüestionar una exclusió. L'empresa no ha d'entregar el codi ni facilitar informació que permeti manipular candidatures futures. Però sí que ha d'explicar, amb paraules clares, si una eina automatitzada ha participat en la primera classificació, quin tipus d'informació ha influït, quin ha estat l'efecte pràctic i com es pot demanar que una persona revisi el cas. L'explicació ha d'arribar a temps: oferir-la mesos després d'haver cobert la vacant equival a reconèixer un dret quan ja no pot reparar res.
Un mecanisme individual de revisió és imprescindible, però no suficient. Si diverses persones expliquen que una plataforma descarta experiències de cura, no correspon resoldre cada cas com una excepció aïllada. Ha d'existir un canal col·lectiu perquè sindicats, associacions professionals, organitzacions de defensa de drets i grups de candidates puguin aportar evidència, demanar dades agregades i sol·licitar la suspensió d'una regla nociva. Les decisions de classificació s'apliquen a molta gent; per això la resposta no pot dependre només que cadascú tingui temps, coneixements i forces per reclamar en solitari.
La reparació ha de tenir efectes visibles. Pot incloure reobrir una candidatura, corregir informació, repetir una avaluació amb una altra metodologia, mantenir la vacant mentre es revisa el cas o compensar un perjudici quan correspongui. També ha d'alimentar l'aprenentatge: una incidència ben documentada pot mostrar que una variable no era pertinent, que una explicació confonia o que el proveïdor va presentar resultats insuficients. Registrar les troballes, revisar-les en una data i comunicar els canvis adoptats converteix la responsabilitat en una pràctica, no en una clàusula contractual.
Escollir tecnologia també és escollir relacions#
La pregunta decisiva no és si un programa pot ordenar candidatures més de pressa. És quina mena d'accés a l'ocupació accepta construir una organització quan usa aquest programa. Una empresa que comparteix riscos, prova amb límits, escolta qui pot quedar fora i permet impugnar decisions reconeix que contractar no és només optimitzar una llista. És repartir oportunitats, ingressos i temps de vida.
La Marta potser no obtindrà la feina després d'una revisió; una garantia seriosa no promet resultats favorables per defecte. El que ha de poder obtenir és un procés en què la seva candidatura no desaparegui per una regla inexplicable i intocable. Per començar, qualsevol empresa que compri una eina de selecció pot fer quatre coses aquesta setmana: nomenar qui respon pel sistema, publicar una explicació breu per a candidates, obrir un canal de revisió amb terminis i encarregar una avaluació independent abans d'ampliar-ne l'ús. Si no pot sostenir aquestes mesures, encara no està preparada per deixar que una IA invisible influeixi en qui arriba a ser vist.
