«La nostra intel·ligència artificial elimina el biaix, troba talent ocult i permet decidir amb dades». És una promesa seductora per a qualsevol empresa i especialment perillosa quan afecta contractació, torns, productivitat o acomiadaments. Aquest article ofereix un mètode per llegir-la amb cura: exigir que cada avantatge es converteixi en una afirmació comprovable, identificar qui suporta els errors i conservar una decisió humana amb informació, temps i autoritat reals.

La promesa encara no és una prova#

Imaginem que una empresa de selecció presenta una eina que analitza currículums i entrevistes gravades. Afirma que redueix temps, millora l'objectivitat i descobreix candidats que un equip humà passaria per alt. Cap d'aquestes frases és absurda, però cap demostra per si sola que el producte funcioni en aquest lloc, amb aquesta població i en aquestes condicions. «Objectiu» pot voler dir simplement que s'aplica la mateixa fórmula; una fórmula uniforme també pot repetir desigualtats històriques.

Imaginem que una empresa de selecció presenta una eina que analitza currículums i entrevistes gravades.

La primera feina consisteix a traduir llenguatge comercial en preguntes mesurables. Si promet contractar millor, ha d'aclarir què entén per millor: permanència, rendiment observat, seguretat, satisfacció de l'equip o diversitat. Si promet estalviar un trenta per cent de temps, cal incloure la revisió d'errors, les reclamacions, l'adaptació de persones amb discapacitat i la supervisió que abans no existia. Un estalvi calculat només durant la demostració no descriu el cost complet.

També importa la comparació. Un proveïdor pot anunciar una precisió del noranta per cent sense explicar la tasca, el conjunt de prova ni la gravetat del deu per cent restant. Per a una recomanació formativa, cert error pot ser reparable; per descartar una candidata abans d'entrevistar-la, el mateix percentatge pot tancar centenars d'oportunitats. La mètrica s'ha de relacionar amb una conseqüència concreta i comparar amb el procés actual, no amb una perfecció humana imaginària.

Sis afirmacions que s'han de convertir en evidència#

«Elimina el biaix». Cap sistema demostra neutralitat perquè no utilitzi directament sexe, edat o origen. Un codi postal, una pausa laboral, el tipus de centre educatiu o una manera de parlar poden actuar com a substituts. L'empresa ha de mostrar resultats separats per grups pertinents, explicar quina desigualtat intenta reduir i revisar falsos positius i falsos negatius. Si només lliura una xifra mitjana, pot amagar un resultat excel·lent per a la majoria i molt dolent per a un grup petit.

«És explicable». Una pantalla que mostra una puntuació i tres paraules clau no explica necessàriament res. La persona afectada necessita conèixer els fets rellevants, com van influir i quina informació pot corregir. El responsable ha de comprendre limitacions, incertesa i situacions en què no ha de seguir la recomanació. Una explicació útil permet actuar; una explicació decorativa només fa que una conclusió opaca sembli més amable.

«Hi ha supervisió humana». No n'hi ha prou amb posar algú al final del flux perquè premi acceptar. Aquesta persona ha de rebre les dades originals, poder apartar-se de la recomanació sense càstig, disposar de temps i registrar els motius. Convé mesurar quantes decisions es modifiquen: si no passa mai, potser el sistema és perfecte, però és més probable que la revisió sigui rutinària o que la interfície presenti la puntuació com un veredicte.

«Millora amb el temps». Aprendre no significa necessàriament millorar. Un model pot adaptar-se a decisions anteriors i reforçar justament allò que havia de corregir. Cal deixar constància de quines dades noves entren, qui etiqueta els resultats, quan canvia una versió i com es comprova que la modificació no perjudica un altre grup. Tot canvi rellevant necessita una prova abans del desplegament i la possibilitat de tornar a la versió anterior.

«Compleix la normativa». Un certificat del proveïdor no substitueix les obligacions de l'organització que decideix utilitzar l'eina. Cal conèixer finalitat, base jurídica, informació oferta, conservació, proveïdors secundaris, transferències, seguretat i drets. A més, que un tractament sigui possible des de la protecció de dades no resol per si sol la igualtat, la legislació laboral, la negociació col·lectiva ni les obligacions específiques dels sistemes d'intel·ligència artificial.

«Les dades estan anonimitzades». A la feina és difícil separar un registre de la persona quan inclou torn, ubicació, veu, trajectòria o combinació de tasques. Cal preguntar quins identificadors s'han retirat, qui conserva la taula de correspondència, si és possible tornar a identificar mitjançant encreuaments i quant temps romanen les dades. «Anonimitzat» no es pot utilitzar com una paraula màgica per evitar límits i responsabilitats.

Una prova petita abans de lliurar poder#

La prova pilot ha de començar amb una decisió reversible i un grup prou variat. Abans d'activar-la es registra la situació de partida: temps, errors, abandonaments, reclamacions i diferències entre grups. Després es fixa quin resultat justificaria continuar i quin senyal obligaria a aturar-se. No val canviar la definició d'èxit quan arriben les dades. L'avaluació ha d'incloure qui opera el procés i qui patiria una classificació equivocada.

Convé crear casos de prova que el proveïdor no hagi triat: un currículum amb una pausa per cures, una persona que utilitza tecnologia de suport, un accent minoritari, una connexió deficient, dos perfils equivalents amb formulacions diferents i una dada deliberadament incorrecta. L'objectiu no és enganyar el sistema, sinó descobrir quins supòsits converteixen una diferència innòcua en un desavantatge. Els resultats i les correccions han de quedar per escrit.

L'equip també ha d'assajar el recurs. Una persona demana una explicació, aporta una rectificació i sol·licita aturar la conseqüència. Qui respon? En quants dies? Pot veure l'evidència o només rep una frase estàndard? La rectificació arriba a tots els sistemes on es va copiar la dada? Una via de reclamació que només funciona durant una auditoria anunciada no protegeix ningú en l'activitat quotidiana.

El contracte ha d'explicar la història del pitjor dia#

Les condicions comercials solen descriure el dia ideal. Un contracte responsable contempla dades defectuoses, caiguda del servei, canvi unilateral del model, incident de seguretat, investigació sindical, reclamació d'una candidata i tancament del proveïdor. Ha de garantir accés a registres, avís previ de canvis, assistència per respondre drets, límits de reutilització, auditoria independent i devolució o esborrament verificable en acabar. Sense una sortida practicable, l'organització queda atrapada quan descobreix el dany.

També cal repartir responsabilitats amb noms, no amb verbs impersonals. Una persona interna aprova finalitat i població; una altra controla protecció de dades i seguretat; l'àrea laboral revisa conseqüències; els representants de treballadors participen quan correspon; i algú amb autoritat pot suspendre. El proveïdor explica el producte, però no decideix quin risc és acceptable per a la plantilla. Aquesta decisió pertany a qui exerceix poder sobre el treball.

Què pot preguntar qui rep una decisió#

Una candidata o treballadora no necessita ser enginyera per demanar claredat. Pot sol·licitar quina decisió es va prendre, si hi va intervenir una recomanació automatitzada, quines dades es van fer servir, d'on procedien, quins factors principals hi van influir, qui va revisar el resultat i com corregir informació. Convé guardar l'oferta, les comunicacions, les captures i els documents propis. Una petició concreta acostuma a ser més eficaç que exigir «l'algoritme» sencer.

Quan l'efecte sigui greu —exclusió d'un procés, pèrdua de torns, sanció o acomiadament—, cal demanar que la mesura s'aturi mentre es revisa. La revisió s'ha de basar en evidència independent de la mateixa puntuació. Segons el cas, pot ser útil acudir a representació sindical, delegació de protecció de dades, inspecció laboral o assessorament especialitzat. Aquest article ofereix orientació general i no substitueix consell jurídic individual.

El marc europeu obliga a mirar més enllà de l'eslògan#

El Reglament europeu d'intel·ligència artificial classifica com d'alt risc determinats sistemes destinats a ocupació i gestió de treballadors, inclosos alguns utilitzats per contractar, assignar tasques, avaluar, promoure o acabar relacions laborals. La classificació comporta exigències de gestió de riscos, documentació, registres, qualitat de dades, transparència i supervisió humana. La font primària és el Reglament (UE) 2024/1689, que cal llegir amb les dates d'aplicació i les obligacions de cada actor.

En protecció de dades, el Reglament general de protecció de dades estableix principis de finalitat, minimització, exactitud i responsabilitat proactiva, a més de garanties per a certes decisions exclusivament automatitzades amb efectes jurídics o similars. La col·lecció oficial de guies de l'AEPD ajuda a dissenyar controls. Per al treball en plataformes, la Directiva (UE) 2024/2831 incorpora regles específiques sobre gestió algorítmica.

Una conversa familiar sobre la primera feina#

Moltes persones joves coneixeran aquestes eines en la primera candidatura, pràctica, magatzem, repartiment o centre d'atenció. A casa es pot ensenyar a distingir una puntuació d'un fet, revisar permisos abans de gravar una entrevista, protegir contrasenyes, conservar missatges importants i demanar una explicació concreta sense assumir que reclamar equival a causar problemes. També convé evitar la falsa seguretat de «si no amagues res, no t'afecta»: dades correctes poden rebre una interpretació equivocada.

Llegir una promesa amb cura no significa rebutjar tota tecnologia. Un sistema pot ampliar accés, detectar incoherències o reduir tasques administratives. La qüestió és si l'organització pot demostrar el benefici, reconèixer qui perjudica, corregir l'error i retirar-lo quan no compleix. Abans de comprar una frase com «decisions millors i objectives», demanem finalitat precisa, comparació honesta, proves per grups, recurs real i sortida contractual. Si falta una peça, la promesa encara no està preparada per decidir sobre la vida laboral de ningú.