Una empresa estrena un sistema que reparteix torns, calcula objectius i recomana a qui renovar. Durant les primeres setmanes tot sembla innovació: menys fulls de càlcul, respostes més ràpides i una planificació ordenada. Sis mesos després ningú sap elaborar el quadrant sense la plataforma, els responsables accepten les seves puntuacions encara que no les puguin explicar i una caiguda del servei paralitza la feina. La tecnologia no s'ha tornat malvada; l'organització ha travessat, gairebé sense veure-ho, la frontera entre utilitzar una eina i dependre'n.

Aquesta frontera importa especialment a qui comença a treballar. Una persona jove pot interpretar qualsevol aplicació nova com una autoritat neutral perquè arriba acompanyada de xifres, gràfics i paraules com intel·ligència, optimització o precisió. Tanmateix, un sistema no descobreix tot sol què significa fer bé una feina. Algú selecciona les dades, defineix la meta, decideix quant error és acceptable i determina qui pot corregir una sortida. La pregunta útil no és si l'empresa fa servir intel·ligència artificial, sinó quines capacitats conserva l'equip quan el sistema falla, s'equivoca o persegueix un objectiu inadequat.

L'Organització Internacional del Treball assenyala que la intel·ligència generativa probablement transformarà moltes ocupacions més que no pas les eliminarà, precisament perquè nombroses tasques continuen necessitant aportació humana. Aquesta transformació pot millorar la feina si hi ha diàleg, formació i capacitat d'intervenir. També pot empobrir-la si converteix professionals en executors que ja no comprenen el procés. Innovar consisteix a augmentar la capacitat humana; dependre significa perdre alternatives reals.

Una prova senzilla: què passa quan el sistema diu no?#

Imaginem la Sara, tècnica acabada de contractar en una empresa de manteniment. Un programa assigna les visites segons distància, historial i durada prevista. La proposta estalvia desplaçaments, però un dia col·loca una reparació urgent al final perquè el client nou no té historial. La Sara avisa del risc. El coordinador pot obrir els criteris, canviar l'ordre i registrar-ne el motiu. Aquí el sistema ajuda: proposa, deixa rastre i admet una decisió professional més ben informada.

Imaginem la Sara, tècnica acabada de contractar en una empresa de manteniment. Un programa assigna les visites segons distància, historial i durada prevista.

Ara canviem tres detalls. El coordinador no coneix els criteris, la pantalla no permet alterar la ruta i la direcció penalitza qualsevol desviació respecte de la recomanació. Encara que una persona aparegui formalment en el circuit, no hi ha supervisió humana efectiva. El suposat supervisor només confirma. Si, a més, ningú manté una alternativa per planificar durant una avaria, l'organització depèn d'un sistema que no pot qüestionar ni substituir.

Per analitzar qualsevol eina convé formular cinc preguntes: quina decisió prepara o pren?, quines dades deixa fora?, qui pot detectar un cas excepcional?, qui té autoritat i temps per canviar la sortida?, com continua el servei si l'eina no està disponible? Una resposta vaga com “ho revisa un responsable” no basta. Cal identificar un càrrec, un canal, un termini i una acció possible. La supervisió només existeix quan pot modificar el resultat abans que el dany sigui irreversible.

La innovació millora una capacitat; la dependència substitueix el criteri#

Un full de càlcul que detecta incoherències pot alliberar temps per parlar amb clients. Un assistent que resumeix expedients pot ajudar a localitzar antecedents. Un algoritme que anticipa càrrega de feina pot facilitar reforços. En aquests exemples el guany és concret, mesurable i compatible amb el coneixement professional. Les persones poden contrastar la proposta amb els documents originals i continuen sabent executar la tasca essencial.

La dependència apareix mitjançant senyals diferents. Primera: pèrdua de comprensió. L'equip sap prémer botons, però no pot explicar quina informació produeix la recomanació. Segona: pèrdua de destresa. Al cap d'uns mesos ningú pot completar manualment una operació crítica, ni tan sols més lentament. Tercera: autoritat desplaçada. Contradir el sistema exigeix justificar molt més que obeir-lo. Quarta: concentració. Dades, instruccions i suport pertanyen a un proveïdor impossible de substituir sense aturar el servei. Cinquena: absència de memòria. Les excepcions resoltes per persones no es documenten i, per tant, l'organització no aprèn.

No tota automatització ha de tenir un duplicat manual permanent. Seria absurd exigir que cada càlcul complex es pogués reproduir amb llapis. La proporcionalitat depèn de l'impacte. Si el sistema corregeix el color d'una presentació, una interrupció és molesta. Si decideix accés a feina, salari, avaluació, seguretat o acomiadament, el cost d'un error és més gran i l'alternativa ha de ser més sòlida. La Comissió Europea inclou determinats usos d'IA en ocupació i gestió de treballadors entre els àmbits d'alt risc i destaca obligacions com traçabilitat, informació i supervisió humana. És una pista pràctica: com més afecta una sortida drets i oportunitats, menys raonable és acceptar una caixa tancada.

Les quatre capes d'una dependència#

La dependència tècnica és la més visible: servidors, connexió, llicències o formats propietaris sense els quals s'atura l'activitat. Es redueix amb còpies utilitzables, exportació de dades, procediments de continuïtat, proves de restauració i contractes que aclareixin què passa en acabar el servei. Desar fitxers no és suficient si ningú sap obrir-los o reconstruir les relacions entre ells.

La dependència cognitiva apareix quan l'equip deixa de practicar judici professional. Pot manifestar-se en un metge que llegeix primer una recomanació i després busca confirmar-la, un seleccionador que només entrevista perfils ben puntuats o un repartidor que segueix una ruta insegura perquè l'aplicació l'ordena. El problema no és consultar una ajuda, sinó permetre que ancori la interpretació. Una mesura senzilla consisteix a resoldre una mostra de casos sense veure primer la puntuació automàtica i comparar després les dues conclusions.

La dependència organitzativa sorgeix quan incentius i jerarquies converteixen la recomanació en mandat. Si anul·lar-la redueix l'avaluació del treballador, exigeix un tràmit impossible o genera una trucada disciplinària, el botó de revisió és decoratiu. La direcció també ha de mesurar les correccions encertades, protegir el desacord raonat i evitar objectius que premiïn velocitat a costa de seguretat o qualitat.

La dependència moral és la més perillosa: “ho ha decidit l'algoritme” s'utilitza per diluir responsabilitat. Cap interfície pot respondre davant una persona perjudicada, valorar circumstàncies noves o assumir una reparació. Hi ha d'haver un responsable humà del resultat i un altre del funcionament del sistema, amb funcions clares. El marc de gestió de riscos d'IA del NIST proposa governar, mapar, mesurar i gestionar els riscos durant tot el cicle de vida; també insisteix a documentar rols i diferenciar responsabilitats en configuracions humà-IA.

Un semàfor per avaluar una eina abans d'adoptar-la#

En verd, la finalitat està escrita en una frase verificable; per exemple, reduir errors de transcripció sense decidir sancions. Es coneix l'origen de les dades, les persones afectades reben informació comprensible, hi ha proves amb casos reals, l'equip conserva accés a l'evidència original i una persona competent pot corregir la sortida. També hi ha un pla assajat per a incidents i una data de revisió. En aquestes condicions, la tecnologia pot ampliar capacitat sense segrestar el procés.

En ambre, el proveïdor promet precisió però no explica límits; l'organització mesura estalvi, però no errors per grups; la revisió depèn de demanar un favor; o només una persona sap operar sense l'aplicació. Aquests senyals no obliguen sempre a cancel·lar, però sí a limitar el pilot. Convé reduir el nombre d'afectats, prohibir decisions irreversibles, recollir discrepàncies i acordar criteris de sortida abans d'ampliar-ne l'ús.

En vermell, ningú pot identificar el responsable, no es pot obtenir una explicació suficient per revisar un cas, falten registres, les reclamacions tornen al mateix resultat automàtic o una caiguda paralitza una funció crítica sense alternativa. També és vermell utilitzar dades reunides per a una altra finalitat sense avaluar-ne la pertinència, ocultar l'eina a qui suporta les seves decisions o castigar qui detecta fallades. En aquest escenari, desplegar més ràpid no és innovació; és transferir risc a treballadors i ciutadans.

Què pot demanar una persona treballadora sense ser especialista#

No cal programar per plantejar preguntes precises. Davant una puntuació que afecta un torn, incentiu o candidatura, es pot demanar: quina funció compleix el sistema; quines dades personals i laborals utilitza; quin període considera; quins factors no contempla; qui revisa errors; com presentar context addicional; i quan arribarà una resposta humana. Convé conservar captures, comunicacions, resultats anteriors i fets concrets, sense endur-se dades confidencials que no correspongui guardar.

Una reclamació eficaç descriu la discrepància en lloc d'atribuir intencions: “La puntuació considera tres lliuraments tardans, però dos van passar durant una avaria registrada; sol·licito revisió per una persona amb autoritat per corregir-la”. Si l'impacte és col·lectiu, parlar amb representants dels treballadors permet observar patrons que un cas aïllat no revela. La normativa i els canals concrets varien segons el país i la situació; en decisions importants pot ser necessària orientació sindical, professional o jurídica.

També es pot preguntar quina formació rebrà l'equip. Un tutorial sobre botons no ensenya a supervisar. La formació ha d'incloure límits coneguts, exemples d'error, grups o circumstàncies pitjor representats, senyals de deriva, manera d'aturar el sistema i obligacions de documentació. Una persona encarregada de supervisar necessita temps, accés i protecció per discrepar; nomenar-la sense aquests recursos només crea una coartada.

Com dissenyar una sortida abans d'entrar#

La pregunta “com deixem d'utilitzar-ho?” s'ha de respondre abans de comprar. El pla de sortida identifica quines dades es poden exportar, en quin format, quant triga la migració, quin coneixement s'ha de conservar dins de l'equip i quines tasques crítiques requereixen un procediment alternatiu. Ha d'assignar responsables i provar-se periòdicament, igual que un simulacre. Una còpia que mai no s'ha restaurat és una esperança, no una garantia.

Per a processos sensibles es pot mantenir una mostra manual. No busca competir en velocitat, sinó conservar competència i descobrir desviacions. Per exemple, revisar independentment un percentatge de candidatures, comparar torns proposats amb fatiga i conciliació, o avaluar expedients sense mostrar primer la classificació. Les discrepàncies han d'alimentar canvis: ajustar criteris, formar l'equip, restringir l'ús o retirar l'eina. Si es recullen incidències però mai no alteren decisions, la supervisió és teatre.

També calen llindars d'aturada definits per endavant: taxa d'errors, queixes sense resoldre, impacte desigual, manca de disponibilitat o canvis del proveïdor. Sense llindar, cada fallada es presenta com a excepcional i el sistema es torna permanent per inèrcia. La veritable capacitat d'innovar inclou poder abandonar una solució que ja no compleix el seu propòsit.

Una conversa familiar sobre el futur del treball#

Mares, pares i educadors poden preparar un adolescent sense espantar-lo ni prometre-li que dominar una aplicació garantirà feina. Una bona conversa parteix d'una tasca quotidiana: utilitzar un navegador per triar ruta, un corrector per escriure o una recomanació per escollir música. Es pregunta què guanya la persona, què deixa de practicar, quines dades lliura, com reconeix un error i què faria sense l'eina. Després es trasllada el raonament a una feina.

Les competències resistents a la dependència no són només digitals. Inclouen formular el problema abans d'obrir l'aplicació, comprovar evidència, explicar una decisió a una altra persona, reconèixer incertesa, documentar excepcions, cuidar qui suporta l'error i aprendre un procediment alternatiu. Saber utilitzar IA serà útil; saber quan no obeir-la serà igualment professional.

Es pot proposar un exercici: resoldre una tasca primer amb ajuda automàtica i una altra vegada mitjançant una font primària; anotar diferències, temps, errors i dubtes. L'objectiu no és demostrar superioritat humana, sinó comprendre la divisió del treball. Quan l'eina aporta velocitat i la persona conserva context, responsabilitat i capacitat de correcció, hi ha col·laboració. Quan la persona només presta el seu nom per validar una sortida incomprensible, hi ha dependència.

Llista de comprovació per conservar el comandament#

Abans d'anomenar innovador un sistema, l'equip hauria de poder afirmar: coneixem el problema concret que resol; hem mesurat beneficis i danys, no només velocitat; sabem quines dades utilitza i quina realitat omet; les persones afectades entenen el seu paper; existeix una revisió humana accessible que pot canviar el resultat; es registren discrepàncies; s'assaja la continuïtat; es manté coneixement intern; hi ha responsables identificables; i existeixen condicions per suspendre o retirar el sistema.

Si falten diverses respostes, no cal rebutjar tota tecnologia. Es pot aturar el desplegament, reduir-ne l'abast i convertir aquestes mancances en requisits. La prudència no s'oposa a innovar: impedeix que una promesa comercial es converteixi en infraestructura inqüestionable. La millor eina no és la que decideix més coses, sinó la que permet a persones competents decidir millor i respondre quan alguna cosa surt malament.

Per aprofundir, es poden consultar l'actualització de l'OIT sobre IA generativa i ocupació, l'explicació oficial de la Comissió Europea sobre el Reglament d'IA, el Marc de Gestió de Riscos d'IA del NIST i la seva guia específica sobre interacció i responsabilitats humà-IA.