El que és nou té un avantatge injust: mentre sorprèn, gairebé ningú li demana explicacions. Una eina pot arribar a una reunió amb una interfície impecable, prometre que estalviarà temps i sortir-ne sense que ningú hagi preguntat què canvia a la feina, en la relació amb les persones o en la qualitat d'una decisió.

Amb la intel·ligència artificial passa sovint. La conversa comença per allò espectacular —una imatge en segons, un resum instantani, una resposta que sembla ben escrita— i acaba abans d'entrar en allò important. No es tracta d'apagar la curiositat. Es tracta de no convertir la fascinació en un permís per deixar de pensar-hi.

La prova no és una implantació

Una demostració dura cinc minuts i està dissenyada per ensenyar la millor cara. Una implantació viu dilluns al matí, amb dades incompletes, gent cansada, terminis reals i una persona a qui cal explicar per què una recomanació l'afecta. Són situacions radicalment diferents.

Per això cal canviar la primera pregunta. En comptes de «què pot fer?», val més preguntar «quina tasca concreta volem millorar i com sabrem que no l'hem empitjorat?». Si no hi ha resposta, potser encara no n'hi ha un cas: només hi ha una eina buscant un problema.

L'eficiència no és una finalitat suficient. Estalviar deu minuts pot ser una millora; perdre la possibilitat de detectar un error rellevant, no. El temps alliberat ha de tenir destí: escoltar millor, revisar amb calma, preparar una classe, atendre qui es queda enrere. D'altra manera, la velocitat acaba sent simplement més velocitat.

En un centre educatiu, per exemple, un sistema pot ajudar a ordenar materials o proposar exercicis. Però no pot decidir per si mateix que un alumne «no s'esforça» perquè lliura tard. Hi pot haver darrere una mala connexió, una responsabilitat familiar o una dificultat que cap registre numèric arriba a descriure.

Les conseqüències arriben abans que les vegem

Moltes decisions tecnològiques semblen neutres perquè el seu efecte no és immediat. S'activa una opció per defecte, s'accepta una recomanació automàtica, es deixen entrar dades de més «per si de cas». Després, a poc a poc, aquesta decisió organitza la manera de treballar i deixa de semblar una decisió. Vet aquí el risc.

L'automatització no només executa tasques: distribueix atenció. Si una pantalla destaca uns casos i n'amaga altres, està proposant una prioritat. Si un assistent redacta sempre amb el mateix to, esteu estrenyent l'espai de veus possibles. Si un sistema puntua, algú haurà d'assumir què significa una puntuació i què s'hi farà.

Tot sistema necessita un responsable reconeixible. No n'hi ha prou de dir que «ho ha dit l'eina». Una persona o un equip ha de poder explicar el criteri, corregir-ne el resultat i respondre quan hi hagi un perjudici. Aquesta responsabilitat no és burocràcia: és la condició perquè la confiança tingui on recolzar-se.

També importa quina informació s'utilitza. Abans de pujar documents, noms, imatges o converses a un servei, convé aturar-se. Tenim permís? És imprescindible? Podríem fer el mateix amb menys dades? Aquesta mena de preguntes no retarden el projecte; eviten que el projecte descobreixi massa tard que anava més lluny del que volia.

Un petit protocol per no deixar-se emportar

No cal muntar una comissió interminable per fer servir una eina amb cap. Només cal una prova fitada, una persona responsable i un moment previst per revisar el que s'ha après. La senzillesa és important: els bons criteris han de sobreviure al dia a dia.

Comença per una tasca de risc baix i defineix una línia de sortida. Si el resultat no estalvia temps de veritat, si obliga a corregir més del que aporta o si genera dubtes que ningú no pot resoldre, s'atura. Provar no obliga a continuar; precisament per això serveix una prova.

Documentar una decisió és una manera de cuidar els que vénen després. Anotar què es va fer servir, amb quines dades, què es va revisar i què va fallar permet que una altra persona no hagi de reconstruir-ho tot des de zero. A més, converteix una intuïció en un aprenentatge compartit.

El segon pas és buscar deliberadament qui pugui estar en desacord. No pas per bloquejar qualsevol canvi, sinó per descobrir l'angle que l'entusiasme no veu. La persona que atén usuaris, qui coneix una aula concreta o qui gestiona les dades, sol identificar problemes que no apareixen en una presentació comercial.

La novetat deixa de ser innocent en el moment que afecta algú que no va ser a la sala on es va decidir fer-la servir.

La maduresa consisteix a triar el ritme.Hi ha una pressió constant per no quedar enrere. Però adoptar una tecnologia de pressa no sempre és estar a l'avantguarda; de vegades és delegar el criteri en qui ven la urgència. Una organització madura pot dir «encara no», «només per això» o «necessitem entendre-ho millor».

Convé acordar des del principi què no s'automatitzarà. Les converses difícils, una avaluació que té conseqüències personals, una disculpa, una decisió que afecta un menor o una persona vulnerable necessiten presència i judici. La ferramenta pot preparar informació; no s'ha de convertir en el lloc on deixem la responsabilitat.

Això no és por de la intel·ligència artificial. És respecte per la feina i per les persones que la reben. La tecnologia es mereix una oportunitat quan millora una situació concreta, es pot explicar amb claredat i conserva la possibilitat de rectificar.

La pregunta final, doncs, no és si l'eina és nova ni si sembla inevitable. És més incòmoda i més útil: quan la brillantor de la novetat desaparegui, continuarem defensant aquesta decisió? Si la resposta és sí, hi haurà raons. I si encara no en tenim, el més professional és continuar preguntant.

El canvi important no és adoptar o rebutjar una novetat, sinó conservar el dret de sotmetre-la a prova. Quan una organització documenta els límits, escolta les incidències i revisa les decisions, converteix la innovació en una pràctica d'aprenentatge i no pas en un salt de fe. Aquest és el tipus de confiança que mereix durar.