La intel·ligència artificial sovint apareix en les converses com una capacitat: redacta, classifica, tradueix, proposa, és una forma còmoda de parlar d'ella perquè ens deixa mirar el resultat i oblidar-nos de tot el que hi ha darrere. Però darrere d'una resposta convincent hi ha decisions humanes, treball humà i, quan alguna cosa surt malament, conseqüències humanes.

La conversa pendent no és tècnica. És una conversa sobre responsabilitat. Sobre qui decideix quina informació entra, quins errors es toleren i a qui s'escolta quan l'eina no entén un context. Si l'observem, correm el risc d'adoptar sistemes que semblen autònoms just perquè hem fet invisible a la gent que els sosté.

L'automàtic sempre té una història

Un sistema no desperta un dia sabent parlar, resumir o recomanar. Aprèn dels materials seleccionats, d'exemples classificats, de decisions sobre quin compte com una resposta útil. Aquestes eleccions poden estar molt lluny de la pantalla que veiem, però no desapareixen. Es queden dins del resultat.

Quan una eina proposa un text, per exemple, no sap si el to és apropiat per a una família que està passant per un problema, si una ironia s'entendrà o si falta una peça essencial del context. Podeu oferir una primera versió. La lectura atenta segueix sent el treball que converteix aquesta versió en comunicació responsable.

Dir «ho ha fet la IA» no explica res. És una frase que podeu descriure un procés, però no allibera a qui publica, signa o pren una decisió. Si un correu humil, si una recomanació exclou o si una dada privada es comparteix, la responsabilitat no es dilueix entre servidors, pantalles i menús de configuració.

En educació, aquest matís és especialment important. Una eina pot assenyalar patrons en els lliuraments, però no coneix la història completa d'una alumna que cuida un familiar, d'un estudiant que aprèn en una segona llengua o d'algú que s'ha bloquejat després d'una mala experiència. Confondre un senyal amb un diagnòstic és una manera molt ràpida de ser injustos.

Qui fa la feina que no veiem

També hi ha feina amagat fora de la nostra organització. Persones que moderen continguts desagradables, revisen etiquetes, comproven respostes, corregeixen errors o aporten materials sense rebre sempre reconeixement. Parlar d'intel·ligència artificial com si fos una màquina que opera sola esborra aquesta cadena de cura i d'esforç.

No cal conèixer tots els detalls de cada proveïdor per adquirir un hàbit sa: preguntar. Què sabem sobre el servei? Quines dades recull? Com permet corregir un resultat? Què passa si demanem que s'elimini informació? Hi ha una persona a la que puguem acudir? Les respostes no han de ser perfectes, però haurien d'existir abans d'usar una eina amb altres persones.

La transparència útil es nota en el concret. No consisteix a omplir una pàgina de termes legals. Consisteix en poder explicar amb paraules normals per què s'usa una eina, què no se li permet fer i quina alternativa té algú que no vol participar. Una explicació honesta també admet límits: «això no ho sabem encara» és millor que aparellar una certesa que no existeix.

En els equips petits es pot començar amb una cosa senzilla: nomenar una persona responsable de revisar cada nou ús durant un període de prova. No per carregar-li tot el pes, sinó perquè hi hagi una porta d'entrada als dubtes. Després, compartir ho après amb la resta. La responsabilitat col·lectiva comença moltes vegades per saber a qui preguntar.

Revisar no és desconfiar: és cuidar

Hi ha qui entén la revisió humana com una fricció que hauria d'eliminar, i jo la veig com el lloc on apareix el criteri, i revisar una resposta no significa tractar a l'eina com a emiga, significa tractar les persones destinatàries com a algú que mereix una resposta pensada.

Una bona revisió cerca tres coses. Primer, exactitud: hi ha dades inventades, referències dubtoses o afirmacions que necessiten comprovar-se? Segon, adequació: Aquest llenguatge serveix per aquest moment i per a aquesta persona? Tercer, impacte: pot aquesta proposta deixar fora a algú, exposar una intimitat o consolidar una idea injusta?

La pregunta més valuosa és: «Quina falta aquí?». Els sistemes generatius són hàbils completant patrons, i per això poden produir textos fluids que semblen complets. Tot i això, l'important sovint és precisament el que no estava en les dades: una circumstància local, una veu minoritària, un dubte que ningú va formular encara.

Aquesta pràctica requereix temps. Convé dir-ho sense envoltiments: no tot estalvi promès és temps realment guanyat. Si una resposta automàtica obliga a verificar-la amb més cura, aquesta cura ha d'estar prevista. El responsable no és automatitzar-lo tot, sinó triar en quina part del procés una ajuda allibera atenció sense rebaixar la qualitat.

Una eina és útil quan amplia la nostra capacitat de cuidar; deixa de ser-ho quan ens ofereix una excusa per no mirar.

La conversa que podem començar avui pot ser breu. La propera vegada que un equip proposi una eina, afegim cinc minuts a la reunió: quin problema resol, quina informació necessita, qui revisarà el resultat, com es corregirà un error i què no estem disposats a delegar. Són preguntes petites, però canvien el sentit de l'adopció.

També podem parlar amb els qui rebran el resultat. En una escola, escoltar famílies i alumnes, en una entitat, escoltar usuaris i els qui atenen incidències. En una empresa, escoltar les persones que tenen feina es reorganitza. L'experiència de qui està al final del procés no és una nota al peu: és la prova de realitat més important.

No necessitem rebutjar cada novetat per defensar la humanitat, i hem de deixar d'utilitzar «automàtic» com sinònim de «invitable»; la intel·ligència artificial pot ser una ajuda valuosa quan la hi col·loca al seu lloc: una eina dins d'una relació de responsabilitat, no una drecera per escapar-ne.