La intel·ligència artificial ha esdevingut una conversa d'anuncis, demostracions i promeses d'estalvi de temps. No obstant això, la pregunta important poques vegades apareix a la primera reunió: quina decisió estem delegant i què perdem en fer-ho? No és una pregunta tècnica. És una pregunta sobre responsabilitat.
La decisió no desapareix en posar-li una pantalla davant
Un sistema automàtic no substitueix una decisió: la desplaça i la fa menys visible. Quan una plataforma ordena currículums, recomana continguts o calcula quin alumne necessita suport, algú ha decidit abans quines dades compten, quin objectiu s'ha d'optimitzar i quin error es considera acceptable. La interfície pot fer una sensació de neutralitat, però darrere hi ha prioritats humanes, pressupostos limitats i una determinada idea del que mereix atenció.
El problema comença quan aquesta cadena es fa invisible. Una persona rebutjada per un filtre, una família que no entén per què rep un avís o un docent que deixa de qüestionar una recomanació no discuteixen amb una màquina abstracta. Estan afrontant una decisió dissenyada per persones que potser no hi seran presents quan aparegui el mal. Anomenar-lo simplement «resultat de l'algorisme» és una manera còmoda de no anomenar qui el pot corregir.
A educació, cultura o serveis públics aquesta distància importa especialment. No n'hi ha prou que l'eina encerti moltes vegades; cal explicar què fa quan s'equivoca, a qui es pot reclamar i quina alternativa existeix per a qui no encaixa a la mitjana. L'eficiència no equival a la justícia, i una predicció útil no es converteix per això en una decisió legítima.
Una forma honesta de comprovar-ho consisteix a imaginar una situació concreta: una adolescent rep una recomanació que l'aparta d'una oportunitat, una família queda fora d'un tràmit perquè la seva informació no encaixa en el formulari o un professional deixa de revisar un cas perquè el panell l'ha marcat com a poc prioritari. Si ningú no pot reconstruir com es va arribar a aquest resultat, l'organització ha perdut una part essencial de la seva capacitat de tenir cura. L'explicació no és un afegit per tranquil·litzar qui protesta; és la condició mínima perquè una decisió que afecta algú segueixi sent revisable.
La promesa més seductora és estalviar la conversa
L'automatització és atractiva perquè ofereix una resposta abans que acabem de formular bé la pregunta. Un centre pot voler detectar absentisme, una entitat pot voler atendre consultes amb més rapidesa i una empresa pot voler reduir tasques repetitives. Són objectius raonables. El risc apareix quan l'eina es compra com a resposta completa i no com a suport que cal discutir, provar i limitar.
Convé començar per casos petits i reversibles. Abans de permetre que un sistema influeixi en una decisió rellevant, cal demanar una prova comprensible: quina informació utilitza, què deixa fora, qui revisa els resultats i què passa si una persona no hi està d'acord. Aquestes preguntes no alenteixen la innovació; eviten que una organització descobreixi massa tard que havia automatitzat una desigualtat que ja existia.
La intel·ligència d'una eina no ens eximeix de pensar: ens obliga a pensar millor sobre les conseqüències de fer-la servir.
També convé distingir entre assistir i substituir. Una aplicació que resumeix documents pot estalviar temps. Un sistema que decideix quin cas es mereix una ajuda està repartint oportunitats. Entre tots dos usos hi ha una frontera ètica i pràctica que no s'hauria d'esborrar amb paraules com ara «optimització» o «objectivitat». Com més gran sigui l'efecte sobre una persona, més gran ha de ser la possibilitat de comprendre, qüestionar i corregir la decisió.
La responsabilitat necessita nom i horari
La pregunta útil no és si la IA és bona o dolenta, sinó qui respon quan falla. Cada projecte hauria de poder contestar amb claredat: qui supervisa el sistema, amb quina freqüència es revisa, quines dades no es faran servir i com es comunica una incidència. Si no hi ha una persona o equip identificat per respondre, l'organització no ha incorporat una eina: ha creat una zona de ningú.
Això no exigeix que tothom es converteixi en especialista. Exigeix una cultura de preguntes senzilles i persistents. Podem fer-ho sense recollir aquesta dada? Què passaria amb algú que parla una altra llengua, que comparteix dispositiu o que no té un historial semblant al de la majoria? Tenim una via humana per revisar un resultat? Les respostes acostumen a revelar més sobre la qualitat d'un projecte que no pas la precisió anunciada pel proveïdor.
La bona governança tecnològica sembla menys a signar una política d'ús i més a mantenir una conversa viva. Implica formar els qui treballen amb l'eina, escoltar els que reben els seus efectes i corregir el disseny quan l'experiència mostra una conseqüència no prevista. Aquesta pràctica pot semblar modesta davant dels grans anuncis sobre automatització, però és on es decideix si la innovació augmenta l'autonomia de les persones o si, per contra, els deixa menys marge per entendre i defensar els drets propis.
La promesa de la intel·ligència artificial pot ser valuosa si es fa servir per ampliar capacitats, no per reduir la responsabilitat a una casella d'acceptació. La tecnologia ens hauria d'ajudar a dedicar més temps a escoltar, contextualitzar i decidir amb cura. Si ens empeny a deixar de mirar les persones afectades, no esteu resolent un problema: l'amagueu darrere d'una pantalla.
Hi ha una conseqüència pràctica d'aquest enfocament: les decisions han de quedar obertes a revisió. Si una persona pregunta com s'ha arribat a un resultat, l'organització ha de poder reconstruir el camí, escoltar l'objecció i corregir-ho. Aquesta traçabilitat no resta capacitat a l'eina; evita que l'eficiència es converteixi en una excusa per abandonar l'obligació d'explicar.
Treballar així exigeix temps, però també evita danys costosos: decisions injustes, confiança perduda i equips que no saben respondre quan falla alguna cosa. La pregunta rellevant no és quant automatitzem, sinó quina mena de responsabilitat mantenim mentre automatitzem.
