La intel·ligència artificial sol presentar-se com una eina neutral: una capacitat disponible per a qui la vulgui usar. però cap tecnologia arriba a un espai buit. Algú defineix els seus objectius, posseeix la infraestructura, fixa les condicions d'ús i decideix quines persones hauran d'adaptar-se. Per això parlar d'intel·ligència artificial és també parlar de poder.

La paraula pot incomodar, encara que no hauria. Poder no significa necessàriament mala intenció. Significa capacitat de decidir i d'afectar. Reconèixer-ho permet fer preguntes que d'altra manera es queden fora: qui participa, qui obté el benefici, qui assumeix el risc i quina opció té qui no hi està d'acord.

Qui dissenya també estableix prioritats

Cada sistema necessita decidir quin compte com a èxit. Pot ser rapidesa, reducció de costos, nombre de respostes o temps d'ús. Aquestes mètriques semblen tècniques, però expressen una prioritat. Si l'èxit és tancar consultes ràpid, potser es perdi la conversa que una persona necessita. Si l'èxit és classificar amb eficiència, potser es simplifiquin trajectòries que no poden en una categoria.

Les decisions de disseny mai són innocents quan afecten altres persones. Per això les organitzacions han de poder explicar quin objectiu persegueixen i quins límits han posat. No n'hi ha prou amb dir que l'eina funciona; cal dir per a qui funciona i què passa quan no funciona.

També importa qui pot qüestionar aquest disseny. Una persona experta pot detectar un problema tècnic; que rep el servei detecta sovint un problema d'experiència, llenguatge o tracte. Tots dos coneixements són necessaris. Deixar fora a un d'ells no simplifica la decisió: la fa més fràgil.

L'elecció no és igual per a tothom

Hi ha usos voluntaris, com provar una eina creativa. I hi ha usos que arriben incorporats a un tràmit, un lloc de treball o un servei necessari. En aquests últims, demanar consentiment no n'hi ha prou si negar-se significa quedar-se sense alternativa. La llibertat necessita una opció real, no una casella que ningú pot marcar sense pagar un cost.

L'accessibilitat és una forma concreta de repartir poder. Mantenir atenció humana, explicar les decisions en llenguatge clar i oferir canals de correcció permet que no només participin els qui saben moure's per una interfície, sinó que protegeix a qui té menys temps, menys recursos o una situació que el sistema no entén.

Això és especialment rellevant amb menors, persones grans i col·lectives exposats a discriminació. Un sistema que sembla igual per a tothom pot engrandir desigualtats si exigeix dispositius, coneixements o dades que no tots poden aportar. L'equitat no consisteix en aplicar la mateixa pantalla a tothom; consisteix en no convertir una diferència d'accés en un desavantatge permanent.

Compartir el control millora les decisions

Compartir control no significa que cada persona hagi d'entendre el model per dins. Significa crear espais on les decisions es puguin explicar, discutir i corregir. Una prova amb persones afectades, una avaluació d'impacte, un protocol d'incidències o una data de revisió són mecanismes senzills per evitar que el poder es quedi tancat en qui compra o configura l'eina.

La transparència serveix quan dóna capacitat d'actuar. Un document incomprensible pot complir una obligació formal i no ajudar ningú. Una explicació útil permet saber què passa, a qui acudir i com demanar un canvi.

Les organitzacions també poden decidir què no faran. No usar dades sensibles quan no són imprescindibles, no crear imitacions de persones reals, no deixar decisions amb conseqüències greus sense revisió humana. Aquests límits expresses tenen més valor que una promesa genèrica d'ús responsable perquè permeten comprovar si es compleixen.

La tecnologia és més justa quan els qui viuen les seves conseqüències tenen una manera real d'influir-hi.

Parlar de poder no obligar a rebutjar la intel·ligència artificial. Obliga a usar-la amb els ulls oberts. Podeu ampliar capacitats i facilitar tasques, però també podeu concentrar decisions en llocs difícils de veure. La diferència depèn de com es dissenyi, s'expliqui i es supervisi.

La propera vegada que una eina sembli inevitable, mereix la pena preguntar qui va decidir que ho fos. Sovint descobrir aquesta resposta obre una possibilitat que semblava tancada: canviar un ajust, exigir una alternativa, escoltar una experiència o simplement no adoptar una solució que no respon a una necessitat real.

Aquest és un bon punt de partida per a una innovació més democràtica: no demanar a les persones que s'adaptin en silenci, sinó construir tecnologies que puguin respondre davant d'elles.

La concentració de poder pot aparèixer quan una plataforma es converteix en la porta d'entrada al coneixement o quan un criteri automàtic deixa de poder qüestionar-se. Evitar aquesta dependència exigeix conservar alternatives, formar l'equip i no confondre comoditat amb renúncia al control.

Compartir procediments i explicar els límits redueix la distància entre qui configura l'eina i qui ha de viure amb ella, i no es tracta de convertir tothom en especialista, sinó d'impedir que el coneixement tècnic sigui una barrera per participar-hi.

Les institucions educatives, culturals i públiques tenen un deure addicional: han de poder justificar les seves decisions davant de persones diverses.

La conversa sobre poder és, al final, una conversa sobre dignitat. Una eina val la pena si deixa a les persones amb més capacitat per comprendre, decidir i reclamar; perd valor si les torna invisibles dins d'un procés que ningú sap explicar.

Aquest compromís comença en una decisió quotidiana: preguntar, explicar i deixar sempre una porta oberta per corregir.