Acceptar una resposta automàtica no demostra, per si sol, que hi hagi hagut una elecció lliure i informada. Una recomanació d'un assistent, una classificació en pantalla o una resposta generada en un tràmit pot arribar amb aparença de certesa, amb poc temps i sense una explicació comprensible. En aquestes condicions, prémer un botó, seguir un suggeriment o no objectar pot expressar cansament, urgència o manca d'alternativa, i no pas consentiment. La intel·ligència artificial quotidiana obliga a distingir l'acció registrada pel sistema de la capacitat real de decidir de la persona afectada.
Consentiment abans de la resposta automàtica#
El consentiment té condicions: informació suficient, una finalitat concreta, una possibilitat raonable de rebutjar i una via per canviar de decisió sense un càstig desproporcionat. Quan una eina automàtica apareix dins d'un servei essencial, aquestes condicions són més exigents. Qui necessita acabar una sol·licitud, conservar una cita o rebre una prestació no té la mateixa llibertat que qui prova una aplicació d'oci. La interfície no hauria de presentar una acceptació ràpida com a prova de comprensió. Cal explicar què fa el sistema, quines dades utilitza, quins límits té i quina persona o organització respon pel resultat.
El consentiment té condicions: informació suficient, una finalitat concreta, una possibilitat raonable de rebutjar i una via per canviar de decisió sense un càstig desproporcionat.
També cal separar consentiment i comoditat administrativa. Recollir un clic pot facilitar una auditoria, però no elimina la responsabilitat de dissenyar opcions clares. Un text llarg, un avís al final d'una pàgina o una negativa que obliga a repetir el recorregut fabriquen acords aparents. La pregunta útil no és si hi ha una casella marcada, sinó si una persona amb temps limitat, coneixements ordinaris i un dispositiu imperfecte podria entendre la decisió i triar una altra via. Les organitzacions han de comprovar-ho amb persones diferents i en condicions reals.
Cas 1: l'ajuda escolar que semblava obligatòria#
En un institut, una plataforma oferia fer esquemes i respondre preguntes de lectura. L'accés s'activava en acceptar un avís general a l'inici del curs. Diverses famílies van entendre que era un requisit per lliurar tasques, tot i que el centre havia previst una alternativa. L'avís no l'esmentava, no separava suport voluntari i avaluació, i apareixia durant una configuració amb moltes pantalles. L'elecció rellevant havia quedat amagada. El centre va aturar l'activació, va lliurar una explicació breu en paper i en línia, va indicar quina informació sortia de l'aula i va habilitar una activitat equivalent sense assistent.
La correcció va incloure una conversa amb alumnat, docents i famílies. Algunes persones valoraven l'ajuda per ordenar idees, mentre que d'altres temien que la resposta automàtica substituís l'aprenentatge. La regla resultant no va ser prohibir ni imposar. L'eina va quedar disponible per a exercicis definits, amb un avís visible que la resposta s'havia de revisar i amb una ruta alternativa igualment vàlida. L'acceptació es podia retirar durant el curs. El cas mostra que el consentiment no és un acte únic: s'ha de revisar quan canvien l'ús, les conseqüències o la relació de dependència.
Cas 2: la recomanació sanitària sense context#
En un centre de salut, un portal mostrava un suggeriment automàtic per classificar la urgència d'una consulta. La pantalla proposava tres respostes i després recomanava esperar, demanar visita ordinària o trucar a un servei urgent. Qui arribava preocupat podia llegir el suggeriment com un diagnòstic. Una persona amb símptomes no descrits va prémer acceptar perquè l'altra opció semblava abandonar el formulari i cercar un altre canal. La recomanació era limitada, però el disseny la va convertir en una decisió amb pes clínic. L'equip va revisar els missatges amb professionals i pacients.
La nova versió anunciava que l'eina no diagnosticava ni substituïa la valoració professional. Mostrava senyals d'alarma en llenguatge clar, un accés immediat a ajuda humana i una manera de descriure situacions que no encaixaven. També deixava clar que seguir una recomanació no tancava la possibilitat de tornar a consultar. Aquestes mesures no resolen tots els riscos d'una classificació automàtica, però eviten presentar una interacció breu com a consentiment per assumir-ne les conseqüències. En àmbits sensibles, l'opció humana ha de ser practicable, i no una adreça amagada en un text legal.
Cas 3: el tràmit que va convertir el silenci en acord#
Una administració local va incorporar un assistent per completar sol·licituds de suport. Al final, una frase deia que continuar implicava acceptar l'ús de dades per millorar el servei. No explicava si aquesta millora incloïa entrenament, conservació de converses o intercanvi amb proveïdors. Moltes persones van continuar perquè el tràmit tenia termini i sortir de la pàgina feia perdre allò escrit. El silenci davant d'una fórmula ambigua es comptava com a acord. El procés traslladava a la persona el cost de protegir la seva informació.
L'administració va separar el tràmit de la decisió sobre usos addicionals. Va desar el progrés, va oferir una opció de no emprar l'assistent i va publicar terminis de conservació i contactes de protecció de dades. Es podia completar la sol·licitud sense aportar converses al sistema de millora. Per a qui volia col·laborar, es va dissenyar una explicació específica, revocable i accessible. El canvi va reduir abandonaments i consultes. Sobretot, va reconèixer que una necessitat urgent no pot servir de pressió per obtenir una autorització més ampla que la necessària.
Com construir una elecció que es pugui sostenir#
Una elecció sòlida comença limitant la finalitat. Abans d'activar una funció automàtica, cal definir quin problema concret pretén resoldre i quina informació és estrictament necessària. Després s'han de descriure, amb exemples, els errors, respostes esbiaixades, manca de context, exposició de dades o dependència que poden aparèixer. L'explicació no ha de prometre certesa tècnica; ha de permetre una decisió proporcionada. Si una persona no pot resumir per a què accepta alguna cosa, quines conseqüències pot tenir i com desfer-ho, l'avís encara no compleix la seva funció.
L'alternativa mereix la mateixa cura que l'opció automàtica. No n'hi ha prou de dir-ne manual si demana més temps, un desplaçament, un telèfon difícil d'accedir o un tracte que fa sentir sospitosa la persona que la tria. Ha d'oferir resultats comparables, terminis clars i ajuda per completar-la. Mantenir alternatives permet detectar problemes que la mètrica principal amaga. Si tothom acaba el recorregut automàtic perquè no hi ha una sortida digna, el percentatge d'acceptació no mesura confiança: mesura dependència. Els equips han de revisar qui usa cada ruta i quines barreres hi apareixen.
La revisió ha de continuar després del llançament. Un registre senzill pot recollir finalitat, decisió automatitzada, dades implicades, responsable, queixes, excepcions i data de nova avaluació. Les persones afectades han de saber on demanar explicació, correcció o revisió humana. Qui atén aquestes peticions ha de poder canviar un resultat i detectar una pauta, no repetir la pantalla. La supervisió humana és significativa quan té autoritat, informació i temps. Posar-la al final d'una cadena sense poder d'intervenció només afegeix una aparença de garantia.
Les fonts públiques ofereixen criteris útils. El Reglament General de Protecció de Dades de la Unió Europea demana base jurídica, informació transparent i drets sobre decisions automatitzades. El marc de riscos de NIST proposa governar, identificar, mesurar i gestionar danys. La Recomanació de la UNESCO sobre l'ètica de la IA destaca dignitat, autonomia i supervisió humana. Les directrius de la Comissió Europea per a una IA fiable insisteixen en agència humana, transparència i rendició de comptes. Cap guia substitueix el judici situat, però totes recorden que l'eficiència no autoritza a reduir l'elecció a una pulsació.
Acceptar pot ser una decisió vàlida quan la informació arriba a temps, el llenguatge s'entén, la negativa no castiga i la revisió existeix de debò. En la intel·ligència artificial quotidiana, aquest estàndard protegeix tant qui usa el sistema com qui l'ha de mantenir. Obliga a dissenyar pauses, explicar incerteses, conservar vies no automàtiques i aprendre de les objeccions. Una resposta automàtica pot estalviar feina, però no s'ha d'apropiar de la capacitat de decidir. La responsabilitat comença en reconèixer que el consentiment no es mesura pel clic final, sinó per les condicions que han fet possible triar.
Una elecció sòlida comença limitant la finalitat. Abans d'activar una funció automàtica, cal definir quin problema concret pretén resoldre i quina informació és estrictament necessària. Després s'han de descriure, amb exemples, els errors, respostes esbiaixades, manca de context, exposició de dades o dependència que poden aparèixer. L'explicació no ha de prometre certesa tècnica; ha de permetre una decisió proporcionada. Si una persona no pot resumir per a què accepta alguna cosa, quines conseqüències pot tenir i com desfer-ho, l'avís encara no compleix la seva funció.
El consentiment té condicions: informació suficient, una finalitat concreta, una possibilitat raonable de rebutjar i una via per canviar de decisió sense un càstig desproporcionat. Quan una eina automàtica apareix dins d'un servei essencial, aquestes condicions són més exigents. Qui necessita acabar una sol·licitud, conservar una cita o rebre una prestació no té la mateixa llibertat que qui prova una aplicació d'oci. La interfície no hauria de presentar una acceptació ràpida com a prova de comprensió. Cal explicar què fa el sistema, quines dades utilitza, quins límits té i quina persona o organització respon pel resultat.
Fonts oficials. Reglament General de Protecció de Dades de la UE; NIST AI Risk Management Framework; UNESCO, Recomanació sobre l'ètica de la IA; Comissió Europea, directrius per a una IA fiable.
