La seguretat comença quan és possible explicar un error. Davant d'una resposta automàtica, una persona ha de poder avisar d'un resultat perjudicial, incomprensible o equivocat sense quedar atrapada a la mateixa pantalla que ha fallat. La intel·ligència artificial quotidiana és més segura quan permet aturar, revisar i reparar.

El problema no és prohibir tota conversa informal. Familiars, companys i veïns comparteixen avisos perquè volen evitar un dany. Apareix quan el desig de protegir substitueix la comprovació i una interfície que no explica els seus límits deixa espai perquè tothom completi la història.

Una resposta automàtica no ha de demanar confiança cega: ha d'oferir context suficient perquè un dubte es pugui investigar. A escoles, comerços, consultes i oficines, la cura es demostra amb una via concreta per preguntar, corregir i aturar un ús que no sigui comprensible.

Quan la norma majoritària es converteix en barrera#

Una regla habitual no és simplement una solució neutral. Pot contenir una experiència certa, una captura autèntica o una norma mal entesa. Viatja de pressa perquè redueix una situació complexa a una conclusió útil: «el seu ús no és recomanable», «el sistema ja ho sap tot» o «la màquina ha assenyalat una persona». Això permet actuar ràpid, encara que deixi fora les condicions que van canviar el resultat.

Una regla habitual no és simplement una solució neutral. Pot contenir una experiència certa, una captura autèntica o una norma mal entesa.

Les respostes generades per IA augmenten aquesta facilitat. El seu to pot semblar segur fins i tot quan falta informació, i els resums semblen definitius si no mostren font, data o criteri. Quan només es comparteix el fragment inquietant, el receptor interpreta que hi ha una decisió automàtica encara que potser només hi hagi un suggeriment.

Cal distingir quatre preguntes: què va passar exactament, quina dada ho acredita, què va fer l'eina i què va decidir una persona, i què pot fer qui en resulti afectat. La conversa guanya precisió si es respon abans de reenviar. Això també protegeix qui va informar de bona fe: no se'l tracta com a culpable per expressar temor, sinó com a part d'una revisió que necessita fets.

L'OCDE recomana transparència, responsabilitat i mecanismes per qüestionar resultats de sistemes d'IA. El marc de riscos del National Institute of Standards and Technology demana documentar context, impacte i supervisió. Aquestes referències institucionals no eliminen els dubtes diaris; ajuden a convertir-los en tasques verificables.

Cas primer: la nota de l'escola#

En un grup de famílies va circular el missatge que un assistent havia «marcat» diversos alumnes per usar IA en una redacció. La captura mostrava una puntuació i una advertència. En poques hores es parlava de sancions, perfils permanents i una llista secreta. La preocupació era comprensible: una acusació errònia pot afectar l'aprenentatge i la reputació.

La revisió va revelar una seqüència diferent. L'eina havia assenyalat coincidències lingüístiques perquè el docent les examinés; no classificava autoria ni enviava sancions. La captura ometia la pantalla que deia que el resultat era orientatiu. La resposta responsable no va ser un desmentiment fred. El centre va explicar el procés, va retirar l'etiqueta de l'informe visible, va permetre revisar els textos amb el professorat i va acordar que cap avaluació no es basaria només en aquell senyal.

La UNESCO, en la seva orientació sobre IA generativa en educació, defensa l'agència humana, la privacitat i una avaluació justa. La lliçó és clara: una família ha de poder saber quina eina intervé, quina part del treball fa i qui pot corregir un error. L'exclusió es corregeix millor amb una explicació comprovable, una alternativa accessible i una revisió humana.

Cas segon: la resposta de salut#

Una persona va consultar un xatbot sobre efectes secundaris i va rebre una resposta que aconsellava acudir aviat a un professional. En compartir-la, el missatge es va resumir com «l'aplicació detecta malalties». Altres usuaris van començar a comparar símptomes i a ajornar consultes esperant una nova resposta. El risc no era només informatiu: una certesa falsa pot alterar decisions de salut.

L'Agència Espanyola de Protecció de Dades recorda que les dades de salut requereixen protecció especial i que l'explicació ha de ser clara sobre finalitat, accés i drets. Una aplicació responsable separa orientació general, urgència i diagnòstic; no presenta una predicció com una conclusió clínica. També indica quan cal deixar de conversar amb la interfície i contactar amb serveis sanitaris adequats.

Després de revisar l'incident, l'organització va canviar el text inicial, va afegir enllaços a fonts clíniques públiques i va eliminar el llenguatge que suggeria detecció. També va establir una persona responsable per rebre avisos de respostes problemàtiques. La cura no es mesura per la quantitat d'advertiments, sinó per si s'entén què sap el sistema, què ignora i quin és el pas segur següent.

Cas tercer: l'atenció municipal#

Un ajuntament va provar un assistent per resumir consultes sobre ajudes. Un veí va afirmar que «la IA denega sol·licituds a qui escriu malament». La frase es va difondre perquè algunes respostes eren confuses i el formulari digital utilitzava llenguatge administratiu difícil. El rumor barrejava un problema real d'accessibilitat amb una atribució incorrecta de poder decisori.

La investigació va mostrar que l'assistent no resolia expedients, però orientava cap a requisits equivocats quan la pregunta era incompleta. El dany continuava sent important: una orientació dolenta pot fer perdre un termini. Es van corregir respostes, es va afegir un botó visible per parlar amb personal, es van traduir instruccions i es van registrar els casos en què el sistema no entenia la petició. L'alternativa presencial i telefònica es va mantenir sense penalització.

El Reglament europeu d'intel·ligència artificial estableix obligacions segons el risc i reforça la informació a les persones en alguns usos. El seu sentit quotidià no és omplir cartells de sigles. És assegurar que una persona sàpiga si parla amb una màquina, pugui impugnar una decisió i trobi una sortida quan el llenguatge o la tecnologia es converteixin en barrera.

Una resposta que inclou sense obligar a encaixar#

Davant d'un avís que es propaga, convé respondre en aquest ordre: reconèixer la preocupació, conservar l'evidència original, comprovar el recorregut de la dada i explicar allò conegut junt amb allò que encara no se sap. Negar de seguida pot augmentar la desconfiança; prometre una investigació sense data la prolonga. Una nota breu amb responsable, termini i canal de revisió ofereix més suport que una discussió interminable.

L'equip que usa IA necessita un registre proporcionat: versió de l'eina, finalitat, persones afectades, fallades detectades i canvis aplicats. No es tracta de vigilar converses privades, sinó de poder reconstruir per què va aparèixer una resposta. Si el sistema usa dades personals, cal base legal, minimització, seguretat i drets d'accés o rectificació. La informació sensible no ha de convertir-se en prova compartible en un grup.

També cal dissenyar missatges per a qui no domina l'idioma tècnic. «Model», «automatització» i «dades» no expliquen res per si sols. Una frase útil diu: aquesta eina proposa un text; ningú no perd una ajuda per aquesta proposta; si la resposta sembla errònia, aquest és el telèfon i aquest el termini. La claredat redueix rumors perquè redueix els espais on prosperen interpretacions alarmants.

Responsabilitat després de la conversa#

Una exclusió detectada no desapareix en publicar un aclariment. Cal comprovar si la correcció va arribar als mateixos canals, si les persones afectades van rebre reparació i si la causa tècnica o organitzativa va canviar. Quan una pantalla ambigua origina repetidament la mateixa por, el problema no són només els missatges que circulen; és el disseny que va permetre confondre recomanació i decisió.

La responsabilitat ha de tenir noms i facultats. Algú ha de poder pausar l'eina, corregir contingut, avisar qui va rebre una resposta equivocada i explicar l'incident en llenguatge corrent. Qui atén el públic necessita temps i accés a l'evidència, no només un guió per defensar el sistema. La supervisió humana és real quan pot canviar el resultat, no quan apareix al final per justificar-lo.

Tenir cura davant d'una resposta automàtica significa no deixar sola la persona que pregunta, ni sola la persona sobre la qual es pregunta.

La intel·ligència artificial quotidiana pot ajudar a ordenar informació i redactar primeres respostes. No pot reemplaçar l'obligació de verificar, escoltar circumstàncies i reparar. Quan una comunitat conserva aquestes capacitats, la fallada deixa de ser una cursa per trobar culpables i es converteix en un senyal: hi ha una explicació pendent, una barrera per retirar o una decisió per tornar a mans humanes.

La prova final és convidar una persona aliena al projecte a seguir tot el recorregut. Ha de trobar quines dades es van usar, quina resposta va rebre, com comunicar un problema i què passa després. Si aquestes respostes només apareixen en una reunió tècnica o en un document amagat, l'explicació encara no serveix per a la vida quotidiana. La confiança raonable neix de procediments visibles, repetibles i corregibles, capaços d'acollir una pregunta difícil sense transformar-la en una acusació.

Una revisió anual també hauria de comprovar si els canals d'ajuda són accessibles, si els canvis es publiquen i si les persones que van alertar reben resposta. Aquest gest converteix la prudència col·lectiva en millora concreta i evita que la mateixa incertesa torni a circular sense cap explicació nova.

Dissenyar per a la majoria pot ser un punt de partida, mai una excusa per tancar opcions. La qualitat d'una resposta automàtica es comprova als seus marges: si admet una pregunta formulada d'una altra manera, si ofereix més temps, si permet recuperar un error i si condueix a una persona amb capacitat real de resoldre. Aquestes condicions no són extres per a casos excepcionals; fan el servei més comprensible i segur per a tota la comunitat.