Un error creatiu es pot amagar darrere d’una versió nova o es pot explicar amb prou cura perquè ningú no l’hagi de repetir. En la producció cultural amb intel·ligència artificial, una bona narració de l’error conserva la procedència dels materials, les decisions, les veus que van advertir el risc i la reparació. No busca un culpable exemplar ni una història tranquil·litzadora: construeix memòria perquè l’obra següent respecti millor autoria, consentiment i context.

Les eines generatives permeten provar i descartar a gran velocitat. Aquesta agilitat pot esborrar rastres essencials. Una imatge substitueix l’anterior, una instrucció es reescriu i un arxiu s’exporta sense les notes que expliquen d’on prové. Quan apareix una reclamació, l’equip només conserva el resultat final i alguns records contradictoris. La rapidesa de creació es converteix aleshores en lentitud per comprendre què va passar.

Una memòria útil no requereix registrar cada gest. Ha de ser proporcional al risc, protegir dades personals i concentrar-se en les cruïlles del procés: quina finalitat hi havia, quins materials van entrar, quins permisos es coneixien, qui podia decidir i quina alerta no va transformar el curs. Documentar té sentit quan la conclusió modifica un contracte, un crèdit, un proveïdor o una regla de publicació.

Aprendre no pot convertir el dany en una metàfora#

Algunes organitzacions celebren massa aviat que una incidència ha estat una «gran lliçó». La formulació pot invisibilitzar la persona que encara espera una retirada, una compensació o el reconeixement del seu treball. Abans d’extreure aprenentatges, cal limitar la difusió, escoltar l’impacte i executar una reparació. En cas contrari, la institució obté coneixement gratuït a partir d’un cost que continua externalitzat.

Algunes organitzacions celebren massa aviat que una incidència ha estat una «gran lliçó».

Tampoc no convé fixar tota la causa en una persona. Un professional pot haver aprovat una peça problemàtica, però potser treballava sense registre de llicències, amb un termini impossible o dins d’una interfície que amagava la reutilització de dades. La conducta individual s’ha d’examinar, però també les condicions que la van fer probable. La pregunta central és quin conjunt de decisions i absències va permetre arribar fins a la publicació.

La Recomanació de la UNESCO sobre l’Ètica de la Intel·ligència Artificial relaciona transparència, supervisió, diversitat i responsabilitat amb els drets humans. En un projecte cultural, això demana explicacions que les persones afectades puguin entendre i discutir. No n’hi ha prou amb una justificació tècnica que només el proveïdor pot interpretar.

Reconstruir la seqüència sense inventar certeses#

La cronologia comença amb l’encàrrec, no amb la queixa. Cal identificar l’objectiu, els arxius incorporats, les fonts, els acords, les versions i els punts d’aprovació. Després s’hi situa la primera sospita: qui la va formular, amb quines dades i davant de qui. Aquesta mirada mostra quan encara hi havia opcions i per què una pausa no es va produir.

Resulta útil classificar cada anotació com a fet, inferència, decisió o efecte. Que el nom d’una artista aparegui en una instrucció pot ser comprovable. Que el sistema tingués intenció de copiar no ho és. Que no hi hagués comparació visual abans de publicar descriu una decisió de procés. Que el públic atribuís l’obra a l’artista descriu un efecte. La separació evita que les opinions ocupin el lloc de l’evidència.

Els buits també s’han de registrar. Si no es coneix l’origen d’un conjunt de dades o la retenció del proveïdor, aquesta incertesa limita els usos responsables. No s’ha d’omplir amb frases com «segurament és legal» o «la plataforma ja ho controla». L’equip pot demanar informació, triar una alternativa o excloure un ús. Reconèixer el que no es pot demostrar és part de la competència professional.

Tres casos concrets converteixen el relat en pràctica#

Cas 1: una residència artística perd les contribucions als crèdits. Quatre participants creen textos, textures i registres sonors que després alimenten una instal·lació generativa. El fullet final atribueix la peça només a la persona que va dirigir el muntatge. Una participant reclama quan ja s’ha inaugurat. La residència actualitza web i sala, reimprimeix el full informatiu i acorda una compensació per la gestió del conflicte.

La revisió descobreix que producció tenia una llista correcta, però comunicació va treballar amb una fitxa que només acceptava un nom principal. La nova pràctica incorpora rols, aprovació individual de la forma del nom i confirmació abans d’imprimir. També diferencia autoria, interpretació, dades i assistència tècnica. La mesura es comprova a la convocatòria següent i no queda reduïda a una disculpa.

Cas 2: una biblioteca fa parlar un testimoni històric. Per a una exposició, un proveïdor sintetitza respostes amb la veu d’un entrevistat mort. La cessió autoritzava conservar i reproduir l’entrevista, però no crear declaracions noves. La família veu una demostració i pregunta quines frases són originals. La biblioteca atura l’activitat, etiqueta els fragments autèntics i substitueix la simulació per una lectura contemporània clarament identificada.

La cronologia mostra que l’equip va anomenar «restauració» allò que el proveïdor descrivia com a generació. El catàleg de drets incorpora una categoria específica per a síntesi i exigeix consentiment nou. La família revisa el text explicatiu i pot restringir usos futurs. L’aprenentatge no consisteix a redactar millor la publicitat, sinó a impedir que una autorització antiga s’expandeixi en silenci.

Cas 3: una cooperativa llança una campanya massa semblant. Amb poc temps, l’equip crea imatges a partir de referències disponibles en línia. El resultat recorda clarament l’estètica i la composició d’una il·lustradora local. Dues persones ho comenten, però ningú no sap si pot aturar la campanya. Després de la queixa, la cooperativa retira la peça, negocia la reparació i encarrega una nova proposta.

La revisió identifica una fallada concreta: existia un canal d’alerta, però no una autoritat de pausa. S’assigna una responsable, un termini de resposta i una alternativa pressupostària. Les referències autoritzades queden vinculades a cada encàrrec, i els noms d’artistes vius no es poden utilitzar com a drecera estilística. El canvi es pot observar en campanyes posteriors.

La procedència és una part de l’obra#

Font, autoria, llicència, data d’accés, modificacions i restriccions haurien de viatjar amb cada actiu. Quan aquesta informació depèn del correu o de la memòria d’una sola persona, desapareix fàcilment. Una fitxa breu dins del repositori permet reconstruir el recorregut i facilita que els crèdits es revisin mentre encara hi ha temps per corregir-los.

Creative Commons descriu les condicions de les seves llicències i les pràctiques d’atribució. Un material obert pot requerir el nom, la font, l’enllaç de llicència, l’avís de canvis o límits d’ús. La memòria de procedència permet respectar aquestes condicions i evita presentar l’obertura com una renúncia de la persona creadora.

L’Organització Mundial de la Propietat Intel·lectual ofereix recursos sobre intel·ligència artificial i propietat intel·lectual. Aquest marc ajuda a separar entrenament, expressió protegida, contribució humana, contracte i atribució. Les respostes depenen de la jurisdicció i del cas, però un registre precís permet demanar assessorament sense reconstruir fets a última hora.

Sense caça de culpables, però amb responsabilitats clares#

Una revisió justa no etiqueta una persona com a fracàs del sistema. Això no significa que totes les obligacions siguin anònimes. Cal decidir qui retira el contingut, qui contacta amb la persona afectada, qui revisa els permisos i qui comprova que la mesura s’ha aplicat. Cada tasca necessita autoritat, recursos i data. «L’equip ho revisarà» és una fórmula massa difusa per reparar.

El Marc de Gestió de Riscos d’Intel·ligència Artificial del NIST proposa governar, cartografiar, mesurar i gestionar. Un estudi o una escola poden adaptar aquestes funcions: establir qui decideix, entendre el context, detectar efectes i preparar respostes. Després d’un incident, el marc ajuda a distingir una salvaguarda absent d’una salvaguarda que existia però no tenia temps ni suport.

La reunió de revisió requereix ordre i seguretat. Primer s’acorda la cronologia, després s’identifiquen causes i finalment es decideixen mesures. Les persones afectades no han de defensar repetidament que l’impacte és real. Quan hi ha una disputa complexa, la investigació, la mediació i la millora operativa poden necessitar espais diferents. Ajuntar-ho tot pot confondre aprenentatge amb negociació forçada.

Explicar fora sense exposar més#

No tota informació interna ha de ser pública. Dades personals, esborranys sensibles o detalls contractuals poden requerir protecció. La comunicació externa pot dir què va passar, quina conseqüència va tenir, quina resposta immediata s’ha executat i quin canvi serà verificable. La persona afectada participa en l’ús del seu nom i en la manera de descriure els seus materials.

Quan la versió errònia ja ha circulat, substituir-la en silenci no actualitza el coneixement del públic. Una correcció visible, serena i situada al mateix canal permet que qui va veure el contingut anterior entengui el canvi. Si hi havia un crèdit fals o incomplet, la rectificació ha de tenir una visibilitat proporcional. Una nota amagada protegeix més la institució que la persona.

Els registres interns també tenen límits. S’ha de definir qui hi accedeix, per a què i durant quant temps. Conservar decisions rellevants no obliga a acumular converses privades indefinidament. Una política de retenció elimina allò que ja no té finalitat i manté les proves necessàries per drets, reparació i auditoria. La memòria ha de reduir riscos, no crear-ne de nous.

Comprovar si el canvi ha sobreviscut al document#

Cada mesura necessita un indicador senzill. Es pot revisar quants actius tenen llicència reconstruïble, si els crèdits reben aprovació abans de publicar, quant triga una alerta a obtenir resposta o si es repeteix el mateix patró. Comptar zero incidències no sempre és una bona notícia: pot significar que ningú no s’atreveix a informar. Importen la detecció primerenca i la qualitat de la resposta.

L’OCDE recull principis per a una intel·ligència artificial fiable, com ara transparència, robustesa i rendició de comptes. Una revisió al cap de tres mesos comprova si aquests principis han arribat al flux real. Si una nova casella s’omple amb dades inventades per complir el tràmit, la solució és aparent i necessita recursos o redisseny.

També cal valorar la prevenció. Detectar una semblança, recuperar un permís o demanar temps per consultar una comunitat és feina productiva. Si només es premia la velocitat, els controls dependran del sacrifici invisible d’algunes persones. Pressupost, calendari i reconeixement han de donar suport a la prudència perquè l’aprenentatge no sigui una obligació afegida sense poder.

Una fitxa breu pot tancar el cercle#

El resum de l’incident pot incloure finalitat, fet, impacte, materials, persones consultades, contenció, causa de procés, reparació, responsable i data de revisió. Els documents sensibles s’enllacen amb accés restringit. El text evita tant els eufemismes com les acusacions sense base. Dir «es va publicar abans de verificar la llicència» informa millor que afirmar que «hi va haver una confusió».

Abans de donar el cas per tancat, es comprova que les accions existeixen. La correcció és visible, el pagament ha arribat, els arxius s’han retirat o els crèdits han estat acceptats. També es pregunta si la nova regla és viable. Exigir una verificació sense temps ni alternativa només trasllada la culpa cap a qui executa. Una bona mesura explica què fer quan la informació no està disponible.

L’error ben explicat es converteix en coneixement perquè modifica l’obra que encara no existeix. El proper equip conserva les fonts, demana permís abans de sintetitzar una veu, reconeix contribucions invisibles i sap qui pot pausar. Aquesta memòria no esborra qui va crear abans ni utilitza la reparació com a propaganda. Fa possible una confiança més adulta: la d’una organització capaç de mostrar com escolta, corregeix i aprèn.