Una intervenció robòtica no s'hauria de jutjar només per l'instant en què completa una tasca. La pregunta decisiva és com queden després la persona, l'equip i la comunitat: amb més llibertat o dependència, amb beneficis compartits o càrregues desiguals, amb capacitat de decidir o amb opcions tancades. Un robot útil sap quin és el seu lloc quan deixa autonomia, coneixement, relacions i alternatives més fortes, i quan es pot retirar sense desfer la cura.

L'èxit instantani és una fotografia incompleta#

Una demostració pot mostrar que el robot ha transportat un objecte, sostingut un moviment o iniciat una conversa. Aquesta escena no revela la preparació, el rescat humà, el cansament ni l'experiència posterior. Tampoc mostra què passarà demà si falla la xarxa, canvia el cos o s'acaba el suport. L'avaluació ha de seguir el recorregut en el temps. Una tasca completada no equival automàticament a una vida millor.

Una demostració pot mostrar que el robot ha transportat un objecte, sostingut un moviment o iniciat una conversa.

El resultat immediat pot dependre d'un esforç extraordinari. La persona aprèn ordres complexes, una familiar reorganitza la llar o un professional supervisa sense apartar-se. Si aquesta feina s'exclou de l'informe, la màquina sembla autònoma i el cost desapareix. L'èxit ha de descomptar càrrega i considerar repetibilitat. Una solució que només funciona amb disponibilitat heroica no és estable ni equitativa.

La relació també importa. Algú pot completar l'exercici i quedar espantat, acceptar un recordatori i sentir pressió, o rebre un servei mentre perd contacte humà. La satisfacció al final d'una sessió no capta tots aquests efectes. Es combinen observació, conversa posterior, incidents i capacitat de tornar a triar. L'avaluació no exigeix agraïment.

Autonomia no significa absència de suport#

L'autonomia consisteix a conservar control rellevant sobre finalitat, ritme, informació i manera de participar. Una persona pot triar ajuda humana o robòtica i continuar sent autònoma. La perd quan el suport s'imposa, no hi ha alternativa o ha de demanar permís per a cada acció. Per això es pregunta qui ha triat, qui ha configurat, qui pot aturar i si la tasca es repetirà sense negociació constant.

La tecnologia pot ampliar capacitat: arribar a objectes, comunicar-se, desplaçar-se o gestionar rutines. També pot crear dependència de llicències, proveïdor, bateria, connectivitat i una persona tècnica. Aquestes dependències no invaliden el benefici, però s'han de fer visibles i reduir. S'ofereixen suport, interoperabilitat, documentació i assistència. La persona no queda lligada a un únic dispositiu per conservar una funció essencial.

El coneixement també és autonomia. Després de la intervenció haurien de quedar instruccions accessibles, competències distribuïdes i una via clara d'ajuda. Les dades personals s'han de poder consultar, corregir i eliminar. La persona coneix límits i no depèn de promeses comercials. L'equip humà manté capacitat per actuar sense el robot durant una interrupció.

Llibertat per canviar d'opinió#

El consentiment no és una signatura al principi del pilot. Es revisa quan canvien l'ús, el programari, els sensors o la finalitat. Una persona pot acceptar unes funcions i rebutjar-ne d'altres. La retirada no ha de provocar pèrdua del servei, penalització ni espera indefinida. L'alternativa ha de ser raonable i estar disponible, no existir només en un document.

L'aparença social pot dificultar la retirada. Si el robot utilitza llenguatge afectiu, una persona pot sentir culpa en apagar-lo o creure que l'abandona. El disseny evita afirmar emocions i explica que és una eina. Quan s'acaba un programa, s'acompanya la transició humana sense simular dolor de la màquina. Els vincles i rutines es reconeixen amb respecte, però la dependència no s'explota.

Els professionals també necessiten llibertat per qüestionar. Si la productivitat premia l'ús i castiga les aturades, l'elecció queda condicionada. L'equip ha de poder reduir o suspendre quan observa risc, sobrecàrrega o pèrdua de relació. Les decisions es documenten sense culpa automàtica. La seguretat requereix que el control humà tingui conseqüències reals.

Equitat en efectes i oportunitats#

Un benefici mitjà pot amagar perjudici concentrat. Sensors i interfícies funcionen de manera diferent amb cossos, veus, llengües i suports diversos. Un grup pot necessitar més rescats o abandonar. Els resultats es desglossen amb protecció de privacitat i s'interpreten amb experiència qualitativa. Si falta evidència, l'abast es limita i es manté alternativa, en lloc de traslladar incertesa a qui té menys poder.

La distribució laboral compta. Un robot pot reduir càrrega física d'unes persones i augmentar vigilància, neteja o suport d'altres. Les tasques noves es registren, doten i remuneren. Els llocs menys reconeguts no assumeixen automàticament el manteniment. Els treballadors participen abans de comprar i durant la revisió. El seu coneixement de fluxos forma part del criteri d'èxit.

L'equitat també mira oportunitats futures. Si la tecnologia substitueix converses on es detectaven necessitats, algunes persones poden perdre accés informal. Si un estudiant utilitza sempre el canal robòtic, pot quedar fora d'activitats compartides. L'avaluació observa pertinença, aprenentatge i progressió, no només eficiència. L'objectiu és ampliar opcions, no crear un circuit separat de menys qualitat.

Dissenyar el després abans del desplegament#

La planificació comença amb una teoria de canvi. Es defineix quin problema hi ha, com la funció podria ajudar, quins efectes adversos són plausibles i quina alternativa es compara. Els criteris inclouen autonomia, seguretat, contacte, càrrega, privacitat i continuïtat. Es registra una línia de base. Les metes s'acorden abans per evitar seleccionar només dades favorables.

El pla de continuïtat descriu fallades d'energia, xarxa, sensor, proveïdor i dotació. Identifica funcions essencials, temps màxim sense servei, resposta i comunicació. Hi ha recanvis, suport i una ruta humana. Les persones saben què passarà. Els simulacres comproven el procediment en horaris reals. Un botó d'ajuda sense ningú disponible no és contingència.

El pla de sortida és igual d'important. Estableix portabilitat i eliminació de dades, substitució, formació, comunicació i reparació. Preveu el final de finançament i suport. Si una funció genera dependència, es fa una transició gradual. L'organització no prolonga un sistema insegur perquè no ha preparat la retirada. El cost de sortida s'inclou des del pressupost inicial.

Cas 1: un robot social després del pilot#

Una residència prova durant sis mesos un robot de conversa. Diverses persones incorporen els recordatoris a la rutina i l'informe destaca interaccions. En acabar la subvenció, el proveïdor retira l'equip amb pocs dies d'avís. Residents perden referències i treballadors improvisen explicacions. El projecte havia avaluat adopció, no dependència, continuïtat ni impacte del final. La innovació acaba i deixa una càrrega emocional.

La residència repara mitjançant converses accessibles, recuperació de rutines humanes i revisió de dades. Ningú afirma que el robot pateix la separació. S'ofereix suport i s'escolta si alguna funció era valuosa. Per a futurs pilots s'acorden transició, alternativa i avís des del principi. Els indicadors inclouen capacitat de retirada i contacte humà. El després es converteix en part del disseny, no en una conseqüència administrativa.

Cas 2: assistència robòtica i pèrdua d'habilitats#

Una persona utilitza un braç robòtic per a tasques domèstiques. El dispositiu amplia autonomia, però el programa automatitza també activitats que volia practicar. Mesos després, una avaria la deixa sense l'eina i comprova que ha perdut confiança en alguns moviments. L'avaluació només havia comptat tasques completades. No diferenciava suport triat, substitució innecessària i capacitats que la persona volia conservar.

El servei revisa amb ella cada tasca. Configura nivells d'ajuda, permet control manual i manté opcions de pràctica segura amb professionals. S'afegeix un equip de suport per a necessitats essencials. L'èxit combina autonomia triada, habilitats conservades, fiabilitat i càrrega. La persona decideix quan automatitzar. El robot deixa de maximitzar intervenció i ocupa un lloc adaptable dins del seu projecte de vida.

Cas 3: logística que va canviar l'equip de cura#

Un hospital desplega robots per transportar material i redueix personal logístic segons l'estalvi previst. Durant setmanes tranquil·les funciona bé. En períodes de demanda alta augmenten bloquejos i infermeria rescata dispositius, allunyant-se de pacients. L'indicador de lliuraments continua alt perquè compta recorreguts finalment completats. L'equip queda amb menys capacitat humana i una nova dependència tècnica.

La revisió reconstrueix temps net, intervencions, pics i efecte clínic. Es recupera dotació de suport, es limiten rutes i s'assigna assistència. Els treballadors participen en horaris i mètriques. El robot conserva tasques estables que redueixen càrrega física, però no justifica retirar resiliència. L'hospital mesura capacitat durant fallades, no només eficiència mitjana. La cooperació entre logística i cura queda reforçada.

Mesurar com queden les persones i el sistema#

Els indicadors posteriors inclouen llibertat d'elecció, necessitat d'intermediació, activitats possibles, confiança, privacitat, contacte, càrrega, incidents, fiabilitat i qualitat d'alternatives. Es pregunten al principi, durant i després. Les dades quantitatives mostren tendències; els relats expliquen mecanismes. Una puntuació única no representa dignitat ni relació.

Els abandonaments s'investiguen de manera voluntària. Deixar d'utilitzar pot indicar barrera, canvi de preferència o falta d'utilitat. No s'etiqueta automàticament com a fracàs de l'usuari. Els canals són accessibles i sense represàlies. Un augment de queixes pot mostrar més confiança. Les diferències per grup es revisen amb protecció.

L'avaluació ha de permetre concloure que una funció no convé. Si tot pilot acaba en expansió, hi ha un incentiu esbiaixat. Els resultats negatius generen coneixement i es comparteixen de manera agregada. El prestigi o la inversió no prevalen sobre evidència. La humilitat institucional permet reduir abast i continuar aprenent.

Participació més enllà de la consulta inicial#

Usuaris, famílies i treballadors participen quan encara es poden canviar propòsit, compra i sortida. Reben informació accessible, temps, suport i remuneració quan fan feina de disseny. Les propostes queden vinculades a decisions. Una reunió sense retorn no és participació. Les opinions minoritàries es conserven i revisen.

Durant l'ús, un òrgan plural examina actualitzacions, incidents, càrrega i resultats. Té autoritat per aturar. El proveïdor aporta informació sense controlar la conclusió. Especialistes en cura, enginyeria, accessibilitat, privacitat i seguretat combinen coneixement. Cap disciplina no té l'experiència completa.

En acabar, les persones avaluen la transició. Es pregunta quina capacitat ha quedat, quin suport falta i quina informació s'ha d'esborrar. El relat no s'utilitza amb finalitats promocionals sense consentiment. La sortida retorna resultats i explica decisions. La cooperació tanca el cicle i millora futurs projectes.

Reparació quan la tecnologia deixa menys#

Si una intervenció redueix autonomia, privacitat o relació, la primera resposta atura el dany i garanteix continuïtat. Es corregeixen registres, s'ofereixen alternatives i s'atenen conseqüències. Pot caldre retornar costos, restituir hores, formar de nou o donar suport a la recuperació d'habilitats. La disculpa anomena responsabilitat sense exigir perdó.

La reparació sistèmica modifica disseny, mètriques, contracte, dotació i governança. Cada acció té responsable, data i prova. Tancar una incidència administrativa no basta; es verifica en ús real. Si no es pot reduir el risc, es retira. La inversió prèvia no justifica dany futur.

La persona decideix fins a quin punt participa en la investigació. La seva experiència es reconeix i remunera si implica feina sostinguda. Els aprenentatges es comuniquen amb privacitat. El sistema conserva una via per reobrir si la solució falla. Reparar significa deixar millors condicions, no només explicar el passat.

Fonts institucionals per mirar el cicle complet#

L'Organització Mundial de la Salut ofereix orientació sobre ètica i governança d'intel·ligència artificial en salut. La Recomanació de la UNESCO sobre l'Ètica de la Intel·ligència Artificial aporta principis sobre drets, diversitat, transparència i supervisió. Totes dues ajuden a avaluar conseqüències humanes més enllà del rendiment immediat.

El marc de gestió de riscos d'IA del NIST organitza govern, identificació, mesura i gestió contínua. L'Organització Internacional del Treball proporciona referències sobre economia de les cures i treball decent. Aquests marcs es complementen amb normativa, evidència tècnica i experiència local. Cap no substitueix la participació de qui viurà el després.

Un robot que deixa capacitat en lloc de dependència#

Preguntar com quedarem obliga a mirar més enllà de l'espectacle tecnològic. La llibertat requereix elecció i sortida; l'equitat distribueix beneficis i càrregues; la participació atorga poder durant tot el cicle. Una intervenció val no només per allò que fa avui, sinó per la capacitat, el coneixement i la relació que deixa.

Un robot útil sap quin és el seu lloc quan dona suport a una funció delimitada, comunica límits, accepta una aturada i no elimina alternatives humanes. Es pot retirar sense destruir la cura i sense segrestar dades o rutines. La pregunta decisiva converteix el després en criteri del present. Així, la robòtica no consumeix autonomia per produir una xifra d'èxit, sinó que contribueix a sostenir una comunitat més preparada i lliure.