Els primers quinze minuts amb un robot de cura revelen més que una demostració preparada. Mostren si una persona entén què fa la màquina, pot negar-s'hi, sap demanar ajuda i conserva un vincle humà disponible. També exposen sorolls, esperes, errors i dubtes que el laboratori no va reproduir. Dissenyar aquest començament amb curiositat, responsabilitat i cura permet situar la tecnologia al seu lloc: com a suport limitat i supervisat, no com a substituta de la relació.
L'arribada real no s'assembla a una presentació#
Una demostració acostuma a començar amb el dispositiu carregat, la sala ordenada i un equip que coneix cada pas. La vida quotidiana comença d'una altra manera. La persona pot arribar cansada, adolorida, espantada, amb pressa o sense haver triat la interacció. Potser no sent la primera instrucció, interpreta un moviment com una amenaça o no sap si parla amb una màquina, un operador remot o un sistema que emmagatzema dades. El primer quart d'hora revela aquestes diferències.
Una demostració acostuma a començar amb el dispositiu carregat, la sala ordenada i un equip que coneix cada pas.
L'acollida s'ha de dissenyar com una tasca crítica. Abans d'activar el robot s'explica la finalitat, els límits, qui n'és responsable i quina alternativa humana existeix. La informació necessita formats comprensibles i temps per a preguntes. No n'hi ha prou amb una pantalla de condicions ni amb una veu amable. Ha de quedar clar quines accions pot fer, quines decisions no pren, quan grava, com s'atura i què passarà si falla. La persona pot observar abans de participar.
La curiositat professional no pregunta per què la persona no s'adapta amb rapidesa. Investiga quin element de l'entorn o de la interacció ha generat incertesa. S'observen distància, velocitat, volum, il·luminació, llenguatge, temps de resposta i senyals corporals. Un silenci no s'interpreta automàticament com a consentiment. La persona rep una via senzilla per fer una pausa, retirar-se o sol·licitar suport, sense haver de justificar la incomoditat.
Definir un lloc limitat per a la màquina#
Un robot útil té una funció concreta. Pot transportar materials, recordar una rutina, facilitar una comunicació o donar suport a un exercici. No hauria d'estendre el seu paper per conveniència fins a avaluar emocions, decidir prioritats clíniques o substituir conversa sense evidència i autorització. Com més vulnerable sigui la situació, més important és delimitar competències. L'aparença humanoide o el llenguatge natural no han de confondre capacitat tècnica amb comprensió moral.
L'assignació de tasques s'analitza segons necessitat, benefici, risc, reversibilitat i alternativa. Automatitzar una activitat repetitiva pot alliberar temps de l'equip per a la relació. També pot reduir trobades i amagar senyals que una persona hauria detectat. L'avaluació no dona per descomptat que eficiència i cura avancin juntes. Pregunta quina feina desapareix, quina es desplaça, qui vigila i com afecta l'experiència d'usuaris i professionals.
Els límits han de ser visibles a la interfície i a l'organització. El robot no hauria d'afirmar certesa quan treballa amb una estimació. Si no comprèn, ha de reconèixer-ho i derivar. La persona ha de distingir una recomanació automatitzada d'una decisió professional. L'equip humà conserva autoritat i temps per intervenir; si la plantilla es redueix perquè la màquina suposadament cobreix el servei, la supervisió es torna fictícia. Un botó d'ajuda sense resposta disponible no és control humà.
Consentiment, privacitat i possibilitat de negar-s'hi#
El consentiment requereix una elecció real. Quan el robot s'integra en una residència, hospital o domicili finançat per un servei, rebutjar-lo no hauria d'implicar perdre l'atenció. S'ofereix una alternativa raonable i s'explica si alguna funció és imprescindible per motius concrets. La persona pot acceptar unes tasques i no unes altres, canviar d'opinió i saber com es registra la preferència. El consentiment es revisa quan canvia el programari o la finalitat.
Els sensors converteixen l'espai quotidià en font de dades. Càmeres, micròfons, mapes, patrons de moviment i registres d'interacció poden revelar salut, hàbits i relacions. Només s'han de recopilar les dades necessàries, durant el temps justificat i amb accés restringit. S'explica quin processament es fa al dispositiu, què s'envia fora, qui ho rep i quan s'elimina. La privacitat de familiars, visites i treballadors també forma part del disseny.
La possibilitat d'apagar ha de ser comprensible i físicament accessible. Pot requerir veu, botó, gest o comandament remot, amb opcions redundants. Una aturada no ha d'esborrar una sol·licitud d'ajuda ni deixar la persona en perill. Després d'aturar-se, el robot adopta un estat segur i comunica què farà. Els registres d'emergència es revisen amb garanties. L'objectiu és conservar agència sense crear una falsa elecció entre privacitat i seguretat.
Un protocol per als primers quinze minuts#
El primer tram es pot estructurar sense convertir-lo en rígid. Als minuts inicials, una persona responsable es presenta, confirma preferències de comunicació i explica el propòsit. Després es mostra el robot immòbil, es descriuen sensors i límits i es demostra l'aturada. La persona decideix si vol continuar. A continuació s'assaja una tasca de baix risc, amb observació pròxima i temps per preguntar. Finalment es resumeix allò que ha passat i s'acorda el pas següent.
La llista no substitueix l'atenció. Si apareixen por, confusió, dolor o sobrecàrrega, s'atura el procediment encara que el guió marqui una altra fase. El professional comprova comprensió amb preguntes obertes i no amb un sí obligat. S'evita infantilitzar, atribuir emocions o prometre que la màquina ho aprendrà tot. Les explicacions s'adapten a llengua, capacitat sensorial i experiència tecnològica sense pressuposar incompetència per edat o discapacitat.
La documentació registra configuració, consentiment, incidències, preguntes, suports i decisió final. No transforma expressions humanes en etiquetes innecessàries. El resum es lliura en format accessible i inclou contacte, mecanisme de queixa i data de revisió. Allò observat alimenta millores del sistema, però els usos secundaris requereixen base legítima i protecció. Una sessió d'acollida no és una autorització il·limitada per investigar o entrenar models.
Cas 1: un robot d'orientació en un hospital#
Un hospital instal·la un robot mòbil per guiar visitants. A la presentació recorre passadissos buits amb precisió. En horari real, una pacient amb baixa visió arriba entre soroll i persones, no distingeix la pantalla i el robot inicia el moviment abans de confirmar que el segueix. En perdre-la, torna al punt inicial. El personal interpreta que la usuària no ha entès la tecnologia. La revisió mostra problemes de contrast, velocitat, senyal sonor, detecció i absència d'una alternativa immediata.
L'hospital modifica l'arribada: recepció ofereix triar entre guia humana i robot, descriu el servei i configura ritme i canal. El dispositiu confirma cada gir, espera resposta i deriva al personal si perd contacte. Es proven recorreguts amb usuaris diversos, es limiten rutes i es registra l'abandonament com a senyal de disseny, no com a error personal. La tecnologia queda destinada a orientació senzilla; no gestiona prioritats clíniques. Els primers minuts passen a formar part de l'avaluació diària.
Cas 2: un robot social en una residència#
Una residència introdueix un robot que recorda activitats i proposa conversa. Un resident creu que el dispositiu informa directament la família i evita expressar malestar. Una altra persona se sent obligada a respondre perquè el robot insisteix després de cada silenci. La taxa d'interacció sembla alta, però no reflecteix llibertat. L'equip havia assajat funcions, no com s'entendrien autoritat, escolta i privacitat dins un espai que també és llar.
Se suspèn l'ús automàtic i es fan converses individuals accessibles. S'explica quines dades existeixen, s'eliminen registres innecessaris i cada resident tria funcions, horaris i paraules d'aturada. El robot limita repeticions i ofereix contacte humà. Les activitats presencials no es redueixen. L'èxit es mesura per elecció, benestar i queixes, no per minuts d'interacció. Un comitè amb residents, famílies i treballadors revisa els canvis. La màquina troba un lloc subordinat al projecte de vida de cada persona.
Cas 3: assistència robòtica en rehabilitació#
Un servei incorpora un dispositiu robòtic per donar suport a la marxa. Durant la primera sessió, el protocol tècnic ocupa tota l'atenció i una pacient no comprèn com avisar de dolor. L'arnès està ben col·locat, però el ritme augmenta abans que pugui formular un dubte. Completa l'exercici i el resultat es classifica com a èxit. Després evita una altra cita per por i molèsties. La mètrica de repeticions havia amagat seguretat percebuda i consentiment continuat.
L'equip redissenya l'acollida amb explicació visual, demostració sense càrrega, senyal d'aturada accessible i progressió decidida conjuntament. Es registra dolor abans, durant i després, i una professional roman disponible. L'alternativa convencional continua oberta. Les decisions del dispositiu es mostren a l'equip i els paràmetres no canvien sense confirmació. El seguiment inclou confiança i voluntat de repetir, a més de resultats físics. La reparació reconeix l'experiència inicial i ofereix una sessió nova només si la pacient ho vol.
Responsabilitat abans, durant i després#
La responsabilitat no es pot diluir entre fabricant, proveïdor, direcció i professional. Per a cada funció s'identifica qui autoritza l'ús, supervisa, manté, respon a incidències i comunica amb la persona. Els contractes especifiquen actualitzacions, ciberseguretat, accessibilitat, registres, suport i retirada. L'organització compradora conserva deures encara que una decisió tècnica pertanyi al proveïdor. Els riscos coneguts es documenten i es tradueixen en pràctiques, no s'arxiven en un manual inaccessible.
Abans del desplegament es prova en escenaris realistes: soroll, connectivitat irregular, obstacles, cossos diferents i diverses formes de comunicació. Durant l'ús es monitoritzen fallades sense convertir la vida en vigilància contínua. Després es revisen incidents, negatives, derivacions humanes, càrrega del personal i efectes no previstos. Una taxa baixa de queixes no basta; potser el canal és desconegut o la persona tem conseqüències. L'avaluació inclou mètodes accessibles i observació independent.
Quan hi ha dany, la reparació inclou aturar l'ús si persisteix el risc, atendre conseqüències, informar amb claredat, corregir registres i canviar el sistema. No es culpa la persona per un moviment no anticipat ni s'amaga la fallada rere el terme error d'usuari. La investigació diferencia causes tècniques, organitzatives i comunicatives. Els aprenentatges es comparteixen de manera proporcionada i es verifiquen abans de reprendre.
Cuidar també l'equip humà#
Un robot canvia feines fins i tot quan no elimina llocs. Pot afegir càrrega de configuració, neteja, vigilància, explicació i gestió d'errors. Si aquestes tasques no reben temps ni reconeixement, la tecnologia desplaça la cura cap a treball invisible. La implantació ha de consultar qui l'operarà, analitzar competències i ajustar torns. La formació inclou límits ètics i resposta davant dubtes, no només botons i manteniment.
El personal necessita llibertat per qüestionar una recomanació i aturar el dispositiu sense càstig per reduir productivitat. Les alertes es dissenyen per evitar fatiga i prioritzar situacions reals. La cooperació amb usuaris ajuda a detectar efectes, però no descarrega sobre ells la garantia de qualitat. El coneixement es distribueix entre disciplines: cura, enginyeria, accessibilitat, privacitat, seguretat i experiència viscuda. Cap mirada, tota sola, representa el sistema complet.
La direcció ha de resistir promeses de substitució simplista. Si l'estalvi previst depèn de retirar contacte humà abans de demostrar seguretat i acceptació, el robot ocupa un lloc equivocat. Els beneficis es poden mesurar en reducció de tasques físiques, més precisió o disponibilitat, juntament amb relació, autonomia i equitat. La productivitat és un criteri legítim, però no l'únic en contextos on una persona depèn del servei.
Fonts institucionals per orientar decisions#
L'Organització Mundial de la Salut ofereix orientació sobre ètica i governança d'intel·ligència artificial en salut, útil per situar seguretat, autonomia i responsabilitat. La Recomanació de la UNESCO sobre l'Ètica de la Intel·ligència Artificial aporta principis sobre drets, supervisió i diversitat. Aquests marcs s'han de traduir a tasques concretes i al context normatiu aplicable.
La Comissió Europea manté informació institucional sobre el marc regulador d'intel·ligència artificial. El marc de gestió de riscos d'IA del NIST ajuda a organitzar identificació, mesura, gestió i seguiment. Cap font no substitueix proves clíniques, tècniques o d'accessibilitat quan corresponguin. Serveixen per formular preguntes, assignar responsabilitats i conservar evidència durant tot el cicle de vida.
La veritat útil del primer quart d'hora#
Els primers quinze minuts expliquen la veritat perquè reuneixen tecnologia, entorn, expectatives i poder. Mostren si l'explicació s'entén, si una negativa té conseqüències, si el suport humà existeix i si el dispositiu respon al cos real. Dissenyar-los bé no garanteix tot el servei, però revela aviat supòsits que, d'una altra manera, es convertirien en dany repetit.
Un robot que sap quin és el seu lloc no pretén reemplaçar el judici, l'afecte ni la responsabilitat. Fa una tasca delimitada, mostra els límits, accepta que l'aturin i deriva quan no comprèn. La curiositat examina l'experiència; la responsabilitat assigna responsables i límits; la cura preserva llibertat i relació. Només llavors l'automatització pot ampliar capacitat sense deshumanitzar qui rep atenció ni qui la presta.
