Carme Torras: “Estem en una cruïlla; la intel·ligència artificial pot portar a molts futurs diferents

Carme Torras és llicenciada en Matemàtiques, doctora en Informàtica i professora d’investigació en l’Institut de Robòtica i Informàtica Industrial (CSIC-UPC), on dirigeix un grup d’investigació en robòtica assistencial. Compagina la investigació amb l’escriptura literària, especialment en el camp de la ciència-ficció, en què tracta de compondre més utopies que distopies, combatre el pessimisme des dels mons possibles.

Torras es dedica actualment a la investigació en robòtica per a l’assistència a persones que tenen discapacitat física o cognitiva, a crear braços mecànics que fan la vida més fàcil a cuidadors i cures. És una de les ponents del III Fòrum del Consell Científic de ValgrAI, celebrat en la Universitat Politècnica de València, que reuneix experts en intel·ligència artificial per a compartir coneixements i fomentar la col·laboració. L’experta atén elDiario.es abans de la seua conferència, que aborda els reptes de la robòtica social i les iniciatives en educació ètica.

En què consisteix la robòtica social?

Treballem en robòtica assistencial. Desenvolupem prototips per a donar menjar a persones que no es poden valdre amb els braços, ajudar a vestir, per a fer entrenament cognitiu... El nostre enfocament és fer codisseny amb tots els agents implicats. El prototip del robot que dona menjar sorgeix després d’haver anat a un centre sociosanitari molt gran, en què tenien moltes persones fent rehabilitació, on vam mostrar els prototips que hem fet i vam preguntar quin els agradaria desenvolupar. En aquest centre, la meitat dels ingressats necessiten que els donen menjar i el personal sanitari ens va parlar de la falta de temps, que alguns pacients demanen als familiars que vinguen a l’hora de menjar, però venen a correcuita, sense tot just temps, cosa que no és profitosa ni per als pacients ni per a les famílies. Ens van plantejar si podríem desenvolupar un braç que done menjar i amb què la persona se senta autònoma i això vam fer. Juntament amb els pacients i el personal sanitari del centre hem anat refinant-lo, vam millorar el sensor de força, la càmera –que es fa servir quan la persona obri la boca de cara–, vam afegir un estri per a donar beure, un altre per a torcar, com un tovalló. Van demanar que tingueren una cosa similar a un rostre per a interactuar de manera més amable, tot i saber que és una màquina. Vam fer un programa pilot amb seixanta ingressats en què ens van donar més feedback, demanaven que la màquina anara adaptant-se, aprenguera a donar un servei més personalitzat.

La idea és que tinga aplicació en hospitals, residències...?

Sí, en centres grans. És un braç menut, com de taula. També es pot usar en domicili. Pensa que, quan tens una persona a qui has de donar menjar, no fas una sobretaula igual. En un dels centres, les cuidadores, perquè eren tot dones, ens deien: ens tornem màquines donant menjar i no podem interactuar ni parlar amb la resta de persones que estan a taula. D’aquesta manera, cadascú tindria el seu robot que li dona menjar bé, com una prolongació dels coberts, els pacients se senten autònoms i els cuidadors, ens deien, podem preocupar-nos de cada persona, de com ha passat el matí, com millorar la seua estada i dedicar-nos a ella, en una sobretaula normal.

Vostés van detectar una necessitat i van anar als centres, on els van orientar. Treballen habitualment així?

Sí, des d’abans de la pandèmia, més o menys. Ens vam adonar que els centres d’investigació abordem sovint punts de vista interessants per a la investigació, però que no són el més útil. D’aquesta manera, amb el codisseny, la cocreació amb tots els agents implicats, tens visions diferents i un producte que solucione més necessitats menys cost.

Deia que les cuidadores es tornen màquines. Com acullen les persones amb aquesta necessitat que siguen màquines i no persones els que els atenen?

Pensàvem que costaria. Vam fer un altre robot d’entrenament cognitiu durant la pandèmia per a persones amb la malaltia d’Alzheimer o persones amb demència lleu i vam pensar que podria tirar-los arrere que fora una màquina. En aquest segon prototip, el robot té cara com de dibuix animat, d’entrada es presenta com una màquina que t’ajuda en tot el que puga, i adverteix: “No confies que t’entenga”. Va tindre molt bon acolliment, va ser un èxit.

Anava a preguntar per aquesta idea de la màquina com a substitut de l’humà, però, pel que m’explica, en un entorn precari, l’humà ja s’ha tornat una màquina. Em recorda, per exemple, l’aspiradora automàtica, que substitueix una tasca atribuïda a la ‘mestressa de casa’, no a la persona en si.

Sí. Sí, com comentava, els cuidadors n’estaven encantats, perquè ens deien: no tenim temps de desenvolupar la funció per a la qual hem sigut educats, que és cuidar la persona, perquè ens tornem màquines de donar menjar.

Aquest tipus de robots són electrodomèstics sofisticats. Igual que ja no podem prescindir de la llavadora però no pensem que la llavadora ens substitueix; substitueix una tasca. Aquest robot substitueix la tasca de donar menjar. Substitueix una tasca, no un lloc de treball.

Aquesta substitució de tasques de cures creu que té un impacte emocional en les persones que són cuidades? El fet que no puga anar un familiar a cuidar-los i haja d’anar un robot, com els assistents virtuals de persones que estan soles...

Crec que és un tema d’educació ètica. Com deia, a vegades van els familiars corrent a l’hora de menjar, perquè després han d’anar a treballar. Els mateixos pacients ens deien que preferien la màquina, que els dona autonomia per a menjar, i que vingueren els familiars després a donar-los calor humana.

Té moltíssimes implicacions de gènere. Per a la dona cuidadora, és un alliberament...

És un alliberament per a les persones que fan aquestes cures mecàniques. Aquestes eines faran que l’ofici de cuidador tinga més qualitat. Podran atendre més persones i requerirà d’un cert coneixement tecnològic. Serà un treball més qualificat i en favor de les persones que necessiten cures. I així ho entenen ells. Hem tingut reunions amb associacions de pacients i de cuidadors, i en tots dos casos ha tingut bon acolliment. Al principi, els pacients hi eren més reticents, però, després del procés, quedaven molt satisfets.

Ara, cal insistir molt en l’educació per no deixar a aquestes persones aïllades, no desentendre-se’n perquè tinguen les necessitats bàsiques cobertes. Les persones necessiten calor humana. Les famílies això ho entenen a la perfecció.

En els seus equips d’investigació tenen una persona encarregada de la part ètica. Per què?

Sí. Una estudiant de doctorat que s’hi ha incorporat molt bé. Necessitem impartir formació ètica en la investigació. Els investigadors que han de fer programes pilot en centres sanitaris tornen amb un munt de preguntes i qüestions que enriqueixen tot el grup. Fem sessions de debat i les compartim. També vam tindre una postdoc en ciències socials que abordava el disseny dels experiments; nosaltres som desenvolupadors de tecnologia, però ella ens ajudava en el disseny dels programes pilot.

Quins plantejaments ètics aborda en la investigació?

De tota mena. Abordem qüestions globals. Les qüestions ètiques se centren molt en les relacions persona-robot, però cal un punt de vista més ampli. Cal incloure el cuidador, les seues obligacions i els seus drets, també el sistema sociosanitari en conjunt: no podem crear fractures, que uns s’ho puguen permetre i altres no. Hem format una associació amb 14 socis en què estan les administracions. El sistema sanitari, en aquest cas el de la Generalitat de Catalunya, també ha d’intervindre-hi i ha de rebre missatges. Ajudem a l’establiment de polítiques digitals en relació amb les cures. De fet, la tesi sobre ètica que he comentat l’he codirigida amb la filòsofa que presideix el comité d’ètica en les cures de Catalunya. Això és un ecosistema, és important que tothom hi participe, si es fa aïlladament, les perspectives són molt limitades.

Van més lentes les polítiques i les preguntes sobre la tecnologia que la tecnologia mateixa...

Efectivament. Passa més en intel·ligència artificial que en robòtica. Com que la robòtica requereix el desenvolupament d’eines físiques, el seu avanç és més lent; hem fet més reflexió prèvia al desplegament d’aquesta tecnologia.

En IA es parla molt dels biaixos, de com l’eina reprodueix els biaixos. En robòtica, com es corregeix?

Amb formació. Els problemes són un poc diferents. En IA funcionen amb big data, que té els biaixos propis de la població i de la història; en robòtica treballem amb small data, que la generem nosaltres, els biaixos històrics existeixen en la ment dels desenvolupadors, però no pel fet que s’agafen dades indiscriminadament. Les dades moltes vegades es creen en els laboratoris mateixos i en els programes pilot; si els que n’estan a càrrec tenen aquesta formació, els biaixos són menors.

Ací ja entrem en el biaix en la investigació, historiografia científica... Hi ha molts estudis sobre com la configuració d’equips influeix en el resultat final.

Una de les coses que remarque en la ponència és que falten dones que es dediquen a la tecnologia. En el nostre equip, en són un 20%. Per més esforços que fem, no aconseguim involucrar-hi més dones: fem programes de tota mena, anem a les escoles i, malgrat tot, costa molt. Crec que hi ha una prevenció de la dona, especialment en relació amb la informàtica. Les dones que tenim són matemàtiques i enginyeres, però ens costa molt incorporar-hi informàtiques. I és el futur, és important. Quan fem proves en el laboratori, les proves les fan homes, perquè són els que estan ací; i vulgues que no, la visió és diferent. Faig una crida perquè les dones s’impliquen en la tecnologia, que és el futur, i és important que la visió femenina transcendisca en la tecnologia de cures.

Acabes sent part d’un món en què no participes, eres un subjecte passiu, un paper secundari.

Sí, i moltes vegades no és una cosa intencionada [per part dels homes], simplement es pensa diferent.

Parlava abans del prejudici del cuidador i del pacient pel que fa al robot. Com a novel·lista, fins a quin punt creu que influeix la ciència-ficció, la distopia, en aquest idea?

S’escriuen massa distopies. Venen més. És allò que les famílies felices no tenen història, es requereix un conflicte. Jo he escrit alguna distopia, però ara em dedique a les utopies. Tantes distopies ens condueixen a una profecia autocomplida. I no, no és inevitable. Estem en una cruïlla en aquests moments: la intel·ligència artificial pot portar a molts futurs diferents. Si conscienciem la població que agafe un camí cap a un escenari positiu per a la humanitat, el tindrem guanyat. La gent també és passiva, les grans corporacions tenen el negoci entre les seues prioritats, ens poden fer anar per on no volem.

La tecnologia pot portar-te on vulgues que et porte...

Exactament. Però per a això has de formar-te, triar les opcions correctes. És el que déiem abans de les dones: el futur serà tecnològic, impliquem-nos a portar-lo al nostre terreny.

La importància de participar, de la transparència de les corporacions, els algorismes, la regulació...

Sí, però tot això, ja es pot regular, que sense formació serà molt difícil. Moltes vegades ens deixem portar per la comoditat, pensem que no tenim capacitat i bé, doncs mira, ho accepte tot. Cal educar a fer un bon ús de les eines tecnològiques, per a tu i per a la societat. Què ens enriqueix com a persones i què ens fa perdre el temps.

Fa mesos es va celebrar un congrés de neurodrets a València, també una crida activa a la participació en qüestions tecnològiques.

Em recorda una citació d’Alice Walker, que diu una cosa així com que la manera com la gent renuncia al seu poder és creient que no té poder. Cada individu té la seua parcel·la, la seua capacitat de prendre decisions adequades. Crec que té molta raó.

Com a autora, com afronta les utopies? Planteja conflictes que no pot abordar d’una altra manera?

Jo vaig començar escrivint altres coses. Quan en el meu camp d’investigació vam passar de robots industrials a la robòtica social, vaig començar a plantejar-me què volia desenvolupar amb el meu grup en el futur, què volia posar en les convocatòries de projectes, quins temes abordar. Hi havia gent que deia: una espècie autònoma, una intel·ligència lliure. Jo pensava: amb els problemes que hi ha, ens hem de posar a fer això? I vaig començar a escriure pensant en una societat futura. Així vaig arribar a La mutación sentimental (Millenio, 2012), una novel·la en què una xiqueta apareix d’ací a cent anys en una societat en què tots els humans tenen un robot i els usos que li donen: enriquir-se humanament o no. A poc a poc he anat evolucionant a les utopies, que literàriament em costen molt, però també tenen els seus conflictes. En una societat utòpica hi ha poca diversitat, tothom tria el millor; pinte societats futures, a través del posthumanisme, què es troben persones de la nostra època en un futur, una societat en pau, però poc creativa. Em preocupa, perquè crec que hi ha molt de pessimisme actualment. També tinc una altra ficció sobre models predictius, que ens aboquen a una vida sense res sorprenent, cosa que és horrorosa. Escric utopies, però plantege quins problemes pot haver-hi en un món presumptament ideal.