Carme Torras es licenciada en matemáticas, doctora en informática y profesora de investigación en el Instituto de Robótica e Informática Industrial (CSIC-UPC), donde dirige un grupo de investigación en robótica asistencial. Compagina la investigación con la escritura literaria, especialmente en el campo de la ciencia ficción, donde trata de componer más utopías que distopías, combatir el pesimismo desde los mundos posibles.
Torras se dedica actualmente a la investigación en robótica para la asistencia a personas que tienen discapacidad física o cognitiva, en crear brazos mecánicos que les hacen la vida más fácil a cuidadores y cuidados. Es una de las ponentes del III Foro del Consejo Científico de ValgrAI, celebrado en la Universidad Politécnica de Valencia, que reúne a expertos en inteligencia artificial para compartir conocimientos y fomentar la colaboración. La experta atiende a elDiario.es antes de su conferencia, que aborda los retos de la robótica social y las iniciativas en educación ética.
¿En qué consiste la robótica social?
Trabajamos en robótica asistencial. Desarrollamos prototipos para dar de comer a personas que no se pueden valer con los brazos, ayudar a vestir, para hacer entrenamiento cognitivo... Nuestro enfoque es hacer codiseño con todos los agentes implicados. El prototipo del robot que da de comer surge después de haber ido a un centro sociosanitario muy grande, en el que tenían a muchas personas haciendo rehabilitación, donde mostramos los prototipos que hemos hecho y preguntamos cuál les gustaría desarrollar. En este centro, la mitad de los ingresados necesitan que les den de comer y el personal sanitario nos habló de la falta de tiempo, de que algunos pacientes piden a los familiares que vengan a la hora de comer, pero vienen deprisa y corriendo, sin apenas tiempo, algo que no es provechoso ni para los pacientes ni para las familias. Nos plantearon si podríamos desarrollar un brazo que dé de comer y con el que la persona se sienta autónoma y eso hicimos. Junto con los pacientes y el personal sanitario del centro lo hemos ido refinando, mejoramos el sensor de fuerza, la cámara -que se emplea cuando la persona abre la boca de frente-, añadimos un utensilio para dar de beber, otro para limpiar, como una servilleta. Pidieron que tuvieran algo similar a un rostro para interactuar de forma más amable, sabiendo que es una máquina. Hicimos un programa piloto con sesenta ingresados en el que nos dieron más feedback, pedían que la máquina se fuera adaptando, aprendiera a dar un servicio más personalizado.
¿La idea es que tenga aplicación en hospitales, residencias...?
Sí, en centros grandes. Es un brazo pequeño, como de sobremesa. También se puede usar en domicilio. Piensa que cuando tienes a una persona a la que tienes que dar de comer no haces una sobremesa igual. En uno de los centros, las cuidadoras, porque eran todo mujeres, nos decían: nos volvemos máquinas dando de comer y no podemos interactuar ni hablar con el resto de personas que están en la mesa. De este modo, cada uno tendría su robot que le da de comer bien, como una prolongación de los cubiertos, los pacientes se sienten autónomos y los cuidadores, nos decían, podemos preocuparnos de cada persona, de cómo ha pasado la mañana, cómo mejorar su estancia y dedicarnos a ella, en una sobremesa normal.
Ustedes detectaron una necesidad y fueron a los centros donde les orientaron. ¿Trabajan habitualmente así?
Sí, desde antes de la pandemia, más o menos. Nos dimos cuenta de que los centros de investigación abordamos a menudo puntos de vista interesantes para la investigación, pero que no son lo más útil. De este modo, con el codiseño, la cocreación con todos los agentes implicados, tienes visiones distintas y un producto que solucione más necesidades a un menor coste.
Hablaba de que las cuidadoras se vuelven máquinas. ¿Cómo acogen las personas con esta necesidad que sean máquinas y no personas quienes les atienden?
Pensábamos que costaría. Hicimos otro robot de entrenamiento cognitivo durante la pandemia para personas con alzhéimer o personas con demencia leve y pensamos que podría echarles atrás que fuera una máquina. En este segundo prototipo, el robot tiene cara como de dibujo animado, de entrada se presenta como una máquina que te ayuda en todo lo que pueda, y advierte: “no confíes en que te entienda”. Tuvo muy buena acogida, fue un éxito.
Iba a preguntar por esa idea de la máquina como sustituto del humano, pero, por lo que me cuenta, en un entorno precario, el humano ya se ha vuelto una máquina. Me recuerda, por ejemplo, la aspiradora automática, que sustituye una tarea atribuida al 'ama de casa', no a la persona en sí.
Sí. Sí, como comentaba, los cuidadores estaban encantados porque nos decían: no tenemos tiempo de desarrollar la función para la que hemos sido educados, que es cuidar a la persona, porque nos volvemos máquinas de dar de comer.
Este tipo de robots son electrodomésticos sofisticados. Igual que ya no podemos prescindir de la lavadora pero no pensamos que la lavadora nos sustituye; sustituye una tarea. Este robot sustituye la tarea de dar de comer. Sustituye una tarea, no un puesto de trabajo.
¿Esta sustitución de tareas de cuidados cree que tienen un impacto emocional en las personas que son cuidadas? El hecho de que no pueda ir un familiar a cuidarles y tenga que ir un robot; como los asistentes virtuales de personas que están solas...
Creo que es un tema de educación ética. Como decía, a veces van los familiares corriendo a la hora de comer porque luego tienen que ir a trabajar. Los propios pacientes nos decían que preferían la máquina, que les da autonomía para comer, y que vinieran los familiares después a darles calor humano.
Tiene muchísimas implicaciones de género. Para la mujer cuidadora, es una liberación...
Es una liberación para las personas que hacen estos cuidados mecánicos. Estas herramientas harán que el oficio de cuidador tenga más calidad. Podrán atender a más personas y requerirá de un cierto conocimiento tecnológico. Será un trabajo más cualificado y en favor de las personas que necesitan cuidados. Y así lo entienden ellos. Hemos tenido reuniones con asociaciones de pacientes y de cuidadores, y en ambos casos ha tenido buena acogida. Al principio, los pacientes eran más reticentes, pero después del proceso quedaban muy satisfechos.
Ahora, hay que insistir mucho en la educación para no dejar a estas personas aisladas, no desentenderse porque tengan las necesidades básicas cubiertas. Las personas necesitan calor humano. Las familias esto lo entienden a la perfección.
En sus equipos de investigación tienen a una persona encargada de la parte ética. ¿Por qué?
Sí. Una estudiante de doctorado que se ha incorporado muy bien. Necesitamos impartir formación ética en la investigación. Los investigadores que van a hacer programas piloto en centros sanitarios vuelven con un montón de preguntas y cuestiones que enriquecen a todo el grupo. Hacemos sesiones de debate y las compartimos. También tuvimos una postdoc en ciencias sociales que abordaba el diseño de los experimentos; nosotros somos desarrolladores de tecnología pero ella nos ayudaba en el diseño de los programas piloto.
¿Qué planteamientos éticos aborda en la investigación?
De todo tipo. Abordamos cuestiones globales. Las cuestiones éticas se centran mucho en las relaciones persona-robot, pero es necesario un punto de vista más amplio. Hay que incluir al cuidador, sus obligaciones y sus derechos, también el sistema sociosanitario en conjunto: no podemos crear fracturas, que unos se lo puedan permitir y otros no. Hemos formado una asociación con 14 socios en la que están las Administraciones. El sistema sanitario, en este caso el de la Generalitat de Catalunya, también tiene que intervenir y tiene que recibir mensajes. Ayudamos al establecimiento de políticas digitales en relación a los cuidados. De hecho, la tesis sobre ética que he comentado la he codirigido con la filósofa que preside el comité de ética en los cuidados de Catalunya. Esto es un ecosistema, es importante que todo el mundo participe, al hacerlo aisladamente las perspectivas son muy limitadas.
Van más lentas las políticas y las preguntas sobre la tecnología que la tecnología misma...
Efectivamente. Pasa más en inteligencia artificial que en robótica. Como la robótica requiere el desarrollo de herramientas físicas, su avance es más lento; hemos hecho más reflexión previa al despliegue de esta tecnología.
En IA se habla mucho de los sesgos, de cómo la herramienta reproduce los sesgos. ¿En robótica, cómo se corrige?
Con formación. Los problemas son un poco distintos. En IA funcionan con big data, que tiene los sesgos propios de la población y de la historia; en robótica trabajamos con small data, que la generamos nosotros, los sesgos históricos existen en la mente de los desarrolladores, pero no por el hecho de que se tomen datos indiscriminadamente. Los datos muchas veces se crean en los mismos laboratorios y en los programas piloto; si quienes están a cargo tienen esa formación, los sesgos son menores.
Aquí ya entramos en el sesgo en la investigación, historiografía científica... Hay muchos estudios sobre cómo la configuración de equipos influye en el resultado final.
Una de las cosas que recalco en la ponencia es que faltan mujeres que se dediquen a la tecnología. En nuestro equipo, son un 20%. Por más esfuerzos que hacemos no conseguimos involucrar a más mujeres: hacemos programas de todo tipo, vamos a las escuelas, y, a pesar de todo, cuesta mucho. Creo que hay una prevención de la mujer, especialmente en relación a la informática. Las mujeres que tenemos son matemáticas e ingenieras, pero nos cuesta mucho incorporar informáticas. Y es el futuro, es importante. Cuando hacemos pruebas en el laboratorio, las pruebas las hacen hombres, porque son quienes están ahí; y quieras que no, la visión es distinta. Hago una llamada a que las mujeres se impliquen en la tecnología, que es el futuro, y es importante que la visión femenina trascienda en la tecnología de cuidados.
Acabas siendo parte de un mundo en el que no participas, eres un sujeto pasivo, un papel secundario.
Sí, y muchas veces no es algo intencionado [por parte de los hombres], simplemente se piensa distinto.
Hablaba antes del prejuicio del cuidador y del paciente respecto al robot. Como novelista, ¿hasta qué punto cree influye la ciencia ficción, la distopía, en esa idea?
Se escriben demasiadas distopías. Venden más. Es aquello de que las familias felices no tienen historia, se requiere un conflicto. Yo he escrito alguna distopía, pero ahora me dedico a las utopías. Tantas distopías nos conducen a una profecía autocumplida. Y no, no es inevitable. Estamos en una encrucijada en estos momentos: la Inteligencia Artificial puede llevar a muchos futuros distintos. Si concienciamos a la población de que tome un camino hacia un escenario positivo para la humanidad, lo tendremos ganado. La gente también es pasiva, las grandes corporaciones tienen el negocio entre sus prioridades, nos pueden hacer ir por donde no queremos.
La tecnología puede llevarte donde quieras que te lleve...
Exactamente. Pero para eso tienes que formarte, elegir las opciones correctas. Es lo que decíamos antes sobre las mujeres: el futuro será tecnológico, impliquémonos en llevarlo a nuestro terreno.
La importancia de participar, de la transparencia de las corporaciones, los algoritmos, la regulación...
Sí, pero todo esto, ya se puede regular, que sin formación va a ser muy difícil. Muchas veces nos dejamos llevar por lo cómodo, pensamos que no tenemos capacidad y bueno, pues mira, acepto todo. Hay que educar en hacer un buen uso de las herramientas tecnológicas, para ti y para la sociedad. Qué nos enriquece como personas y qué nos hace perder el tiempo.
Hace meses se celebró un congreso de neuroderechos en Valencia, también una llamada activa a la participación en cuestiones tecnológicas.
Me recuerda a una cita de Alice Walker, que dice algo así como que el modo en el que la gente renuncia a su poder es creyendo que no tiene poder. Cada individuo tiene su parcela, su capacidad de tomar decisiones adecuadas. Creo que tiene mucha razón.
Como autora ¿cómo afronta las utopías? ¿Plantea conflictos que no puede abordar de otro modo?
Yo empecé escribiendo otras cosas. Cuando en mi campo de investigación pasamos de robots industriales a la robótica social me empecé a plantear qué quería desarrollar con mi grupo en el futuro, qué quería poner en las convocatorias de proyectos, qué temas abordar. Había gente que decía: una especie autónoma, una inteligencia libre. Yo pensaba: con los problemas que hay, ¿nos vamos a poner a hacer esto? Y empecé a escribir pensando en una sociedad futura. Así llegué a La mutación sentimental (Milenio, 2012), una novela donde una niña aparece dentro de cien años en una sociedad en la que todos los humanos tienen un robot y los usos que le dan: enriquecerse humanamente o no. Poco a poco he ido evolucionando a las utopías, que literariamente me cuestan mucho, pero también tienen sus conflictos. En una sociedad utópica hay poca diversidad, todo el mundo escoge lo mejor; pinto sociedades futuras, a través del posthumanismo, qué se encuentran personas de nuestra época en un futuro, una sociedad en paz pero poco creativa. Me preocupa porque creo que hay mucho pesimismo actualmente. También tengo otra ficción sobre modelos predictivos, que nos abocan a una vida sin nada sorpresivo, algo que es horroroso. Escribo utopías pero planteo qué problemas puede haber en un mundo presuntamente ideal.