Recuerda que solo es una máquina

“Memento mori” es una expresión en latín que significa “recuerda que morirás”. Cuando un general desfilaba en la Antigua Roma tras una victoria, un siervo se encargaba de recordárselo para que aquel no se viniese arriba y pecase de soberbia, saltándose la ley y la costumbre. La frase era un poco más elaborada, pero el resumen es ese, y así se ha hecho popular esta expresión. 

No sobraría hoy este recordatorio a aquellas personas, bastantes más que los generales romanos, que se endiosan en el ejercicio de sus cargos o responsabilidades. Tanto en la política, como en la empresa y hasta en la academia, aunque aquí con mucho menos poder.

Memento mori, Ellon Musk; Memento mori, Milei; Memento mori, Kary Mullis. Mullis, menos conocido que los anteriores, fue un bioquímico estadounidense, Premio Nobel de Química en 1993, compartido con Michael Smith, por haber inventado la técnica de la reacción en cadena de la polimerasa (PCR), que permite la replicación rápida de un segmento específico de ADN, lo que facilita su estudio y uso. Según cuentan personas próximas, se le subió a la cabeza el premio. Quiten o pongan nombres a su criterio, pero seguro que no le faltarán ejemplos de engreídos. 

Todavía no es necesario decirles a las máquinas que recuerden que lo son, ya que carecen de consciencia y de deseos propios, pero sí que sería bueno en ocasiones recordarnos a nosotros, sus usuarios, que estamos interaccionando con una máquina y no con un semejante, dada nuestra tendencia a antropomorfizarlo todo. Antropomorfizar es conceder forma o cualidades humanas a un ser vivo o incluso a un ser sobrenatural y también a una cosa.   

Las personas somos proclives a hacerlo debido a factores psicológicos, evolutivos y cognitivos. Por ejemplo, atribuir características humanas a objetos, animales o fenómenos abstractos nos ayuda a hacerlos más comprensibles. Nos resulta más fácil interpretar el mundo a partir de lo conocido, y en particular de nuestra propia forma, pensamiento y comportamiento. También reconocer agentes con intenciones ha sido crucial para la supervivencia humana, ya que nos ayuda a identificar amenazas o aliados.  

En el caso de las máquinas puede responder también a una simplificación cognitiva. Es más fácil interaccionar con un robot o, en general, con una máquina inteligente, si la entendemos como semejante a nosotros, sin tener que conocer en detalle su funcionamiento o comportamiento. Por eso es frecuente que al interaccionar con tecnologías inteligentes, como asistentes virtuales, robots o chatbots, les atribuyamos cualidades humanas, como emociones, intenciones o capacidades de razonamiento, aunque racionalmente sabemos, o deberíamos saberlo, que no poseen estas características. 

Este proceso es más evidente cuando las máquinas simulan comportamientos que asociamos con lo más humano. La IA conversacional o los robots humanoides son los ejemplos más evidentes, ya que es más fácil que nos generen la ilusión de que son o tienen algo de personas. El primer ejemplo ha sido quizás el programa informático ELIZA, diseñado a mediados de los 60 por Joseph Weizenbaum. Simulaba la conversación con un psicólogo. Lo hacía de un modo muy elemental, reproduciendo preguntas y expresiones predefinidas en función de la presencia de ciertas palabras clave en las respuestas o comentarios del usuario. Comparado con ChatGPT sería como comparar el avión de los hermanos Wright con un Airbus A380. Aun así, muchos usuarios confesaron que sentían que ELIZA “comprendía” sus emociones. 

Quizás usted recuerde los Tamagotchi, unas mascotas virtuales que se vendían como colgantes, relojes o llaveros y que se hicieron muy populares en los años 90. Aunque eran dispositivos electrónicos sin ningún tipo de forma humana y contaban con algoritmos muy básicos, los usuarios—particularmente los niños— se encariñaban con ellos y se sentían responsables de su “bienestar”, en ocasiones hasta la obsesión.  

Sophia es un robot humanoide con aspecto de mujer, que ha sido desarrollado hace años por la empresa Hanson Robotics, con sede en Hong Kong. Es capaz de reproducir gestos casi humanos y también es capaz de hablar con fluidez, supongo que ahora conectada a un modelo de lenguaje avanzado. En 2017 Arabia Saudí le concedió la ciudadanía. Un golpe de efecto en comunicación y promoción, pero especialmente paradójico en un país que niega incluso derechos fundamentales a las mujeres. 

Los avances en los últimos años, en particular en el ámbito de las tecnologías del lenguaje, han sido increíbles, incluso para quienes nos dedicamos a investigar en ellas. Es muy probable que usted haya usado aplicaciones como ChatGPT. Su diálogo es tan natural que todavía hace más fácil antropomorfizarlo (sí, soy consciente de que es la segunda vez que escribo esta palabra y de que es más fácil escribirla que leerla). Replika es uno de estos chatbots, diseñado específicamente para ser un “amigo virtual”. Muchos de sus usuarios llegan a formar vínculos emocionales con este programa, relatando cómo los ha ayudado en momentos difíciles o de soledad. 

Atribuir cualidades humanas a las máquinas puede tener ventajas en algunos casos, pero nunca debemos olvidar que se trata de sistemas que carecen de consciencia, deseos o emociones -en todo caso las simulan-, para no crear expectativas equivocadas sobre lo que las máquinas pueden hacer ni confundir los límites entre lo humano y lo artificial. 

Es más, cuando las interacciones con sistemas inteligentes se sienten “humanas”, corremos el riesgo de erosionar nuestra comprensión de lo que significa realmente ser humano. Las máquinas pueden simular muchas cosas, incluidos sentimientos, pero carecen todavía de las complejidades emocionales, éticas y cognitivas que definen nuestras relaciones. 

Por tanto, al menos por ahora, recuerda que son solo máquinas.