¿Llegará un algoritmo informático a ser Presidente del Gobierno?

La pregunta podrá ser descabellada para algunos, pero lo cierto es que la informática ha penetrado en los distintos sectores de la sociedad y en sus quehaceres cotidianos de forma imparable. La población adulta, los estudiantes y hasta los niños han adoptado nuevas formas de vivir y comportarse como consecuencia del impacto de la cultura digital en las diferentes profesiones, en las tareas del hogar y hasta en el sistema educativo.

Internet es una de las palabras más nombradas en los últimos tiempos. Internet se ha convertido en el medio de comunicación más extendido en toda la historia de la humanidad. Constituye una fuente de recursos de información y conocimientos compartidos a escala mundial. Es también la vía de comunicación que permite establecer la cooperación y colaboración entre gran número de comunidades y grupos de interés por temas específicos, distribuidos por todo el planeta.

Las máquinas, con los algoritmos que las hacen funcionar, comenzaron a entender frases simples en inglés en los años sesenta. Más tarde aprendieron a traducir textos más complejos a cientos de lenguajes, filtrar nuestros correos electrónicos y reconocer un texto escrito a mano. Y hoy ya son capaces de ganarnos a juegos de estrategia y lógica, entender lo que decimos y actuar en consecuencia, asistir a los médicos y vencer a los mejores jugadores de ajedrez o Go.

Un bot es un programa informático que imita el comportamiento humano, y un chatbot es el bot que simula una conversación con una persona. Los primeros pueden decirse que existen desde hace 50 años. Y los segundos, los bots conversacionales, están brotando por todas partes. En la prensa, a estos algoritmos se les denomina Inteligencias Artificiales (IA). Yo prefiero llamarlos algoritmos informáticos porque tienen mucha informática, además de los algoritmos específicos de Inteligencia Artificial (IA) que es una parte de la informática.

Hay chatbots que, además de entender el lenguaje y conversar, son capaces de "leer" las expresiones faciales de la persona que habla mediante la cámara frontal del dispositivo, información que complementa la que extrae del lenguaje verbal

Los chatbots se disparan porque hoy ya hay herramientas para acceder y extraer información valiosa de las conversaciones y procesarla, porque antes los algoritmos solo podían analizar datos y ahora son capaces de analizar el lenguaje natural de las personas.

La razón de esta eclosión de bots conversacionales es el vertiginoso avance de la inteligencia artificial en los últimos años, en especial en lo que se refiere a la inteligencia cognitiva, aquella que apuesta porque las máquinas perciban el entorno y resuelvan los problemas como lo hace el sistema cognitivo de una persona.

Los programas más avanzados son capaces de entender el discurso humano y mantener una conversación lógica y seudointeligente, y además en varios idiomas, lo que también está permitiendo grandes avances en la traducción automática y permite vislumbrar el traductor instantáneo en el horizonte.

Hay chatbots que, además de entender el lenguaje y conversar, son capaces de “leer” las expresiones faciales de la persona que habla mediante la cámara frontal del dispositivo, información que complementa la que extrae del lenguaje verbal y mejora la comunicación. Y algunos son capaces de imitar la voz de cualquier persona hasta el punto de reproducir su tono y los matices enfáticos o emocionales al leer un texto o hablar.

Pero lograr esta comprensión automática de la información no es fácil porque el programa informático no solo tiene que leer o escuchar la información, sino también relacionarla e interpretarla para entenderla y poder actuar o responder en consecuencia. Si durante una conversación alguien dice Sevilla, el algoritmo informático debe poder distinguir si se refiere a la ciudad o al club de fútbol, y para ello no solo necesita poder procesar el lenguaje, sino haber sido dotado de mucha información, de definiciones de conceptos y conocimientos básicos para poder razonar y extraer la solución del contexto, como lo haría una persona.

¿Tendrán los humanos que competir contra la máquina? La respuesta optimista es que las máquinas, y los algoritmos que las hacen operativas, se ocuparán de tareas repetitivas en las que los humanos no somos muy buenos. Serán una herramienta, no competencia

Las máquinas y los algoritmos informáticos son el futuro y en muchos casos ya el presente, y sus avances despiertan sorpresa, temor y, habitualmente, preocupación. ¿Qué haríamos si las máquinas fueran capaces de todo? ¿Tendrán los humanos que competir contra ellas? La respuesta optimista es que las máquinas, y los algoritmos que las hacen operativas, se ocuparán de las tareas repetitivas en las que los humanos no somos muy buenos. Serán una herramienta, no la competencia.

Sin duda, el principal miedo, conflicto o punto de interés para con los algoritmos informáticos y sus avances, es su hipotética capacidad de tomar decisiones que jueguen en contra de los seres humanos. La realidad es que, a diferencia de las historias que nos cuentan algunas películas, las máquinas, los algoritmos, no son conscientes de su propia existencia, no tienen sus propios objetivos y sentimientos. Esto está a siglos de nuestras capacidades tecnológicas actuales.

A diferencia de las historias que nos cuentan algunas películas, las máquinas, los algoritmos, no son conscientes de su propia existencia, no tienen sus propios objetivos y sentimientos. Esto está a siglos de nuestras capacidades tecnológicas actuales

Pero ¿Necesitan los algoritmos una guía ética? La Unesco ha tomado la iniciativa. Sus 193 miembros han adoptado esta semana una lista de recomendaciones que quiere ser una guía ética, la primera de carácter mundial. Esta guía puede consultarse aquí.

Una recomendación, la número 26, es taxativa: “Los sistemas de IA no deberían utilizarse con fines de calificación social o vigilancia masiva”. Otro de los consejos, el 36, estipula que “un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y la obligación de rendir cuentas”. “Por regla general –añade el texto– las decisiones de vida o muerte no deberían cederse a los sistemas de inteligencia artificial”.

La recomendación 73 establece que los estados deben garantizar la transparencia en la captación de datos y la posibilidad para el ciudadano de acceder a los suyos y de borrarlos, salvo excepciones.

Pero el debate es más profundo.

¿Podrá existir un partido político dirigido por un algoritmo informático y cuyo líder sea un chatbot? Quizá suene a ciencia ficción o al argumento de una serie distópica, pero es un hecho real; ese partido ya existe, y forma parte de la campaña electoral en Dinamarca. Se llama Synthetic Party, y está liderado por Leader Lars, un chatbot con el que cualquier ciudadano puede hablar. 

Su objetivo es captar a los daneses que normalmente no votan, a los antipolíticos, y al mismo tiempo, poner la tecnología en el centro del debate político y establecer los mecanismos necesarios para que rinda cuentas.

Los impulsores del Synthetic Party aspiran a presentarse a las próximas contiendas electorales en Dinamarca. Para ello piden que se cambie la ley para que un algoritmo se pueda presentar como candidato a las elecciones. Lo que piden no es presentarse un grupo de personas asesoradas por el algoritmo. Quieren que sea el algoritmo informático el que se presente a las elecciones y tome las decisiones políticas pertinentes a partir de la interacción que haya tenido con los electores.

Pero, ¿cuál es su ideología? ¿Progresista? ¿Conservadora? “El partido es sintético, lo que literalmente significa que homogeneiza lo que parece contradictorio o dispar”, explica Asker Bryld Staunaes, miembro del grupo de artistas Computer Lars y del centro tecnológico MindFuture y principal creador e impulsor del Synthetic Party.

Hay otros movimientos similares en el resto del mundo. Los llaman políticos virtuales. En Wikipedia se puede encontrar información sobre estos movimientos y artículos relacionados.

Reivindico la importancia de la política, de la participación política y la necesidad de los políticos. Defender que un algoritmo informático tome las decisiones es pensar que la neutralidad es posible y que los políticos deberían desaparecer

He descrito lo que ya existe. Pero la pregunta es: ¿Queremos que un algoritmo informático se presente a las elecciones? Mi respuesta es no. No por varias razones. La primera es que la política es un quehacer humano básico. Es la actividad que usamos para tomar decisiones globales. La política es inherentemente conflictiva en la medida en que hay intereses contrapuestos en la sociedad y, por lo tanto, nos engañan cuando propugnan una política sintética, neutra, por encima de los intereses.

En línea con las recomendaciones de la Unesco, creo que siempre tiene que haber una persona que sea responsable de las recomendaciones que hace un algoritmo y más en el terreno de la política. De la misma manera creo que debemos pedir que una persona se responsabilice de cada decisión que un algoritmo puede tomar y no escudarse tras él. Ya sea al pedir una hipoteca, en la priorización en un hospital, etc.

Reivindico la importancia de la política, de la participación política y la necesidad de los políticos. Defender que un algoritmo informático tome las decisiones es pensar que la neutralidad es posible y que los políticos deberían desaparecer. Es un movimiento antipolítico que, si lo pensamos con detalle, prefiere que las cosas sigan como están.