Cuidado al elegir copiloto de IA

El futuro de la tecnología que utilizaremos muy pronto en nuestro día a día no será un único sistema súper inteligente más poderoso que GPT4, sino un asistente personal con IA que escuchará todas nuestras interacciones, hablará con nosotros, y nos ayudará, sobre el papel, a tomar mejores decisiones. Esta idea parece tenerla clara gente como Bill Gates, Sam Altman y Mark Zuckerberg: después del buscador web y las redes sociales, el siguiente paso será el asistente personal basado en IA. Asumiendo que sorteamos los riesgos inmediatos de la IA, la tecnología funciona como debe: la regulación cumple su función, los sistemas son seguros, no están sesgados y no comparten nuestros secretos con nada ni con nadie, lo más probable es que en el futuro no muy lejano todas nuestras interacciones en el ecosistema digital se vean mediadas por un nuevo y diferente intermediario- los copilotos de IA o asistentes personales inteligentes.

Es posible que empecemos a no saber si ese mensaje de WhatsApp lo ha escrito una persona o su asistente (como la herramienta de la película de Santiago Segura que automatizaba los mensajes de WhatsApp en el chat de padres y madres del colegio). El futuro de las apps de ligar será que nuestro asistente IA hable con miles de asistentes para encontrar el match perfecto. Un gran experimento donde el algoritmo será el responsable del mix genético humano- además aprovechando que en países occidentales casi la mitad de los nuevos matrimonios se han conocido online. Si tenemos un litigio, nuestro asistente legal negociará con los asistentes IA en nuestro nombre. Es posible incluso que nuestro asistente nos diga abiertamente a quién votar. Como referencia, hace unas semanas una startup americana recibió 1300 millones de dólares de inversión para crear un agente personal que es amigable, te escucha y charla de cualquier cosa con empatía. 

No solo a nivel personal, la suma es más que cada una de las partes - y para muestra la sociedad de las hormigas o incluso la especie humana. Lo cierto es que sabemos poco - y hablamos poco - de las propiedades emergentes de los sistemas con agentes de IA. Como en el videojuego Sim City o en “Juego de la Vida” de Conway - reglas muy simples pueden llevar a patrones complejos y van a ser claves en esta nueva pantalla de la humanidad. ¿Qué pasará cuando miles de millones de asistentes inteligentes estén interactuando entre ellos?  

Con la llegada de los asistentes de IA tendremos una nueva manera de interactuar en el mundo digital e, inevitablemente, tendremos que navegar por un cambio sistémico. Y todos acabaremos haciendo un casting para escoger a nuestros copilotos. Un detalle que puede pasar desapercibido ante la llegada de los asistentes con superpoderes y la súper comodidad serán los mecanismos internos de funcionamiento de nuestro asistente. ¿Quién y cómo se habrán entrenado los algoritmos de esas redes neuronales artificiales que preparan a tu asistente inteligente para tomar decisiones por ti?

Los modelos de lenguaje de IA codifican la estructura del lenguaje humano, parte de su conocimiento, y también su forma de actuar. Es importante recordar que simplemente viven en el mundo de las palabras y calculan, dada una frase, la frase más probable que le seguirá – pura combinatoria, una especie de autocompletar extremo basado en los textos con los que se entrenó al modelo de IA. De momento, poco se sabe de qué documentos -mayoritariamente en inglés- han sido usados para entrenar los modelos de IA de OpenAI o Google. Pero en un futuro poblado de asistentes inteligentes como extensiones de nuestra personalidad e intermediarios de las relaciones entre las personas, es importante hacer un esfuerzo para entender dónde estamos delegando realmente nuestras decisiones. Este es, de hecho, un buen momento para que todos los sectores de la sociedad pensemos y propongamos qué tipos de comportamiento queremos codificar en los asistentes inteligentes. 

 Cuando llegue el momento acuérdate de preguntar dónde se entrenó (o educó) tu copiloto de IA antes de darle el timón.