“El conflicto de la inteligencia artificial contra la inteligencia artificial no es solo una posibilidad, sino también una realidad en evolución en la guerra cognitiva y la desinformación”, avisa un documento de la OTAN sobre “tecnologías disruptivas”, publicado poco antes de que diera comienzo la Feria de la Industria de Defensa que se celebra esta semana en Madrid. “Estos enfrentamientos serán cada vez más frecuentes y es necesario identificar la IA adversaria, modelarla, evaluar sus puntos débiles y desarrollar estrategias contra ella”, previene el manual.
Con esta advertencia previa, no es raro que la inteligencia artificial sea uno de los principales focos de esta reunión bianual de las empresas de armamento con altos mandos militares tanto españoles como internacionales. El mensaje es que la IA aumentará las capacidades de las fuerzas aliadas, pero también de las enemigas. Por tanto, avisan, tendrán que aprender a combatirla. Este punto preocupa a los militares y a los vendedores de armas, que detectan un problema: el movimiento de la sociedad civil y los reguladores para impedir un desarrollo incontrolado de la IA en el mundo occidental les pondrá “en desventaja”.
“Independientemente de la dificultad que entrañan estas tecnologías, por su complejidad o por el coste en su investigación, su aplicación va a tener una serie de complicaciones que no podemos olvidar. Me estoy refiriendo a aspectos éticos y legales que no van a tener otros posibles adversarios. Ahí estaremos en desventaja”, ha afirmado el general de división Enrique Campo Loarte, subdirector general de Planificación, Tecnología e Innovación del Ministerio de Defensa. Representantes de empresas de armas se han expresado en el mismo sentido.
Campo Loarte es el jefe de los programas de I+D de las Fuerzas Armadas. Su departamento es uno de los que trabaja de manera más estrecha con la industria militar. “Estas tecnologías no solo están disponibles para nosotros, sino que también para potenciales adversarios que podrían obtener una ventaja operativa difícil de contrarrestar, una sorpresa estratégica que no podemos aceptar. Por lo tanto tenemos que adelantarnos para evitarlo”, ha avisado.
El general no ha nombrado a esos adversarios. Sí lo han hecho otras voces relevantes, evitando utilizar eufemismos como “rivales estratégicos” para nombrar países en la mente de todos. “La respuesta típica es que deberíamos estar asustados y deberíamos invertir más, porque China está muy avanzada en ciertos tipos de IA y porque Rusia es un país con enormes recursos intelectuales, con algunos de los mejores matemáticos del mundo, si no los mejores. Pero mi respuesta es que de lo que deberíamos tener miedo es de no centrarnos en nuestras propias empresas y en lo que nos pone por delante”, ha expresado Alex Karp.
La presencia de Karp en Madrid es otro síntoma de la nueva importancia de la IA y las tecnologías de recogida y procesamiento de datos para los militares. Es un absoluto desconocido para el gran público fuera de EEUU, a pesar de que es uno de los ejecutivos tecnológicos más controvertidos. “Antes de marcharnos de Silicon Valley había gente protestando frente a mi casa todas las mañanas, todas las tardes. Yo solía bromear con los visitantes extranjeros diciéndoles que no trajeran comida, ya que podíamos asar perritos calientes en las llamas justo en frente de Palantir”, ha ironizado ante un buen número de altos mandos que le han reído la gracia.
La visceralidad que provoca Karp y Palantir, la empresa que dirige, se debe a su estrategia de negocio. Recoge grandes cantidades de información personal de la red, la analiza y le vende los resultados a los servicios de inteligencia. La compañía pudo despegar gracias a la financiación inicial de la CIA y ha estado quemando dinero desde su fundación en el 2003, ya que este año es el primero que espera dar beneficios. Además de Karp, entre sus fundadores está también Peter Thiel, otro de los inversores más polémicos de Silicon Valley.
Palantir también se dedica al despliegue de inteligencia artificial militar y, según presume Karp, “lo hace a través de productos reales y probados en el campo de batalla, no con software que solo se ha probado en powerpoints de 400 páginas”. Sin embargo, cuando se le ha pedido que de ejemplos de este tipo de usos de la IA se ha negado. “Se ha escrito mucho sobre esto. Leed las noticias”, ha contestado.
Palantir hizo por primera vez hace unas semanas una demostración de cómo se podrían utilizar las inteligencias artificiales generativas del tipo ChatGPT para la guerra. En el vídeo, un operador ordenaba al chatbot lanzar un reconocimiento con drones, identificar a las fuerzas enemigas y planificar estrategias para eliminarlas. La automatización aplicada a todo el cuartel general de un ejército.
Karp también se ha negado a explicar qué tipo de productos vende a las Fuerzas Armadas españolas, con quienes ha admitido tener relación. “No puedo desvelar nuestro rol en España”, ha afirmado. “Las directrices eran que España es un país maravilloso. Lo conocemos muy bien. Me encanta la comida. Entiendo cuando me gritan en español. Estoy muy contento de venir aquí. Y tenemos gente que nos gusta que no podemos mencionar. Eso es lo que me dijeron que dijera”, dijo. Karp tiene una fortuna de unos 1.500 millones de dólares, según estima Forbes.
Guerra cognitiva
El documento de la OTAN que habla de los próximos conflictos de unas inteligencias artificiales contra otras no se extiende mucho más que Karp en los detalles de esas pugnas. No obstante, cita algunos casos como la creación automática de desinformación y la “guerra cognitiva”, como se denomina a las tácticas para influir en las percepciones, creencias, opiniones y comportamientos de las personas. A diferencia de la guerra convencional, que se basa en el uso de fuerza física y armas tradicionales, la guerra cognitiva se centra en el ámbito de la información, la psicología y la manipulación.
“Algunas de las aplicaciones más emocionantes y potencialmente disruptivas son la inteligencia social artificial, la automatización de estrategias de desinformación y guerra cognitiva, la producción e identificación de deep fakes, la complementación del control aéreo o de armamento aéreo, la ayuda en el reconocimiento de imágenes de alta resolución, la creación de imágenes a partir de descripciones de texto, la navegación por terrenos humanos y la traducción universal de idiomas”, cita el documento.
“A medida que las fuerzas de la Alianza y sus competidores utilizan cada vez más la IA, resulta cada vez más crítico detectar, desviar y limitar el impacto de los ataques a la IA de la Alianza, al tiempo que se socavan los sistemas adversarios basados en la IA”, pide el manual de la OTAN: “Como en cualquier ámbito operativo, es necesario detectar, desviar y limitar el impacto de los ataques a la IA de la Alianza. Contrarrestar la IA adversaria y los procesos de decisión asociados mediante la manipulación y el engaño de la IA es un reto técnico difícil”.