José Antonio Pérez Tapias: “La IA difumina la diferencia entre verdad y mentira, abriendo la vía a dinámicas totalitarias”

En un contexto en el que la posverdad se ha instalado en la vida política para contaminar la convivencia social, la inteligencia artificial sitúa a la sociedad ante un nuevo escenario en el que cada vez será más difícil distinguir la verdad de la mentira. Un panorama que para el catedrático de Filosofía y exdiputado del PSOE José Antonio Pérez Tapias “abre la vía para dinámicas totalitarias”. Por ello defiende que es necesario “un compromiso por la verdad” y dotar a la ciudadanía de criterio para, “sin tecnofobia no caer en las redes del tecnocratismo de nueva escala”. Tapias atiende a elDiario.es horas antes de ofrecer una conferencia en Pamplona sobre la importancia de la verdad en los tiempos de la posverdad.

¿No es la posverdad la mentira de toda la vida?

Algo tiene que ver, pero tiene nuevos elementos que se le añaden. Es una mentira fabricada y difundida a gran escala con el interés de que se rentabilice políticamente. Mentiras en el mundo político ha habido toda la vida, pero en este caso lo que tiene como factor novedoso son los recursos tecnológicos que existen para la fabricación y difusión de esa mentira buscando movilizar emociones para generar esa adhesión. En contextos de políticas con un sesgo muy populista donde la movilización de emociones para la adhesión a partidos funciona notablemente, la dinámica de la posverdad da un especial rendimiento. Pero, además, no solo se miente, sino que se pretende generar una verdad alternativa respecto a los hechos. Todos esos son los elementos son los que diferencia la mentira tradicional de la posverdad.

Los populismos supieron ver en las redes sociales su principal aliado para difundir noticias falsas y que sus discursos calaran mejor en la sociedad. Lo vimos con Trump, Bolsonaro o Vox aquí en España. ¿Se están aprovechando ya de la IA?

Todavía no está tan presente, pero como todas las tecnologías va a presentar ventajas, pero también riesgos y amenazas, y puede que se vaya introduciendo también en lo que a la postre son nuevas técnicas de manipulación política. ¿Qué es lo grave? Que como ya decía la filósofa Hannah Arendt hace años en alguno de sus textos, incluido también en ‘Los orígenes del totalitarismo’, todo esto contribuye a difuminar la diferencia entre realidad y ficción, entre verdad y mentira, y ello supone dejar la vía abierta para dinámicas totalitarias, procesos en los que la democracia sale perdiendo.

¿Es ese el mayor riesgo que tiene la IA?

Sí. Todas las tecnologías nacen en un principio desde una posición que muchas veces se quiere considerar neutra, y no es tan neutra. Las tecnologías nacen puestas en bandeja para quien tiene la posibilidad de financiarlas y controlarlas. Hay que sujetar esa dinámica y llevarla al servicio de la sociedad en su conjunto. En este caso no va a ser fácil porque es un instrumento muy potente, es una especie de energía nuclear en el ámbito cognitivo de las tecnologías del conocimiento. Es un instrumento muy ambivalente que habrá que ver cómo funciona. La cuestión es cómo evitar que toda esta dinámica de la posverdad se deslice a unos extremos aún más perjudiciales en esa confusión entre realidad y ficción, entre verdad y mentira. Porque puede darse que, si hemos hablado de posverdad porque se relativiza el valor verdad, ahora nos podemos ver con que se ve puesta en cuestión la veracidad misma, es decir, el compromiso de verdad que necesita una democracia y una sociedad. No podemos vivir sobre la mentira organizada masivamente, la convivencia sería inviable.

Tampoco podemos vivir sobre relatos, construcciones, manejos de datos sin una contrastación suficiente, sin elementos que nos permitan controlar eso y encauzarlo en las mejores direcciones. Desde los ámbitos que trabajan la inteligencia artificial ya se plantean soluciones de este tipo, de búsqueda de soluciones respecto al control, la validación y a posibles límites. Lo paradójico es que desde los centros empresariales y de ingeniería que han diseñado todo esto se ven a veces asustados o preocupados por lo que puedan desencadenar, pero al final está en sus manos el ofrecer una tecnología que no sea dañina para nuestras democracias.

¿Los estados deben regular de alguna forma la IA para evitar esos escenarios dañinos para la democracia?

Sí. Hay que entrar en alguna regulación jurídica, pero de nuevo entra el problema de que de una manera o de otra puede incidir en la libertad de expresión, algo que tampoco se ha terminado de resolver del todo respecto a las redes sociales. Hemos visto muchas veces que cuando esa regulación se ha acometido desde las propias empresas comporta un exceso que supone una censura. Hay que hilar muy fino porque la inteligencia artificial puede entrar en otros campos, como por ejemplo el médico, que inciden en la vida cotidiana que afecta a la ciudadanía. Es necesaria una regulación, pero exige una colaboración entre el ámbito jurídico y el tecnológico.

No podemos vivir sobre la mentira organizada masivamente, la convivencia sería inviable

¿Existe una confianza excesiva en la inteligencia artificial?

No hay que perder de vista el hecho de que la inteligencia artificial es una creación humana, no es una figura cuasi divina que se sobreponga a los humanos. Corremos el riesgo de perder de vista ese origen y padecer una nueva especie de alienación tecnocrática cuasi religiosa que convierte a la inteligencia artificial en una amenaza o en un factor de dominio tecnocrático. Eso es lo que hay que evitar. No hay que tomar posiciones fideístas, crédulas o de confianza excesiva en la inteligencia artificial. Sin tecnofobia, pero tampoco hay que caer en una tecnofilia ingenuamente confiada. Hay que mantener una actitud crítica ante la inteligencia artificial.

También debemos estar preocupados en cómo quedan nuestros márgenes de libertad de expresión, de ejercicio de libertades y de autonomía personal y política, por lo que se refiere a nuestras comunidades políticas en general, nuestra sociedad, nuestros estados. Hay que entrar en un debate que va a ser arduo y muy acelerado seguramente porque esta tecnología la tenemos ya aquí con unos avances que a veces son de día a día y que están al alcance de cualquiera.

¿La solución a este uso perverso que se le puede dar a la IA está de nuevo en la educación, en generar una sociedad con espíritu crítico que sepa discernir entre lo que es verdad y lo que es mentira?

Eso ha ocurrido siempre, pero claro, a medida que las tecnologías son más sofisticadas, nos exigen una nueva ilustración, una nueva capacitación que además no puede ser solo tecnológica. Y en la tecnológica hay que distinguir la tecnología del mundo de la ingeniería y de los profesionales de la informática y la telemática y la necesaria formación que podemos tener los usuarios para con nuestras capacidades, manejarnos con soltura y sin riesgos de diferentes tipo con estas nuevas tecnologías.

Además de filósofo, hace años fue diputado del PSOE, partido del que se dio de baja, entre otras cuestiones por no compartir la posición de la dirección de Sánchez en el conflicto catalán. ¿Qué le parece que ahora defienda una ley de amnistía?

El PSOE ha decidido entrar en este camino para resolver la investidura pero también, como ha dicho Pedro Sánchez, para seguir con una etapa de reforzar los cauces de convivencia en Cataluña y, por consiguiente, en el resto de España. Más allá del debate jurídico que ha habido sobre si la amnistía cabe en la Constitución, que yo creo que sí, el problema es político. Es decir, qué discurso, sobre qué razones se apoya esa amnistía y en el marco de qué acuerdos se lleva a cabo.

Pero más allá de la amnistía, en el panorama político que por ahí se abre, lo que hay que resolver es qué hacer con la reconfiguración territorial del Estado. El estado autonómico sufre un cierto agotamiento y necesita una reforma en profundidad en nuestra Constitución. ¿En qué dirección? Es ahí donde hay que trabajar para que cuando se dialogue sobre estos temas, por ejemplo el PSOE tenga una propuesta que pueda poner sobre la mesa. Si no, estamos ante un punto de partida que parece que es inamovible y una propuesta maximalista que se presenta como inalcanzable. Esa es la situación de bloqueo en la que se está y está más allá de la amnistía. La amnistía no prejuzga necesariamente hacia dónde se va, pero hay que clarificar hacia dónde queremos ir.

Y estando la sociedad tan polarizada sobre este tema, ¿ve viable que en un corto plazo se pueda dar ese debate en España sobre el modelo territorial?

Sin duda, ahora mismo el clima no es muy favorable en ese sentido. La amnistía por definición supone comenzar una nueva etapa, por lo que lo ideal sería que fuera un acuerdo más transversal porque, si en la nueva etapa se apacigua una parte pero se tensiona la otra, lo que compones por un sitio se te descompone por otro. Habría que buscar cómo limar estas asperezas tan duras y buscar un cauce de entendimiento y hablar sobre estas cuestiones. Sería interesante y positivo buscar un foro donde, antes de avanzar de manera ya más concreta en el ámbito político sobre esto, se pueda debatir de forma más sosegada. Hablar de federalismo plurinacional es reconocer la entidad nacional que se encuentra en algunas comunidades autónomas del Estado español, pero también supone una indudable voluntad de pacto para construir federación. Algunos pensamos que el futuro del Estado español tiene que pasar por ahí.