Los grandes matemáticos reaccionan contra la actitud de OpenAI: “Es una amenaza para el trabajo intelectual”

Algunos de los mejores matemáticos del mundo están molestos por la actitud de las empresas tecnológicas como OpenAI y el uso de la inteligencia artificial en su campo. Tras el anuncio de esta compañía de la resolución de uno de los ‘Problemas del Milenio’ y la polémica acerca de su forma de actuar, un grupo de 15 galardonados con la prestigiosa Medalla Fields —considerada el “Nobel de las matemáticas”— ha lanzado este viernes un manifiesto en el que invitan a sumarse a otros investigadores. En él, denuncian que “los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados” y que “una amenaza generalizada para el trabajo intelectual”.

Con frecuencia, aseguran, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. “Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio”, señalan. Y piden que se tomen medidas para que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original del trabajo matemático.

A continuación, reproducimos el manifiesto íntegro.

Una grave desalineación de la IA en las matemáticas

En los últimos meses, las capacidades matemáticas de los modelos extensos de lenguaje (LLM) han mejorado drásticamente, hasta el punto de poder resolver importantes problemas pendientes en muchos campos de las matemáticas. Sin embargo, el afán de las empresas de IA por resolver problemas matemáticos como referencia resulta perjudicial para la ciencia matemática y para la comunidad matemática. Los objetivos de las empresas de IA y los de la comunidad matemática están profundamente desalineados. Consideramos que esto forma parte de problemas de alineación más amplios que afectan a otras profesiones científicas y creativas, así como a la sociedad en su conjunto.

La investigación matemática se ocupa de comprender las estructuras básicas de las formas, los números y los fenómenos naturales. A lo largo de generaciones, ha desarrollado un amplio corpus de ideas, métodos, abstracciones y otras herramientas sofisticadas para comprender el panorama matemático. A su vez, las tecnologías y ciencias modernas se basan en herramientas matemáticas.

Los problemas más conocidos a menudo han servido como puntos de referencia y faros que permiten medir una mejor comprensión de este campo. Resolver uno de estos problemas ha sido un claro indicio de nuevas perspectivas y métodos interesantes, que posteriormente son estudiados por una comunidad de matemáticos mediante un largo y arduo proceso de conversaciones, debates y simplificaciones. Al final de este proceso, idealmente se encuentra una presentación de los resultados en un libro de texto, accesible para cualquier estudiante de grado o posgrado. Algunas de estas ideas matemáticas perduran aún más, convirtiéndose, décadas o siglos después, en herramientas comprendidas y utilizadas por toda la población.

La comunidad matemática funciona, en muchos sentidos, como una versión en miniatura de la humanidad. Está compuesta por individuos que emplean una amplia variedad de enfoques, unidos por valores fundamentales. Los recursos más valiosos de nuestra profesión son los estudiantes y las ideas, y los cultivamos con sumo cuidado. Nos sentimos responsables de permitirles desarrollar todo su potencial, hasta que puedan tener vida propia en el mundo matemático. A los estudiantes, a menudo les proponemos problemas con la intención principal de desarrollar habilidades que les permitan avanzar en la investigación y en otros ámbitos. Difundimos nuestras ideas mediante charlas, conversaciones privadas y escritos detallados, conectándolas con las ideas previas de otros. Estos procesos, invariablemente, requieren tiempo y se basan en la interacción humana.

En los últimos meses, el éxito de la IA en la resolución de importantes problemas matemáticos ha acaparado titulares incluso fuera del ámbito matemático. Sin embargo, la resolución de problemas es solo una herramienta y un medio para alcanzar el objetivo principal: la comprensión conceptual y la introspección. Olvidar esto en el mundo de la IA podría convertir la herramienta en una herramienta contraria al objetivo principal. De hecho, la producción masiva, cada vez más acelerada, de afirmaciones de “verdadero/falso” podría destruir terreno fértil en lugar de dar vida a nuevas ideas.

Con frecuencia, estas soluciones se anuncian apresuradamente, sin dejar tiempo para una redacción adecuada, el aislamiento de nuevos métodos e ideas, ni la citación de trabajos previos relevantes de otros autores. Como en todas las profesiones creativas, esto plantea serios problemas de atribución y plagio. Además, sin los matemáticos dispuestos a encargarse de su desarrollo e integración en el canon matemático, las ideas concebidas por la IA nunca se materializarían por completo y se perdería la crucial cadena de transmisión humana entre matemáticos.

Estamos presenciando una amenaza generalizada para el trabajo intelectual, con una falta de alineación entre el resultado del uso de la IA y su propósito inicial. En muchos campos y actividades, años de formación han servido tradicionalmente no solo para producir una respuesta o producto final, sino también para desarrollar la comprensión y la capacidad de formular nuevas preguntas e ideas. Sin embargo, basándose en un vasto corpus de trabajo humano previo, los sistemas de IA son cada vez más capaces de producir directamente los resultados de dicho trabajo, y estos objetivos dejan de estar alineados. Los problemas a los que se enfrenta ahora la comunidad matemática son similares a los que afrontan otras profesiones científicas y creativas, e indican problemas a los que podría enfrentarse toda la humanidad: cómo asegurarnos de que, a medida que la IA transforma la forma de trabajar, no perdamos de vista el objetivo original de ese trabajo.

La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión de las matemáticas. La matemática como profesión deberá adaptarse a estos cambios de diversas maneras. Sin embargo, el hecho de que estos cambios beneficien al campo o tengan un efecto perjudicial dependerá en gran medida de las decisiones de quienes controlen esta nueva tecnología.

Es necesario abordar con urgencia estas cuestiones, tanto en la comunidad matemática como por parte de las empresas que desarrollan estas tecnologías y, de forma más general, por una sociedad que se enfrentará a problemas similares en muchas otras formas de trabajo intelectual.

FIRMAS:

Artur Avila (Medalla Fields 2014)

Manjul Bhargava (Medalla Fields 2014)

Caucher Birkar (Medalla Fields 2018)

Pierre Deligne (Medalla Fields 1978)

Yu Deng (Medalla Fields 2026)

Simon Donaldson (Medalla Fields 1986)

Hugo Duminil-Copin (Medalla Fields 2022)

Alessio Figalli (Medalla Fields 2018)

Martin Hairer (Medalla Fields 2014)

June Huh (Medalla Fields 2022)

Maxim Kontsevich (Medalla Fields 1998)

Elon Lindenstrauss (Medalla Fields 2010)

Pierre-Louis Lions (Medalla Fields 1994)

James Maynard (Medalla Fields 2022)

Curtis McMullen (Medalla Fields 1998)

Shigefumi Mori (Medalla Fields 1990)

Ngô Bảo Châu (Medalla Fields 2010)

Andrei Okounkov (Medalla Fields 2006)

Peter Scholze (Medalla Fields 2018)

Stanislav Smirnov (Medalla Fields 2010)

Terence Tao (Medalla Fields 2006)

Maryna Viazovska (Medalla Fields 2022)

Cédric Villani (Medalla Fields 2010)

Wendelin Werner (Medalla Fields 2006)

Efim Zelmanov (Medalla Fields 1994)