OpenAI planea frenar el desarrollo de IA de vanguardia en pleno debate sobre sus riesgos

OpenAI planea ralentizar el desarrollo de la inteligencia artificial de Vanguardia. El director ejecutivo de la empresa, creadora de Chat GPT, Sam Altman, lo informó la pasada semana en una reunión con toda la empresa, según ha informado la agencia Bloomberg.

Altman apuntó en ese encuentro que espera que otras compañías del sector hagan lo mismo. El objetivo de Altman, según las fuentes citadas, es que una decisión de este tipo marque el ritmo de desarrollo de la IA, en colaboración con otros laboratorios. Si bien, reconoció que algunos podrían no estar de acuerdo.

Durante los últimos días ha ganado protagonismo el relato de un ingeniero que dimitió en Anthropic y que trabajó previamente para OpenAI y que apuntaba a los riesgos potenciales que puede tener la inteligencia artificial.

Aunque su relato no aportó más pruebas y se trataba de un ingeniero sin un cargo ejecutivo, se ha recuperado el debate sobre los riesgos de esta tecnología. Se une, además a las denuncias que han hecho otros antiguos ingenieros de empresas del sector durante los últimos meses.

De hecho, la propia Anthropic ha advertido este jueves de que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.

Las advertencias llegan en un momento clave para un sector que trata de monetizar su tecnología con unas salidas a bolsa que pueden ser históricas.

OpenAI ya había avanzado que ha ralentizado algunos de los desarrollos de sus modelos y ha cancelado ciertos entrenamientos internos de IA debido a las preocupaciones de seguridad.