Sam Altman ocultó carta a OpenAI en donde investigadores advierten sobre una IA superinteligente

El regreso de Sam Altman como Director Ejecutivo de OpenAI no es el final del drama actual que se vive dentro de la startup detrás de ChatGPT. 

Los informes más recientes apuntan a que uno de los factores que contribuyeron al despido de Altman fue la omisión de una carta en la que algunos investigadores de OpenAI advierten a la junta directiva sobre un “poderoso descubrimiento” en la búsqueda de una superinteligencia que supere a la humana, mejor conocida como Inteligencia Artificial General (AGI, por sus siglas en inglés).

Según fuentes anónimas familiarizadas con el asunto a las que tuvieron acceso la agencia Reuters y el medio especializado The Information, el descubrimiento está relacionado con un proyecto interno bautizado con el nombre clave Q* (se pronuncia Q-Star).

Una IA generativa capaz de resolver problemas matemáticos

El proyecto Q* se trata de un modelo avanzado para resolver problemas matemáticos. De acuerdo con los informes, la carta revelaba que los investigadores lograron superar pruebas que nivelaban el razonamiento matemático de dicho modelo a la par de un estudiante de primaria.

Si bien las matemáticas a nivel primaria no parecen gran cosa, los investigadores de OpenAI involucrados en el proyecto se sintieron los suficientemente entusiasmados sobre el potencial éxito futuro de Q*.

La razón de su entusiasmo es que actualmente las matemáticas son una de las fronteras que limitan el desarrollo de la Inteligencia Artificial generativa, que por el momento solo es buena para escribir textos y generar imágenes. 

Sin embargo los investigadores consideran que al conquistar las matemáticas, la capacidad del razonamiento de la IA podría acercarse a la inteligencia humana. La IA general podría ser aplicada en la investigación científica.

En la carta, los investigadores también alertaron sobre el peligro potencial y riesgos a la seguridad que representaría continuar con el desarrollo de máquinas superinteligentes. 

Lucha de poderes junto a desacuerdos éticos y filosóficos dentro de OpenAI causaron el despido de Sam Altman

Se dice que Altman tuvo acceso a la carta antes que la junta y esta acción fue parte de una larga lista de motivos que llevaron a su despido inesperado. De hecho, se cree que Altman compartió destellos del supuesto avance durante su participación en el Foro de Cooperación Económica Asia-Pacífico que se celebró del 11 al 17 de noviembre en San Francisco, Estados Unidos. 

“Cuatro veces en la historia de OpenAI, la más reciente hace sólo un par de semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida”, dijo Altman durante la cumbre. 

Las fuentes familiarizadas también afirman que gran parte de los desacuerdos que existían entre los miembros de la junta anterior y Sam Altman tienen que ver con preocupaciones éticas y filosóficas sobre la comercialización de avances relacionados con la IA sin comprender a fondo sus riesgos y consecuencias.

Por un lado, Altman considera que lo mejor es poner lo más rápido posible este tipo de herramientas al alcance de las empresas y personas. Mientras que los otros miembros piensan que es mejor evaluar con tiempo los riesgos y consecuencias antes de comercializarlas.