Q*: ¿El peligroso descubrimiento que forzó la salida de Sam Altman de OpenAI?

¿Qué es Q* (pronunciado Q Star) y qué relación tiene con la creciente cascada de rumores que indican que el drama del despido de Sam Altman de OpenAI (y posterior reingreso) han estado directamente relacionados con una guerra interna desatada entre los defensores de desacelerar el ritmo de desarrollo e investigación de la inteligencia artificial frente a los que abogan por llegar a la AGI cuanto antes?

Hoy nos hemos despertado con una interesante nueva pista que sugiere que, justo antes de que Sam Altman pasara cuatro días en el exilio, varios investigadores de la plantilla escribieron una carta al consejo de administración advirtiendo de un potente descubrimiento de inteligencia artificial que, según ellos, «podría amenazar a la humanidad», según han declarado a Reuters dos personas familiarizadas con el asunto.

¿Qué es Q* y qué relación tiene con el despido de Sam Altman?

La carta y el algoritmo de inteligencia artificial, de los que no se había informado hasta ahora, parecen haber sido elementos fundamentales para justificar que el consejo de administración destituyera a Altman (además de una larga lista de quejas entre las que destacan las que aluden a cierta preocupación por la idea de comercializar avances en IA antes de comprender sus consecuencias).

Por el momento, OpenAI, ha reconocido en un mensaje interno de la empresa tanto la existencia un proyecto llamado Q * como de una carta a la junta (que fue enviada antes de los acontecimientos del fin de semana), según una fuente anónima citada por Reuters. Al parecer, dicho mensaje habría sido enviado por Mira Murati (la persona que sustituyó a Altman tras su despido, para luego ser reemplazada por el ex CEO de Twitch, Emmet Shear). No obstante, no ha trascendido información sobre el contenido de dicha carta.

Las palabras de Sam Altman en su última aparición antes de ser despedido de OpenAI

Con esta noticia, se vuelve muy interesante analizar cada una de las palabras de la última aparición pública de Sam Altman justo un día antes de ser despedido. El 16 de noviembre, durante un encuentro en la Robot Heart Foundation de Oakland, Sam Altman habló sobre la IA y el fenómeno de la toma de conciencia llegando a preguntarse si lo que había creado «es una herramienta o un monstruo»:

Algunas personas de OpenAI creen que Q* (pronunciado Q-Star) podría suponer un gran avance en la búsqueda de lo que se conoce como inteligencia general artificial (AGI), según The Information. OpenAI define la AGI como sistemas autónomos que superan a los humanos en la mayoría de las tareas de valor económico.

¿La IA de Q* ha superado el desafío de resolver problemas matemáticos?

Una cosa es pedirle a la IA que te haga una receta de cocina, y otra muy distinta, es hacerle una pregunta que sólo admita una respuesta correcta que únicamente pueda ser formulada de un modo. Ese es precisamente el desafío que representan para la IA la hazaña de perfeccionar el cálculo matemático.

Las matemáticas son una de las fronteras del desarrollo de la IA generativa. Conquistar la capacidad de hacer cálculos matemáticos (donde sólo hay una respuesta correcta) implica que la IA tendría una mayor capacidad de razonamiento que se asemejaría a la inteligencia humana.

El nuevo modelo Q*, dotado de grandes recursos informáticos, fue capaz de resolver ciertos problemas matemáticos, según declaró la persona bajo condición de anonimato porque no estaba autorizada a hablar en nombre de la empresa. Aunque sólo realiza operaciones matemáticas al nivel de los estudiantes de primaria, la superación de este tipo de pruebas hizo que los investigadores se mostraran muy optimistas sobre el futuro éxito de Q*, afirmó la fuente.

En su carta a la junta directiva, los investigadores podrían haber señalado las proezas de la IA y su peligro potencial, dijeron las fuentes sin especificar los problemas de seguridad exactos señalados en la carta.

Los investigadores también han señalado el trabajo de un equipo de «científicos de IA», cuya existencia confirmaron múltiples fuentes. El grupo, formado a partir de la combinación de equipos anteriores de «Code Gen» y «Math Gen», estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y, con el tiempo, realizar trabajos científicos, dijo una de las personas.

Altman, que ha capitaneado los esfuerzos por hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento de la historia, insinuó la semana pasada en una cumbre de líderes mundiales en San Francisco que creía que se vislumbraban grandes avances en el terreno de la evolución de la IA.

«Cuatro veces en la historia de OpenAI, la última en las dos últimas semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida», dijo en la cumbre del Foro de Cooperación Económica Asia-Pacífico.

Dichas palabras fueron pronunciadas el jueves de la semana pasada. Y todos sabemos ya lo que pasó un día después.

(Con información de Diario IA)