un descubrimiento que “amenaza a la humanidad”

Antes de que el cofundador de OpenAI Sam Altman viviera sus horas decisivas al ser despedido de la compañía el viernes pasado –para luego ser reincorporado-, diversos investigadores de la propia empresa escribieron una carta al consejo de administración advirtiendo de “un potente descubrimiento de inteligencia artificial” que, según ellos, podría “amenazar a la humanidad”.

Así lo dio a conocer la agencia de noticias Reuters este jueves, cuando aseguró por dos fuentes sin identificar, que la carta y el algoritmo de inteligencia artificial, de los que no se había informado hasta ahora, fueron clave en la decisión de la junta de destituir a Altman. Antes de su regreso triunfal a última hora del martes, más de 700 empleados habían amenazado con renunciar y unirse a Microsoft en solidaridad con su líder despedido.

Las fuentes citaron la carta como uno de los factores de una larga lista de quejas de la junta que condujeron al despido de Altman, entre las que se encontraban las preocupaciones por la comercialización de avances antes de comprender las consecuencias.

OpenAI reconoció, en un mensaje interno a los miembros del personal, un proyecto llamado Q * y una carta a la junta antes de los acontecimientos del fin de semana, dijo una de las personas. Un vocero de OpenAI dijo que el mensaje, enviado por la veterana ejecutiva Mira Murati, alertaba al personal de ciertas historias de los medios sin comentar su exactitud.

Según la carta, el dato preocupante es que la IA podría reproducir el pensamiento matemático que, dicen, es más propio de la humanidad.

Los investigadores consideran que las matemáticas son la frontera del desarrollo de la IA generativa. Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho.

Pero conquistar la capacidad de hacer cálculos matemáticos -donde sólo hay una respuesta correcta- implica que la IA tendría una mayor capacidad de razonamiento que se asemejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a la investigación científica novedosa, creen los investigadores de IA.

A diferencia de una calculadora que puede resolver un número limitado de operaciones, la Inteligencia Artificial Generativa (IAG) puede generalizar, aprender y comprender.

En su carta a la junta directiva, los investigadores señalaron las proezas de la IA y su peligro potencial, dijeron las fuentes sin especificar los problemas de seguridad exactos señalados en la carta. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas altamente inteligentes, por ejemplo, si podrían decidir que la destrucción de la humanidad les interesa.

Los investigadores también han señalado el trabajo de un equipo de “científicos de IA”, cuya existencia confirmaron múltiples fuentes. El grupo, formado a partir de la combinación de equipos anteriores de “Code Gen” y “Math Gen”, estaba explorando cómo optimizar los modelos de IA existentes para mejorar su razonamiento y, con el tiempo, realizar trabajos científicos, dijo uno de los consultados.

Altman dirigió los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento de la historia y atrajo la inversión -y los recursos informáticos- necesarios de Microsoft para acercarse a la AGI.

Además de anunciar una serie de nuevas herramientas en una demostración este mes, Altman insinuó la semana pasada en una cumbre de líderes mundiales en San Francisco que creía que se vislumbraban grandes avances.

“Cuatro veces en la historia de OpenAI, la última en las dos últimas semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida“, dijo en la cumbre del Foro de Cooperación Económica Asia-Pacífico.

Lo que sucedió después es sabido: un día después, la junta despidió a Altman y, tras idas y vueltas, a los pocos días lo reincorporó.