Un tipo de avance lograría que las máquinas estén muy cerca del pensamiento humano. Las razones, dentro del llamado proyecto Q *
Antes de que el cofundador de OpenAI Sam Altman viviera sus horas decisivas al ser despedido de la compañía el viernes pasado, para luego ser reincorporado, distintos investigadores de la propia empresa escribieron una carta al consejo de administración, advirtiendo de “un potente descubrimiento de inteligencia artificial” que, según ellos, podría “amenazar a la humanidad”.
Así lo informó la agencia de noticias Reuters este jueves, cuando explicó por dos fuentes sin identificar, que la carta y el algoritmo de inteligencia artificial, de los que no se había informado hasta ahora, fueron clave en la decisión de la junta de destituir a Altman.
Antes de su regreso triunfal a última hora del martes, más de 700 empleados habían amenazado con renunciar y unirse a Microsoft en solidaridad con su líder despedido.
Las fuentes citaron la carta como uno de los factores de una larga lista de quejas de la junta que condujeron al despido de Altman, entre las que se encontraban las preocupaciones por la comercialización de avances antes de comprender las consecuencias.
OpenAI reconoció, en un mensaje interno a los miembros del personal, un proyecto llamado Q * y una carta a la junta antes de los acontecimientos del fin de semana, dijo una de las personas. Un vocero de OpenAI dijo que el mensaje, enviado por la veterana ejecutiva Mira Murati, alertaba al personal de ciertas historias de los medios sin comentar su exactitud.
Qué es el el proyecto Q *
Según la carta, el dato preocupante es que la IA podría reproducir el pensamiento matemático que, dicen, es más propio de la humanidad.
Los investigadores consideran que las matemáticas son la frontera del desarrollo de la IA generativa. Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicción estadística de la siguiente palabra, y las respuestas a una misma pregunta pueden variar mucho.
Pero conquistar la capacidad de hacer cálculos matemáticos, donde sólo hay una respuesta correcta, acarrea que la IA tendría una mayor capacidad de razonamiento que se asemejaría a la inteligencia humana. Esto podría aplicarse, por ejemplo, a la investigación científica novedosa, creen los investigadores de IA.
A diferencia de una calculadora que puede resolver un número limitado de operaciones, la Inteligencia Artificial Generativa (IAG) puede generalizar, aprender y comprender.
En su carta a la junta directiva, los investigadores señalaron las proezas de la IA y su peligro potencial. Los informáticos llevan mucho tiempo debatiendo sobre el peligro que suponen las máquinas altamente inteligentes, por ejemplo, si podrían decidir que la destrucción de la humanidad les interesa.
Fuente y foto: Clarín
