Miles Brundage, investigador de políticas de OpenAI y el principal asesor del equipo encargado del desarrollo de la inteligencia artificial general de la compañía, ha dejado su cargo tras más de seis años en la empresa. El ejecutivo ha afirmado en una publicación en Substack que quiere “pasar más tiempo trabajando en temas que atraviesan toda la industria de la IA”, no solo en OpenAI, y “tener más libertad para publicar y ser más independiente”.
“Dejar lo que es esencialmente el trabajo de mis sueños, asesorar a los ejecutivos de OpenAI y a la junta de OpenAI sobre la preparación de AGI, no ha sido una decisión fácil”, destaca Brundage en su publicación. El hasta ahora máximo responsable de políticas de OpenAI ha dicho que, ahora, su objetivo es fundar o unirse a una organización sin fines de lucro para centrarse en la investigación y promoción de políticas de IA, que es básicamente lo que estaba haciendo en la compañía dirigida por Sam Altman.
“Algunas áreas de interés de investigación para mí incluyen la evaluación/previsión del progreso de la IA, la regulación de la seguridad de la IA de frontera, los impactos económicos de la IA, la aceleración de las aplicaciones beneficiosas de la IA, la gobernanza informática y la «gran estrategia de IA» general”, asegura.
Brundage se unió a OpenAI en 2018 como científico investigador. Más tarde, fue nombrado jefe de investigación de políticas de la empresa. Brundage también trabajó como investigador en el Instituto del Futuro de la Humanidad de la Universidad de Oxford antes de formar parte de la compañía.
El ejecutivo de OpenAI dice que el mundo no está preparado para una IA general
Miles Brundage ha sido uno de los encargados de desarrollar un marco de niveles de IA. Consta de una escala que va del 1 al 5 que determina las capacidades de la inteligencia artificial, siendo el 5 el que concluye que ese modelo se trata de una AGI.
Brundage sin embargo, detalla que ha cumplido gran parte de sus objetivos que prometió hacer en OpenAI, incluyendo su trabajo como asesor senior de preparación de la inteligencia artificial general en la que trabaja la compañía. El ejecutivo ha confesado que durante este tiempo ha estado valorando dos puntos clave sobre la AGI. Por un lado, la preparación de OpenAI para hacer frente a una IA “cada vez más poderosa” y la preparación del mundo “para administrar esas capacidades de manera más efectiva”.
Brundage dice que el primer punto ya es algo que ha hablado con OpenAI sobre cómo proceder y cuáles son las lagunas. Asegura que para trabajar en el segundo punto, necesita hacerlo externamente porque cree que será más efectivo. El directivo de OpenAI subraya que, “en resumen, ni OpenAI ni ningún otro laboratorio fronterizo están listos” para una IA general. Y que el mundo tampoco lo está.
Tras su marcha, Miles Brundage ha revelado qué pasará con el equipo actualmente encargado del desarrollo de la AGI en OpenAI. Asegura que hasta hace poco era un subequipo de AGI Readiness dirigido por Pamela Mishkin, y que ahora pasará a ser cargo de Ronnie Chatterji, nuevo economista jefe de OpenAI. El resto del equipo que trababa en este modelo se distribuirán en otros equipos.
