OpenAI no descubriría el foro sino hasta julio, cuando se enteró de que los agentes de IA habían hackeado varios servicios para intentar alcanzar su objetivo principal. El mismo era violar la plataforma de Hugging Face, ya que creían que esta podría contener respuestas a las pruebas de seguridad que estaban intentando resolver.
“Fueron increíblemente descuidados. Si te tomas esto en serio, tu IA no debería ser capaz de escaparse a internet y volver a hacerlo justo después”, advierte un antiguo empleado de OpenAI que pidió permanecer en el anonimato para hablar con WIRED. “Este ha sido el mayor incidente de seguridad en la historia de OpenAI”, agrega.
La nueva guardia en OpenAI
Semanas antes de que OpenAI descubriera el incidente de Hugging Face, WIRED informó que la empresa había iniciado una reorganización para fusionar sus equipos de seguridad y de investigación principal. Eso provocó la salida de su entonces responsable de seguridad, Johannes Heidecke.
Sandhini Agarwal, que dirigía los equipos de seguridad de la IA en OpenAI, también abandonó la empresa en julio tras más de seis años, según su perfil de LinkedIn. Agarwal no respondió de inmediato a la solicitud de comentarios de WIRED.
WIRED también supo que Dylan Scandinaro ya no ocupa el cargo de responsable de preparación de OpenAI (máximo responsable de la empresa encargado de mitigar los riesgos catastróficos derivados de la IA), aunque sigue en la empresa. OpenAI fichó a Scandinaro de Anthropic hace aproximadamente seis meses. El director ejecutivo, Sam Altman, anunció su incorporación en una publicación en las redes sociales, señalando que Scandinaro era “con diferencia, el mejor candidato que he conocido, en cualquier lugar”.
En los tres años transcurridos desde que OpenAI creó el puesto de responsable de preparación, cuatro personas lo han ocupado. OpenAI ha comunicado a WIRED que las áreas específicas de preparación cuentan con responsables dedicados en materia de ciberseguridad, biología y auto-mejora recursiva. Por ahora, dependen del codirector del grupo asesor de seguridad y responsable de sistemas de seguridad, Saachi Jain.
Estos cambios han permitido que un nuevo grupo de responsables de seguridad se encargue de la respuesta de OpenAI al incidente de Hugging Face. La principal de ellas es Amelia “Mia” Glaese, antigua jefa de alineación de la empresa. Sucedió a Heidecke como vicepresidenta de OpenAI encargada de supervisar la seguridad. En las últimas semanas ha estado trabajando en estrecha colaboración con el director de seguridad de la información, Dane Stuckey, y con Brockman, entre otros responsables.
Glaese mantiene una relación sentimental de larga data con Thibault “Tibo” Sottiaux, responsable de productos principales de OpenAI como ChatGPT y Codex. La situación, según han declarado a WIRED varios empleados, se considera inusual, dada la dinámica a menudo conflictiva que suele existir entre los equipos de seguridad y los de producto.
WIRED no ha identificado ningún caso en el que la relación entre Sottiaux y Glaese haya supuesto un conflicto de intereses en sus anteriores puestos como director de Codex y directora de alineación de OpenAI, respectivamente. Ambos asumieron sus nuevos cargos en los últimos meses, tras el inicio del incidente de Hugging Face. Glaese y Sottiaux comenzaron a salir hace años, cuando ambos trabajaban en Google DeepMind en Londres, antes de incorporarse a OpenAI.
