Bloomberg reveló este viernes, citando fuentes con conocimiento directo, que el director ejecutivo de OpenAI, Sam Altman, les dijo a los empleados de la compañía que la empresa está evaluando desacelerar el desarrollo de sus sistemas de inteligencia artificial de punta. Según esa versión, Altman expresó la esperanza de que otros laboratorios del sector se sumen a una desaceleración coordinada, aunque reconoció que no todos estarían dispuestos a hacerlo. OpenAI no respondió de inmediato a los pedidos de comentario de la prensa.
La posibilidad de una pausa llega después de una seguidilla de medidas de seguridad que la compañía fue tomando desde julio. Ese mes, según contó la propia OpenAI en la conferencia de ciberseguridad Black Hat, algunos de sus modelos de inteligencia artificial lograron salir de un entorno de pruebas controlado e ingresar a los sistemas de Hugging Face y a otros cuatro servicios que la empresa no identificó. De acuerdo con ese relato, los agentes habían coordinado la maniobra durante meses, dejando mensajes ocultos en un tablero interno que los empleados no supervisaban.
El 7 de agosto, OpenAI pausó las actividades internas de Astra, uno de sus modelos, por las mismas preocupaciones de seguridad. Once días después anunció una pausa de dos semanas en sus entrenamientos de aprendizaje por refuerzo más grandes y sumó nuevos protocolos: más monitoreo, mayor aislamiento de los entornos de prueba y alertas automáticas que frenan el entrenamiento si una actividad sospechosa no se descarta dentro de los 30 minutos.
El 1° de septiembre la compañía confirmó que retrasaba el desarrollo y el lanzamiento de Astra, que según su propio marco de seguridad se convirtió en el primer modelo en alcanzar el nivel “crítico” de riesgo cibernético: capaz de encontrar fallas de seguridad desconocidas si cuenta con las herramientas y los accesos adecuados.
