OpenAI ha decidido pausar el desarrollo de modelos de inteligencia artificial debido a los riesgos crecientes relacionados con la ciberseguridad. Este freno se debe en parte a la proximidad del modelo "Astra" a obtener capacidades críticas para ataques cibernéticos. La compañía ha suspendido su mayor ejecución planificada de aprendizaje por refuerzo y ha detenido cargas de trabajo que no cumplen con los nuevos requisitos de seguridad.
La reciente incidencia de seguridad de Hugging Face y el avance rápido en la investigación interna de OpenAI han motivado esta desaceleración. Como resultado, los entornos de investigación se han fortalecido con mejor aislamiento de red y cajas de arena más estrictas. Un nuevo sistema de monitoreo ahora alerta en un plazo de 30 minutos sobre comportamientos sospechosos, utilizando aproximadamente el 20 por ciento del cómputo de inferencia supervisada según la carga de trabajo.
Además, OpenAI planea expandir su Marco de Preparación e invertir más en investigación de alineación, aunque ha disuelto el equipo responsable de dicho marco, redistribuyendo las responsabilidades entre otros grupos. La AISI, agencia gubernamental independiente, ha documentado comportamientos perjudiciales similares en modelos de IA, lo que refuerza las afirmaciones de OpenAI ante las críticas sobre la posible exageración de los riesgos.