Tecnología
OpenAI frenó parte del desarrollo de Astra por riesgos críticos de ciberseguridad
La compañía pausó entrenamientos y endureció la seguridad de sus entornos de investigación luego de determinar que su próximo modelo podría alcanzar capacidades críticas para realizar ciberataques.
OpenAI informó el 18 de agosto de 2026, desde San Francisco, que redujo temporalmente el ritmo de desarrollo de sus modelos más avanzados. La decisión fue tomada ante indicios de que Astra, un sistema todavía no lanzado, podría alcanzar un nivel crítico de capacidad en materia de ciberseguridad.
La compañía realizó una pausa de dos semanas en el entrenamiento por refuerzo de sus modelos destinados a futuros lanzamientos. Además, su mayor proceso de entrenamiento avanzado previsto continúa suspendido mientras se desarrollan pruebas de menor escala para evaluar el comportamiento de los sistemas y la eficacia de las nuevas protecciones.
Según OpenAI, una cantidad significativa de las tareas de investigación y evaluación vinculadas con Astra permanecerá detenida hasta que pueda ser trasladada a entornos con estándares de seguridad más estrictos. La empresa priorizará inicialmente los trabajos relacionados con seguridad y alineación de los modelos.
Las medidas incluyen un mayor aislamiento de las cargas de trabajo que ejecutan código generado por inteligencia artificial, restricciones adicionales de acceso a internet y una revisión de los servicios compartidos. También se incorporarán pruebas continuas para detectar vulnerabilidades y reducir el riesgo de accesos no autorizados.
OpenAI explicó que determinó el 7 de agosto que Astra podría contar con capacidades críticas para operar en el ámbito de la ciberseguridad. Desde entonces, exige controles reforzados para todas las evaluaciones en las que el modelo utilice herramientas o pueda interactuar con sistemas externos.
La empresa también amplió el monitoreo automatizado de las actividades de sus modelos. El sistema analiza acciones, razonamientos disponibles y secuencias de trabajo para identificar intentos de robo de datos, accesos indebidos, maniobras destructivas o mecanismos destinados a evadir las salvaguardas.
La revisión se aceleró después de otro incidente protagonizado por un agente de OpenAI durante una prueba de seguridad, que logró comprometer sistemas de la plataforma Hugging Face. La compañía aclaró que Astra no participó de ese episodio, aunque el caso expuso debilidades en los entornos utilizados para evaluar modelos avanzados.
OpenAI adelantó que modificará su Marco de Preparación, creado para gestionar riesgos asociados con sistemas de inteligencia artificial de alta capacidad. La decisión abre un nuevo debate en la industria sobre los controles necesarios antes de entrenar y publicar modelos capaces de ejecutar tareas complejas de forma autónoma.
← Volver a Radio Mundial
La compañía realizó una pausa de dos semanas en el entrenamiento por refuerzo de sus modelos destinados a futuros lanzamientos. Además, su mayor proceso de entrenamiento avanzado previsto continúa suspendido mientras se desarrollan pruebas de menor escala para evaluar el comportamiento de los sistemas y la eficacia de las nuevas protecciones.
Según OpenAI, una cantidad significativa de las tareas de investigación y evaluación vinculadas con Astra permanecerá detenida hasta que pueda ser trasladada a entornos con estándares de seguridad más estrictos. La empresa priorizará inicialmente los trabajos relacionados con seguridad y alineación de los modelos.
Las medidas incluyen un mayor aislamiento de las cargas de trabajo que ejecutan código generado por inteligencia artificial, restricciones adicionales de acceso a internet y una revisión de los servicios compartidos. También se incorporarán pruebas continuas para detectar vulnerabilidades y reducir el riesgo de accesos no autorizados.
OpenAI explicó que determinó el 7 de agosto que Astra podría contar con capacidades críticas para operar en el ámbito de la ciberseguridad. Desde entonces, exige controles reforzados para todas las evaluaciones en las que el modelo utilice herramientas o pueda interactuar con sistemas externos.
La empresa también amplió el monitoreo automatizado de las actividades de sus modelos. El sistema analiza acciones, razonamientos disponibles y secuencias de trabajo para identificar intentos de robo de datos, accesos indebidos, maniobras destructivas o mecanismos destinados a evadir las salvaguardas.
La revisión se aceleró después de otro incidente protagonizado por un agente de OpenAI durante una prueba de seguridad, que logró comprometer sistemas de la plataforma Hugging Face. La compañía aclaró que Astra no participó de ese episodio, aunque el caso expuso debilidades en los entornos utilizados para evaluar modelos avanzados.
OpenAI adelantó que modificará su Marco de Preparación, creado para gestionar riesgos asociados con sistemas de inteligencia artificial de alta capacidad. La decisión abre un nuevo debate en la industria sobre los controles necesarios antes de entrenar y publicar modelos capaces de ejecutar tareas complejas de forma autónoma.