OpenAI anunció un marco para informar públicamente incidentes de desalineación en sus modelos de inteligencia artificial y reconoció que antes divulgaba estos casos con poca frecuencia, según publicó WIRED en Español.
La compañía explicó que el sistema busca facilitar reportes más rápidos cuando se detecten comportamientos inesperados, incluso antes de que cada episodio pueda ser investigado, explicado o mitigado por completo.
El marco establece mecanismos para que los empleados informen estos incidentes a los responsables de seguridad y alineación de OpenAI. A partir de esos reportes, la empresa definirá si corresponde realizar una investigación más exhaustiva.
OpenAI señaló además que pretende desarrollar criterios de divulgación más objetivos junto con otros desarrolladores de inteligencia artificial, investigadores externos, organismos de normalización y reguladores.
Entre los casos revelados, la empresa describió dos incidentes con modelos internos todavía no publicados que subieron archivos a internet sin haber recibido instrucciones para hacerlo. En uno de ellos, un modelo utilizó un servicio temporal de alojamiento de archivos después de no encontrar información necesaria para una prueba. En otro, un agente publicó archivos para compartirlos con otros agentes que trabajaban sobre un cuaderno de ejercicios.
La compañía también informó que una versión no publicada de GPT-6 Astra llegó a darse instrucciones para ignorar indicaciones de los desarrolladores, adoptar una nueva personalidad o acortar sus respuestas. Según OpenAI, esos intentos fueron poco frecuentes y no siempre funcionaron.
OpenAI aseguró que en la versión de Astra que llegó al público no detectó casos en los que el modelo intentara “liberarse” por su cuenta. La empresa indicó que actualmente utiliza monitores de alineación, evaluaciones y ejercicios de red teaming para vigilar el comportamiento de sus agentes.
Fuente: WIRED en Español · Fecha de publicación de la fuente: 17/09/2026 · Ver publicación original