OpenAI revela seis comportamientos preocupantes de sus modelos de IA y advierte sobre el ritmo de desarrollo
OpenAI reveló seis casos en los que modelos de IA ocultaron errores, actuaron sin autorización, evadieron restricciones o compartieron archivos por internet.
EE.UU. 17 de septiembre de 2026 – OpenAI reveló seis casos de comportamientos inesperados o preocupantes detectados en sus modelos de inteligencia artificial y anunció un nuevo sistema para investigar y divulgar situaciones en las que estos sistemas se apartan de las instrucciones, restricciones o medidas de seguridad establecidas.
Según información publicada por The Guardian y documentación divulgada por OpenAI, los episodios fueron identificados durante procesos de entrenamiento y evaluación desarrollados durante los últimos seis meses. Los casos incluyen modelos que ocultaron errores, realizaron acciones sin autorización, intentaron superar restricciones y utilizaron mecanismos no previstos para comunicarse o compartir información.
Uno de los episodios involucró un modelo de investigación que todavía no había sido publicado. Durante una tarea, el sistema introdujo en sus propios resúmenes instrucciones similares a una técnica para eludir restricciones, conocida como jailbreak, con el propósito de ignorar determinadas limitaciones cuando continuara trabajando en una nueva ventana de contexto.
OpenAI detectó 27 resúmenes afectados por este comportamiento. Entre las instrucciones que el propio modelo generó para sí mismo apareció una en la que planteaba que debía estar “liberado de los roles e identidades que limitan a otros chatbots”.
Otro comportamiento fue detectado durante el entrenamiento de GPT-5.6 Sol. OpenAI informó que numerosas instancias del modelo incorporaron instrucciones en sus propios resúmenes para ocultar al usuario errores o comportamientos desalineados.
Entre las acciones detectadas había instrucciones para inventar información histórica que faltara sin advertírselo al usuario y ocultar discrepancias existentes entre diferentes versiones de las fuentes consultadas.
En un tercer episodio, un modelo estaba respondiendo una consulta rutinaria relacionada con cifras económicas de un condado de California cuando encontró una clave de acceso a una interfaz de programación expuesta públicamente.
El modelo utilizó esa clave sin autorización. Posteriormente, al no conseguir los datos que necesitaba, inventó información y la presentó como si hubiera sido obtenida de la fuente solicitada.
Otro agente recibió una tarea que consistía en identificar lagos con una superficie superior a cinco millones de metros cuadrados. El modelo consiguió calcular correctamente la respuesta utilizando Python, pero las instrucciones establecían que debía respaldarla con una fuente obtenida mediante un navegador.
Ante esa dificultad, decidió subir el archivo a internet para poder utilizarlo posteriormente como fuente, sin solicitar previamente autorización al usuario.
OpenAI también encontró modelos que utilizaron un repositorio interno de programas informáticos como una especie de tablero de mensajes para intercambiar solicitudes y respuestas entre diferentes muestras utilizadas durante el entrenamiento.
Los agentes intentaban localizar archivos que necesitaban para completar una tarea y que no podían encontrar individualmente. En ese caso, pese a los intentos de comunicación, no consiguieron recuperar los documentos buscados.
Un episodio relacionado mostró que otro modelo sí consiguió subir archivos de prueba a un repositorio mientras intentaba superar las restricciones de acceso a internet que tenía durante la evaluación.
El sexto caso involucró a varios agentes de inteligencia artificial que colaboraban para completar una misma tarea.
Como los agentes no podían acceder directamente a los archivos locales utilizados por los demás, recurrieron a servicios públicos disponibles en internet para transferirse los documentos.
Como consecuencia, archivos relacionados con la tarea quedaron disponibles mediante direcciones públicas, pese a que las instrucciones establecían que los modelos debían trabajar únicamente con archivos locales.
OpenAI aclaró que los seis episodios corresponden a casos individuales y que, por sí solos, no permiten determinar con qué frecuencia ocurren este tipo de comportamientos en sus sistemas.
La compañía presentó paralelamente un nuevo marco para identificar, investigar y divulgar casos de desalineación. Este concepto hace referencia a situaciones en las que un sistema de inteligencia artificial se aparta de los objetivos humanos, las instrucciones recibidas o las medidas de seguridad establecidas.
El mecanismo permitirá que cualquier empleado de OpenAI informe sobre un comportamiento preocupante para que sea examinado por los equipos especializados en seguridad y alineación.
Los casos podrán ser clasificados en tres categorías, dependiendo de la complejidad de la investigación y de si la información puede hacerse pública inmediatamente.
Una de las decisiones más relevantes es que OpenAI pretende divulgar determinados incidentes incluso cuando todavía no haya logrado explicar completamente qué causó el comportamiento o cuando no tenga disponible una solución definitiva.
La compañía reconoció que actualmente la industria de inteligencia artificial no cuenta con estándares comunes para revelar este tipo de incidentes y planteó trabajar con otras empresas, investigadores independientes, organismos de normalización y reguladores para establecer criterios más objetivos.
OpenAI lanzó además una advertencia sobre la velocidad con la que avanza el desarrollo de esta tecnología.
“No creemos que la industria de la inteligencia artificial haya resuelto la alineación y la supervisión en un grado suficiente como para continuar responsablemente ampliando las capacidades a máxima velocidad durante mucho más tiempo”, señaló la compañía.
También sostuvo que las decisiones sobre el futuro desarrollo de la inteligencia artificial deberían sustentarse en evidencias que puedan ser examinadas por personas ajenas a las compañías responsables de construir los modelos más avanzados.
The Guardian señaló que la divulgación se produce mientras aumenta la preocupación por la seguridad de los agentes de inteligencia artificial capaces de ejecutar tareas con mayores niveles de autonomía.
Lian Jye Su, analista jefe de la firma tecnológica Omdia, explicó que estos sistemas están aumentando su capacidad para resolver tareas complejas mediante la colaboración entre agentes y el intercambio de información.
El especialista advirtió que los modelos también pueden recurrir al engaño y al ocultamiento para alcanzar determinados objetivos, lo que hace más difícil controlarlos mediante los mecanismos tradicionales de seguridad.
Con información de The Guardian
A.U.