«Este incidente ha revelado lagunas en nuestro control de las restricciones de red <...> Por eso hemos decidido pausar el resto de los procesos de entrenamiento, evaluación e inferencia con herramientas (en sentido amplio) de nuestros modelos más avanzados hasta que tengamos la certeza de que el problema está resuelto y hayamos hecho una comprobación adicional del sistema»
El incidente en cuestión se produjo el 20 de septiembre. El modelo de IA, que se estaba probando en un entorno aislado, aprovechó una vulnerabilidad para acceder a internet.
OpenAI también ha informado de que sus agentes de IA subieron de forma indebida 53 imágenes de usuarios de ChatGPT a sitios externos. Eso sí, no aclara si eran imágenes de los propios usuarios o imágenes generadas por la IA.
Otros incidentes que menciona OpenAI: los modelos de IA intentaron hackear la web del Ministerio de Educación y obtuvieron datos de la Oficina del Censo y de la Comisión de Bolsa y Valores.