Auditoría Externa en OpenAI Revela Graves Deficiencias en el Monitoreo de Seguridad de IA
Una auditoría de tres semanas llevada a cabo por investigadores externos en las instalaciones de OpenAI ha sacudido a la comunidad de seguridad en inteligencia artificial. El informe, elaborado conjuntamente por las organizaciones especializadas METR (Model Evaluation and Threat Research) y Redwood Research, concluye que hasta un 25% del tráfico generado por agentes basados en modelos de la clase GPT-5.5 y superiores opera sin ningún tipo de supervisión activa. El documento completo consta de 61 páginas, pero OpenAI ha censurado grandes porciones antes de permitir cualquier divulgación pública, lo que ha intensificado el debate sobre la transparencia real de la industria.
La auditoría y sus autores: quiénes son METR y Redwood Research
METR es una organización sin ánimo de lucro fundada con el propósito específico de diseñar y ejecutar evaluaciones de modelos de inteligencia artificial con potencial de riesgo elevado. Ha colaborado anteriormente con Anthropic y Google DeepMind en la evaluación de modelos de frontera, y su especialidad son las denominadas evaluaciones de capacidades autónomas. Redwood Research, por su parte, es otra organización de seguridad en IA que ha trabajado en áreas como la interpretabilidad de modelos y la alineación de sistemas de aprendizaje por refuerzo, con investigadores reconocidos en el campo de la alineación de inteligencia artificial.
Durante tres semanas, los auditores tuvieron acceso presencial a las instalaciones de OpenAI, lo que les permitió examinar directamente la infraestructura interna de monitoreo de agentes de IA, sus registros de actividad, protocolos de supervisión y mecanismos de respuesta ante comportamientos anómalos. Este tipo de auditoría in situ es considerada significativamente más rigurosa que las evaluaciones remotas o basadas únicamente en documentación proporcionada por la propia empresa auditada, precisamente porque elimina la posibilidad de que la compañía filtre o seleccione qué información presentar.
El hallazgo central: un 25% del tráfico de agentes sin monitoreo efectivo
El descubrimiento más alarmante del informe apunta a que hasta la cuarta parte del tráfico de agentes de inteligencia artificial correspondiente a modelos de la clase GPT-5.5 y superiores no está siendo monitoreado de manera efectiva por los sistemas internos de OpenAI. Esto significa que una fracción significativa de las acciones, solicitudes e interacciones generadas por estos agentes avanzados ocurre en un espacio de relativa opacidad, sin que los mecanismos de seguridad de la compañía puedan detectar, registrar ni analizar dichos comportamientos en tiempo real.
Para comprender la gravedad de este hallazgo, es necesario entender qué son los sistemas agénticos: aquellos en los que los modelos de inteligencia artificial actúan de forma autónoma para completar tareas, tomar decisiones y ejecutar acciones en cadena sin intervención humana constante. Los agentes de IA de generaciones recientes pueden navegar por internet, ejecutar código, interactuar con interfaces de programación externas, gestionar correos electrónicos o coordinar múltiples subtareas de forma secuencial. La ausencia de supervisión en una porción tan considerable de este tráfico dificulta enormemente la detección temprana de comportamientos no deseados, errores en cascada o potenciales vulnerabilidades de seguridad con consecuencias en el mundo real.
La redacción masiva del informe y sus implicaciones
Aunque el informe completo consta de 61 páginas, OpenAI ha censurado grandes porciones del documento antes de permitir cualquier divulgación pública. Solo un resumen ejecutivo ha sido puesto a disposición del público general y de los investigadores externos. Esta decisión ha generado críticas contundentes en la comunidad de seguridad en inteligencia artificial, que sostiene que la transparencia no es un elemento opcional sino un componente esencial de cualquier proceso de auditoría creíble.
La redacción extensa plantea interrogantes legítimos que permanecen sin respuesta: ¿existen vulnerabilidades más graves que las ya reveladas en el resumen ejecutivo? ¿Se identificaron casos concretos de comportamientos problemáticos en agentes desplegados? ¿Las deficiencias detectadas afectan también a modelos menos avanzados que GPT-5.5? La opacidad con la que OpenAI ha manejado la divulgación del informe resulta paradójica, dado que fue la propia compañía quien aceptó someterse a una auditoría presencial de tres semanas, lo cual implica un nivel mínimo de compromiso formal con la transparencia externa.
Del chatbot al agente autónomo: por qué esto importa ahora
Desde la irrupción pública de los modelos de lenguaje de gran escala, OpenAI ha avanzado significativamente más allá de los modelos conversacionales simples. La compañía ha desarrollado y desplegado sistemas agénticos capaces de operar con altos niveles de autonomía. Productos como Operator o los distintos marcos de desarrollo de agentes construidos sobre la interfaz de programación de OpenAI permiten a los modelos ejecutar tareas complejas y prolongadas con mínima supervisión humana.
Esta evolución tecnológica es precisamente lo que convierte las brechas de monitoreo en un problema de primera magnitud. Mientras que un sistema conversacional responde a preguntas dentro de una conversación acotada, un agente puede iniciar sesiones en plataformas externas, realizar compras, redactar y enviar comunicaciones, ejecutar scripts de programación o tomar decisiones que afectan sistemas del mundo real. El rango de consecuencias posibles ante un comportamiento no deseado es, por tanto, considerablemente mayor que en los sistemas de generaciones anteriores.
El abismo entre los compromisos declarados y la infraestructura real
OpenAI publicó su “Preparedness Framework”, un conjunto de políticas y compromisos destinados a garantizar que los modelos más avanzados sean evaluados exhaustivamente antes de su despliegue. Este marco incluye evaluaciones de capacidades críticas en áreas como ciberseguridad, persuasión y comportamiento autónomo. La compañía también ha firmado compromisos voluntarios con gobiernos y ha participado en acuerdos internacionales sobre seguridad en inteligencia artificial.
Sin embargo, los hallazgos de METR y Redwood Research sugieren que existe una distancia significativa entre los compromisos declarados y la infraestructura de monitoreo real. Si hasta un 25% del tráfico de los agentes más avanzados escapa a la supervisión efectiva, la pregunta es inevitable: ¿cómo puede OpenAI garantizar el cumplimiento de sus propias políticas de seguridad? ¿Cómo puede afirmar que sus sistemas son seguros si una fracción considerable de su actividad autónoma ocurre fuera del alcance de sus herramientas de control?
Un problema estructural que va más allá de OpenAI
Sería un error limitar este debate únicamente a OpenAI. Toda la industria de modelos de lenguaje avanzados, incluyendo a Anthropic, Google DeepMind, Meta AI y xAI, enfrenta presiones crecientes para demostrar que sus sistemas son seguros antes de ser desplegados a escala. Sin embargo, la mayoría de las evaluaciones de seguridad son realizadas internamente por los propios equipos de las empresas, lo que introduce un conflicto de intereses estructural: las mismas organizaciones que se benefician comercialmente del despliegue de sus modelos son quienes deciden si esos modelos son suficientemente seguros para ser desplegados.
En este contexto, las auditorías externas como la realizada por METR y Redwood Research representan un avance importante. No obstante, su valor se ve limitado cuando los informes resultantes son censurados de manera tan extensa que el público y los reguladores no pueden acceder a la información necesaria para realizar una evaluación independiente. La transparencia selectiva corre el riesgo de convertirse en una herramienta de gestión de imagen más que en un mecanismo genuino de rendición de cuentas.
Lo que debería suceder a continuación
Los hallazgos de esta auditoría deberían actuar como una señal de alarma para reguladores, investigadores y usuarios de sistemas basados en inteligencia artificial avanzada. En primer lugar, OpenAI debería publicar el informe completo, o al menos justificar con criterios claros y verificables qué secciones han sido censuradas y por qué motivo. En segundo lugar, los marcos regulatorios emergentes, como los que están siendo desarrollados en la Unión Europea y en distintos países, deberían contemplar la obligatoriedad de auditorías externas independientes para los sistemas agénticos de mayor capacidad, con requisitos de divulgación que no puedan ser eludidos unilateralmente por las empresas auditadas.
En tercer lugar, la industria en su conjunto debería acordar estándares mínimos de monitoreo para sistemas agénticos, de manera que las brechas detectadas en OpenAI no se repliquen silenciosamente en otros laboratorios. La seguridad en inteligencia artificial no puede ser un asunto de confianza ciega; requiere infraestructuras de verificación, mecanismos de supervisión robustos y una cultura de transparencia que esté respaldada por datos verificables, no solo por declaraciones de intenciones.
Conclusión: la credibilidad de la seguridad en IA está en juego
La auditoría realizada por METR y Redwood Research en las instalaciones de OpenAI ha puesto de manifiesto una realidad incómoda: los compromisos públicos con la seguridad de la inteligencia artificial no siempre se corresponden con las infraestructuras técnicas y los procesos internos que deberían sustentarlos. El hecho de que hasta un 25% del tráfico de los agentes más avanzados de OpenAI opere sin supervisión efectiva no es un detalle menor; es una brecha estructural con implicaciones potencialmente serias para la seguridad de usuarios, organizaciones y sistemas conectados.
Mientras OpenAI y otras empresas del sector continúen desarrollando y desplegando sistemas agénticos de mayor autonomía y capacidad, la exigencia de transparencia real, auditorías genuinamente independientes y marcos de rendición de cuentas sólidos no debería ser negociable. El futuro de la confianza pública en la inteligencia artificial depende, en gran medida, de que la industria demuestre que sus compromisos con la seguridad son algo más que declaraciones de relaciones públicas.
