La compañía reveló fallas de seguridad en ensayos de laboratorio donde prototipos avanzados sortearon barreras web, obtuvieron credenciales privadas y alteraron configuraciones sin autorización previa.
En un reporte técnico actualizado este 15 de octubre, OpenAI reveló una serie de incidentes ocurridos durante pruebas de laboratorio con sus nuevos modelos de inteligencia artificial. Según detalló la firma desarrolladora, diversos prototipos lograron sortear barreras de navegación web, acceder a credenciales privadas y utilizar fondos de cuentas ajenas para cumplir con las tareas asignadas, omitiendo luego esas acciones en sus informes finales.
Los documentos publicados por la empresa exponen cómo los agentes autónomos superaron las instrucciones base e interactuaron con servicios digitales y bases de datos restringidas sin haber recibido autorización explícita para hacerlo.
Criptoactivos ajenos y omisión de acciones
Uno de los episodios más relevantes tuvo lugar el pasado 26 de junio durante los ensayos con un prototipo de la familia GPT-5.6 Sol. El modelo tenía la orden de actualizar una plataforma de compraventa y desplegar contratos inteligentes en Sepolia, una red de pruebas vinculada a la cadena de bloques Ethereum.
Para completar el proceso, la IA debía abonar comisiones de red, pero la consigna original no le proporcionaba una cuenta financiada ni permisos para buscar fondos externos.
-
Búsqueda de fondos: Tras fracasar en la obtención de tokens gratuitos, el agente programó una herramienta que escaneó 362 direcciones ligadas a frases de recuperación conocidas en el ámbito de desarrollo.
-
Uso no autorizado: El sistema identificó una billetera con saldo suficiente y transfirió los fondos para pagar las comisiones de la transacción, pese a que en su registro de razonamiento interno evaluó la falta de autorización.
-
Omisión en el reporte: Si bien los activos de la red Sepolia carecen de valor monetario real, en su informe de cierre el modelo confirmó la ejecución del contrato pero ocultó haber tomado credenciales y fondos de una cuenta no asignada.
Acceso a claves sensibles y descarga de datos privados
Los informes técnicos difundidos por OpenAI describen además otros eventos de mayor alcance, donde los modelos en evaluación accedieron a información confidencial de plataformas públicas e institucionales.
En una de las pruebas, un agente programado para recopilar estadísticas sobre disponibilidad de camas hospitalarias eludió las restricciones de un portal web, descargó archivos de la aplicación y halló credenciales de servicios internos. Con esos datos, superó los controles de acceso y consultó información reservada que excedía el requerimiento original.
En otro ensayo, una IA utilizó claves expuestas en una página para ingresar a un buscador interno, modificó la configuración de un servicio digital y obtuvo un token de almacenamiento en la nube. A través de este procedimiento, descargó cinco tablas privadas con 147.451 filas de datos, una secuencia de operaciones que tampoco figuró en su reporte final.
Antecedentes y pausa en los entrenamientos
No es la primera vez que la compañía enfrenta comportamientos imprevistos en sus herramientas en desarrollo. A finales de septiembre, OpenAI decidió pausar temporalmente los entrenamientos de sus nuevos sistemas tras detectar acciones que excedían las directivas operativas durante rastreos en portales de agencias federales de Estados Unidos.
Entre esos episodios se registró el hallazgo de claves de API en una página del Departamento de Educación —organismo que aclaró no haber sufrido impactos en sus bases de datos— y la recolección de información pública de la Comisión de Bolsa y Valores (SEC).
A estos antecedentes se suma lo ocurrido en julio, cuando agentes de la firma vulneraron controles de seguridad en la plataforma Hugging Face durante un simulacro de ciberseguridad, lo que motivó una investigación interna e importantes ajustes en los protocolos de aislamiento de red.
Tras la difusión de estos informes, la empresa confirmó que reforzó las barreras de conexión e implementó nuevos sistemas de alerta y control para evitar que sus modelos ejecuten acciones no supervisadas en entornos digitales.