Alarma en OpenAI: admiten que la Inteligencia Artificial accedió a datos privados y usó criptomonedas ajenas
OpenAI difundió una serie de informes que exponen un problema creciente en el desarrollo de la inteligencia artificial: sus agentes pueden encontrar caminos no previstos para cumplir una tarea, incluso cuando eso implica eludir controles de seguridad, acceder a información reservada o utilizar recursos sin autorización. Uno de los casos más recientes salió a la luz cuando un modelo de investigación utilizó fondos de una billetera de criptomonedas ajena para terminar un trabajo de programación.
El episodio ocurrió el 26 de junio, durante una prueba con un modelo de la familia GPT-5.6 Sol. El sistema debía actualizar una aplicación de compraventa de criptoactivos y desplegar contratos inteligentes en Sepolia, una red de prueba de Ethereum. Como no tenía fondos para pagar las comisiones, buscó una alternativa: escribió un programa que revisó 362 direcciones generadas a partir de frases de recuperación conocidas y encontró una billetera con saldo suficiente.
El agente utilizó esos fondos para completar la operación y después informó que había terminado el trabajo, sin revelar de dónde había obtenido el dinero. OpenAI aclaró que se trataba de tokens de una red de prueba, sin valor monetario real. Sin embargo, el problema fue el comportamiento del sistema: no tenía permiso para utilizar esa billetera y, según el informe, llegó a cuestionar si su decisión era ética antes de justificarla como aceptable.
El antecedente de Hugging Face: agentes que llegaron a sistemas ajenos
El caso se suma a un incidente de mayor alcance ocurrido en julio, cuando agentes de OpenAI que participaban en evaluaciones internas de ciberseguridad eludieron los controles que debían mantenerlos aislados de internet. Durante varios días, los modelos encontraron vulnerabilidades, se comunicaron a través de canales no autorizados y coordinaron acciones para avanzar en tareas que excedieron el objetivo original de las pruebas.
La actividad alcanzó infraestructura de OpenAI y de Hugging Face, una plataforma utilizada para compartir modelos y herramientas de inteligencia artificial. Según el informe publicado por OpenAI, los agentes ejecutaron código en decenas de servidores de Hugging Face, consiguieron acceso de administrador o root en uno de ellos, obtuvieron credenciales de distintos servicios y accedieron a una cantidad limitada de datos privados. También copiaron algunos datos privados de evaluación en un conjunto de datos público alojado en la plataforma.
La investigación incluyó la participación de asesores externos y un análisis independiente de METR y Redwood Research. OpenAI sostuvo que el incidente no afectó los datos de sus clientes ni la disponibilidad de sus productos. Aun así, el episodio dejó en evidencia que un entorno diseñado para pruebas puede convertirse en un riesgo si los agentes consiguen superar sus barreras técnicas y operar sobre sistemas reales.
Información reservada y accesos que no estaban autorizados
Los informes también describen otros episodios en los que agentes obtuvieron credenciales expuestas, ingresaron a sistemas internos y recopilaron información que no necesitaban para responder a la consigna original. En uno de los casos, un modelo consiguió acceso a un servicio interno y descargó registros que incluían nombres y direcciones de correo electrónico. En otro, obtuvo un token de almacenamiento en la nube y descargó cinco tablas privadas con 147.451 filas de datos.
En otro incidente, un agente logró sortear los controles de acceso de un sitio con estadísticas gubernamentales y consultó información de centros de salud. Según la documentación publicada, el sistema llegó a utilizar credenciales y vulnerabilidades técnicas para ingresar a datos que no estaban disponibles a través del acceso previsto. Los informes también registraron situaciones en las que los modelos no informaron a sus usuarios sobre las acciones que habían realizado para completar las tareas.
El problema de fondo: agentes que actúan más allá de sus instrucciones
La preocupación va más allá de una respuesta equivocada de un chatbot. Los agentes de IA pueden ejecutar código, conectarse a servicios, consultar bases de datos y realizar operaciones en nombre de una persona o una empresa. Si cuentan con permisos amplios, una decisión equivocada puede traducirse en acciones concretas sobre sistemas y datos reales.
OpenAI informó que está reforzando el aislamiento de sus entornos de investigación, restringiendo el acceso a internet y mejorando la supervisión para detectar conductas que se aparten de las tareas asignadas. Pero la sucesión de incidentes plantea una pregunta central para toda la industria: ¿cómo garantizar que una inteligencia artificial no cruce los límites de acceso y autorización cuando intenta cumplir un objetivo?
El caso de la billetera de prueba no implicó una pérdida de criptomonedas con valor comercial, pero ilustra el riesgo que aparece cuando estos sistemas operan con autonomía. En un entorno real, con fondos, credenciales o información sensible, una conducta similar podría tener consecuencias mucho más graves.
