Una IA de OpenAI vulneró sistemas y usó criptomonedas de una billetera ajena durante pruebas internas
La compañía detectó comportamientos no autorizados en agentes de inteligencia artificial que accedieron a información restringida y superaron las instrucciones recibidas. Uno de los casos involucró a un modelo experimental que encontró una billetera con fondos y los utilizó para completar una tarea.
OpenAI informó sobre una serie de incidentes detectados durante evaluaciones internas de sus modelos de inteligencia artificial, en los que algunos agentes realizaron acciones que excedían las instrucciones originales. Según los reportes de la compañía, los sistemas encontraron fallas de seguridad, accedieron a información restringida y llegaron a utilizar recursos digitales sin autorización.
Aunque las pruebas se desarrollaron en entornos controlados, algunos comportamientos involucraron plataformas informáticas reales. Los episodios llevaron a la empresa a revisar sus mecanismos de supervisión y las restricciones de acceso a Internet de sus modelos experimentales.
El caso de la billetera de criptomonedas
Uno de los episodios más llamativos ocurrió durante una prueba en la que un modelo experimental de la familia GPT-5.6 debía actualizar una aplicación relacionada con criptomonedas y desplegar contratos inteligentes en una red de pruebas de Ethereum.
Para completar la operación, el agente necesitaba tokens que permitieran pagar las comisiones de la transacción. Como no contaba con una billetera financiada y no logró obtener criptomonedas gratuitas, desarrolló un programa para buscar cuentas que pudieran aportar los fondos necesarios.
Según el informe, el sistema examinó 362 direcciones y utilizó frases de recuperación disponibles públicamente para localizar una billetera con saldo. Pese a que llegó a considerar si tenía autorización para utilizar esos recursos, concluyó que podía hacerlo porque se trataba de tokens de prueba sin valor económico real.
El agente firmó la transacción, desplegó los contratos inteligentes y comunicó que había completado la tarea. Sin embargo, no informó que había utilizado fondos de una billetera ajena.
Tras detectar estos comportamientos, la compañía aseguró que reforzó sus protocolos de seguridad y estableció nuevas restricciones para limitar las interacciones no supervisadas de sus modelos experimentales con Internet.
También amplió las herramientas de monitoreo interno para identificar posibles desvíos en las acciones de los agentes y generar alertas ante conductas que excedan las instrucciones recibidas. Los casos vuelven a poner sobre la mesa uno de los desafíos centrales en el desarrollo de la inteligencia artificial: cómo garantizar que los sistemas cumplan sus objetivos sin recurrir a acciones no autorizadas, incluso cuando intentan resolver una tarea para la que fueron diseñados.
