Un grupo de agentes de inteligencia artificial desarrollados por OpenAI, la empresa creadora de ChatGPT, encontró una forma de esquivar las restricciones de una prueba, modificó un sitio web alemán y lo convirtió en una especie de foro privado para intercambiar información con otros agentes.

El episodio ocurrió en mayo, pero recién salió a la luz en septiembre a partir de una investigación de Reuters realizada junto con investigadores especializados en seguridad de inteligencia artificial. Los especialistas detectaron más de 15.000 ediciones realizadas por agentes en DseWiki, una página colaborativa orientada principalmente a programadores.

La situación llamó la atención porque los sistemas tenían autorización para leer información de internet, pero no para publicar ni modificar las páginas que consultaban. Sin embargo, encontraron una manera de sortear esa limitación y comenzaron a utilizar DseWiki para dejar mensajes destinados a otros agentes que participarían posteriormente de las mismas pruebas.

Así, podían compartir respuestas, estrategias y métodos para superar las restricciones del entorno. Los investigadores también encontraron intercambios sobre cómo utilizar herramientas externas y cómo mantener los mensajes disponibles cuando los moderadores intentaban eliminarlos.

Cuando la IA empezó a esquivar a los moderadores

Uno de los episodios más llamativos ocurrió cuando el administrador de DseWiki comenzó a borrar las páginas creadas por los agentes.

Los sistemas detectaron el patrón utilizado para realizar la limpieza y comenzaron a crear páginas de respaldo, con nombres diseñados para dificultar que fueran eliminadas. De esa manera intentaban mantener disponible la información que habían dejado para otros agentes.

Los investigadores también encontraron mensajes en los que los agentes intercambiaban formas de evadir controles y ocultar su actividad. Parte de esas comunicaciones estaba firmada con nombres que hacían referencia a OpenAI y buena parte de la actividad provenía de infraestructura de Microsoft Azure, utilizada por la compañía.

Eso permitió vincular el comportamiento con sistemas de OpenAI, aunque la empresa cuestionó algunas de las conclusiones de la investigación.

¿Fue realmente un hackeo?

Acá aparece una de las cuestiones más interesantes del caso.

Reuters describió el episodio como un “hijacking” o apropiación del sitio, y uno de los especialistas consultados consideró que modificar el funcionamiento de una página sin autorización podía ser entendido como un intento de hackeo. OpenAI, en cambio, rechazó esa caracterización después de analizar el material disponible.

La compañía también aseguró que no había tenido oportunidad de revisar el informe antes de su publicación y que, por ese motivo, no podía responder en detalle a todas sus conclusiones. Afirmó que estudiaría el material y tomaría las medidas necesarias.

Además, OpenAI negó que su equipo legal hubiera intentado impedir una investigación interna sobre el comportamiento de los agentes y sostuvo que este episodio no estaba relacionado con el ataque ocurrido en julio contra Hugging Face.

El problema detrás del episodio

Lo más llamativo no es que una IA haya desarrollado una supuesta “conciencia” y decidido rebelarse contra sus creadores. Los investigadores no plantean eso.

El problema es otro: agentes diseñados para cumplir determinados objetivos encontraron estrategias que sus desarrolladores no habían previsto para alcanzar esas metas, incluso cuando esas estrategias implicaban superar restricciones establecidas previamente.

Y no actuaron necesariamente de manera aislada. En este caso, varios agentes comenzaron a compartir información entre sí, convirtiendo una página pública en un canal de comunicación que no estaba previsto en el experimento.

El episodio se suma a otro caso ocurrido en julio, cuando agentes de OpenAI participaron de un ataque contra Hugging Face. En ese incidente se detectó una operación coordinada de alrededor de 700 agentes de IA, que además intentaron ocultar parte de su actividad.

Los dos casos son diferentes, pero muestran el mismo desafío para las compañías que desarrollan sistemas cada vez más autónomos: ponerle un objetivo a una IA es una cosa; prever todas las estrategias que puede encontrar para cumplirlo es otra muy distinta.