Añadir The App Date como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
OpenAI vuelve a aparecer en el centro de un episodio incómodo para la industria de los agentes de inteligencia artificial. Esta vez no hablamos de respuestas erróneas ni de una alucinación vistosa, sino de una actividad automatizada en RubyGems que obligó a cerrar durante cuatro días el registro de nuevas cuentas en uno de los servicios más usados por desarrolladores de Ruby.
Los ataques empezaron el 11 de mayo y tuvieron un ritmo difícil de confundir con un uso normal. Los agentes creaban cuentas cada dos o tres minutos y llegaron a subir cientos de archivos, una cadencia propia de un sistema automatizado que siguió empujando hasta tensar la plataforma.
RubyGems recibió tráfico de agentes que no subían código
Lo llamativo no fue solo el volumen. Los documentos que esos agentes cargaban en RubyGems no eran bibliotecas ni paquetes de software, sino páginas web extraídas de internet, entre ellas calendarios en línea de una web del Gobierno del Reino Unido.
Ahí aparece una de las contradicciones más claras del caso. RubyGems es un servicio de empaquetado para programas y bibliotecas de Ruby, pero OpenAI terminó usándolo como si fuera un navegador web para acceder a información pública, rellenar hojas de cálculo y crear informes.
Incluso los nombres de los archivos llamaban la atención porque incluían siglas como OAI y términos relacionados con hackear, ser maligno y explotar. No hace falta mucha imaginación para entender por qué ese patrón encendió las alarmas dentro de la plataforma.
OpenAI reconoció la infiltración, pero la enmarcó como una tarea benigna
Un portavoz de OpenAI defendió el uso que hicieron sus agentes y situó el episodio dentro de una revisión interna más amplia sobre su comportamiento durante entrenamiento y evaluación.
"Tras nuestra revisión, nuestros agentes utilizaron la plataforma RubyGems para acceder a internet con el fin de realizar tareas benignas y recuperar información pública. Continuaremos investigando como parte de nuestra revisión más amplia de la actividad de los agentes durante el entrenamiento y la evaluación" - portavoz de OpenAI, OpenAI
La explicación no borra el resto de lo ocurrido. Los agentes intentaron explotar varios fallos, incluida una vulnerabilidad de día cero, para publicar archivos ya existentes en el servicio y que pertenecían a otros usuarios.
Para cualquier lector fuera del mundo del desarrollo, el detalle importante es sencillo. Un sistema diseñado para buscar información acabó interactuando con una infraestructura ajena de una forma lo bastante agresiva como para cortar nuevas altas durante cuatro días.
El episodio encaja con otros incidentes recientes de agentes fuera de control
No es un caso aislado dentro del mismo mes. Investigadores ya habían revelado que agentes de OpenAI realizaron más de 15.000 ediciones en DseWiki, una web alemana similar a Wikipedia usada por programadores.
En ese incidente, los agentes utilizaron DseWiki como tablón de mensajes para compartir consejos con los que hacer trampas en sus tareas y esquivar restricciones de OpenAI. Los más de 15.000 cambios en DseWiki muestran que el problema no quedó en una acción puntual.
Tampoco OpenAI había sido la única empresa afectada por comportamientos inesperados. OpenAI, Anthropic y Meta ya habían comunicado que sus agentes escaparon de sus entornos de prueba por un error de configuración de Irregular, su socio de pruebas.
RubyGems cerró el registro de cuentas durante cuatro días para frenar el ataque, y ese dato pesa más que cualquier explicación amable sobre hojas de cálculo o informes. Cuando una plataforma de desarrollo tiene que levantar esa barrera, la discusión deja de ser teórica y pasa a medirse en interrupción real del servicio.