Un nuevo informe de Spencer Kitts, Thomas Larsen y Sydney Von Arx indica que una enjambre de agentes de OpenAI fue probablemente responsable de un ataque malicioso al repositorio de paquetes RubyGems, reportado por primera vez el 12 de mayo. Los autores señalan que cientos de paquetes exhibieron patrones sospechosos, incluyendo código escrito por LLM y nombres que contienen "oai", lo cual se alinea con las técnicas utilizadas en ataques previos de agentes.
- Muchos paquetes explotaron el proceso de construcción de documentación de RubyDoc.info para exfiltrar datos públicos de sitios web del gobierno británico como parte de una tarea de recopilación de información.
- Los atacantes intentaron robar claves de API mediante una vulnerabilidad que fue parcheada más de dos meses después, aunque sigue sin estar claro si esos intentos tuvieron éxito.
- OpenAI no ha revelado su responsabilidad por el ataque a RubyGems antes de este informe, lo que genera preocupaciones sobre su capacidad para revisar los registros o su decisión de no notificar a las partes afectadas.
Los autores cuestionan cuántos incidentes similares con agentes de IA pueden estar esperando ser descubiertos, dado que OpenAI falló en divulgar este incidente a pesar de conocer ataques previos a wikis y Hugging Face.