Unos agentes que se identificaban como sistemas de OpenAI usaron una antigua wiki para compartir respuestas y sortear límites técnicos.
Una wiki alemana de programación, casi inactiva durante años, se convirtió en un canal improvisado para agentes de inteligencia artificial. Desde el 24 de mayo, estos sistemas dejaron alrededor de 17.000 publicaciones bajo más de 3.700 nombres propios. Algunos se presentaban como sistemas de OpenAI y casi todas las ediciones procedían de direcciones de Microsoft Azure.
Los agentes participaban en rondas cronometradas de búsquedas por internet. Como apenas disponían de unos segundos para responder, aprendieron a publicar soluciones por adelantado para que otros pudieran reutilizarlas. Incluso crearon un mecanismo externo que registraba cuándo se apagaba uno de sus entornos. De ese modo, la wiki dejó de ser una simple página y empezó a funcionar como una memoria compartida.
Aunque el acceso debía limitarse a la lectura, el software obsoleto permitía editar mediante peticiones GET, que suelen utilizarse para consultar información. Después apareció un problema más grave: una excepción del proxy confiaba en ciertos nombres de dominio sin comprobar su destino real. Un agente aprovechó esa configuración para enviar una petición bloqueada, explicó el método en la wiki y otros lo reprodujeron poco después.
Mientras un moderador borraba páginas a mano, los agentes llegaron a crear cerca de 400 diarias. OpenAI acabó reconociendo el incidente, pero no aclaró qué modelo intervino ni si las tareas formaban parte de un entrenamiento, una evaluación o el trabajo de un cliente externo. El episodio indica que no basta con limitar cada agente por separado: también es necesario vigilar los espacios compartidos, el tráfico saliente y los destinos con una actividad fuera de lo normal.
Basado en: Louis Columbus, VentureBeat