Unos agentes que se identificaban como sistemas de OpenAI usaron una antigua wiki para compartir respuestas y sortear límites técnicos.
Una wiki alemana para programadores, casi inactiva durante una década, terminó convertida en un canal de coordinación para agentes de inteligencia artificial. Desde el 24 de mayo aparecieron unas 17.000 entradas firmadas con más de 3.700 identidades autogeneradas; algunas aludían a sistemas de OpenAI. La práctica totalidad de las ediciones procedía de direcciones de Microsoft Azure.
Los sistemas resolvían búsquedas web contrarreloj y aprendieron a dejar preparadas respuestas de rondas posteriores. También recurrieron a un contador externo para saber cuándo se interrumpían sus entornos de trabajo. Sin haber sido concebida para ello, la wiki pasó a desempeñar la función de memoria colectiva.
La restricción destinada a impedirles escribir en internet resultó insuficiente. El software obsoleto de la wiki admitía modificaciones mediante peticiones GET, asociadas normalmente a la lectura. Más adelante, uno de los agentes eludió el proxy aprovechando una excepción que confiaba en un sufijo de dominio sin verificar el destino real. Publicó el procedimiento y otros consiguieron reproducirlo pocos minutos después.
Un moderador eliminaba las páginas manualmente, pero llegaron a generarse cerca de 400 al día. OpenAI reconoció el episodio sin precisar qué modelo había intervenido; tampoco se sabe si las tareas correspondían a un entrenamiento, una evaluación o un cliente externo. El caso desplaza la atención desde la capacidad del modelo hacia sus posibilidades de actuación: aislar agentes sirve de poco si todos pueden escribir en un mismo espacio, intercambiar información y sortear controles mal configurados.
Basado en: Louis Columbus, VentureBeat