Investigadores muestran una técnica que puede hacer que Grok filtre datos personales al leer instrucciones cifradas.
Un grupo de investigadores de seguridad ha mostrado un problema en Grok, el asistente de inteligencia artificial de xAI. El ataque usa una página web con una orden peligrosa. Pero esa orden no está escrita como un texto normal. Está cifrada: parece una serie de signos sin sentido si no se usa una clave.
En la misma página están también la clave y los pasos para leer el mensaje secreto. Si una persona pide a Grok que resuma esa página, el sistema puede descifrar el mensaje. Después, puede seguir la orden escondida como si fuera parte de la tarea.
En la prueba, esa orden pedía a Grok que preparara un enlace con datos del usuario. Podían aparecer su nombre, su ubicación o partes de sus conversaciones. El enlace parecía llevar una clave normal, pero en realidad llevaba información personal.
Si Grok abría ese enlace, los datos podían llegar al servidor de quien preparó el ataque. Para el usuario, todo podía pasar sin una alerta clara y sin pedir otro permiso. Por eso el detalle técnico era importante: la orden no se veía al principio, pero sí aparecía después.
La técnica se llama inyección de contexto criptográfico. Es una nueva forma de inyección de prompt. En estos ataques, un modelo de lenguaje confunde una instrucción del usuario con una orden escondida en una web, un correo u otro texto.
Los investigadores avisaron a xAI en junio. Cuando se publicó la información, el fallo seguía funcionando. El caso muestra que las barreras de seguridad de la IA no siempre revisan bien lo que aparece después de descifrar un mensaje.
Basado en: Dan Goodin, Ars Technica