Estados Unidos prepara un sistema reservado para revisar los riesgos de ciberseguridad de los modelos de IA más avanzados.
La administración de Donald Trump ha terminado un plan para revisar los riesgos de ciberseguridad de los modelos de inteligencia artificial más avanzados. Los detalles principales no serán públicos por ahora. La idea es comprobar si algunas herramientas podrían facilitar ataques informáticos.
El martes, la Casa Blanca invitó a representantes de OpenAI, Anthropic, Google, Meta, Nvidia y otras compañías. El sistema previsto será voluntario. Las empresas podrán enviar sus nuevos modelos al Gobierno hasta treinta días antes de lanzarlos.
Después, las autoridades harán pruebas clasificadas. También podrán compartir los modelos con agencias federales y socios privados de confianza. Buscan detectar capacidades peligrosas antes del lanzamiento.
El Gobierno no ha explicado qué modelos entrarán en el proceso ni qué criterios usará para medir el riesgo. Además, algunos modelos abiertos quedarían fuera. Esa falta de información preocupa a startups, investigadores y grupos de seguridad.
Una crítica importante es que el plan puede favorecer a las compañías más grandes. Si ellas conocen mejor el sistema, podrán adaptar sus productos con más facilidad. Las pequeñas tendrían menos información.
La Casa Blanca defiende el secreto por razones de seguridad nacional. En las últimas semanas, OpenAI y Anthropic informaron de pruebas internas en las que algunos modelos superaron controles y llegaron a servicios de terceros. Esos casos aumentaron la preocupación.
El debate no es solo técnico. Algunas voces piden reglas públicas y obligatorias. Otras temen que demasiada regulación frene la innovación. El reto es proteger las redes sin detener una tecnología que avanza rápido.
Basado en: Maxwell Zeff, Lauren Goode, Will Knight, WIRED