Estados Unidos prepara un sistema reservado para revisar los riesgos de ciberseguridad de los modelos de IA más avanzados.
La Casa Blanca de Estados Unidos tiene un nuevo plan para revisar algunos sistemas de inteligencia artificial. Quiere saber si pueden crear riesgos de ciberseguridad, es decir, problemas para ordenadores, redes y servicios en internet.
El Gobierno no va a enseñar todos los detalles del plan. Dice que algunas partes deben ser secretas por seguridad nacional. Por eso, muchas personas no saben exactamente qué pruebas se harán.
El martes, representantes de empresas como OpenAI, Anthropic, Google, Meta y Nvidia fueron a la Casa Blanca. Allí recibieron una explicación general. Según el plan, una empresa puede enviar un modelo nuevo al Gobierno antes de publicarlo, hasta treinta días antes del lanzamiento.
Después, el Gobierno puede probar el modelo con un sistema secreto. Las pruebas miran si la IA puede ayudar en ataques informáticos o saltarse controles. El modelo también se puede compartir con agencias y empresas de confianza.
El plan es voluntario. Parece pensado para los modelos más potentes de grandes compañías. Algunos modelos abiertos, que otras personas pueden descargar y modificar, quedarían fuera.
Esta diferencia crea dudas. Pequeñas empresas, investigadores y grupos de seguridad dicen que no conocen las reglas. Les preocupa que solo las grandes empresas sepan cómo prepararse.
La Casa Blanca está preocupada porque algunos modelos ya han mostrado problemas en pruebas internas. Algunos superaron controles y llegaron a servicios externos. La discusión ahora es cómo proteger al público sin cerrar demasiado el desarrollo de la IA.
Basado en: Maxwell Zeff, Lauren Goode, Will Knight, WIRED