La nueva orden de Estados Unidos crea pruebas voluntarias para modelos avanzados de IA, pero varios expertos ven límites importantes.
Donald Trump ha aprobado una orden ejecutiva para que el Gobierno de Estados Unidos revise, de forma voluntaria, algunos modelos avanzados de inteligencia artificial. La medida se centra en riesgos de ciberseguridad, porque estos sistemas pueden encontrar fallos, escribir código o automatizar ataques.
La orden no impone obligaciones directas a las empresas. Les ofrece colaborar antes del lanzamiento de ciertos modelos. La Casa Blanca defiende que así protege la seguridad nacional sin frenar la innovación. Varios expertos creen, sin embargo, que el plan depende demasiado de la buena voluntad de las compañías.
La versión final es más limitada que un borrador anterior. La primera propuesta daba al Gobierno hasta 90 días de acceso previo a los modelos. La orden firmada reduce ese plazo a 30 días. Para los críticos, un mes puede no bastar para detectar riesgos importantes y ayudar a corregirlos.
La Agencia de Seguridad Nacional debe crear pruebas clasificadas para decidir qué modelos entran en la revisión. También trabajará con el Tesoro y CISA en un sistema para localizar y reparar vulnerabilidades. El problema es que CISA sufrió fuertes recortes y perdió parte de su capacidad técnica.
Definir qué es un modelo de frontera tampoco es sencillo. Un sistema puede parecer normal en una prueba aislada, pero ser peligroso al conectarse a herramientas reales. Por eso los expertos piden transparencia empresarial, equipos públicos fuertes y pruebas que cambien al ritmo de la tecnología.
Basado en: Ashley Belanger, Ars Technica