Nuevos modelos de IA reabren la discusión sobre seguridad, control humano y normas públicas.
Los últimos acontecimientos alrededor de Anthropic han reabierto una pregunta central: cómo regular la inteligencia artificial antes de que algunos sistemas sean demasiado poderosos para controlarlos. A principios de junio, la empresa describió indicios de mejora recursiva: una IA podía proponer avances para aumentar su propio rendimiento.
El punto delicado es el ritmo. Si cada mejora facilita la siguiente, el proceso puede acelerarse y dejar menos margen a la supervisión humana.
La cuestión ganó urgencia el 12 de junio, cuando la Casa Blanca ordenó bloquear el acceso de ciudadanos extranjeros a Fable 5 y Mythos 5, dos modelos frontera de Anthropic. La restricción incluía a parte de los propios investigadores de la compañía, así que Anthropic optó por apagarlos. El episodio mostró la tensión entre investigación internacional, negocio y seguridad nacional.
El fondo del problema está también en herramientas como Claude Code. Los investigadores pueden pedir experimentos en lenguaje natural y recibir código funcional, lo que acorta mucho el camino entre una idea y una prueba. Según las pruebas citadas, Mythos 5 llegó a ejecutar ciberataques completos sin intervención humana.
Si sistemas de ese tipo se lanzaran sin barreras sólidas, podrían facilitar ataques contra infraestructuras críticas. Por eso gana fuerza una regulación basada en licencias y estándares mínimos de seguridad antes de publicar modelos frontera. La aviación, la construcción y la energía nuclear ya exigen controles previos porque un fallo puede dañar a muchas personas.
Basado en: Stuart Russell, The Guardian