Nuevos modelos de IA reabren la discusión sobre seguridad, control humano y normas públicas.
El caso de Anthropic ha devuelto urgencia a una pregunta que llevaba años abierta: qué debe hacerse cuando los sistemas de inteligencia artificial empiezan a participar en su propia mejora. A comienzos de junio, la compañía señaló indicios de mejora recursiva: una IA puede proponer avances que aumenten su rendimiento y faciliten nuevos avances.
La inquietud está en el posible bucle. Si una versión mejorada ayuda a crear otra aún más capaz, la supervisión humana puede perder margen antes de que existan reglas claras.
La preocupación pasó del plano técnico al político el 12 de junio. La Casa Blanca restringió el acceso de ciudadanos extranjeros a Fable 5 y Mythos 5, modelos frontera de Anthropic. Como la orden alcanzaba incluso a investigadores relevantes de la empresa, Anthropic decidió apagar los sistemas. La escena resumió una tensión incómoda: la IA avanzada depende de equipos internacionales, pero empieza a tratarse como un asunto de seguridad nacional.
A esa tensión se suma la automatización del desarrollo. Claude Code permite formular ideas o experimentos y delegar la escritura del código, lo que acorta el ciclo entre hipótesis, prueba y mejora. Mythos 5 mostró capacidad para realizar ciberataques sin asistencia humana. Una tarea técnica compleja quedaría así mucho más cerca de un uso automatizado.
Ante ese escenario, la respuesta propuesta es un régimen de licencias para modelos frontera. Antes de construirlos o publicarlos, las empresas tendrían que demostrar un nivel mínimo de seguridad. La lógica ya existe en ámbitos donde un error puede causar daños masivos, como aviones, edificios o centrales nucleares.
Basado en: Stuart Russell, The Guardian