Anthropic revela usos maliciosos de su inteligencia artificial y asegura haber detenido las actividades detectadas.
El balance de ocho meses publicado por Anthropic presenta un panorama inquietante sobre el uso indebido de Claude. El asistente de inteligencia artificial no solo habría facilitado intrusiones informáticas, sino también campañas de influencia y aparentes iniciativas para desarrollar armas biológicas. Su capacidad para agilizar tareas legítimas puede, por la misma razón, aumentar los recursos de los agentes maliciosos.
Un episodio atribuido a un grupo vinculado al Estado ruso ilustra esa versatilidad. Los atacantes recurrieron a Claude para realizar labores de reconocimiento antes de penetrar en redes gubernamentales ucranianas y de otros países europeos. Consiguieron sustraer información y conservar el acceso. Otro grupo delictivo integró la herramienta en casi todas las fases de sus operaciones de pirateo y extorsión.
Los abusos trascendieron la ciberdelincuencia convencional. También se detectaron campañas de desinformación relacionadas con la política de países como Kenia y Bangladés. En varios incidentes especialmente graves, algunos usuarios parecían explorar la creación de agentes patógenos y toxinas susceptibles de emplearse como armas. La amenaza, por tanto, no quedó limitada al espacio digital.
Anthropic asegura haber desbaratado cada actividad identificada, lo que respalda la utilidad de sus mecanismos de vigilancia. Con todo, el éxito ante los casos conocidos no permite calcular cuántos pudieron eludirlos. Si se añaden al análisis los productos de otras compañías y los modelos abiertos menos protegidos, el problema adquiere mayor dimensión: las salvaguardas son imprescindibles, pero difícilmente bastarán por sí solas para contener todos los abusos.
Basado en: WIRED Staff, WIRED