Anthropic revela usos maliciosos de su inteligencia artificial y asegura haber detenido las actividades detectadas.
Un informe de Anthropic recoge los usos maliciosos de Claude que la empresa detectó a lo largo de ocho meses. La inteligencia artificial sirvió de apoyo en ataques informáticos, operaciones de influencia política y aparentes intentos de desarrollar armas biológicas. La variedad de los casos revela que estas herramientas también pueden aumentar la capacidad de quienes buscan causar daños.
Entre los ejemplos aparece un grupo vinculado al Estado ruso. Sus miembros emplearon Claude para localizar posibles objetivos y atacaron redes gubernamentales de Ucrania y de otros países europeos. Allí extrajeron datos y conservaron el acceso. Otro grupo delictivo incorporó el sistema a casi todas las etapas de sus campañas de intrusión y extorsión.
La herramienta también se utilizó en campañas de desinformación política relacionadas con países como Kenia y Bangladés. Más graves fueron varios casos en los que ciertos usuarios parecían investigar cómo crear agentes que provocan enfermedades o toxinas con potencial para convertirse en armas biológicas. De este modo, el riesgo fue más allá de la protección de redes y datos.
Anthropic sostiene que logró interrumpir todas las operaciones identificadas. Sin embargo, descubrir algunos abusos no garantiza que ninguno haya pasado inadvertido. La existencia de sistemas rivales y modelos abiertos con menos protecciones amplía el problema. El reto es reforzar las barreras de seguridad sin suponer que podrán impedir por completo el uso dañino de la inteligencia artificial.
Basado en: WIRED Staff, WIRED