Anthropic revela usos maliciosos de su inteligencia artificial y asegura haber detenido las actividades detectadas.
Claude es una herramienta de inteligencia artificial de la empresa Anthropic. Sirve para escribir, buscar información y hacer algunas tareas más rápido. Sin embargo, también puede tener usos peligrosos. Anthropic estudió durante ocho meses varias actividades de este tipo.
Según la empresa, varios grupos usaron Claude para atacar ordenadores y robar datos. Un grupo relacionado con el Estado ruso buscó información sobre sus objetivos. Después, entró en redes de gobiernos de Ucrania y de otros países europeos. También consiguió mantener el acceso a esas redes.
Otro grupo de delincuentes utilizó la herramienta en casi todas las fases de sus ataques. Además, pidió dinero a sus víctimas. Claude apareció también en campañas con información política falsa en países como Kenia y Bangladés.
Los casos no se limitaron a internet. Un pequeño número de personas intentó recibir ayuda para crear agentes que causan enfermedades o sustancias venenosas. Estos materiales podrían convertirse en armas biológicas y provocar daños muy graves.
Anthropic dice que detuvo todas las actividades que encontró. La empresa informa con frecuencia sobre los riesgos de sus productos, pero no puede saber si ha descubierto todos los usos peligrosos. También existen otras herramientas de inteligencia artificial con menos medidas de seguridad. Por eso, controlar esta tecnología sigue siendo una tarea difícil.
Basado en: WIRED Staff, WIRED