Un programa policial en Inglaterra usó datos sensibles para calcular riesgos, pero algunos resultados no eran fiables.
La policía de Avon and Somerset y el Ayuntamiento de Bristol reunieron datos públicos en la base Think Family Database. El sistema, creado en 2016, guardó información de casi medio millón de residentes.
La base incluía informes policiales, datos de vivienda, salud mental, comidas escolares gratuitas y cursos para padres. Con esa información se hicieron modelos informáticos para calcular puntuaciones de riesgo. La idea era detectar antes situaciones de peligro.
Algunas herramientas buscaban niños que podían sufrir explotación. Otras intentaban prever robos, desapariciones, ausencias en los juzgados o posibles víctimas de violencia doméstica. Esos avisos podían ayudar a actuar antes, pero el sistema no era fácil de entender desde fuera.
Muchos ciudadanos no sabían si sus datos estaban en esos sistemas. John Pegram, un activista local, pidió información sobre el uso de sus datos. La policía confirmó que aparecía en una aplicación de gestión de posibles delincuentes, pero no explicó todos los detalles. Para él, esa falta de claridad era una señal de alarma.
Dos modelos sobre explotación infantil dejaron de usarse cuando empleados del ayuntamiento dijeron que ya no eran fiables. Una revisión independiente afirmó que las puntuaciones de riesgo eran la parte más débil del proyecto. Algunos trabajadores contaron que menores vulnerables no aparecían en los resultados.
Otra revisión encontró baja precisión en varios modelos. En uno sobre robos, menos de una de cada diez personas señaladas como de alto riesgo habría cometido realmente ese delito. La policía dijo que algunos modelos no se usaron y que los sistemas se revisan. Sin transparencia, la confianza pública queda dañada.
Basado en: Matt Burgess, Mark Wilding, WIRED