El sistema de recopilación de datos Think Family Database contiene registros de cerca de medio millón de personas que viven en la ciudad de Bristol, Inglaterra. Sin embargo, por muchos años muy pocos sabían algo al respecto.
Creada en 2016 por el Ayuntamiento de Bristol y la policía regional de Avon y Somerset, la base de datos ha almacenado todo tipo de información sensible: informes de inteligencia policial, situación de vivienda, historiales de salud mental, embarazos adolescentes, matriculación en cursos de crianza y comidas escolares gratuitas. Además de estos datos sensibles, las autoridades crearon modelos de aprendizaje automático para asignar puntuaciones a miles de adultos y niños. Su objetivo era construir lo que denominaban un «panorama de amenazas, daños y riesgos» en la región. En un acto celebrado a principios de 2022 para ayudar a las autoridades a combatir los delitos de explotación infantil, un científico de datos de la policía describió parte del enfoque de la siguiente manera: «Básicamente, echo todos esos datos en una gran cubeta y los muevo con una espátula de ciencia de datos, y obtenemos una estupenda puntuación de riesgo para todo el mundo».
Esta puntuación de riesgo dentro de la Think Family Database era solo una parte del extenso programa de análisis predictivo de la Policía de Avon y Somerset. Entre los al menos 23 modelos distintos que creó el cuerpo policial se encontraban algoritmos para identificar el riesgo de que las personas cometieran un robo, no se presentaran ante el tribunal, desaparecieran o se convirtieran en víctimas de violencia doméstica. Un oficial de alto rango describió la creación de una «clasificación» de los delincuentes más peligrosos de la zona (una referencia aparente a la aplicación Offender Management, diseñada para almacenar datos sobre unas 300,000 personas de la región).
Una base de datos muy controversial
La forma en que la policía ha desarrollado y utilizado sus herramientas predictivas no siempre ha quedado clara para la ciudadanía. John Pegram, líder de un grupo local de control de la policía en Bristol, afirma que no oyó hablar de la aplicación Offender Management hasta 2023, años después de su creación. Cuando se enteró de su existencia, empezó a sospechar que podría estar incluido en ella. «Creo que sabía que estaba en la aplicación», sostiene Pegram.
A principios de 2024, Pegram presentó una solicitud para averiguar cómo estaba utilizando la policía sus datos. La policía se negó a dar explicaciones. Meses más tarde, después de que Pegram hubiera contratado a abogados para que se ocuparan de su caso, la policía confirmó que figuraba en la aplicación pero se negó a dar más detalles. Al igual que otras personas de Bristol, del Reino Unido y, cada vez más, de todo el mundo, Pegram no sabía si un algoritmo le había asignado una puntuación, cuál podría ser esa puntuación ni cómo podría afectar a sus interacciones con las autoridades.
WIRED, en colaboración con la organización de periodismo sin fines de lucro Liberty Investigates, además de Bristol Cable y Lighthouse Reports, obtuvo cientos de páginas de documentación (a través de solicitudes de acceso a registros públicos) para elaborar el panorama más completo hasta la fecha del experimento regional de Avon y Somerset en materia de recopilación de datos y análisis predictivo (Liberty, la organización matriz de Liberty Investigates, participó inicialmente en una posible impugnación legal del programa y sigue apoyando el litigio de Pegram).
La investigación revela que al menos dos de estos modelos de calificación de riesgo fueron abandonados discretamente después de que el personal del Ayuntamiento de Bristol considerara que ya no podía confiar en ellos. Documentos no divulgados hasta ahora muestran que inspectores gubernamentales y revisores independientes señalaron una alarmante falta de transparencia en torno a algunos elementos del programa y advirtieron que los sistemas podrían socavar la confianza pública. Los datos policiales revelados a WIRED (que comprenden más de 36,000 puntuaciones de desempeño de los modelos) parecen mostrar, en algunos casos, un “desempeño predictivo realmente deficiente”, según un analista independiente que revisó los datos para WIRED.
