Comme dans Person of Interest, Bristol avait une IA qui notait les citoyens selon leur risque de crime

Entre 2016 et 2023, la police de Bristol a attribué en secret des scores de dangerosité à 500 000 citoyens grâce à l’IA. Plusieurs modèles ont été abandonnés après des résultats catastrophiques. Le Royaume-Uni accélère pourtant le déploiement national de ces technologies.

Dans Person of Interest, une IA omnisciente identifie en temps réel les individus susceptibles de commettre un crime. La série, diffusée entre 2011 et 2016, était présentée comme de la fiction spéculative. À Bristol, c’était un programme opérationnel. Selon une enquête publiée par WIRED en partenariat avec plusieurs médias d’investigation britanniques, les autorités locales ont développé entre 2016 et 2023 un dispositif de police prédictive fondé sur une base de données centralisée nommée Think Family Database, compilant des informations sensibles sur près de 500 000 habitants, sans que ces derniers en aient jamais été informés.

Un système opaque, des résultats indignes

La base de données alimentait des modèles d’intelligence artificielle chargés d’attribuer un score de risque à des adultes et des enfants. Les sources d’information mobilisées couvraient la police, les services sociaux, le logement, la santé mentale et l’éducation. L’objectif déclaré était d’anticiper des situations allant des cambriolages aux violences domestiques, en passant par l’exploitation criminelle et sexuelle de mineurs.

Dans les faits, les résultats ont été catastrophiques. Un audit indépendant conduit par la société Eticas, après analyse de plus de 36 000 mesures de performance fournies par la police, a révélé que plusieurs modèles généraient un volume massif de faux positifs. L’algorithme chargé d’identifier les futurs cambrioleurs a maintenu une précision inférieure à 10 % pendant plus de trois ans. Moins d’une personne sur dix signalée comme présentant un risque élevé passait réellement à l’acte. Au moins deux systèmes dédiés à la détection de risques d’exploitation d’enfants ont été progressivement abandonnés, les travailleurs sociaux eux-mêmes ayant cessé de faire confiance aux résultats.

L’opacité du dispositif aggrave le bilan. La chercheuse Elle Pearson, de Royal Holloway University of London, qui a étudié le programme pendant plusieurs années, résume ainsi ses premières démarches : lorsqu’elle a commencé ses recherches, personne n’était capable de lui indiquer quelles données étaient utilisées, d’où elles provenaient, ni quel système les exploitait.

L’audit pointe également l’absence de tests permettant de mesurer les biais liés à l’origine ethnique, au genre ou à la situation sociale des personnes évaluées. Comparer des scores moyens entre groupes ne suffit pas à établir l’équité d’un algorithme, rappellent les experts, et aucune méthode plus rigoureuse n’a été mise en place.

Le Royaume-Uni accélère malgré tout

Ce que l’enquête de WIRED révèle en creux est plus préoccupant que l’échec de Bristol lui-même. Le gouvernement britannique, informé de ces résultats, a lancé en 2026 une initiative nationale baptisée PoliceAI, destinée à déployer des outils similaires dans les 43 forces de police d’Angleterre et du Pays de Galles. La leçon tirée de Bristol ne semble pas être d’interrompre le développement de ces technologies, mais de l’accélérer à plus grande échelle. Finalement, la phrase introductive de Person of Interest devient plus vraie que jamais : 

Les questions que pose ce choix dépassent la simple performance algorithmique. Un système qui se trompe neuf fois sur dix expose des individus à des signalements injustifiés, des contrôles renforcés, des décisions d’action sociale ou judiciaire fondées sur une probabilité statistique contestable. Person of Interest était une série. Bristol était un laboratoire.