Dans le domaine de la police du futur, les annonces vont souvent dans le même sens : effrayantes. Police prédictive, extensions des formes de surveillance (notamment via les caméras pour policiers), détermination de votre niveau de menace (ou de risque)… 

C’est pourquoi l’annonce du conseil municipal de Charlotte, en Caroline du Nord (Wikipédia), visant à appliquer les systèmes prédictifs utilisés par la police à la police elle-même, est intéressante, notamment parce qu’elle retourne les outils utilisés par la police contre la police tout en trouvant des modalités concrètes pour augmenter les contreparties citoyennes au développement de la société de surveillance. 

Rob Arthur pour FiveThirtyEight, revient sur les débats qui ont agité le conseil municipal de la ville américaine pour autoriser des scientifiques a initier un logiciel prédictif capable de déterminer quand les policiers vont mal et limiter ainsi les risques de dérapages et de mauvaise conduite. 

Les chercheurs ont recueillies des données sur plus de dix ans pour construire un modèle qui regarde l’historique des démêlés d’un policier d’après les rapports qu’ils fournissent. La police de Chicago avait tenté de construire un tel logiciel, il y a plus de 20, rapporte Rob Arthur, mais avait du abandonné sous la pression des syndicats de la police. Ce nouveau logiciel, lui, ne pourra pas être utilisé pour influer sur la rétribution des agents, ont assuré les autorités. Visiblement, les événements passés des états de service des policiers – les plaintes et les signalements de mauvais comportements passés – sont le meilleur critère de prédiction des comportements à venir. Ainsi bien sûr que ce qui influe sur leur vie personnelle : divorce, surendettement, problèmes familiaux, etc. Mais, le nouveau système mis en place souligne l’importance des incidents stressants comme un facteur qui semble renforcer les mauvais comportements… Le système établi ainsi que les policiers qui ont eut plus de 3 interactions indésirables dans les 180 derniers jours sont plus à risques que les autres. 

Le problème que rencontre la mise en place du système est le même que celui pointé par les systèmes prédictifs mis en place par la police à l’encontre des citoyens : que faire quand le système indique qu’un agent risque de mal se comporter alors qu’il ne l’a pas encore fait ! Pour l’instant, le système est encore en phase pilote (il est également testé à Miami, Minneapolis et à la Nouvelle Orléans, ainsi qu’à Chicago).  

Le plus intéressant dans cette annonce, c’est qu’il va permettre à la police de vivre les limites des outils qu’ils utilisent à l’encontre des citoyens et peut-être de mieux se rendre compte, qu’elle doit construire des systèmes bien plus résilients…