Vers la justice analytique (1/3) : l’enjeu de l’ouverture des données de justice

Dans un amphithéâtre un peu surchauffé de l’École militaire à Paris se tenait fin juin une journée d’étude sur la question des algorithmes appliqués à la justice et à la police organisée par l’Institut national des hautes études de la sécurité et de la justice et le projet de recherche Innox qui s’intéresse à la gouvernance prédictive. L’occasion d’interroger les enjeux de l’ouverture annoncée des données de justice inscrites dans la loi pour une République numérique qui a promis la publication en open data des décisions judiciaires.

Reste que depuis la promulgation de la loi, les choses patinent un peu. Que faut-il ouvrir ? Comment ouvrir ? Comment anonymiser les documents automatiquement et en masse et s’assurer que la réidentification des justiciables ne soit pas possible ? Le caviardage automatisé doit-il aussi concerner le nom des juges, les montants, les noms des avocats… ? Enfin, comment exploiter ces milliers de décisions de justice ? Si pour l’instant, on évoque l’accès à quelque 360 000 décisions judiciaires annuelles via deux bases de données, à l’avenir, ces publications devraient accueillir plusieurs millions de documents par an : une perspective qui gonfle les ambitions de ce qu’on appelle déjà la Legal Tech, les entreprises de technologies chargées de transformer ce substrat en business. Comment border cette ouverture pour qu’elle bénéficie à tous ? Comment extraire du sens de la justice analytique qui arrive ?

Tels étaient quelques-uns des enjeux qui planaient sur cette journée de discussion… alors que les autorités judiciaires discutent des modalités opérationnelles de l’ouverture des données de justice : modalités qui auront une incidence forte sur ce que l’on pourra retirer de ces données et la façon de les exploiter.  

L’algorithme est-il seulement un nouvel outil ?


Comme l’a rappelé Hélène Cazaux-Charles, directrice de l’INHESJ, réfléchir aux conséquences éthiques de l’introduction de nouvelles technologies dans le monde judiciaire et dans celui de la sécurité pose la question de comment la technologie aide la justice à faire son travail. Le risque est-il que « le terrain de la preuve glisse du droit à l’équation » ? L’algorithme qui anticipe le risque est-il appelé à être un outil parmi d’autres ou est-il un nouvel objet qui « transforme la probabilité en certitude et le soupçon en preuve » ?

Cet avenir pose également celui de l’équilibre constitutionnel. Aujourd’hui, le Procureur de la République peut demander des contrôles d’identité ciblés sur les territoires par exemple, mais demain, à l’heure de la police prédictive, qui en décidera ? Qui sera garant de l’équilibre constitutionnel ?


Image : au colloque sécurité et justice par l’INHESJ.

Enfin, ces transformations posent la question de l’essence même du pouvoir. « L’humain est-il un agrégat de comportements qui font données et systèmes ? La société est-elle encore un vivre ensemble ou une machine ? » L’activité humaine mise en chiffre induit, comme le soulignait le juriste Alain Supiot dans La gouvernance par les nombres que la société n’est plus construite comme une croyance qui la dépasse et où les lois portent des droits, mais comme un système où la vérité ne procède plus du débat contradictoire et de son imperfection. Pour Hélène Cazaux-Charles, nous devons nous défier de la mathématisation du monde.

Comme le rappelle Manuel Palacio, responsable des Cahiers de la sécurité et de la justice, il faut passer l’effet de sidération de ces sujets pour regarder concrètement ce qui s’annonce : comprendre en quoi consistent les usages du numérique dans la police et la justice, ce qu’ils apportent de nouveau, ce qu’ils modifient… Enfin, il faut interroger également la question prédictive. « Justice et police ne prédisent rien, mais calculent de plus en plus. Sur quoi portent ces calculs ? Qui les manie ? Qui les contrôle ? »

L’ouverture des données va-t-elle transformer la justice ?

Pour le magistrat Eloi Buat Menard, adjoint à la sous-direction de l’organisation judiciaire et de l’innovation au ministère de la Justice, l’obligation faite à la justice d’ouvrir ses données pose pour l’instant plus de questions qu’elle n’apporte de réponses. Elle se concentre surtout sur la mise à disposition des décisions de justice pas du tout à d’autres étapes comme le processus d’enquête. Elle vise à exploiter, tirer du sens, de décisions passées.

L’une des grandes questions que cette évolution pose est bien sûr celle de l’impact de la prédiction automatisée sur la prise de décision elle-même. Mais quel est le sens de cette promesse de prédictivité ? Prévoir, c’est établir une probabilité pour un fait futur. Reste que le prévisible n’est pas pour autant prédictible. On ne sait pas annoncer un élément qui va arriver. En matière de justice, l’enjeu consiste donc à déterminer la probabilité de succès d’une affaire selon les décisions qui ont été prises antérieurement. Or, la jurisprudence c’est-à-dire l’ensemble des décisions rendues n’est pas un système clos. Une décision de justice n’est pas la résultante des seules décisions passées. Et nul algorithme ne saurait embrasser l’ensemble des causalités qui interviennent dans une décision. « La justice demeure une oeuvre humaine. Tout n’est pas causal ni prédictif », rappelle avec raison Eloi Buat Menard qui souhaite qu’on écarte l’image fantasmatique d’une justice automatique, qui appliquerait les peines sans appréciation aucune.

Si on écarte cette perspective, reste la question de l’influence des décisions passées sur la décision des magistrats elle-même. Peut-on, doit-on apprécier la probabilité de succès d’une affaire en fonction des affaires passées ? Quels garde-fous mettre en place ? Quels écueils éviter ? L’objectivation de la jurisprudence ne peut pas ne pas avoir de conséquences sur la prise de décision estime le magistrat, notamment parce que le « bien-jugé » de ses pairs s’impose toujours à celui qui va juger. Mais demain chaque magistrat sera instruit de la jurisprudence de ses pairs par des éléments de corrélation plus que de causalité : tant de juges rendent une décision qui va dans tel sens… Le risque est de nous mettre dans la norme de nos pairs, de renforcer en quelque sorte la sociologie juridictionnelle c’est-à-dire d’harmoniser les pratiques jurisprudentielles – ce d’autant que le juriste est rarement un révolutionnaire, notamment parce qu’il doit appliquer le droit dans les limites dans lesquelles il est inséré, borné et cadré. Le risque est clair. C’est celui d’une performativité toujours plus grande, c’est-à-dire celui d’énoncer une réalité qui favorise sa répétition, d’une jurisprudence prisonnière du passé qui ne favorise ni son évolution ni sa réforme. Pour le magistrat, ces évolutions risquent de bloquer un moteur essentiel de l’évolution jurisprudentielle qui repose sur la « solitude » du juge, sur l’interprétation et la personnalisation. Or, l’optimisation en introduisant une sécurité juridique absolue peut finir par aboutir à la négation même de l’idée de justice.

La prévisibilité de la décision judiciaire va surtout servir au citoyen à faire une analyse économique coût/avantage. Si cette appréciation nouvelle a du sens dans le domaine du contentieux commercial ou civil, elle pose plus de questions appliquées à la sphère pénale. Va-t-on apprécier les règles du droit du travail par rapport au coût moyen des indemnités prononcées pour le même type de dommage ? « Le choix du respect d’une norme publique peut-elle être conditionnée par une analyse coût/avantage ? » Pour Eloi Buat Menard, le risque est de favoriser le « délinquant d’habitude », qui aura plus d’outils pour mesurer le risque qu’il prend. Autre problème que posent ces évolutions à venir, la possibilité d’avoir accès aux décisions individualisées et notamment d’avoir accès aux décisions des juges prit individuellement. Or, en France, le juge est censé s’effacer derrière le secret du délibéré et de l’institution. Avoir accès aux décisions de chaque juge risque surtout de poser plus avant la question de leur mode de désignation…

Quels garde-fous mettre en place ? Le magistrat en esquisse quelques-uns. Les juges devront motiver leurs décisions d’une manière plus structurée dès qu’ils s’écarteront de la norme. Il faut bien sûr pouvoir faire confiance aux outils utilisés. Si la justice algorithmique est une plus value, il faut que sa fiabilité soit complète. Si la transparence des technologies utilisées semble difficile, il faut certainement réfléchir au développement d’une plate-forme technique pour en évaluer les biais et à une autorité de régulation dédiée. Enfin, la question de la personnalisation de la justice va nécessiter de revoir les modalités de leur désignation : soit il faudra envisager de les élire, soit il faudra renforcer le contrôle citoyen.

Reste que ces inquiétudes exprimées, Eloi Buat Menard souhaite rester confiant. « L’ouverture des données va impliquer une plus grande responsabilité des juges. Elle va permettre au justiciable de mieux apprécier ce qu’il est susceptible d’attendre d’une procédure. » Et également permettre de développer des modes alternatifs aux règlements des litiges, comme la conciliation, l’arbitrage ou la transaction.

De l’analyse à la rétroaction


Pour pouvoir mieux l’apprécier, l’un des grands enjeux de ce débat consiste à comprendre ce que ces traitements automatisés permettent. Quels sens peut-on extraire des documents, des décisions de justice ? C’est ce que fait la startup phare de la LegalTech française, Predictice. Son jeune directeur des relations publiques, Louis Larret-Chahine, a pourtant choisi de ne pas montrer à l’assistance ce que permet concrètement son outil. Celui-ci est pourtant déployé à titre expérimental et mouline déjà des décisions de justice. Il permet ainsi de calculer à partir de décisions de justice comparables, les chances de succès, d’estimer des indemnités à partir du calcul d’une moyenne ou d’écarts, d’identifier les éléments qui ont le plus pesé dans les décisions de justice grâce à des techniques de compréhension du langage naturel. Il permet de regarder par juridiction ou par juge les décisions… Plus qu’une prédiction, le moteur de Predictive produit surtout une analyse statistique extrêmement précise des données judiciaire. Dans l’un des exemples que me montrait Louis Larret-Chahine en me présentant son outil il y a quelques mois, il prenait celui du calcul de prestations compensatoires de divorce, permettant de montrer les différences selon 2 juridictions, selon les juges, de calculer le niveau moyen selon des critères qui peuvent être précisés par l’analyse de cas comparables.


Image : les principales fonctionnalités de Predictice expliquées par leur FAQ.

Reste qu’à la tribune de l’École militaire, le directeur des relations publiques de Predictice souhaite rester modeste. « Il faut dépassionner ce débat. La réalité est bien loin de ce qu’on imagine. » D’ailleurs, plus que de justice prédictive, Larret-Chahine préfère parler, avec raison, de « justice analytique ». « Le système dans lequel l’algorithme s’améliore et prend des décisions où l’homme n’existe pas, ça n’existe pas, et ça n’arrivera pas ». La révolution annoncée n’est pas vraiment là. Elle repose sur la technologie de l’analyse du langage naturel qui découpe le langage et en extrait la force sémantique pour collecter l’information… Des choses très prosaïques comme des montants moyens d’indemnités ou les argumentaires retenus dans la décision de justice. Un algorithme peut lire plus de 70 000 décisions de justice en quelques millisecondes, bien plus que ne le fait un thésard en droit. Mais le traitement des machines n’est pas le même que celui des humains. L’enjeu en matière de justice analytique est plus proche des questions de gestion de la connaissance, et consiste surtout à croiser des documents pour en extraire de l’information. L’enjeu n’est pas tant de prédire, que de fournir un outil d’aide à la décision capable d’extraire et d’analyser les données. Reste qu’il n’évoque pas vraiment ce que transforme le fait d’apporter de nouvelles connaissances sur une réalité. Comme si cette nouvelle information n’avait pas de rétroaction sur la décision elle-même.

« La surprise de notre jeune société a été de constater que notre outil pourrait être utile à bien plus de personnes qu’on le pensait ». Si naturellement il est vu comme un outil d’aide à la décision à destination des avocats leurs permettant de mieux conseiller leurs clients, de collecter les meilleures argumentations selon leur impact réel sur le juge… l’outil intéresse également les assureurs pour mieux évaluer les risques, mais également les magistrats, pour les aider à décider, comme pour étudier comment la justice est rendue sur le territoire. Et donc également les citoyens.

Si les bénéfices de ces systèmes sont clairs, estime Louis Larret-Chahine (transparence, amélioration de la décision…), certains effets posent effectivement problème, comme le caractère performatif de l’analyse ou leur application à des questions pénales, sur lesquels, ces systèmes fonctionnent bien plus mal, notamment du fait de la faible motivation des décisions en la matière. Reste que, aujourd’hui, la question du périmètre de l’anonymisation est encore un point bloquant. Pour le directeur commercial de Predictice, plus on caviarde les décisions, moins on pourra produire de l’analyse, explique-t-il en défendant son business models. Reste qu’il y a toujours des solutions. On pourrait par exemple décider de remplacer les noms des magistrats par des numéros dont seul le ministère aurait la table de concordance. Seuls la Chancellerie et le ministère connaîtraient les magistrats laxistes ou intransigeants.

Pour Louis Larret-Chahine, il faut trouver le bon équilibre entre deux écueils pareillement dommageables : trop réglementer ou pas assez. D’où l’importance d’expérimenter, pour mieux identifier les problèmes, comme le fait Predictice avec les cours d’appel de Rennes et Douai. Mais pour l’ambitieuse startup, il y a une opportunité unique de permettre à la France de devenir leader de l’analyse juridique… Mais là, on a tout de même l’impression que la startup parle surtout de ses propres ambitions.

Hubert Guillaud

Notre dossier « Vers la justice analytique » :

À lire aussi sur internetactu.net