Condamnés par le code : l’immunité logicielle en question

Sur Slate.com, la réalistrice et juriste, diplômée de l’école de droit de Yale, Rebecca Wexler nous rappelle que les programmes dont on ne peut accéder au code sont partout : dans les ascenseurs, dans les avions, dans les appareils médicaux, etc. L’impossibilité à y accéder à des conséquences directes sur la société et la politique… Ils peuvent menacer notre vie privée en recueillant des informations sur chacun d’entre nous sans notre consentement. Ils opacifient les critères pour déterminer votre admissibilité à des prestations sociales ou à des services, peuvent nous placer sur des listes noires… Pire encore, ils peuvent nous envoyer en prison.

C’est ce qui est en train d’arriver à Martell Chubbs en Californie, accusé récemment de meurtre dans une affaire qui remonte à 1977, inculpé parce que son ADN correspondrait à l’ADN trouvé sur place, selon les bases de données génétiques de la police américaine. Chubbs a donc demandé à inspecter le code du logiciel qui a fait la corrélation entre son ADN et celui recueillit à l’époque afin de constater l’exactitude des résultats. Bien sûr, le constructeur du programme a refusé, faisant valoir le risque encouru par le dévoilement du code de son programme propriétaire. Le tribunal a donc rejetté la demande de l’accusé, laissant la défense libre d’examiner le témoin expert, mais pas l’outil que le témoin invoque. D’autres tribunaux américains ont rendu des décisions semblables.

Pour Rebecca Wexler, ces logiciels propriétaires qui permettent de croiser des analyses ADN, des empreintes digitales, des visages dans des bases de données de reconnaissance faciale… utilisés dans un nombre croissant de dispositifs d’enquête posent un problème de confiance s’ils peuvent être utilisés pour trouver des criminels mais pas pour les disculper, s’ils peuvent être utilisés par l’accusation mais pas par la défense. Comme le soulignait déjà Jean-Marc Manach, les expertises et les outils d’expertise de la police scientifique sont loin d’être parfaitement fiables (voir « Quand les « experts » se trompent » et sa suite « ADN : quand les « experts se trompent »). Pourtant, la possibilité d’inspecter les logiciels n’est pas seulement un argument d’égalité de traitement, elle permet aussi à la justice de confirmer la fiabilité des outils qu’elle utilise, comme l’a montré l’analyse d’un alcootest réalisé par la Cour suprême du New Jersey, rapporte Rebecca Wexler.

L’impossibilité pour la défense de contre-interroger les preuves et la manière dont elles sont obtenues est non seulement injuste, mais elle ouvre la voie à une mauvaise science. De tout temps, les experts ont décrit le contre-interrogatoire comme « le meilleur mécanisme juridique jamais inventé pour découvrir la vérité ». Et nombre de contre études contestent la validité scientifique de preuves et de diagnostics établis scientifiquement : études balistiques, corrélation d’empreintes digitales, etc. L’association Projet Innocence souligne fréquemment dans des rapports les condamnations injustifiées liées à une mauvaise science médico-légale et l’Académie des sciences américaine a attribué ces erreurs (.pdf) à un manque d’évaluation par les pairs.

« L’immunité logicielle n’existe pas », rappelle Rebecca Wexler. Les erreurs de programmation peuvent modifier les rapports de vraissemblance de l’ADN d’un facteur 10. Quand des experts ont mis à jour un bug dans un logiciel d’alcootest, la Cour suprême du Minnesota a interdit qu’il puisse servir de preuve dans tout jugement futur.

Le juge fédéral Jed Rakoff a récemment démissionné pour protester contre la Commission nationale sur les sciences médico-légales initiée par la Maison Blanche. Pour lui, si les défendeurs n’ont pas accès à l’information pour établir un contre-interrogatoire, le témoignage de la médecine légale n’est alors rien d’autre « qu’un procès par embuscade ». Or, pour les experts, l’ouverture du code à l’examen public d’autres experts reste le plus sûr moyen de s’assurer de la fiabilité des outils. Pour Rebecca Wexler, seul des outils open-source peuvent permettre de répondre aux exigences de l’appareil judiciaire. Certes, les régulateurs effectuent des tests de validation sur certains outils… Mais ces tests n’ont pas suffit à l’agence de la protection de l’environnement américaine pour constater la fraude de Volkswagen par exemple. La Cour suprême américaine sait depuis longtemps que la transparence des procès contribue à préserver la confiance du public dans l’équité et la légitimité de la justice. Le secret qui couvre les logiciels policiers par exemple jette un doute sur ce processus. Comme nous le disions déjà : peut-on faire reposer des décisions publiques sur des boites noires ?

Guillaume Champeau pour Numerama rapporte qu’un groupe d’experts de l’industrie informatique a demandé via une lettre ouverte (.pdf) au régulateur américain, la Commission fédérale des communications (FCC), d’obliger les constructeurs à rendre leur firmwares de routeurs Wi-Fi open source, contrairement à ce que recommande une nouvelle réglementation en cours d’élaboration par la FCC. Les experts réclament que les logiciels des constructeurs soient open-source et permettent à leurs utilisateurs de les modifier. L’enjeu, qui ne concerne que les firmwares Wi-Fi pour l’instant, est bien sûr assez emblématique, comme le soulignent les experts : « le récent scandale Volkswagen, avec du code informatique non inspecté qui trichait dans les tests d’émissions, démontre que c’est une vraie problématique. » Les décisions qui seront prises par les régulateurs auront assurément des conséquences sur l’évolution de ces questions. Pas sûr cependant qu’ils tranchent dans le bon sens. Nous risquons de continuer à être condamnés par le code.

Hubert Guillaud

À lire aussi sur internetactu.net

6 commentaires

  1. Peut-être que je trompe mais dans les cas d’une empreinte digitale ou de l’ADN (40000 gènes, c’est plus long), un logiciel trouve une correspondance entre des millions de données, mais on peut vérifier la correspondance obtenue « visuellement » (ou en utilisant un autre programme) ?

  2. C’est le droit d’auteur (ou plus généralement le secret des affaires) et les brevets logiciels qui posent problèmes dans ce cas, pas le logiciel.

  3. le code du logiciel des analyses ADN est privé?
    Si il est privé alors c’est un logiciel commercial
    Si il est privé alors seuls les employés manipulent le code.
    Donc l’expert soit ne connais pas lui-même le code, soit est employé par la dite société commerciale, il protege son logiciel et donc n’est pas neutre !
    Non, le tribunal va forcement faire appel à quelqu’un pour eplucher ca, mais bien sur pas à quelqu’un de la défense, qui ne serait pas neutre non plus

  4. Le code du logiciel des analyses ADN peut être privé et non commercial (cas du freeware ou gratuiciel, on ne peut pas modofier le logiciel et parfois être interdit de faire de la rétro-ingénieurie sur son code fermé). À l’inverse, un logiciel commercial (payant) peut être dans le domaine public (droits d’auteurs abandonnés) ou sous licence plus ou moins libre avec le code ouvert, tout comme un logiciel non commercial. Les notions de licence et d’ouverture ou non de code sont juridiques et sont indépendantes des notions commerciales (payant ou gratuit).
    Un logiciel système peut être constitué de logiciels libres (comme par exemple Android, le Linux maison de Google) tout en étant commercialisé. Son code source n’en reste pas moins public et vérifiable par des informaticiens qui en ont les compétences (connaissance du langage de programmation utilisé).

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *