L’informaticien Laurent Chemla (@laurentchemla) pour Reflets (@_reflets_) traduit librement et adapte un extrait du livre de Bruce Schneier, Data and Goliath (que nous avions évoqué ici) paru sur Digg et l’applique au projet de loi sur le renseignement que s’apprêtent à voter les députés Français. 

Croire qu’un algorithme sera capable d’identifier des terroristes depuis les masses de données issues de cette surveillance est illusoire. Le premier problème est le taux d’erreur. “Si Amazon se trompe en nous conseillant un livre, ou si Google nous
affiche une publicité sans rapport avec nos préoccupations, ça n’a
aucune importance. Ça ne coûte rien à personne. Mais si l’algorithme se
trompe croyant identifier un terroriste, il faudra des humains pour s’en
occuper : personne ne comprendrait, après coup, que le poseur de bombe
avait été repéré par la « boite noire » sans que personne ne s’en soit
occupé.” Cela signifie que cet algorithme ne peut pas avoir droit à l’erreur. Or, chaque terroriste est unique. “Tout l’objectif d’un terroriste, c’est d’agir de façon tellement démente
que nous ne savons plus à quoi nous attendre.” leur but est de ne jamais reproduire les mêmes comportements. “Chaque nouveau cas ne fera qu’introduire dans l’algorithme des
comportements qui ne seront jamais reproduits, et augmentera le taux
d’erreur, exactement comme Amazon se met à vous proposer n’importe quoi
après que vous avez passé une commande pour votre petite soeur.” 

“Le troisième et dernier élement, c’est qu’évidemment les apprentis
terroristes se cachent. Le client d’Amazon et l’utilisateur de Google
agissent en pleine lumière. Ça n’a aucune importance pour Google si vous
protégez votre vie privée en ligne : il vous ignorera, voilà tout. Le
monde du commerce n’a que faire de ceux qui veulent s’en protéger, ce
qui est exactement l’inverse de ce qui se passe dans un contexte de
sécurité nationale.

L’algorithme, en surveillant tout le monde, ne surveillera que ceux
qui ne s’en cacheront pas. Et les rares terroristes réels qu’il repérera
seront ceux qui auront commis tellement d’erreurs qu’ils l’auraient été
tout aussi bien par une surveillance ciblée.”

“Aucun de ces trois éléments ne peut être corrigé : l’exploitation des
données personnelle n’est tout simplement pas le bon outil pour ce
boulot, ce qui signifie que la surveillance de masse qu’elle implique,
et la perte de liberté afférente, n’ont aucune justification.