Le chercheur Jathan Sadowski et la documentariste Astra Taylor signent pour The Nation un très intéressant article sur la transformation de l’évaluation du risque client (c’est-à-dire le fait d’évaluer les capacités de remboursement des gens quand ils demandent un crédit). L’utilisation de méthodes statistiques pour évaluer la solvabilité des gens est ancienne et n’a cessée d’être encadrée par les autorités tant pour limiter la collecte de données et établir des règles sur les limites de leur utilisation, notamment pour interdire toute forme de discrimination basée sur le sexe. l’âge, la religion ou la race. Cela n’a pas empêché le développement de systèmes basés sur la surveillance des consommations de gens qui ont consacrés les disparités socio-économiques dans un processus technique toujours plus complexe, plutôt qu’ils n’en ont éliminé les biais. Ces scores de crédit ont des conséquences directes dans la vie de beaucoup de personnes puisqu’ils déterminent leur capacité à obtenir un prêt, un emploi, une location… Ils ont tendance à créer plus de détresse que le contraire car plus votre score est mauvais plus les accès à tous les services qui en dépendent se dégradent. 

Ce scoring a été profondément transformé par la démultiplication et le croisement de données provenant de courtiers de données, de régies d’annonces en ligne et de celles revendues par tout ceux qui en accumulent, comme Facebook ou Google. Autant de réservoir de données croisées qui ont fait disparaître les frontières de l’évaluation du risque client…  Le scoring utilisé pour maximiser la publicité ne détermine pas directement votre capacité d’emprunt, mais vous confronte à des offres d’emprunt sous forme publicitaire bien différentes selon l’évaluation marketing qui est faite de vous. Comme elles ne sont pas reliées à des demandes d’offre de crédit, les recours traditionnels auprès des autorités sont impossibles. “Alors
que le droit fédéral limite l’utilisation des scores de crédit
traditionnels et rappelle que les gens doivent être informés lorsqu’une
décision défavorable est faite à leur sujet, la loi ne couvre pas les
nouveaux systèmes d’évaluation numérique : vous n’avez légalement pas le droit d’obtenir la catégorisation marketing dont vous relevez et a fortiori de vous assurer de son exactitude.” Pourtant ce marketing du crédit à la consommation n’est pas sans incidence et il aurait joué un rôle non négligeable dans la  dernière bulle des prêts hypothécaires estime une étude de l’autorité de régulation du crédit américain. 

Le problème est que la discrimination du profilage publicitaire est difficile à prouver. Comment savoir si les publicités qui vous prennent pour cible proposent des produits financiers qui ne sont pas les mêmes que d’autres, simplement parce que votre manière de consommer de l’information ou des produits en ligne vous a fait passer d’une catégorie de consommateur à une autre, entre les milliers de catégories qui ses systèmes génèrent (voir “Ouvrir les modèles”) ? Pour Aaron Rieke de Upturn, et fondateur de Equal Future, la meilleure indication de pratiques potentiellement discriminatoires est à chercher dans les techniques de marketing. Dans son libre blanc sur les droits civils et le big data, Rieke a ainsi souligné que Deloitte était capable d’utiliser des milliers de sources provenant de tiers de données, d’antécédents d’achats… permettant de prédire l’état de santé d’un demandeur d’assurance vie avec une précision comparable à un examen médical.

De nombreuses startups s’adressent aux Américains qui n’ont pas le droit d’obtenir un crédit, mais vu les taux que la plupart pratiquent, leur proposition ressemble surtout aux pires formes d’usures, assurent Astra Taylor et Jathan Sadowski (voir également “A qui les algorithmes prêteront-ils de l’argent ?”), regrettant le manque de contrôle réglementaire. Les technologies et l’analyse de données via le Big Data ont certainement un grand potentiel pour créer des services financiers mieux adaptés aux communautés les plus défavorisées, mais pour l’instant leurs pratiques favorisent surtout la stigmatisation et l’exclusion. Pour Julie Brill de la Commission fédérale du commerce américaine, la meilleure réponse est de limiter la collecte de données et offrir des outils aux consommateurs pour qu’ils puissent contrôler les informations que le marketing génère sur eux, les supprimer ou les corriger s’ils le souhaitent. Si cela doit être utilisé par des tiers, les consommateurs doivent donner leur accord. Nous avons le “droit à l’obscurité” estime Brill. Ce qui signifie passer d’un modèle d’opt-out à un modèle d’opt-in qui devient encore plus pressant à l’heure de l’internet des objets, ou des objets comme votre voiture vont collecter des données sur chacun d’entre nous. Réglementer les courtiers de données, envisager une vie privée intersectorielle (c’est-à-dire que les données collectées dans un secteur ne puisse pas servir dans un autre, comme nous y invitait Helene Nissenbaum avec la vie privée en contexte). 

“En
regardant le rôle que le marketing du crédit à la
consommation en ligne a joué dans le krach de 2008, il est clair que la
protection des consommateurs n’est rien d’autre que la protection des citoyens”, concluent les auteurs. Quand le marketing est partout sa régulation devient primordiale pour qu’il ne transforme pas toute la société.