Les systèmes qui attribuent un score de crédit reposent souvent et avant tout sur l’historique de leurs clients. Or, comme le soulignait Frank Pasquale dans son livre Black Box Society, ceux-ci sont surtout opaques aux utilisateurs. L’analyse de grande quantité de données pourrait permettre peut-être d’améliorer l’évaluation du risque client (voir A qui les algorithmes prêteront-ils de l’argent ?). Reste que pour l’instant, ces innovateurs n’ont pas vraiment apporté la preuve que leurs approches aient considérablement élargi le crédit, estime un rapport (.pdf) du National Consumer Law Center (NCLC) américain. Au contraire, prendre en compte de nouvelles données induit plutôt de nouveaux risques, comme le fait de prendre en compte l’origine ethnique, le sexe ou la religion dans la décision de consentir un prêt, comme s’en inquiétait déjà Pasquale. Zest Finance estime avoir résolu ce risque avec sa nouvelle plateforme, ZAML. En appliquant un modèle leur permettant de croiser des données de crédit à des choses très différentes comme la façon dont vous naviguez sur le web ou vous faites des recherches sur un moteur de recherche, Zest a modélisé un système apprenant lui permettant d’évaluer un score de crédit depuis des éléments qui n’ont rien à voir avec la capacité à rembourser, mais qui lui seraient corrélé.

Pour Andrew Ng, le célèbre responsable scientifique de Baidu, qui utilise la technologie de Zest pour accélérer le développement de services financiers, Baidu a constaté que les emprunteurs qui se livrent à des comportements à risque en ligne (comme jouer à des jeux de hasard, se rendre sur des sites web qui vendent des produits illicites…) ont une probabilité plus élevée de ne pas rembourser leurs prêts. Selon Zest, leur système apprenant démultiplie les points d’entrée afin qu’aucun ne joue un rôle prédominant… contrairement aux 50 critères existants aujourd’hui pour déterminer un crédit. Selon eux, la démultiplication des points d’entrée serait un bon moyen de minimiser les biais et les critères discriminants. Pour Chi Chi Wu, avocat à la NCLC, il est nécessaire que ces systèmes parviennent à expliquer leurs décisions aux emprunteurs comme aux autorités de régulation, et d’observer si les modèles sont vraiment prédictifs et pas seulement corrélés.