Adam Elkus pour Slate.com revient sur les nombreuses critiques à l’encontre des algorithmes : leur opacité, leur caractère automatique, inflexible et impersonnel… qui en appellent à une responsabilité des algorithmes. Mais qui est à blâmer dans un processus de calcul qui prive quelqu’un de ses droits et de ses moyens ? La critique de la décision algorithmique rappelle celle de la bureaucratie. Avec les algorithmes, la machine bureaucratique est devenue tout simplement la machine. L’instrument mécanique du système bureaucratique a les défauts du système bureaucratique lui-même : il est impersonnel, inexplicable, et est fondé sur des critères de décision erroné ou tendancieux. Or, le code qui aménage les processus algorithmiques n’est fait que de procédures, il automatise des logiques bureaucratiques ou d’entreprises prises par des humains. Les algorithmes ne sont que le bouc-émissaire des caractéristiques indésirables du capitalisme, de la bureaucratie et de la politique. Les ordinateurs rendent les décisions plus efficaces, mais ils ne sont que la traduction de politiques, que la formalisation de logiques d’entreprises décidées par des humains.  

La question de la gouvernance algorithmique nous fait redécouvrir les questions fondamentales des sciences sociale : la pathologie de l’autorité et de la bureaucratie. Les algorithmes ne sont pas des boîtes noirs, mais la réalisation de la machine bureaucratique que décrivait il y a déjà un siècle le sociologue Max Weber : à savoir la rationalité bureaucratique, l’autorité hiérarchique, la prise de décision impersonnelle, les règles codifiées, le rendement, la division du travail et l’efficacité. L’automatisation qui arrive n’est que la nouvelle étape d’un long mouvement du contrôle social visant à traiter la société comme une machine que certains pourraient programmer et manipuler pour atteindre leurs objectifs. La bureaucratie pense que le gouvernement doit être rationnel, impersonnel, scientifique, automatique dans la façon dont il fait et applique la politique, afin de créer des processus publics sains, non corrompus, impartiaux, autonomes… Dans ce schéma, les algorithmes ne font qu’augmenter la puissance de décision, qu’optimiser les processus. Sans voir que ces programmes heuristiques peuvent être le résultat de partialité… Si les militaires n’avaient pas manqué aux procédures normalisées, peut-être que la crise des missiles de Cuba se serait terminée en holocauste nucléaire ? 

Les algorithmes nous invitent à renégocier les relations que nous avons avec les institutions qui les déploient. Si les ordinateurs déploient des valeurs sociales qui nous dérangent, peut-être devrions-nous faire quelque chose pour agir sur ces valeurs. Les algorithmes peuvent être reprogrammés, mais il est plus difficile (mais pas impossible) de reprogrammer les systèmes sociaux et les institutions.