Pourquoi les Big Data nous angoissent

Par le 11/06/14 | 17 commentaires | 2,467 lectures | Impression

Pour la chercheuse Kate Crawford (@katecrawford) nous vivons désormais dans “les angoisses des Big Data” explique-t-elle dans le New Inquiry. Pour expliquer de quelle angoisse les Big Data sont le symptôme, elle revient sur le programme Squeaky Dolphin, l’un des programmes de surveillance de masse du service de renseignement britannique qui surveille YouTube, Facebook et Twitter en temps réel, en convoquant pour cela la plupart des disciplines scientifiques (sociologie, anthropologie, science politique…). Pour la chercheuse, cette surveillance en temps réel et cette volonté de la comprendre dans sa totalité sont la marque d’une incroyable anxiété, celle du surveillant.

Plus les données sont volumineuses, plus les signaux critiques sont invisibles

Pour les altermondialistes britanniques du Plan C, l’anxiété n’est-elle pas la phase actuelle et dominante du capitalisme, celle qui engendre le désespoir politique, l’insécurité et la ségrégation sociale ? Pour Crawford, l’angoisse des surveillés est profondément liée à l’anxiété des surveillants. Mais l’inquiétude de ces derniers est souvent difficile à percevoir parce qu’elle n’est écrite nulle part. C’est en cela qu’il faut lire les révélations d’Edward Snowden : elles nous montrent les préoccupations tacites des agences de renseignement. Pour ces dernières, qu’importe la quantité de données qu’elles détiennent : elle est toujours incomplète et ce d’autant plus que “le volume submerge sans cesse les signaux critiques dans un brouillard de corrélations possibles”, souligne-t-elle en pointant vers les corrélations absurdes de Tyler Vigen.

spuriouscorrelations
Image : exemple de corrélation absurde : les dépenses américaines dans le domaine des sciences, de l’espace et de la technologie rapportées au taux de suicide américain par pendaison, strangulation et suffocation. Via Spurious Correlations.

“La mythologie actuelle du Big Data estime que plus on a de données, plus on se rapproche avec précision de la vérité”. Tant et si bien que tout le monde s’y conforme, et de l’industrie de la publicité, à celles des services, tout le monde se positionne sur la plus massive collecte de données possible… (alors que bien souvent pour faire un très bon appariement, nous n’avons pas besoin de toutes les données, comme nous l’expliquait Yves-Alexandre de Montjoye). Comme le montrait la féministe Donna Haraway, le mythe et les outils se constituent mutuellement et agissent pour façonner le monde social. Comme le dit Bruno Latour, si on change les instruments, on change la théorie sociale qui va avec.

Mais que se passe-t-il quand on se rend compte que ces données ne suffisent pas ? Des attentats de Boston à la disparition de l’avion de la Malaysian Airlines, nous savons qu’il existe des trous noirs de données. Or, ces “trous noirs” montrent pourquoi l’ambition épistémique des Big Data – tout recueillir – est à la fois sans fin et profondément erronée ! “Plus volumineuses seront les données et plus les petites choses pourront être négligées”. En fait, suggère Crawford, plus nous aurons de données, plus nous aurons de trous noirs !

La normalité est-elle la nouvelle liberté ?

Pour percevoir les effets de l’anxiété des surveillants sur les surveillés, la chercheuse se tourne vers le collectif K-Hole, un groupe d’analystes de tendances marketing, dont le travail chevauche les zones grises entre l’art et la publicité, entre la critique et la plaisanterie. Dans l’un de ses derniers rapports, “Mode jeune, rapport sur la liberté”, le collectif évoque le terme de normcore (que l’on pourrait traduire par “l’âme, le coeur de la norme”) et suggère que le sommet de la coolitude, demain, sera de maîtriser l’uniformité plutôt que la différence. A l’heure de la surveillance de masse, l’uniformité devient le camouflage ultime. La normalité est la nouvelle liberté…

normcorestevejobs
Image : La mode de l’anti-mode ou la normalité par Steve Jobs, via Mode News.

Le coeur de la norme “reflète l’inquiétude dispersée de la population qui ne souhaite rien de plus que de se débarrasser de sa propre subjectivité”. Pour Crawford, le terme reflète l’anxiété culturelle actuelle, celle qui s’exprime jusque dans les pages modes des magazines, celle qui cherche à avoir l’air de rien. La chercheuse voit dans cette revendication à appartenir au “coeur de la norme” une réponse à l’anxiété générée par la surveillance généralisée. L’idée de disparaître dans la norme devient une valeur culturelle justement au moment où elle devient impossible. Se fondre dans la masse vous donne un pouvoir particulier quand s’en détacher signifie être mis sur une liste d’interdiction de vol pour 10 ans, être pointé par un algorithme prédictif de la police à Chicago ou recevoir un SMS anonyme vous enjoignant à ne pas rejoindre une manifestation en Urkraine… Occupy Wall Street n’invitait-il pas les indignés de New York à s’habiller comme des touristes pour éviter l’attention de la police ?

owscivilian
Image : Quand Occupy Wall Street invite les participants à s’habiller comme des touristes… via l’article de Kate Crawford.

Le coeur de la norme nous invite à être plus discrets encore. Ce qui était une tactique temporaire pour Occupy Wall Street est devenu une stratégie continue pour K-Hole. Ce qui était de l’ordre du camouflage pour confondre la police sur les barricades est devenu une forme de résistance à la matrice sociotechnique de la surveillance continue.

Résister à la surveillance n’est pas une question de vie privée, mais d’autonomie

Mais être capable de se fondre dans la foule est devenue une forme de privilège. Comme le rappelle la spécialiste de la mode Cat Smith : “”avoir l’air de rien” ne sera jamais à la disposition de ceux qui sont marqués comme “autres” car le monde a déjà placé sur eux des marqueurs identifiables”. “Qui sont ceux qui sont au coeur de la norme ? Qui peut être personne dans la masse ? Qui peut seulement être un point anonymisé parmi des millions ? Qui, selon la formulation classique, n’a rien à cacher ?”

Comme le disait Virginia Eubanks (@PopTechWorks), chercheuse au département des études sur les femmes, le genre et la sexualité de l’université d’Albany si vous voulez voir l’avenir de la surveillance, il faut vous tourner vers les communautés pauvres. Son travail sur les rapports entre les Américains à faible revenu et les prestations d’aide sociale a montré que pour eux, la surveillance est déjà la norme. Les bénéficiaires des aides sociales sont souvent la cible de programmes de surveillance intrusifs, les travailleurs les plus pauvres sont les plus surveillés en entreprise, les immigrants sont les premières cibles de la collecte de données biométriques, notamment parce qu’ils ont moins le pouvoir politique d’y résister… “Les personnes marginalisées sont dans la position peu enviable d’être à la fois sur la pointe de la surveillance et coincées dans ses eaux dormantes”. La pratique de la surveillance est inégale, rappelle la chercheuse. Elle doit être considérée comme une question collective, une question de droit civil avant que d’être vue comme une question d’invasion de la vie privée. Les technologies de surveillance sont d’abord testées et conçues dans les “environnements faibles” : les pauvres, les régimes dictatoriaux, les pays éloignés…

La résistance à la surveillance n’est pas le fait que de ceux qui ont quelque chose à cacher, rappelle encore Virginia Eubanks. “Tout le monde résiste à la surveillance, car ce n’est pas une question de vie privée, c’est une question de contrôle, d’autodétermination, d’autonomie”… Or, rappelle-t-elle, la plupart du temps, nous ne pouvons pas nous désengager d’un programme de surveillance : si vous ne signez pas, vous n’aurez pas accès aux services d’aides ! En fait, estime Virginia Eubanks, la protection des données n’est pas le problème. La fin de la vie privée est, pour la plupart des gens, déjà avérée… Or, la vie privée est la pierre angulaire de la démocratie. “Nous devons nous inquiéter quand un gouvernement s’engage dans une forme ou une autre de surveillance et pas seulement quand il nous espionne”. L’indignation est un luxe et les fuites de Snowden n’ont éliminé que notre dernière justification à ignorer ce qu’il se passe. “Les logiciels conçus à des fins politiques autoritaires engendrent des environnements répressifs partout”.

Pour Crawford, les outils et techniques de surveillance des populations pauvres que dénonce le travail d’Eubanks, ont désormais été élargies pour “prendre au piège l’ensemble de la population” et plus seulement les populations marginalisées.

Comment échapper à la police des schémas ?

Pour Crawford, si nous prenons en compte ces angoisses jumelles, celle des surveillants et celle des surveillés, et que nous les poussons dans leur prolongement naturel, nous atteignons le point épistémologique final : la crainte qu’il n’y ait jamais assez de données et la crainte qu’elles distinguent chacun d’entre nous. Et ces craintes se renforcent mutuellement, comme dans une boucle de rétroaction, devenant plus fortes à mesure qu’elles s’entraînent. A mesure que les gens cherchent à répondre à la surveillance (que ce soit en tentant de se fondre dans la foule ou en optant pour un chiffrement toujours plus extrême), des techniques de collecte de données toujours plus intrusives se développent.

Et la chercheuse de conclure : “Si les fondamentalistes des Big Data affirment que plus de données est intrinsèquement meilleur, plus proche de la vérité, alors il n’y aucune prise dans leur théologie pour leur dire ça suffit. Tel est le projet radical des Big Data.”

9782743616724Rob Horning (@marginalutility), rédacteur en chef du New Inquiry, rappelle pourtant que la conformité n’est hélas pas une solution ou un moyen de camouflage. Citant le philosophe italien Giorgio Agamben et son Qu’est-ce qu’un dispositif ? (en anglais, .pdf), il rappelle l’un des paradoxes de la surveillance : à savoir que plus on est docile et conforme et plus on semble suspect aux yeux de l’autorité. En fait, à mesure que la surveillance s’accroit, la discipline aussi. “Le citoyen inoffensif des démocraties postindustrielles… qui fait facilement tout ce qui lui est demandé de faire, dans la mesure où il laisse ses gestes quotidiens et sa santé, ses plaisirs et ses occupations, son alimentation et ses désirs, être commandés et contrôlés dans les moindres détails par des dispositifs, est également considéré par le pouvoir – peut-être plus précisément pour cette raison – comme un terroriste potentiel”. C’est la logique de l’administration à l’heure des Big Data, estime Rob Horning. “Pour justifier son ingérence croissante et son expansion sans fin, la capacité de collecte des données de nos sociétés nécessite de considérer que tout le monde finira par être coupable.”

En fait, quand tout le monde est présumé coupable, quand on nous encourage à l’être parce qu’on vous soupçonne de l’être, les gens se mettent à agir étrangement. Est-ce que le besoin de toujours plus d’information fini par nous sembler intrinsèquement subversif à nous-mêmes ? Agamben est sceptique sur le potentiel subversif de l’insaisissable. “Plus les dispositifs envahissent et diffusent leur pouvoir dans tous les domaines de la vie, plus le gouvernement se retrouve confronté à un élément insaisissable qui semble échapper à son emprise, plus il s’y soumet docilement”, rappelle Horning. Face à la machinerie gouvernementale, à la fabrique des automates politiques, que rien ne doit arrêter ou menacer, l’élément insaisissable finit par devenir l’élément dangereux. Pour Agamben, la seule réponse est de profaner les dispositifs, de renverser les processus de ségrégation, de les rendre “sacrés” et donc inutilisables. C’est peut-être en cela qu’il faut lire d’autres phénomènes culturels actuels très divers, comme les contestations des questions de genre, de classe, d’âge…

Avec les médias sociaux individués, nos crédits de signifiants deviennent un processus de création de valeur, et donc un processus de séparation, de ségrégation, niant ce qui est commun dans une ressource commune comme la langue, explique encore Horning. Le coeur de norme qu’évoque Kate Crawford semble chercher à arrêter ce processus et décrit un moyen d’être au monde sans créer de la valeur pour la machine de surveillance. Mais ce n’est qu’une nostalgie, estime Horning. Une nostalgie d’un temps où le moindre de nos mouvements ne créait pas de la valeur… Pour profaner les appareils, comme nous y invite Agamben, ni la surveillance des algorithmes, ni l’obfuscation ne suffiront. Nous devons cesser d’être nous-mêmes, estime le penseur radical italien.

Hubert Guillaud

Rétroliens

  1. Pourquoi les Big Data nous angoissent ? «...
  2. Pourquoi les Big Data nous angoissent ? | Innov...
  3. Pourquoi les Big Data nous angoissent ? | Data ...
  4. Pourquoi les Big Data nous angoissent « I...
  5. Pourquoi les Big Data nous angoissent « I...
  6. Pourquoi les Big Data nous angoissent | Soci&ea...
  7. Pourquoi les Big Data nous angoissent | Educati...
  8. Pourquoi les Big Data nous angoissent | Science...
  9. Pourquoi les Big Data nous angoissent | Intelli...
  10. Pourquoi les Big Data nous angoissent | Oeil de...
  11. Pourquoi les Big Data nous angoissent | B2B Clo...
  12. Somewhere else, part 143 | Freakonometrics
  13. SaaS-Guru - 5 problématiques Cloud - Big Data
  14. Pourquoi les Big Data nous angoissent | Veille ...

3 commentaires

  1. D’où l’idée de lancer le défi d’un test de Turing‬ à l’envers (test de Ringtu ?) : une machine Ringtu serait assez intelligente pour distinguer à coup sûr un être humain d’une autre machine, et assez humble pour s’effacer automatiquement devant lui.

    Aujourd’hui les robots tentent de reconnaître les humains, mais ce qu’ils reconnaissent surtout ce sont des “identités” normées, en s’appuyant sur les infinies variations autour des normes physiques et comportementales, qui croie-t-on, caractérisent l’espèce. Un robot Ringtu serait capable de distinguer un humain (au sens générique), d’une machine non-humaine, ceci sans notion d’individu. Cette machine laisserait passer l’humain et rejetterait le non-humain dont elle fait partie, du moins continuerait-elle à le surveiller. Dès lors nous aurions créé un robot de la plus haute intelligence mais parfaitement schizophrène et servile, et donc à notre merci.

  2. par Pierre

    Excellent article, comme (presque) toujours. J’ajouterais que le système néo-libéral lui-même est une gigantesque machine à fabriquer de la norme sociale, car c’est pour lui une nécessité de survie. La surveillance généralisée (au sens marketing, j’entends, pour les Etats c’est un autre problème) me semble être avant tout une machine à vérifier que pas un instant vous n’échappez à des sollicitations commerciales constamment réinventées.

    Donc l’autonomie, c’est l’ennemi N° 1 du système. Essayez de dire que vous détestez le foot, que vous préférez un quatuor de Schubert à du rap, que vous refusez d’avoir un compte sur les réseaux sociaux pour s’y faire fliquer en permanence… bref que vous êtes réellement individué, et vous devenez celui ou celle qui a la volonté d’échapper aux radars du système. Donc un mauvais consommateur. Donc un ennemi potentiel.

  3. par mathias

    Coeur ou cœur ? La perfection toujours, on attend de ces si bons articles.