Chine : l’intelligence artificielle, porte d’entrée de la dictature de surveillance ?

Dans leur livre (voir notre critique), La nouvelle guerre des étoiles, les journalistes Vincent Coquaz et Ismaël Halissat consacraient tout un chapitre a minimiser l’horizon du crédit social chinois, pour l’instant bien plus expérimental, local et fluctuant qu’on le croit souvent. Effectivement, comme le pointe l’un des spécialistes du sujet, le chercheur Rogier Creemers, les expérimentations sont très variées et relèvent pour l’instant d’une pratique de contrôle très changeante, plus rudimentaire que technologique, en tout cas pas encore d’une machine de contrôle social unifiée et intégrée. Le « crédit Shanghai » par exemple, l’une de ses déclinaisons, demeure peu utilisé, explique Jeremy Daum, un autre spécialiste du sujet (@chinalawtransl8). Effectivement, comme l’expliquait déjà Foreign Policy ou Le Monde Diplomatique, le crédit social chinois n’a pour l’instant rien de la perspective orwellienne qu’on lui prête trop souvent. Comme le souligne très bien la chercheuse Séverine Arsène (@severinearsene), il demeure « un assemblage d’indicateurs hétérogènes et de mécanismes d’application qui diffèrent selon le lieu de résidence et l’activité » dont « la capacité à combiner dans un seul indicateur toutes les dimensions des interactions d’un seul individu avec les lois et réglementations reste un fantasme ». Mais ces constats, en se concentrant sur les limites effectives du crédit social chinois, oublient peut-être un peu vite, les autres aspects de la surveillance chinoise, notamment les autres modalités de surveillance et le projet global qu’elles dessinent. Certes, « il n’existe pas de système de notation punitif, connecté et généralisé », mais ce n’est pas parce qu’il n’existe pas encore que ce projet n’existe pas.

C’est tout l’intérêt du livre du journaliste allemand Kai Strittmatter, Dictature 2.0, quand la Chine surveille son peuple (et demain le monde) (Taillandier, 2020), que de porter un regard bien plus large sur l’état de la surveillance en Chine. En s’intéressant aux discours, aux lois comme aux actes du gouvernement chinois, le correspondant à Pékin du Süddeutsche Zeitung dresse un constat bien plus glaçant sur la néo-dictature technologique chinoise.

L’internet chinois : un monde de censure et de propagande

Couverture du livre Dictature 2.0Pour Kai Strittmatter, la Chine oeuvre à mettre en place un nouveau régime, un « État de surveillance numérique parfait », une forme de révolution culturelle armée par le numérique. Mais peut-être ne le bâtit-il pas tant par les formes de crédit social expérimental, que par une propagande technonationaliste et une censure technologique plus dure qu’ailleurs.

Plus personne ne prophétise plus un effondrement du système chinois ou sa subversion ni ne croit plus que le commerce ou l’internet vont ouvrir la Chine à la démocratie. Au contraire, la Chine par son développement économique et technologique sape à la fois un capitalisme et un internet qui n’ont rien libéré. La Chine déploie via les technologies une « autocratie rigoureuse », et celles-ci sont désormais le moyen pour propulser son économie dans le futur et rendre son appareil politique plus résistant aux crises qu’il ne l’a jamais été. Pire, souligne Kai Strittmatter, dans une des sociétés les plus inégalitaires du monde où règne une kleptocratie sans grand scrupule, le modèle autoritaire chinois fait désormais tache d’huile, et fort de ses succès commerciaux, inspire le capitalisme de surveillance plus qu’il ne dissuade.

Dans son livre, le journaliste tente de percer à jour les faux semblants du régime chinois, sa pratique éhontée du mensonge, de l’intimidation, de la confusion, de la désinformation… Derrière la « stabilité » et « l’harmonie » dont se vante la propagande du gouvernement chinois, l’enjeu est bien de produire un « pays qui se tient sage ». Le journaliste allemand prend le temps de décortiquer le jargon de la Chine nouvelle pour montrer combien la propagande, l’intimidation et la répression se sont renouvelées. La propagande est partout. Le politologue Haifeng Huang parle d’ailleurs d’une propagande dure, qui va des banderoles et affiches de rues aux comptines qu’on apprend dans les écoles et se caractérise par un bombardement permanent de messages. Depuis que Xi Jinping a pris la tête du parti en novembre 2012, le climat s’est refroidi et les espaces de liberté se sont considérablement réduits.

Il y a plus de 10 ans pourtant, Eric Schmidt de Google comme Tim Berners-Lee prophétisaient la chute du Grand pare-feu chinois, ce projet de surveillance et de censure d’internet à l’échelle du pays. Ce n’est pas ce qu’il s’est passé. À l’heure où 830 millions de chinois utilisent l’internet, où Alibaba est actif dans plus de 200 pays et réalise plus de bénéfices qu’Amazon et eBay, que Tencent a ravi la place de premier média social de la planète, la force de l’innovation chinoise domine. Le Grand pare-feu semble plus fort que jamais, comme si commerce et contrôle s’étaient unis pour l’épaissir et le renforcer.

Strittmatter rappelle comment Xi Jinping a repris les commandes de l’internet dès 2013. Notamment en mettant au pas Weibo, ce twitter chinois, en supprimant les comptes de nombre de blogueurs qui semblaient capables d’ouvrir des brèches dans le régime, et ce notamment, en redéfinissant les règles juridiques (en septembre 2013, la Cour suprême chinoise définit le fait de diffuser une rumeur comme une perturbation de l’ordre social menacée de 3 ans de prison – et en Chine, le taux de condamnation dans les procès pénaux dépasse les 99,9 % : y être arrêté, c’est être coupable). Weibo existe toujours et a plus de succès que jamais, mais les débats qu’on y trouvait avant 2013 n’y sont plus. En 2014, la révolution des parapluies à Hong Kong fut totalement bloquée en Chine : nul n’en entendit parler. WeChat, qui autorise des groupes de discussion jusqu’à 500 personnes, et propose un repli dans un univers semi-privé a été, tout comme Weibo, mis à profit pour la surveillance d’État : certains termes s’effacent quand on tente de les écrire, d’autres ne parviennent jamais à leurs destinataires. Les mots postés sur l’internet sont partout surveillés. Comme le souligne très justement Strittmatter, le parti ne se contente plus seulement de bloquer les informations (via notamment le blocage de mots clefs ou le ralentissement du débit de sites), « il leur oppose immédiatement ses propres récits ». La propagande est devenue plus raffinée. « La Chine a construit un réseau avec du hardware et du software chinois, totalement indépendant du reste du monde », le « Bouclier d’or », qui consiste à ajuster chaque jour les règles de langage, c’est-à-dire les mots interdits est plus présent que jamais. En 2018, quand Xi Jinping a fait modifier la constitution pour devenir président à vie, la liste des termes interdits s’est encore allongée. Au cours des heures qui suivirent la décision, le top 10 des tendances sur Weibo affichait des articles complètement déconnectés des préoccupations des Chinois (comme « quand ta copine est mégariche » ou le débat « peut-on manger des nouilles précuites dans les trains à grande vitesse ? »).

Couverture du livre de Margaret Roberts, CensoredToutes les grandes plateformes chinoises (Sina Weibo, Baidu, Tencent, Toutiao…) ont embauché des légions de censeurs. Pour Hu Yong, la collecte de données alimente une industrie publique des services de renseignement et transforme toute collecte en manipulation de l’opinion : inonder les forums et les espaces de commentaires n’a bien souvent qu’un seul but, changer de sujet ! Les « tendances » elles-mêmes sont orientées et manipulées, les informations inondées sous d’autres, comme l’explique Margaret Roberts (@mollyeroberts), directrice du China Data Lab au 21st Century China Center dans son livre sur le fonctionnement de la censure chinoise.

Couverture du livre de Louisa Lim, la République populaire de l'amnésieLe Grand pare-feu est désormais dans les cerveaux, reconnaissait le Quotidien du peuple lui-même. C’est ce que souligne également David Bandurski (@dbandurski) du China Media Project : cette contre-censure fonctionne… Et elle est si intégrée qu’il ne vient même plus à la majorité de la population de penser que cela pourrait valoir la peine de regarder de l’autre côté de la grande muraille. Strittmatter rappelle d’ailleurs que nul en Chine ne connaît les événements de Tiananmen en 1989. Lors des fêtes d’anniversaire du soulèvement, les listes de mots bloqués sont mises à jour. Sur Baidu Baike, l’équivalent chinois de Wikipédia, il n’y a pas d’entrée pour l’année 1989. Quand la journaliste Louisa Lim a mené l’enquête pour son livre The People’s Republic of Amnesia, elle a montré la célèbre photo de la place Tiananmen à des Chinois : seuls 15 étudiants sur 100 ont compris d’où elle pouvait venir… aucun ne la connaissait ! Pire, si des Chinois tentent encore de contourner la censure, ce n’est pas tant pour de l’activisme politique que pour chercher des informations sur leurs stars préférées. Le consumérisme l’a emporté. La croissance a apporté la stabilité. Lors du Single’s Day du 11 novembre, grande fête commerciale chinoise, Alibaba gagne plus d’argent qu’Amazon pour le Black Friday.

80 % des étudiants chinois n’ont jamais tenté de contourner le Grand pare-feu. « La censure ne fonctionne pas seulement parce que le régime complique l’accès à l’information libre, mais parce qu’elle crée un environnement dans lequel l’idée de réclamer de telles informations ne vient pas à l’esprit des citoyens ». Les gens n’ont pas l’impression qu’il leur manque quelque chose : ils ne savent pas ce qu’est une information non censurée. Cette censure souligne Strittmatter se prolonge jusque dans les villes et les rues, où la transformation des grandes villes chinoises en mégapoles en une vingtaine d’années a participé à défigurer le passé. Le passé a été effacé. « L’amnésie l’emporte sur le souvenir ».

La Chine continue à brandir un communisme de façade, que la séparation désormais abolie entre le parti et l’État avait jadis imaginé, et que l’étranglement politique et la course à l’argent ont enterré. Le PCC est intégré aux décisions stratégiques des entreprises. Pony Ma de Tencent, Jack Ma d’Alibaba ou Robin Li de Baidu sont tous membres de l’Union chinoise des sociétés de l’Internet dont le but explicite est de « promouvoir le développement d’organisations du Parti dans l’industrie »… Nombre de leurs déclarations saluent l’alliance inédite et puissante des technologies et du parti pour assurer la stabilité politique. La contre-propagande se nourrit du succès technique et économique qui la nourrit en retour. L’application la plus téléchargée du pays est une sorte de Petit livre rouge, Xuexi quangguo, un recueil des discours du président, qui donne des points à chaque fois qu’on la consulte et qui indique en retour le nombre de minutes que vous consacrez à votre solidité idéologique (l’application est accusée d’espionnage par les activistes allemands de Cure53, car elle n’ouvre pas seulement une porte dérobée sur les données des utilisateurs, mais également un keylogger qui enregistre tout ce que les utilisateurs tapent sur leurs mobiles et qui envoie chaque jour des données à xuexi.cn, un site administré par Alibaba, qui a d’ailleurs programmé l’application).

L'application Xuexi quangguo, le petit livre rouge 2.0

En Chine, la propagande déconstruit les droits de l’homme en les qualifiant non plus de valeurs universelles, mais de valeurs occidentales. L’Occident est redevenu l’adversaire idéologique. Si le capitalisme est devenu un socialisme : la liberté, la séparation des pouvoirs, l’indépendance de la justice ou des médias… eux, sont toujours au coeur de l’épuration idéologique. Le nationalisme chinois allié à la prospérité permet de donner un horizon, un « rêve chinois » inédit : la promesse de devenir la première puissance du monde.

Pour cela, la Chine a mis au pas l’innovation. Strittmatter revient lui aussi sur le « moment Spoutnik chinois » qu’évoquait l’investisseur sino-américain Kai-Fu Lee dans son livre, à savoir le triomphe d’AlphaGo au jeu de Go. Depuis, l’économie numérique et l’intelligence artificielle sont devenues la principale force motrice de la Chine, non pas tant pour la transformer, mais bien pour renforcer son idéologie. Strittmatter évoque Megvii et SenseTime, deux des startups phares de la vidéosurveillance et de la reconnaissance faciale (dont le premier investisseur est l’État, via des fonds d’investissement publics) qui déploient leurs solutions sur les smartphones Huawei ou Vivo pour permettre aux Chinois d’ouvrir leurs téléphones via l’image de leurs visages, comme pour gérer les flux de voyageurs dans les gares, où les dispositifs de reconnaissance faciale comparent les visages des voyageurs aux banques d’images de la police. La coopération étroite des groupes technologiques avec l’État est nourrie. WeChat (qui compte un milliard d’utilisateurs en Chine) et Alipay se sont réparti le marché du paiement électronique dans un pays où les cartes bancaires sont inexistantes. WeChat est même testé dans plusieurs villes pilotes comme carte de sécurité sociale et carte d’identité électronique. Depuis 2019, la Chine possède plus de licornes (des startups évaluées à plus de 1 milliard de dollars) que les États-Unis. La R&D dispose d’investissements nourris. Il faut dire que la masse de données à laquelle peuvent accéder les entreprises technologiques est sans précédent, d’autant que les débats sur la protection de la vie privée sont inexistants. SenseTime prétend disposer de 500 millions de visages dans sa base. Yitu, un concurrent, de 1,5 milliard. Mobike, la startup de vélos forte de ses 8 millions de vélos connectés partage toutes ses données avec le gouvernement. La police chinoise a donné le nom de « réseau céleste » au maillage inédit de caméras de surveillance qui recouvre le pays, augmenté d’un « cloud policier » à la recherche d’une interconnexion la plus large possible des données.

Derrière ce tableau apocalyptique en terme de vie privée et de liberté de penser, Strittmatter modère les résultats obtenus. Le système est loin d’avoir tout en main, malgré les succès que la propagande affiche. Les banques de données ne communiquent pas encore toutes entre elles, les entreprises enjolivent leurs résultats… Mais pour que le panopticon fonctionne, il n’est pas nécessaire que son oeil voit tout, il suffit qu’on le croit.

Les villes chinoises sont les plus surveillées du monde. Et le « réseau céleste » n’est qu’une partie du « cloud policier » que dénonce Human Rights Watch. Interconnexion des données, achats de données à des entreprises privées… permettent des interventions qui se disent plus efficaces et précises. L’État chinois travaille à abattre les barrières à l’échange des données, pour renforcer surveillance et prédiction. L’État est le principal actionnaire de Hikvision, le plus grand fabricant de caméras de surveillance qui fonctionnent dans plus de 150 pays. Soupçonnés d’avoir pourvu ses caméras de portes dérobées permettant à la Chine d’accéder et de récupérer des données, certains acheteurs occidentaux ont démonté leurs réseaux de caméra. Ces entreprises ont recours aux images pour développer un profilage racial, notamment pour reconnaître les Ouïgours. Face à ces développements liberticides, l’Occident semble bien en panne de réponses, préférant trop souvent, lui aussi, privilégier ses intérêts commerciaux à la contestation de ses valeurs.

Strittmatter revient sur le laboratoire que constitue le Xinjiang pour l’IA (la province où vivent les minorités ouïghoures). « Cette version high-tech de la révolution culturelle », comme la définit le chercheur allemand Adrian Zenz (@adrianzenz) qui fut l’un des premiers à apporter des indices probants sur les camps d’internement des Ouïgours. Là-bas, les décisions d’arrestation sont prises par des systèmes technologiques, sans examiner les cas individuels. Pour ce dernier, la stratégie est claire : derrière le déploiement de technologies autoritaires et discrétionnaires, l’enjeu est bien celui d’une intériorisation du contrôle. Dans cette province, Huawei, qui tend à se montrer si vertueux pour l’Occident, collabore à un laboratoire d’innovation sur l’industrie de la sécurité intelligente. Pour Strittmatter, « tout débat public sur la surveillance est tabou ». La Chine est le laboratoire d’une société de la post-surveillance qu’elle érige en modèle de société et en modèle économique.

En décodant le discours et en pointant les expérimentations, très concrètes, que mène l’État chinois, Strittmatter pointe l’horizon auquel aspire l’État chinois. Les expérimentations locales que mène l’État chinois articulent une stratégie qui se ramifie par la technologie, un projet global dont nous ne voyons pour l’instant que les imperfections parce qu’il est loin d’être réalisé. Ce n’est pas pour autant que le projet global doit être minoré insiste très justement le journaliste.

Fiabilité sociale et crédit social : les 2 leviers d’un élargissement d’une surveillance chinoise déjà hégémonique

Le livre de Strittmatter est parfaitement déprimant. Il souligne combien la Chine a produit un capitalisme débridé, un Far West, où le profit justifie tout. Pour répondre à la corruption endémique, l’enjeu est de le recouvrir d’un système de « fiabilité sociale ». Mais plus que de combattre la corruption, le système semble surtout chercher à étendre la censure et la propagande à la surveillance et à la police des comportements. Pour Zhang Zheng de l’université de Pékin, l’un des initiateurs de cette nouvelle forme de surveillance, cela consiste simplement à récompenser les bons comportements et punir les mauvais. À Shanghai, l’application « Shanghai honnête » puise plus de 5000 données provenant d’une centaine d’administrations pour évaluer la citoyenneté. Selon que vous avez payé votre facture d’électricité, fait un don de sang ou pris le métro sans payer, l’application calcule un score. Selon ce score, elle récompense les bons habitants, par exemple en leur permettant de ne pas avoir à payer les 100 yuans de caution obligatoire pour emprunter des livres en bibliothèque. Ces expérimentations parmi d’autres – on en compte une quarantaine, chacune étant très localisée et reposant sur des modes de fonctionnement hétérogènes – ont pour horizon, dans les discours des autorités, une généralisation massive. À Rongcheng, l’un des autres projets pilotes de la fiabilité sociale, s’est mis en place un Bureau de la fiabilité, un système de responsabilité sociale qui combine lui aussi éducation morale et surveillance. Chaque citoyen et chaque entreprise (et le système doit s’étendre aux entreprises étrangères) sont évalués selon un compte à point. Ceux qui tombent en dessous de 599 points sur 1000 sont désignés comme « malhonnêtes », avec des punitions qui vont de l’humiliation publique à des restrictions de libertés. Le système n’est pas tant purement électronique comme on le pense souvent qu’éminemment social, reposant sur la surveillance communautaire et la dénonciation. Le numérique ici est un volet de la surveillance sociale, qui permet d’augmenter la documentation et la délation via photos et vidéos qui agissent comme autant de preuves supplémentaires aux dénonciations. À Rongcheng, là encore, l’enjeu affiché par les autorités est de civiliser les hommes, de normaliser les comportements.

Strittmatter modère à nouveau les résultats de ces expérimentations. Ainsi, en dépit d’innombrables campagnes d’information et de répression, depuis des années, les Chinois continuent de cracher dans les rues. Pas sûr que ces systèmes n’arrivent plus à dresser les comportements, car ils sont certainement aussi poreux que leurs prédécesseurs. Il souligne également que beaucoup d’habitants n’ont même pas connaissance de la mise en place de ces systèmes, comme si cela ne pesait pas vraiment sur la surveillance dont ils sont déjà l’objet. Parfois, ils en connaissent certaines formes plus que d’autres, par exemple les sanctions liées au non-respect du Code de la route qui s’automatise rapidement. Enfin, ces systèmes définissent des comportements valorisés et d’autres qui ne le sont pas, selon des grilles locales, mais limitées. Laisser son chien crotter sur une pelouse coûte 5 points ici, aider un voisin en rapporte 5 autres là… Au final, les barèmes semblent promouvoir une société de petits retraités, qui sont souvent ceux valorisés par ces systèmes, au détriment des familles qui vivent dans l’ombre des systèmes à point, comme si elles y disparaissaient, notamment par désintérêt. Quant aux mauvais citoyens que ces systèmes désignent, sans surprise, ils sont seulement les plus démunis des démunis.

La surveillance des comportements n’est finalement qu’une modalité d’un dispositif de surveillance de tous par tous à l’oeuvre depuis les premières heures de la République populaire de Chine, mais qui vise à l’affiner, à le rendre plus efficace, plus menaçant, plus productif… Pas sûr qu’elle y parvienne vraiment note Severine Arsène dans un remarquable article sur l’ambivalence du contrôle d’internet qu’elle opère… Son élargissement à toutes les sphères de la société n’est pourtant pas sans poser questions : les entreprises qui voient leurs notes dégradées ne peuvent répondre aux appels d’offres de l’État, les citoyens aux emplois publics… Même l’accès à la consommation ou à l’internet peut-être restreint. Les mal notés sont interdits de voyager. D’autres sont humiliés publiquement : on affiche leurs images dans les rues ou sur les réseaux sociaux… Pire, une mauvaise note attribuée aux parents peut empêcher les enfants d’avoir accès à certaines écoles… Le risque bien sûr, déjà largement effectif, consiste à glisser de punitions individuelles à des punitions familiales ou collectives…

Les détails des expérimentations de ces systèmes de fiabilité sociale restent obscurs. Quel modèle expérimenté va s’imposer ? Cohabiteront-ils ou fusionneront-ils dans des normes uniformisées ?… Nul ne sait encore répondre à ces questions. La surveillance de la surveillance est difficile. Reste qu’à mesure que les expérimentations s’étendent, le nombre de gens punis augmente. Sur TikTok, dans la province de Guangxi, les utilisateurs ont vu apparaitre entre les vidéos des images de personnes recherchées proposant à ceux qui donneraient des informations à la police d’effacer une partie de leurs dettes sociales. Les directives de l’État sont claires : l’objectif est de favoriser l’automatisation de la vérification, de la surveillance et de la sanction.

Strittmatter rappelle toutefois que le projet pilote de fiabilité sociale le plus connu en Chine n’est pas le fait de l’État, mais du secteur privé. C’est ce qu’il convient d’appeler le « crédit social », incarné notamment par le « Sesame Credit » d’Alipay, fort de 1,2 milliard de clients, qui fonctionne sur une échelle de 950 à 300 points et qui repose sur plusieurs critères de classification, dont la capacité à rembourser ses dettes, l’historique financier des utilisateurs, leurs comportements et leur réseau relationnel. Beaucoup d’observateurs estiment qu’il s’agit surtout d’un programme de fidélisation des clients (visiblement poreux au piratage), voire, comme le promeut Alibaba, un programme d’aide à la croissance et de lutte contre l’escroquerie, voire encore d’un système de confiance associé au paiement électronique. Pour l’instant, pas plus que les systèmes de fiabilité sociale, ces programmes ne sont ni interconnectés ni généralisés. La Banque populaire de Chine n’a donné à aucun des projets de crédit social une licence de fonctionnement officiel autre qu’expérimentale. D’autres soulignent que ces projets, quand bien même ils parviendraient à s’interconnecter pour atteindre un niveau de surveillance inédit, pourraient là encore demeurer inefficaces.

Pour Strittmatter : « Il est bien possible que ses concepteurs échouent finalement à atteindre le premier de leurs objectifs centraux – la fiabilité sociale -, mais que le deuxième, le contrôle politique, finisse par fonctionner admirablement. » En attendant, l’autoritarisme assisté par l’IA, ce « Léninisme numérique » que dénonce le sinologue Sebastian Heilmann, ou la « contrôlocratie » qu’évoque le politologue norvégien Stein Ringen dans son livre, s’affirment comme un totalitarisme numérique visant bel et bien à faire advenir un homme nouveau, parfaitement contrôlé. Pour Strittmatter, derrière les expérimentations toujours imparfaites et souvent poreuses, le projet idéologique et politique d’une nouvelle révolution culturelle alimentée par la technologie est pourtant bien là, hostile, menaçant, promettant de répandre toujours plus avant la surveillance et la censure. Le projet politique souhaite effacer le souvenir qu’une autre vie est possible.

La dictature numérique chinoise, miroir noir de notre propre rapport à la technologie

Pour Strittmatter, à l’aide des technologies, le PCC ne cherche rien de moins qu’à réinventer la dictature dans un pays qui se ré-idéologise, sous couvert d’un rêve de puissance et de nationalisme effréné. Certes, le système chinois crée sa propre vulnérabilité : l’hypercontrôle affaiblit la société, lui coupe tous signaux d’alerte, comme on l’a vu à Wuhan lors du début de la crise épidémique. Les Occidentaux ont du mal pourtant à qualifier le pays de dictature. Sa puissance financière en fait un partenaire prisé. La Chine achète partout son influence. Strittmatter est assurément un grand amoureux de la Chine, c’est pourquoi il ne lui épargne rien. Son livre dresse un constat édifiant et déprimant qui devrait décourager tous ceux qui osent encore prêter le moindre crédit au gouvernement chinois. La Chine a beau jeu de jouer les vierges effarouchées en dénonçant les sanctions américaines à l’encontre de ses entreprises technologiques sous prétexte de la défense d’une liberté d’entreprendre.

Mais en montrant la Chine du doigt, Strittmatter nous invite pourtant à nous poser des questions sur nous-mêmes, sur le développement de notre propre surveillance, sur les restrictions à nos propres libertés et aussi à interroger le déploiement de technologies qui trahissent nos valeurs humaines. « La Chine est pour nous un « miroir noir » ». L’absence d’inhibition de la Chine fait rêver les entrepreneurs de la tech occidentale, les invitant à les imiter sous couvert d’une défense d’une souveraineté numérique qu’il faudrait renforcer, quand bien même finalement, elle épouserait les aspirations totalitaires chinoises pour parvenir à prendre l’essor chinois de vitesse. Dans son livre, Strittmatter écarte le voile sur la réalité des intentions chinoises, qui utilise toutes les possibilités d’intrusions possibles. Reste que bien plus que la Chine, c’est de nous dont nous devrions avoir peur, de nos compromissions, de notre capacité à accepter ce qui devrait demeurer inacceptable. À l’heure où l’Occident vacille sur ses propres valeurs, notamment sur la liberté, le modèle chinois plus sûr de lui que jamais devient éminemment concurrentiel, au risque que l’Occident le copie pour mieux le juguler.

Oui, la Chine est assurément le nouveau géant de la tech. Comme l’expliquait récemment pour la Technology Review, Samantha Hoffman (@he_sumeil) de l’Institut australien de politique stratégique, l’un des principaux think tank d’expertise sur la surveillance qu’exerce l’État chinois, la Chine ne surveille pas seulement les citoyens de son pays, elle puise dans un vaste éventail de données et de partenariats avec des entreprises de technologies pour l’élargir bien au-delà de ses frontières. Dans un rapport publié l’année dernière, intitulé « L’ingénierie du consentement global », Samantha Hoffman expliquait combien « l’État parti » utilise d’innombrables technologies pour développer une surveillance invisible, mais profonde… Le Parti communiste chinois (PCC) ne collecte pas seulement des données par le biais de technologies de surveillance invasives, comme les caméras qui utilisent la reconnaissance faciale, mais le fait surtout via des technologies qui fournissent des services quotidiens, via des administrations et des entreprises d’État et des sociétés technologiques chinoises et étrangères. Plutôt que d’utiliser l’ensemble des données captées pour fournir de la publicité, la Chine tente plutôt de les utiliser pour exercer un contrôle autoritaire et étendre son pouvoir politique. Plus qu’ailleurs, la Chine promeut une forme de « technonationalisme », qui n’est peut-être pas si éloigné du technonationalisme américain.

Une cyberguerre froide qui renvoie dos à dos les surveillances technologiques

Pour la chercheuse, la polémique autour de TikTok est l’exemple parfait d’une application bénigne qui devient problématique pour des raisons politiques liées à l’utilisation des données captées. Samantha Hoffman s’inquiète également de la montée d’autres entreprises chinoises spécialisées dans l’IA qui contribuent très activement à la sécurité de l’État, et qui se révèlent finalement très proche des projets de la société américaine Palantir, renvoyant dos à dos les technologies de surveillance américaines et chinoises. Dans la guerre froide technologique entre les États-Unis et la Chine qui se met en place, la technologie devient de chaque côté une question de sécurité nationale, preuve, s’il en était besoin, de l’importance de la surveillance pour les deux camps. Dans cette rivalité à long terme, derrière l’interdiction que l’administration américaine théâtralise à l’encontre des menaces logicielles et matérielles chinoises, le problème n’est pas celui d’une surveillance d’État contre la liberté, mais bien celui d’une surveillance d’État contre une autre, explique très bien la chercheuse et activiste Xiaowei Wang (@xrw) pour The Nation. Dans cette guerre d’information, la propagande est dans les deux camps. L’interdiction de logiciels et de matériaux chinois, sous prétexte d’un risque de surveillance, mais sur lequel les États-Unis peinent à faire la démonstration technique, reste problématique. Pour Xiaowei Wang, si ces interrogations peuvent être légitimes, l’interdiction de WeChat ou TikTok par l’administration américaine tout comme la campagne « Clean Network » qui vise à exclure les sociétés et matériels de télécommunications chinois, tiennent aussi d’une affirmation du pouvoir de contrôle et de surveillance américain, dont on sait, notamment depuis les révélations d’Edward Snowden, qu’il est loin d’être vertueux. La surveillance numérique américaine semble le pendant, l’exact miroir de la surveillance numérique chinoise. Pour Xiaowei Wang, l’escalade en cours de la guerre froide numérique masque bien des faux semblants : l’interdiction des caméras Hikvision par exemple ne concerne pas nombre d’autres caméras fabriquées en Chines pour le compte d’entreprises américaines, pas plus qu’elle ne condamne le fait que des entreprises de capital-risque américaines financent des firmes chinoises. Pour l’instant, aucune enquête n’a révélé que TikTok envoie réellement des informations sur ses utilisateurs en Chine. L’Entity List, cette liste noire d’entreprises étrangères avec lesquelles le commerce est restreint, est devenue un outil très politique. « Le refus du gouvernement américain de protéger les données de ses citoyens reflète sa propre volonté de surveiller sa population ». La menace du péril jaune se porte bien ! Il permet de détourner les yeux sur le fait que dans les deux camps, l’interconnexion des données et la surveillance de masse vont dans le même sens.

Pour Samantha Hoffman, pour répondre aux dérives chinoises, les démocraties libérales devraient renforcer les lois sur la confidentialité des données, leur sécurité, et renforcer la valeur démocratique de leurs orientations technologiques. Pas sûr que ces orientations soient franchement à l’ordre du jour hélas. Au contraire, dans l’escalade à l’oeuvre, la généralisation de la surveillance demeure ce qui nous est partout masqué et la course à l’intelligence artificielle une porte d’entrée à une surveillance toujours plus exacerbée.

Hubert Guillaud

À lire aussi sur internetactu.net

0 commentaires

  1. Signalons un intéressant article de recherche signé d’un chercheur Australien, Thomas Jessup qui pointe la relation de plus en plus conflictuelle entre l’IA et les droits de l’homme en Chine. Il pointe notamment que le Crédit social Chinois a produit 11,14 millions d’interdiction à prendre l’avion et 4,25 millions d’interdiction de train, depuis sa mise en place !