Par Aurélie Bayen Source : https://larevuedesmedias.ina.fr/cybercontrole-en-chine-lomni-surveillance-lere-du-numerique
Surveillance, censure, tous les aspects de la vie des Chinois sont plus que jamais suivis à la trace. Le recours à l’intelligence artificielle et au Big Data a permis la mise en place d’un Internet «fermé» permettant un cyber-contrôle totalisant par le pouvoir, digne d’une série de science-fiction…
Depuis son arrivée au pouvoir en 2013, le président chinois Xi Jinping entend reprendre d’une main de fer l’internet. Contrairement à son prédécesseur Hu Jintao, qui « envahissait » la Toile à la manière d’un joueur de go, Xi Jinping entend bien installer un contrôle totalisant, visible et légitimé par une idéologie héritée de la pensée maoïste. Pour y parvenir, la Chine investit dans le Big Data et l’intelligence artificielle, faisant de l’omni-surveillance une réalité digne de certains épisodes de la série anglo-saxonne de science-fiction Black Mirror.
Cette ouverture des internautes chinois sur le monde grâce à l’introduction de l’internet dans le pays aurait potentiellement pu devenir une arme de contre-pouvoir pour la démocratisation de la Chine, mais finalement, son encadrement par le pouvoir en place n’a cessé de se perfectionner pour restreindre chaque année un peu plus les espaces de liberté.
Big Data et intelligence artificielle, les nouveaux bras armés de l’omni-contrôle
Après la mort de Mao Zedong en 1976, le président chinois, Deng Xiaoping, s’engagea dans la voie des réformes en 1978 pour sortir le pays du marasme et lui permettre d’entrer dans une ère nouvelle, celle de la modernisation, tant économique que technologique. En 1992, cette mutation du régime communiste vers un « socialisme de marché aux couleurs chinoises » a fait prendre au pays un virage à 180 degrés, tant au point de vue idéologique que politique, pour le faire entrer de plain-pied dans un système capitaliste de type occidental, basé avant tout sur les investissements directs étrangers (IDE) et l’importation de ses technologies. À ce titre, le développement de l’internet chinois à partir de 1994 a indéniablement fait partie du processus d’intégration mondiale du pays.
Depuis les années 2000, l’internet chinois connut alors une croissance spectaculaire, tant en nombre d’internautes qu’en infrastructures. Le président Hu Jintao encouragea à cette fin la généralisation de l’internet à tout le territoire selon le nouveau « Plan de Stratégie pour le développement de l’informatisation 2006-2020 » du Conseil des Affaires de l’État. Aujourd’hui, le nombre d’internautes en Chine s’élève à 802 millions d’utilisateurs, soit la première population internaute mondiale, même si ce chiffre ne représente que 57 % de taux de pénétration de sa population totale.
Pour canaliser cette ouverture sans précédent de la société à l’espace public en ligne, la surveillance et la censure sont devenues, dès les débuts de la mise en place de l’internet en Chine, les composantes essentielles du contrôle de la Toile — condition sine qua non à son introduction dans le pays.
Bouclier d’or : une surveillance numérique globale de la population en réseau fermé
L’internet apparaît donc tout d’abord, pour le gouvernement chinois, comme un auxiliaire technologique incontournable pour la rationalisation de l’action publique, permettant de résoudre les défis posés par la « gouvernementalité », au sens de Michel Foucault (1).
Avec l’aide de l’entreprise canadienne Nortel Networks, le ministère de la Sécurité publique (MSP) a mis en place en 2000 un vaste projet de télésurveillance en réseau, appelé Bouclier d’or (jin dun 金盾) (2). Ce programme a pour but de centraliser toutes les ressources électroniques disponibles visant à « défendre l’intérêt du citoyen et améliorer le taux de résolution des affaires criminelles ». Il s’articule autour d’un réseau de surveillance numérique globale, développé à l’échelle du pays, permettant de relier les services de police locale, régionale et nationale au sein d’un réseau intranet fermé. Ce système de télésurveillance fonctionne à partir de bases de données, avec accès immédiat aux dossiers d’identification de chaque citoyen et des liens vers les réseaux de caméras dotées de logiciels de reconnaissance faciale. En 2009, le MSP déclarait avoir installé plus de 2,75 millions de caméras et 268 000 systèmes d’alarme et de surveillance dans les lieux publics, principalement dans les zones urbaines. Onze ans plus tard, ce nombre atteindrait plus de 170 millions de caméras intelligentes interconnectées, faisant du marché de la reconnaissance faciale par vidéo un secteur en pleine expansion (128 millions d’euros en 2016).
Au vu de la croissance exponentielle du marché, une collaboration pérenne entre les autorités et les entreprises privées s’est instaurée dès la mise en place de l’internet dans le pays. Tout d’abord avec des entreprises occidentales spécialisées dans la mise en place d’infrastructures réseau pour contrôler l’accès des données au territoire. L’équipementier américain Cisco était d’ailleurs le principal partenaire de la mise en place du réseau en 1994, en installant le premier routeur en vue du lancement de l’implantation du protocole TCP/IP. L’intérêt de développer l’internet dans le pays s’expliquerait aussi par les liens étroits, voire de parentèles, entretenues entre la classe dirigeante et les promoteurs du secteur numérique. Pour ne citer qu’un exemple, Jiang Mianheng, fils de l’ex-président chinois Jiang Zemin, de retour en Chine après dix ans passés dans la Silicon Valley, aurait ainsi convaincu son père et le cercle de la classe dirigeante, de créer China Netcom en 1993, l’une des entreprises privées leaders de la construction du réseau internet rapide (3).
Sur le Web, les BAT (Baidu, Alibaba, Tencent) ont par ailleurs pu profiter du protectionnisme étatique pour s’imposer sur le marché du numérique (4) (au détriment de Facebook et Twitter qui ont vu leur modèle copiés par Renren et Weibo notamment).En retour, ces entreprises donnent non seulement accès à leurs bases de données, mais se plient volontiers aux exigences gouvernementales, elles-mêmes en quête de modernité. Jack Ma, PDG d’Alibaba, résume avec humour cette liaison platonique avec l’appareil politique : «Tombez amoureux du gouvernement, mais ne vous marriez pas avec!». En effet, le désir de contrôle demeure éternellement insatisfait pour le pouvoir chinois, qui ambitionne depuis peu de s’inviter au capital de l’entreprise à hauteur de 1 à 2 %.
Ces « fiançailles » public-privé, basées sur une coalition d’intérêts, se concrétisent à présent sous une forme nouvelle, illustrée par le partenariat noué entre l’État et la start-up Megvii, spécialisée dans la reconnaissance faciale à Pékin. Désormais, il ne s’agit plus pour le gouvernement d’accéder aux données des utilisateurs via une société privée, mais de permettre aux sociétés de se saisir des données personnelles détenues par le gouvernement lui-même, sur plus de 700 millions de Chinois. La finalité pour l’État chinois étant d’obtenir des systèmes de surveillance automatisée à la pointe de la performance mondiale tout en « ferrant » le secteur privé, en l’arrimant à ses visées politiques.
La médiatisation des arrestations de criminels réalisées grâce à la vidéosurveillance high-tech sert à ce titre la politique de communication sécuritaire du gouvernement, justifiant la présence de près de millions de caméras de surveillance sur le territoire. Cette omniscience affichée permet de renforcer l’effet panoptique décrit par Bentham (4), où chaque individu intériorise la surveillance dont il fait potentiellement l’objet jusqu’à s’autocontrôler lui-même.
Effets pervers de la robotisation de la censure sur l’économie numérique
La surveillance des individus dans la vie réelle par le Bouclier d’or est doublée d’une surveillance de leurs agissements sur la Toile, spécialement dans l’espace public (forums, blogs, réseaux sociaux). Celle-ci s’effectue par un contrôle à la fois automatisé et humain, où la vigilance populaire et la délation sont considérées comme des actes citoyens complémentaires à la surveillance officielle.
Sur le plan technique, un premier niveau de blocage et de filtrage est effectué en amont à partir de logiciels placés au niveau des dorsales internet et des fournisseurs d’accès internet (FAI). Ce que les médias qualifient généralement de Grande muraille électronique de Chine n’est autre qu’un grand pare-feu, sorte de filtre géant de l’internet composé de routeurs internes et externes, ainsi que de DNS (Domain Main System) indépendants. Le filtrage est principalement basé sur l’adresse IP. Les mots-clés trouvés dans le lien URL ou contenus dans le code HTML sont ensuite soit redirigés par les serveurs DNS vers d’autres sites web agréés par les autorités, soit bloqués. Ce genre de liste noire est régulièrement mis à jour selon l’actualité ou les polémiques du moment.
Afin d’étendre le champ de la censure et de la surveillance, le régime a en outre décentralisé la responsabilité pénale des informations diffusées sur la Toile à tous les acteurs privés du Net, qui mobilisent leurs salariés et leurs équipements au service des exigences du pouvoir : FAI, fournisseurs de contenu médias, moteurs de recherche, administrateurs de sites web et de forums, sites d’hébergement de blogging et micro-blogging, tous les acteurs sont concernés, y compris les sociétés étrangères.
Par peur d’être sanctionnées, il faut noter que ces sociétés privées ajoutent un deuxième niveau de censure, en créant généralement à leur tour leur propre liste noire de mots ou propos interdits. En août 2004, un pirate informatique avait découvert l’une d’elles, qui comptait près de 1 000 termes « sensibles », en anglais et en chinois, sur le célèbre serveur de messagerie instantanée QQ de Tencent. Les termes censurés concernaient principalement des organisations dissidentes (Falun Gong), des mouvements de contestation ou indépendantistes (Taiwan, Tibet), des médias étrangers (BBC, New York Times, Wall Street Journal), ou des jeux de mots destinés à critiquer à mots couverts la politique des dirigeants chinois (le nom de l’ancien Premier ministre Wen Jiabao (???) avait ainsi été transformé : le caractère wen («doux») avait été remplacé par un autre wen= signifiant «peste»).
Les blocages liés à la censure sont soit intermittents, soit permanents pour les sites dissidents ou interdits en Chine comme Facebook ou Twitter, mais semblent plus fréquents et étendus à plus de sites à certaines époques jugées particulièrement sensibles du point de vue de la sécurité nationale : le 4 juin, date anniversaire de la répression du mouvement démocratique survenu place Tiananmen en 1989, à l’approche des réunions annuelles de l’Assemblée populaire nationale ou de la visite de chefs d’État étrangers.
En outre, l’analyse technique d’Olivier Vérot, directeur d’une agence de référencement de sites français sur le Web chinois, a permis de révéler certains arcanes du référencement des sites web par le moteur de recherches Baidu. Contrairement à Google, qui référence les sites grâce à des algorithmes évaluant leur popularité et leur e-réputation, Baidu ferait appel à son personnel pour auditer chaque site lors de sa première inscription. Ces sites, s’ils souhaitent être référencés en première page du moteur de recherche n’auraient d’autre solution que de se plier à ces règles à visée propagandiste, qui les obligent à mettre en ligne depuis leur page d’accueil de nombreux liens renvoyant aux sites d’informations officiels comme Xinhua (l’agence de presse Chine Nouvelle).
Les effets pervers de cette tendance au blocage massif et automatisé portent néanmoins régulièrement préjudice à l’économie chinoise, second socle de légitimité du Parti au pouvoir. Même si ces entreprises s’engagent constamment à augmenter leurs dépenses liées à la surveillance pour éviter des fermetures administratives (telle que la société Toutiao, qui avait promis d’employer jusqu’à 10 000 personnes dédiées à la surveillance des contenus publiés), certaines entreprises subissent les effets sensibles de la censure sur leurs activités. Ces dommages avaient été déjà décrits lors d’un sondage en ligne mené auprès de 500 entreprises chinoises spécialisées dans les techniques de l’information, en 2009.
Les résultats de l’enquête montraient que la censure robotisée commettait parfois des erreurs de « jugement » ayant des conséquences désastreuses pour certaines d’entre elles, pourtant respectueuses de la législation nationale : 40 % avaient vu leur site fermé sans infraction connue à la loi et 17 % avaient été obligées de fermer définitivement leur établissement à cause de ces blocages. Plus récemment, l’industrie du jeu vidéo a vu ses recettes mises à mal par une suspension des délivrances de permis de commercialisation de nouveaux jeux. Alors que le pays est devenu le premier marché mondial pour les jeux vidéo, les dommages collatéraux sont devenus on ne peut plus inquiétants pour les acteurs du secteur. En effet, le raidissement idéologique de la mandature de Xi Jinping a paralysé les régulateurs des médias et des jeux vidéo, plus réticents à décerner leurs autorisations à des jeux promouvant la violence, des mœurs discutables et au contenu jugé peu patriotique. La start-up Bytedance (Tencent), plateforme de partage de courtes vidéos en ligne, avait ainsi été obligée de fermer boutique. En signe d’allégeance ou pour contrer la défiance des autorités, la société Douyu avait quant à elle publiquement annoncé des « cours d’éducation patriotique » pour ses vedettes du live streaming.
La notation sociale : vers une nouvelle forme de contrôle totalisant?
« Si le prince conduit le peuple au moyen des lois et le retient dans l’unité au moyen des châtiments, le peuple s’abstient de mal faire ; mais il ne connaît aucune honte.
Si le prince dirige le peuple par la Vertu et fait régner l’union grâce aux rites, le peuple a honte de mal faire, et devient vertueux. ».
Confucius (5)
Outre la répression frontale contre les voix dissonantes qui réclament plus de libertés et de démocratie (symbolisée par la mort du prix Nobel de la paix Liu Xiaobo), il s’agit désormais pour le pouvoir chinois d’inciter chaque individu à se contrôler soi-même, non pas seulement par la peur d’être sanctionné voire emprisonné, mais par une incitation à adopter un comportement honnête et responsable, tel que prôné par la pensée confucéenne. En d’autres termes, faire du civisme une norme assez contraignante mais légitime — culturellement et politiquement — qui permette de dominer les individus jusque dans la sphère privée, qu’elle soit réelle ou virtuelle (réseaux sociaux, messageries privées, etc.). Cette surveillance intrusive, rendue possible grâce la généralisation du numérique comme outil de gestion de la société, est plutôt favorablement accueillie par une société chinoise en mal de valeurs morales, mais encore régie par des conceptions confucianistes et des directives communistes, privilégiant l’intérêt du groupe (société, État) à celui des individus.
Le document de planification du «Conseil de l’État des élites chinoises» soutient à ce titre le projet gouvernemental d’une gigantesque base de données permettant la mise en place d’un système de « crédit social » d’ici à 2020. Ce programme national pourrait inclure les notes et les données récoltées sur les sites marchands, tels qu’Alipay Pay avec le programme « Sesame Credit » (développé par Ant Financial Services Group, filiale du groupe chinois Alibaba). Il est stipulé dans ce document que « la base de données de crédit social forgera un environnement glorieux de l’opinion publique basé sur le maintien de la confiance » et « récompensera ceux qui signalent des actes d’abus de confiance ».
Le concept de « notation sociale », déjà mis en place sur les sites marchands et les banques, est depuis 2014 testé sur le plan politique par les autorités locales dans une vingtaine de villes. C’est ainsi qu’à Shenzen, des écrans géants placés aux carrefours des rues affichent les visages des piétons qui ne respectent pas les feux de signalisation. Pour cette infraction mineure par exemple, 20 points sont enlevés aux citoyens de la ville de Suqian, sur les 1 000 points crédités sur leur compte.
Ainsi, en affirmant vouloir pousser la société chinoise à devenir plus honnête et civilisée, y compris en ayant recours à la honte comme évoqué plus haut (le concept de la « perte de face » est très important dans la culture chinoise), les autorités centrales légitiment leur pouvoir omniscient en adoptant une posture paternaliste réprobatrice, qui s’appuie sur un contrôle social totalisant, où l’informel devient formel, où le privé devient public jusqu’à tomber sous le coup de sanctions. Depuis mai 2018, certains citoyens ayant une mauvaise « note sociale » se sont ainsi vu interdire l’achat de billets de train (4,24 millions) ou d’avion (11,4 millions). Mais ces sanctions peuvent s’étendre à la sphère professionnelle ou familiale, telles que des restrictions économiques (prêt, actionnariat, réponse d’offre aux marchés publics) ou même sociales (impossibilité d’inscrire ses enfants dans les plus grandes écoles). Selon le document de planification cité, l’étape suivante consistera ensuite à « augmenter l’intensité des récompenses et des sanctions afin que les personnes malhonnêtes soient punies et les personnes loyales motivées ».
Afin d’éviter d’éventuels levers de bouclier, il semble que la notation sociale, affichée tel un score de jeu vidéo sur écrans numériques, permette de faire dévier l’utilisation des données personnelles sur un mode ludique, pour mieux la banaliser. Connaître son « score », le comparer avec celui de ses proches et l’améliorer pour gagner des récompenses prendrait une forme à la fois mercantile et ludique, à l’instar de l’appel à la dénonciation citoyenne déjà développé sous le mandat de l’ancien président Hu Jintao. En effet, le «site de signalement des noms de domaine servant à des usages illicites» www.jubao.cnnic.cn tirait déjà, en 2009, 10 plaintes au sort chaque jour afin de récompenser les auteurs des dénonciations par un cadeau.
En somme, l’objectif du gouvernement semble être de pousser les individus, tiraillés entre impératifs socio-politiques et désirs consuméristes, à devenir progressivement des sortes de citoyens-joueurs, de leur plein gré aujourd’hui (la généralisation du programme étant prévue en 2020). Parallèlement, cette tentative de domination se traduit néanmoins toujours par la mise en place de moyens de contrôle techniques et humains coercitifs, difficiles à surmonter pour les utilisateurs en Chine. Le développement de cette politique protéiforme de « maintien de la stabilité » se reflète d’ailleurs dans la croissance rapide de son budget, dépassant depuis 2012 celui de la défense nationale. Il est donc clair que les internautes sont très conscients de la surveillance visible et invisible dont ils font l’objet. Cette surveillance est présentée par le gouvernement comme une responsabilisation des acteurs dans l’espace public, les incitant à se comporter correctement, en ligne et dans la vie réelle, sous peine de sanctions plus ou moins sévères. Face à un totalitarisme qu’on croyait «essoufflé» à la fin du mandat de l’ex-président Hu Jintao, la succession des campagnes d’arrestations massives depuis l’arrivée au pouvoir du président Xi Jinping (450 cyberdissidents pendant l’été 2013) confirme cette fuite en avant du Parti, prêt à dépenser l’argent public sans compter pour pérenniser sa place au pouvoir.
Références
Yan CHEN, « Les médias chinois, entre le marché et la censure », In : Revue Études, Tome 401, Paris, SER, 2004, pp.309-319
Christopher R HUGHES, « Pourquoi internet ne démocratisera pas la Chine », In : Critique internationale, n°15, Paris, Presses de Science Po, avril 2002, pp. 85-104
Evgeny MOROZOV, The Net Delusion: The Dark Side of Internet Freedom, New York, Public Affairs, 2011
Jean-Louis ROCCA, La Société chinoise vue par ses sociologues, Presse de Sciences Po, 2008
Anne SOËTEMONDT, J’ai travaillé pour la propagande chinoise, Ed. du Moment, 2011
Source : https://larevuedesmedias.ina.fr/cybercontrole-en-chine-lomni-surveillance-lere-du-numerique
Source: Lire l'article complet de Les 7 du Québec
