Chronique du livre de Simone Pieranni, Red Mirror
Simone Pieranni dresse un portrait du paysage technologique de l’empire du Milieu. En tant qu’expatrié, l’auteur décrit une réalité qu’il a vu se dessiner et vécue de l’intérieur. Loin des clichés ou des représentations fantasmées d’une société panoptique, Red Mirror réussit à nous présenter une situation qui fait état du développement des technologies numériques en prenant soin d’apporter des éléments historiques et culturelles qui permettent de mieux appréhender le phénomène techno-sécuritaire qui se déroule sous nos yeux.
Le socialisme de marché n’a rien à envier au capitalisme de surveillance. La Chine dispose d’une économie tech particulièrement développée et des infrastructures puissantes permettant de soutenir la politique de contrôle de la population établie par le gouvernement du parti communiste chinois. Le pays est même un laboratoire d’idées pour la Silicon Valley et les GAFAM. Si dans les pays occidentaux, des entreprises comme Google ont réussi à s’implanter suffisamment profondément dans nos vies jusqu’à créer des confusions entre un moteur de recherche et le navigateur, on réalise que des entreprises technologiques chinoises comme Tencent ou Alibaba ont été bien plus loin. Avec l’application WeChat, la société Tencent a réussi la prouesse de gommer la frontière entre le smartphone et l’application.
« En Chine, le smartphone, c’est WeChat. Et WeChat sait tout sur tout le monde »
Tout mais absolument tout passe par cette application : commander un taxi, payer, commander à manger, discuter, se divertir, transférer de l’argent… Et depuis peu, elle est utilisée pour le passeport vaccinal dans le cadre de la lutte contre le covid 19. Cet écosystème ultra complet qu’a réussi à construire WeChat correspond tout à fait aux intentions de Mark Zuckerberg qui souhaiterait la même chose pour Facebook. Le rachat de WhatsApp et d’Instagram s’inscrit totalement dans cette logique. De même, Lybra, le projet de cryptomonnaie de Facebook, vise à permettre aux utilisateurs de pouvoir réaliser des achats au sein des applications contrôlées par Facebook. En outre, la réponse de Zuckerberg aux critiques sur l’exploitation des données personnelles consistant à s’appuyer davantage sur les groupes est une stratégie directement inspirée de WeChat pour donner l’illusion aux utilisateurs d’être dans des espaces privés. A l’heure où des réseaux sociaux centrés sur la voix, comme Clubhouse ou Twitter Spaces, émergent, la Chine a une décennie d’avance dans ce domaine. Depuis 2011, les Chinois s’envoient des messages vocaux… depuis WeChat. Le développement précoce de ces services s’est également fait au détriment d’autres qui sont plus répandus dans les pays occidentaux. En effet, Simone Pieranni explique que le courrier électronique est très peu utilisé en Chine.
La dimension sociologique et historique du livre permet de mieux comprendre la situation de la Chine et de ses rapports à la technologie. Une succession d’événements a participé à définir le rôle et la place qu’occupe aujourd’hui la Chine, au niveau mondial, dans le secteur des technologies de contrôle et de l’intelligence artificielle. L'application WeChat est apparue quelques années après la crise économique de 2008 qui a bouleversé les économies occidentales. Par ricochet, « l’atelier du monde » a été touché par la récession des pays occidentaux. Face à la baisse des exportations, l’Etat chinois, en la personne de son nouveau président Xi Jinping, a fait le choix d’investir très tôt dans les technologies. L’Etat chinois investit massivement dans la recherche et dans la robotisation de la production.
Ce concours de circonstances a profité à des acteurs comme Tencent qui accumulent depuis des années, par l’intermédiaire de WeChat, une multitude de données sur la population. Ces entreprises sont assises sur un matelas de données qui sont utilisées pour alimenter le développement de l’intelligence artificielle et pour servir les intérêts de l’Etat. Si Edward Snwoden a révélé la collusion entre les GAFAM et les services de renseignements américains, la Chine n’est pas en reste. Le gouvernement chinois exerce un contrôle très fort sur les entreprises nationales. Les logiques de captation et de contrôle des données sont finalement assez similaires.
Si la surveillance accrue exercée par l’Etat sur la population chinoise choque les occidentaux, l’auteur explique que cette accoutumance à la surveillance trouve son origine dans une période plus lointaine de l’histoire de la Chine. En effet, la culture de la surveillance entre voisins est ancrée dans le pays. Dès l’époque impériale, « les habitants étaient divisés en groupe de 5 ou 10 familles qui travaillaient ensemble et se surveillaient mutuellement » (p.53). Les caméras et la reconnaissance faciale se sont développées sur un terreau favorable. Le gouvernement chinois a pris la mesure de ce phénomène et a compris l’enjeu notamment économique de développer le marché de la sécurité publique. Les provinces dans lesquelles sont conduites des expérimentations sécuritaires sont devenues des showrooms des technologies sécuritaires prêtes à être vendues aux pays occidentaux. Mais ce contrôle s’exerce aussi dans la tradition de la société chinoise. « Pour retracer l’origine du panoptique chinois actuel (…) nous devons remonter aux années 1970. » (p.145). Les technologies modernes ne sont finalement qu’un instrument supplémentaire de contrôle pour le Parti.
Les entreprises chinoises ont d’ailleurs déjà réussi à investir les marchés occidentaux y compris dans des secteurs stratégiques comme la défense. La récente polémique contre Huawei en est un exemple concret. Même si le gouvernement américain a interdit l’utilisation de matériel chinois par peur de la surveillance ou d’espionnage, les caméras sont tout de même répandues sur le territoire américain en raison de leur prix et de la puissance de la technologie embarquée dans ces yeux électroniques.
En effet, d’après Simone Peranni, la Chine dispose d’une avance considérable en matière de reconnaissance faciale. Si elle a sous la main une grande quantité de données qui servent à entraîner ses algorithmes, elle possède aussi une hétérogénéité des échantillons qui lui permettent d’être bien plus précise dans l’identification des individus. Contrairement à d’autres solutions, notamment nord-américaine, la reconnaissance faciale développée par les entreprises chinoises commettrait moins d’erreurs pour identifier les personnes noires. La Chine tire cet avantage concurrentiel de sa politique impérialiste et des relations commerciales qu’elle a pu construire avec différents pays du continent africain. Ainsi, en vendant ses technologies à des pays autoritaires friands des technologies de contrôles, la Chine a pu étendre son hégémonie et collecter des données utilisées pour améliorer ses technologies.
« Le système de surveillance chinois est actuellement l’un des plus avancés de la planète et l’objectif du débarquement au Zimbabwe est d’améliorer son savoir-faire pour rendre ses produits encore plus compétitifs sur le marché international : l’introduction de la technologie sur une population majoritairement noire permettra aux entreprises chinoises d’identifier plus clairement les autres groupes ethniques, dépassant ainsi les développeurs américains et européens. »
Le livre aborde également des questions sociales et traite de la situation politique des travailleurs chinois et notamment des ouvriers qui construisent les smartphones. Contrairement à ce qu’on pourrait imaginer les ouvriers chinois exploités qui assemblent les appareils électroniques sont prompts à s’engager dans des batailles pour faire valoir leurs revendications. Ironie de l’histoire, le smartphone est un outil privilégié par les travailleurs pour organiser leurs luttes (p.101). C’est l’occasion de rappeler que les profits et les dividendes versés aux actionnaires des entreprises occidentales sont le produit de l’exploitation et de la sueur des ouvriers Chinois, Tchèques ou Turques. Dans tous les pays où Foxconn est implantée.
« Il est bon de le souligner, les luttes des travailleurs de la haute technologie ont commencé en Chine. Pas en Europe ni aux Etats-Unis . » (p.81).
Simone Pierrani déconstruit le mythe de l’intelligence artificielle en détaillant les coulisses de ce secteur qui repose sur une armée de travailleurs du clic qui passent leur journée à taguer des contenus pour améliorer les IA. Les OS d’aujourd’hui ont troqué les établis et les chaînes de productions pour des ordinateurs sur lesquels ils effectuent des micro-taches répétitives pour vendre le mythe d’une IA surdéveloppée aux consommateurs occidentaux. La Chine poursuit le projet de devenir leader dans ce secteur et investit énormément pour y parvenir. Elle a d’ailleurs lancé son programme de développement de l’IA en 2017 pour atteindre cet objectif.
La Chine est le reflet dystopique des fantasmes panoptiques que projette l’Occident. En haut de la liste, il y a évidemment le système de crédit social (SCS). A la lecture de ce livre, on découvre que ce dispositif de contrôle est apprécié de la population (dans certains cas comme à Rongcheng). Ce modèle s’inspire de la pensée confucéenne qui considère que « la crainte de la honte, plus que les lois, qui incitait les hommes à suivre correctement les règles. » Il n’y a pas de SCS unifié à l’échelle du pays mais plusieurs modèles s’expérimentent et cohabitent dans différentes provinces chinoises. Ce modèle est aussi l’occasion pour l’Etat de combler les lacunes en matière de collecte de données aussi surprenant que cela puisse paraître. Les habitants ne sont pas les seuls à être soumis à ce système. Les entreprises aussi sont sujettes à un crédit social. Cette décision est apparue comme une réponse à la défiance de la population envers les entreprises.
Les difficultés que peuvent vivre les personnes qui sont fichées ou ont un mauvais score ont déjà été rapportées par la presse occidentale pour pointer du doigt le SCS. Les individus qui sont inscrits sur la liste des personnes malhonnêtes peuvent se voir interdire d’acheter un billet d’avion, certains produits de luxe ou de bénéficier d’un prêt immobilier. En 2016, on estime que 4,9 millions de personnes « se sont vues interdire de voyager en avion » (p.133). Les personnes peuvent essayer de récupérer des points en réalisant de bonnes actions. Parmi la liste des actions possibles certaines font penser à 1984 de Georges Orwell comme par exemple la participation à des initiatives du Parti. En effet, cela ressemble aux soirées organisées par Big Brother auxquelles participe Winston certains soirs.
La perception des occidentaux est biaisée et comme le rappelle l’auteur, les mesures prises par la Chine ne sont pas si éloignées que celles prises par certains pays démocratiques. Et de citer l’exemple de l’interdiction de participer à certaines manifestations sportives en Italie prise contre certains supporters. Ce qui distingue le modèle chinois est la disproportionnalité des peines. La grande force de ce livre est de pouvoir parler de la place de la technologie dans la société chinoise depuis l’intérieur. L’expérience de l’auteur est cruciale pour tenter de saisir les mécanismes à l’oeuvre et la réalité vécue par 1,4 milliard d’individus. Les intentions politiques (en particulier contre les Ouïghours extrêmement confrontés aux technologies de surveillance) de l’État et la rapidité de l’évolution de la place des technologies, amplifiée par la crise sanitaire du coronavirus, devraient nous aider à interroger nos sociétés et le développement des technologies de contrôle qui font actuellement débat.
Je m'abonne