La bataille pour l’hégémonie internationale ne s’est pas arrêtée avec la chute du Reichstag en 1945 ou de l’Union soviétique en 1991 – elle s’est simplement déplacée en ligne. Aujourd’hui, les États et leurs acteurs mènent une guerre froide numérique avec les systèmes d’intelligence artificielle au cœur du combat. Comme l’a déclaré le président russe Vladimir Poutine en 2017, «quiconque deviendra le leader dans ce domaine deviendra le dirigeant du monde».

Dans AI T-Minus, premier président de l’US Air Force pour l’intelligence artificielle, Michael Kanaan examine l’émergence de l’IA en tant qu’outil de maintien et d’extension du pouvoir de l’État. La Russie, par exemple, fait pression pour l’IA dans tous les aspects de son complexe militaire, tandis que la Chine, comme vous pouvez le voir dans l’extrait ci-dessous, a adopté une approche plus holistique, la technologie infiltrant pratiquement toutes les couches de la société chinoise.

Livres BenBella

Extrait avec la permission de T-Minus AI: le compte à rebours de l’humanité vers l’intelligence artificielle et la nouvelle poursuite du pouvoir mondial (BenBella Books, 2020)

Avec l’avancée de la technologie du XXIe siècle, l’œil vigilant de l’autorité du Parti communiste est devenu encore plus pénétrant. Les méthodes numériques de censure, de surveillance et de contrôle social sont devenues des parties intégrantes incontournables de la société chinoise. Ces méthodes fournissent le Parti communiste, qui essentiellement est l’État, qui a des yeux, des oreilles et une influence puissants sur la plupart des aspects de la vie de ses citoyens.

Encore une fois, et comme indiqué, je ne critique pas le peuple chinois lui-même, ni ne suggère que la Chine est entièrement seule à surveiller sa population. La mesure et le degré incontrôlé dans lesquels la Chine le fait, cependant, sont bien au-delà de toute notion occidentale de sécurité nationale ou de justification locale du contrôle de la criminalité pour le faire.

L’état de surveillance activé par l’IA qui émerge en Chine résulte de l’adoption par le gouvernement de l’IA à une vitesse, une portée et une échelle difficiles à imaginer. Une grande partie de cela est rendue possible par la taille et les caractéristiques géographiques changeantes de la population chinoise elle-même. Comme nous l’avons évoqué brièvement au chapitre 8, la population totale de la Chine, soit 1,4 milliard d’habitants, est la plus importante au monde. Plus pertinent pour le développement et l’application des applications chinoises en évolution de l’IA, cependant, est que d’énormes concentrations de population chinoise sont entraînées, pour diverses raisons de réforme, dans des centres urbains et des villes massifs et en croissance rapide. En 2019, la Chine compte plus de 65 villes peuplées de plus d’un million d’habitants chacune, et le nombre de ces villes dépasse 100 lorsque les zones métropolitaines sont incluses. En revanche, les États-Unis ne comptent que 11 villes dont la population dépasse le million. La plus grande ville des États-Unis, New York, comptait 8,6 millions d’habitants en 2019. En comparaison, plus de 26 millions de personnes vivent dans la région métropolitaine de Shanghai, la plus grande ville de Chine. Au total, la Chine compte sept villes nettement plus grandes que New York et 22 villes plus grandes que Los Angeles, la deuxième métropole la plus peuplée d’Amérique.

La consolidation des citoyens chinois dans d’énormes zones métropolitaines croît à un rythme astronomique. Des centaines d’usines et de centres technologiques sont actuellement en cours de construction et de déménagement dans des zones urbaines concentrées qui, ensemble, offrent un nombre inégalé de nouveaux emplois et de possibilités de perfectionnement des compétences. Au-delà de cela, le gouvernement construit rapidement des complexes de logements et offre une foule d’améliorations et d’avantages économiques et de style de vie qui encouragent et motivent les délocalisations massives. En raison d’un financement gouvernemental remarquablement bien coordonné, de plans d’ingénierie élaborés de manière efficace et de délais de construction ultra-rapides, il est prévu que d’ici 2025, la Chine comptera plus de 220 villes avec une population d’un million d’habitants ou plus. Dans l’ensemble, l’objectif est qu’un milliard de personnes, soit 70% de la population totale de la Chine, vivra dans plus de 400 grandes villes d’ici 2030.

Et ce n’est pas seulement le nombre de mégapoles chinoises qui mérite une admiration comparative; c’est l’état avancé de la technologie qui leur est intégrée et les objectifs auxquels ces technologies sont destinées qui méritent l’attention du monde. En 2018, plus de 200 millions de caméras en circuit fermé surveillées par le gouvernement avaient été installées aux intersections, coins de rue, passages pour piétons, parcs, aires de loisirs, marchés commerciaux, centres commerciaux, entrées d’immeubles de bureaux, musées, attractions touristiques, lieux de divertissement, stades sportifs, banques, supports à vélos, terminaux de bus, gares ferroviaires, quais d’expédition et aéroports. D’ici 2021, le nombre total de caméras de surveillance devrait dépasser les 400 millions, soit près d’une pour trois citoyens chinois. Alimentées par des programmes de reconnaissance faciale d’apprentissage automatique, les caméras sont directement liées aux gouvernements locaux, aux forces de l’ordre et à d’autres agences, ce qui permet aux autorités d’identifier électroniquement les citoyens, de les suivre et de les surveiller, et de compiler des profils d’activité sur les individus ciblés et les citoyens ordinaires. Des objectifs raisonnables de maintien de l’ordre et de prévention du crime pourraient sans doute justifier, pour certains, la portée d’une telle surveillance. Mais l’utilisation par le gouvernement chinois de son vaste système de caméras va bien au-delà – du moins du point de vue occidental – de toute légitimité discutable. Si le contrôle de la criminalité, les contraventions et les arrestations découlent de ce que montrent les caméras, il en va de même pour un large éventail de contrôle social imposé par le gouvernement, de honte sociale et de suivi des citoyens. D’énormes panneaux d’affichage numériques construits à côté des passages pour piétons, par exemple, affichent les photos et les noms d’individus qui jaywalk, obtiennent une contravention ou ont des amendes de stationnement impayées. En tant que population fière de sa réputation, la stratégie sans faille du gouvernement de stigmatiser socialement sa population est extrêmement efficace. Et bien que de nombreux citoyens chinois considèrent sans aucun doute ces aspects du système de surveillance comme un échange inévitable, voire positif, contre les avantages que la technologie leur offre autrement, ils n’ont finalement pas leur mot à dire en la matière de toute façon – politiquement ou autrement.

Lire aussi  Les responsables de Portland interdisent strictement les systèmes de reconnaissance faciale

Le suivi des activités physiques à l’aide de caméras n’est cependant qu’un début. L’influence et le contrôle de la Chine s’étendent également de manière invasive à l’utilisation d’Internet par les gens et à leurs appareils numériques personnels. Le marché chinois de l’Internet et du numérique est principalement contrôlé par trois géants de la technologie d’entreprise – Baidu, Alibaba et Tencent (appelés collectivement «BAT»). Individuellement, ils sont à peu près équivalents à Google, Amazon et Facebook. Baidu est une entreprise chinoise avec une présence et une portée mondiales importantes. Basé à Pékin, il se spécialise dans les services Internet et l’IA, et il fournit le deuxième plus grand moteur de recherche au monde, juste derrière Google – qui est bloqué en Chine depuis 2010. Alibaba est un énorme conglomérat chinois basé à Hangzhou qui se spécialise dans l’e -commerce, services Internet et technologie. Et Tencent, dont il a été question plus haut au chapitre 7, est un géant chinois basé à Shenzhen, spécialisé dans le divertissement sur Internet, les services de messagerie sociale, les jeux et l’IA.

En 2019, Tencent, Alibaba et Baidu se classaient respectivement aux troisième, cinquième et huitième plus grandes entreprises Internet au monde. Ensemble, leur puissance et leur portée sont colossales – en particulier en ce qui concerne l’IA. On estime actuellement que plus de la moitié de toutes les entreprises chinoises impliquées de quelque manière que ce soit dans la recherche, le développement ou la fabrication d’IA ont des liens de propriété ou de financement directement liés à l’un des trois.

En Chine, il n’existe pas de véritable séparation entre le secteur public et le secteur privé, du moins pas du tout en se rapprochant du concept occidental de séparation entre le gouvernement et l’entreprise commerciale. Indépendamment de la structure formelle de leur propriété, les entreprises chinoises sont soumises à une influence mandatée et directe du Parti communiste. 

Ses plus grandes entreprises, y compris les grands géants de la technologie Baidu, Alibaba et Tencent, sont tenues d’avoir des comités du Parti communiste au sein de leurs organisations. Cela donne à la fois au parti et au gouvernement central la possibilité d’obtenir et d’influencer toutes les stratégies, la recherche, la propriété intellectuelle et les données générées par les entreprises. De plus, conformément à la loi chinoise de 2014 sur le contre-espionnage et à sa loi nationale de 2017 sur le renseignement, toutes les entreprises sont formellement tenues de «soutenir, assister et coopérer» avec le réseau de renseignement de l’État, ce qui les rend effectivement incapables de protéger les données et informations que le gouvernement demandes. Nous reviendrons plus loin dans ce chapitre sur les implications que cela a sur la technologie chinoise utilisée en dehors de ses frontières.

Les Occidentaux supposent souvent à tort que le contenu auquel ils peuvent accéder sur Internet est essentiellement le même que celui dont disposent les résidents d’autres pays. Mais c’est totalement faux, et le contrôle de la Chine sur son Internet en est l’un des exemples les plus flagrants. Souvent appelé le grand pare-feu de Chine, le gouvernement bloque non seulement les sites Web qui ne sont pas conformes à son contenu et à ses messages autorisés, mais il surveille et gère également systématiquement l’utilisation d’Internet par les individus en général. De nombreux Chinois contournent la censure et les restrictions d’accessibilité du gouvernement en se connectant à Internet ouvert via des VPN sécurisés (réseaux privés virtuels) qui les connectent à des ordinateurs en dehors de la Chine continentale. Cependant, les VPN sont de plus en plus difficiles à obtenir et les citoyens chinois risquent d’importantes représailles du gouvernement s’ils sont surpris en utilisant un.

Lire aussi  Frapper les livres: comment les médias sociaux nous font toujours cliquer

Au-delà de la censure et de la surveillance d’Internet, la Chine surveille également ses masses en collectant des données à partir de leurs appareils personnels, notamment leurs appareils mobiles et les applications sur lesquelles elles comptent pour mener leurs activités quotidiennes. Depuis 2015, la Chine développe un «système de crédit social» alimenté par l’intelligence artificielle qui devrait être un parapluie unifié et pleinement opérationnel couvrant les 1,4 milliard de personnes d’ici 2022. Le système est destiné à collecter toutes les formes de données numériques afin pour calculer la «fiabilité sociale» des citoyens individuels, puis les récompenser ou les punir en autorisant ou en restreignant diverses opportunités et droits en fonction de leurs scores. Le but formel et publiquement déclaré du système est de «permettre aux dignes de confiance de se promener partout sous le ciel tout en empêchant les discrédités de faire un seul pas». Un slogan supplémentaire du parti pour le système est «Une fois discrédité, limité partout». Les analogies avec le roman de George Orwell 1984, et ses thèmes de dépassement du gouvernement et de la réglementation du comportement social de Big Brother sont difficiles à nier.

Grâce à des programmes d’IA intégrés aux plates-formes Internet et aux applications mobiles, le système de crédit social est destiné à éventuellement suivre et collecter des données liées à presque tout ce qu’un individu fait. Dans presque tous les aspects, les citoyens chinois orchestrent leur vie grâce à leurs téléphones. Dans l’ensemble, la Chine est devenue une société sans numéraire et presque toutes les transactions sont exécutées grâce à la technologie numérique mobile. L’application WeChat de Tencent est presque inconnue en dehors de la Chine et de l’Asie du Sud-Est, mais en Chine, elle compte une base d’utilisateurs mobiles de plus d’un milliard de personnes. Souvent décrite comme la super application du monde, WeChat est utilisée pour tout, de la messagerie texte, audio et vidéo à la recherche d’informations, aux achats, aux opérations bancaires, aux finances personnelles et à la gestion des dossiers médicaux. Il s’agit d’une compilation, dans une seule application, de Google, Facebook, Amazon, PayPal, Instagram, Uber et un certain nombre d’autres applications sociales et transactionnelles auxquelles vous pouvez penser. Cumulativement, il offre aux citoyens chinois une méthode simple pour gérer presque tous les aspects de leur vie. Mais il fournit également aux entreprises contrôlées par l’État, aux gouvernements locaux et au Parti communiste un moyen d’examiner les détails de la vie des citoyens individuels qui, selon toute norme démocratique, ne seraient jamais tolérés.

Les comptes bancaires chinois sont directement liés à WeChat et les transactions sont effectuées par paiement direct et mobile (utilisant désormais la vérification du visage). L’historique des transactions et les coordonnées bancaires des utilisateurs sont accessibles au fournisseur de l’application. et, par conséquent, au gouvernement lui-même. Même dans la conduite de leurs activités quotidiennes hors ligne, presque tous les achats sont effectués par téléphone. Pour les achats et les paiements de toutes sortes – y compris la nourriture dans les épiceries et les restaurants, les biens et produits dans les magasins de détail et les marchés, la location de vélos et de voitures, les billets de divertissement et de transport, les hypothèques mensuelles, les paiements de location d’appartement, les factures de services publics et même les taxes gouvernementales – les paiements sont effectués de la même manière, généralement en scannant des codes-barres carrés à deux dimensions, communément appelés codes QR. Toutes ces transactions, traitées numériquement et immédiatement traçables et enregistrées à tout jamais, rendent les informations concernant les finances individuelles, les habitudes de dépenses et la situation financière disponibles et collectables par les systèmes qui alimentent le calcul des scores de «fiabilité sociale» par le gouvernement.

Lire aussi  Elon Musk taquine la révélation d'un `` dispositif Neuralink fonctionnel '' le 28 août

Et les scores de crédit social des citoyens chinois ne sont pas uniquement affectés par leurs activités en ligne, leurs historiques d’achats et de paiement hors ligne et leur responsabilité fiscale apparente. Les comportements hors ligne et non financiers – à la fois personnels et sociaux – à la maison, au travail et dans la communauté sont également de plus en plus suivis et calculés. Les infractions sociales qui diminuent les scores de crédit social comprennent le tabagisme dans les lieux publics, la musique trop forte, l’envoi de SMS au volant, la consommation de drogues, l’achat d’alcool, l’ivresse en public, les disputes avec les conjoints, la diffusion d’informations considérées comme fausses ou inacceptables, l’épousement des croyances religieuses, le flânerie, les détritus, et même promener des animaux sans laisse. En substance, toute violation de normes sociales «acceptables» peut avoir un impact négatif sur la cote de crédit sociale d’une personne.

En conséquence, les citoyens chinois peuvent se retrouver sur liste noire ou autrement empêchés de louer des voitures, d’acheter des billets de train ou d’avion, d’obtenir des taux de prêt avantageux, d’acquérir une assurance, d’acheter un bien immobilier ou d’obtenir un logement abordable, de faire des investissements financiers et même de fréquenter des écoles préférées ou qualifier pour certains emplois et opportunités de carrière. Encore une fois, de nombreux Chinois considèrent ces restrictions comme des échanges équitables contre d’autres avantages gouvernementaux et technologiques. Il est important de comprendre, cependant, que la plupart de la population chinoise n’a jamais eu l’occasion de profiter de quoi que ce soit qui se rapproche du genre de droit à la vie privée généralement attendu et considéré comme fondamental dans les sociétés démocratiques. En raison de sa longue histoire de régime autoritaire, de nombreuses libertés fondamentales n’ont jamais été accordées en Chine en tant que droits absolus. Ils n’ont été fournis que, quand et le cas échéant, de l’autorité gouvernementale et seulement en échange de la conformité ou du silence social, une contrepartie. Ce que les citoyens des gouvernements démocratiques considèrent et réclament comme des droits indéniables, les citoyens chinois n’ont bénéficié que de compromis pour se comporter de manière cohérente avec l’idéologie du Parti communiste. C’est, après tout, un gouvernement qui a effectivement imposé une politique de l’enfant unique à tous les couples mariés de 1979 à 2015 – bien que, pendant certaines de ces années, les couples aient été autorisés à avoir un deuxième enfant, mais seulement si leur premier était une fille. En tout état de cause, les Chinois ne peuvent pas faire grand-chose pour modifier leur réalité. Comme cela a longtemps été la stratégie du Parti communiste, la conformité est la seule vraie option.

Et tout comme la technologie est utilisée pour informer les autorités des comportements non conformes, elle est également maintenant utilisée pour mesurer activement la preuve de conformité – dans certains cas, en suivant la consommation par les citoyens d’informations et de propagande du Parti communiste loyaliste. Début 2019, une application mobile appelée Xuexi Qiangguo a été publié par la branche de publicité du Parti communiste qui oblige les utilisateurs à s’inscrire en fournissant leurs numéros de téléphone portable et leurs noms complets. Traduit approximativement par «étudier Xi pour renforcer la nation», l’application permet aux utilisateurs de gagner des points «d’étude» en s’y connectant, en lisant des articles, en regardant des vidéos et des documentaires sur Xi Jinping et en répondant à des quiz à choix multiples sur ce qu’ils ont appris sur les politiques et les doctrines du parti. Des directives gouvernementales ont été publiées à la suite de la publication de l’application qui ont demandé au personnel du parti (ou aux cadres) et aux membres, qui sont au nombre de 90 millions, de télécharger l’application – avec de fortes suggestions qu’ils l’utilisent tous les jours pour augmenter leurs points, montrer leur loyauté et gagner des avantages. Xuexi Qiangguo est rapidement devenue l’application la plus téléchargée en Chine, et encore un autre outil d’efforts d’information de l’État et de contrôle social. Avant longtemps, les employés et les utilisateurs de l’application se sont retrouvés à passer de longues heures connectés, chaque jour, se sentant obligés par le parti, leurs employeurs et leurs collègues de gagner certains niveaux de points. Des informations ont révélé que les scores des individus étaient affichés comme un autre moyen de provoquer la honte sociale de ceux qui ne montrent pas ou ne prouvent pas une preuve suffisante de la loyauté au parti et des idéaux communistes.