L'IA-tocratie en Chine : quand l'intelligence artificielle renforce la répression

Historiquement, face à l'innovation technologique, les régimes autoritaires font souvent de la résistancerésistance. Dans pratiquement tous les cas, les révolutions technologiques sont perçues comme des éléments de déstabilisation venant affaiblir le pouvoir. Au bout du compte, en ne s'engageant pas dans l'innovation, ces pays finissent tôt ou tard par décliner, du moins économiquement dans un premier temps. C'est une généralité mais, en étudiant le cas particulier de la Chine, des chercheurs du Massachusetts Institute of Technology (MIT), de la National Science Foundation, de l'Université d'Harvard et d'autres institutions britanniques, ont pu constater que le pays tire partie de l'innovation pour mieux contrôler les populations dissidentes et assurer son développement économique.

Dans l'Empire du Milieu, les technologies autour de la reconnaissance faciale dopée aux intelligences artificielles, sont déployées massivement par le gouvernement depuis des années. Une façon de réprimer et de limiter les protestations. C'est ainsi que, dans le cadre de leur étude, les scientifiques ont découvert que, dans les points les plus « tendus » de Chine, il y a plus d'achats gouvernementaux de ces systèmes d'identification des populations boostés à l'IA.

Il apparait que, si le régime investit énormément dans ces IA pour assurer son contrôle politique, cela a également pour effet de stimuler l'innovation pour l'exporter à l'international. Les chercheurs ont baptisé ce phénomène l'IA-tocratie. Autrement dit, les développements de l'IA servent à la fois à réprimer les contestations, tout en assurant la capacité d'innovation du pays.

Pour parvenir à consolider leur étude, l'équipe a exploité des données issues du projet GDELT (Global Database of Events, Language, and Tone)). Ce projet vient enregistrer les flux d'actualités à l'échelle mondiale. Ainsi, 9 267 troubles politiques locaux étaient répertoriés entre 2014 et 2020 dans le pays. Ils ont mixé ces données avec près de 3 millions de contrats publics émis par le gouvernement entre 2013 et 2019. Il en ressortait que l'achat par les autorités locales de caméras et de systèmes de reconnaissance faciale assistée par IA avaient systématiquement augmenté quelques mois à la suite d'un épisode de troubles publics dans ces régions.

  

En haut, les zones de troubles locaux dans certaines régions de Chine. En bas, les investissements en matière de systèmes de reconnaissance faciale animés par IA. © The Quarterly Journal of Economics

Faire taire l’opposition développe l’innovation

Savoir si l'utilisation de ces équipements a permis de mieux faire taire les oppositions reste difficile à savoir, même si les chercheurs estiment que c'est le cas. D'après leurs conclusions, les technologies étaient déployées lorsqu'il y avait des manifestations. À chaque fois, le niveau de protestation s'est retrouvé réduit. Pour ce qui est du développement économique dû à ces équipements, il est apparu que les entreprises qui obtiennent les marchés conçoivent près de 50 % de plus d'outils technologiques les deux années suivantes.

Autrement dit, ce coup de pouce gouvernemental vers plus d'autoritarisme donne un véritable coup de fouet au développement des technologies et notamment celles autour des IA. Une croissance qui n'aurait pas pu exister autrement selon l'étude. Les chercheurs vont maintenant plancherplancher plus précisément sur certaines de leurs conclusions et en particulier, l'exportation de ces technologies avancées.

Selon eux, la commercialisation de ces outils de reconnaissance faciale à l'étranger montre déjà que la répression gouvernementale pourrait bien devenir un phénomène mondial. En France, la tentation autour de ces outils est forte, comme en témoigne au travers de la loi dite JO 2024, l'expérimentation de caméras douées de systèmes de reconnaissance faciale lors des grandes manifestations publiques. Dernièrement, le Sénat votait pour une utilisation de ces systèmes animés par IA pour une surveillance en temps réel dans l'espace public. Une intention qui va à l'encontre d'une décision de l'Union européenne qui mise plutôt sur un encadrement strict de l'usage des IA pour mieux surveiller les populations.