Comment l'intelligence artificielle renforce et met en péril les dictateurs

En bref: Les dictateurs utilisent l'intelligence artificielle pour surveiller les citoyens, censurer l'information et remplacer les bureaucrates humains. Cependant, cela crée une nouvelle dépendance envers un petit groupe d'ingénieurs spécialisés qui assurent la maintenance de la technologie.

Lorsqu'un présentateur de journal télévisé russe est apparu à l'antenne en octobre 2024, les téléspectateurs ont vu un visage qui n'existait pas réellement, généré entièrement par un logiciel informatique.

Ce qui s'est passé, en mots simples

Les auteurs Bruce Schneier et Seva Gunitsky ont examiné comment les dirigeants autocratiques utilisent l'intelligence artificielle pour maintenir le contrôle. Des gouvernements de pays comme la Chine, la Russie et les Émirats arabes unis emploient l'intelligence artificielle pour automatiser le travail gouvernemental, filtrer le contenu, suivre les fonctionnaires et identifier les manifestants. Bien que cette technologie aide les dirigeants à surveiller leurs subordonnés et à réduire le personnel, les auteurs soulignent qu'elle ne crée pas un État véritablement autonome.

Points clés

Résoudre le dilemme de la loyauté: Traditionnellement, les autocrates avaient du mal à donner du pouvoir à leurs subordonnés sans risquer la trahison, choisissant souvent des fonctionnaires médiocres pour garantir leur loyauté. L'intelligence artificielle offre un moyen de surveiller les partisans en temps réel et d'automatiser les tâches sans dépendre du jugement humain.
La surveillance en action: La Chine et la Russie utilisent des caméras de reconnaissance faciale, la collecte automatisée de données et des scanners de contenu par intelligence artificielle tels qu'Oculus pour surveiller les citoyens, réprimer la dissidence et suivre les fonctionnaires régionaux.
Remplacer les fonctionnaires: Les gouvernements explorent des systèmes pour rédiger des lois, délivrer des permis et remplacer des fonctionnaires. Par exemple, les Émirats arabes unis ont annoncé que des agents autonomes d'intelligence artificielle prendraient en charge la moitié des opérations fédérales d'ici deux ans.
Une nouvelle élite technologique: Les systèmes d'intelligence artificielle nécessitent des ingénieurs qualifiés et des data scientists pour les construire et les maintenir. Les dirigeants politiques ne comprenant pas cette technologie complexe, ils deviennent profondément dépendants d'un petit groupe de travailleurs techniques.

Termes expliqués

Intelligence artificielle — Systèmes informatiques conçus pour accomplir des tâches qui nécessitent généralement la réflexion humaine, comme la reconnaissance des visages ou le traitement du langage. Exemple: Un logiciel qui trie automatiquement des milliers d'images en ligne pour trouver des sujets interdits spécifiques.
Autocratie — Système de gouvernement où le pouvoir absolu est détenu par un seul dirigeant ou un petit groupe. Exemple: Une nation où un seul dirigeant élabore toutes les lois sans avoir besoin de l'approbation d'un parlement élu.
Algorithme — Ensemble d'instructions étape par étape ou de règles qu'un ordinateur suit pour résoudre un problème ou accomplir une tâche. Exemple: Une liste de contrôle numérique qu'un programme utilise pour décider quelles habitudes de dépenses semblent suspectes.

Pourquoi c'est important

Comprendre comment la technologie influence le contrôle politique aide à expliquer les tendances mondiales en matière de surveillance, de censure numérique et de cybersécurité.

Ce que l'on ne sait pas encore

L'essai discute des tendances initiales et des outils actuellement déployés par des gouvernements spécifiques, mais la stabilité à long terme et le succès pratique de ces systèmes de gouvernance automatisés restent incertains.

D'après un article de Bruce Schneier. Ceci est une explication indépendante, rédigée avec nos propres mots et l'aide d'une IA ; Bruce Schneier ne l'a ni relue ni approuvée. Consultez l'original pour tous les détails.