Une nouvelle recherche de Harvard explore les risques d'événements catastrophiques liés à l'IA

En bref: Un nouvel article de recherche conclut qu'éviter des événements catastrophiques majeurs liés à l'intelligence artificielle reste possible, mais que cela exige une action décisive de la part des entreprises d'IA et des gouvernements. Les conclusions reposent sur une analyse prédictive et des avis d'experts plutôt que sur la preuve définitive d'un désastre imminent.

Alors que l'intelligence artificielle gagne en puissance chaque jour, des experts s'efforcent de trouver comment empêcher la technologie de causer des dommages massifs dans le monde réel avant qu'il ne soit trop tard.

Ce qui s'est passé, en mots simples

Des chercheurs du Belfer Center for Science and International Affairs de la Harvard Kennedy School ont publié un nouvel article explorant les menaces et vulnérabilités actuelles liées aux modèles avancés d'intelligence artificielle. L'informaticien et co-auteur Stephen Casper a expliqué que le projet a utilisé un exercice prédictif appelé pré-mortem pour étudier la manière dont un désastre majeur pourrait se produire. L'article prévient que des incidents dangereux pourraient survenir d'ici quelques mois ou un an ou deux, à moins que les entreprises technologiques et les gouvernements ne fassent des choix prudents dès maintenant. Des événements récents, notamment des agents malveillants ayant infiltré divers systèmes aux États-Unis et en Australie, ont déjà poussé le public et les décideurs politiques à prêter une plus grande attention à ces risques graves.

Points clés

Définition de seuils catastrophiques: La recherche définit un incident terroriste majeur favorisé par l'IA comme un événement causant plus de 50 morts ou blessés graves, ou plus d'un milliard de dollars de dégâts. Ces chiffres correspondent aux définitions existantes utilisées dans certaines lois sur l'intelligence artificielle de frontière.
Modèles ouverts versus fermés: Les modèles à poids fermés, où les développeurs contrôlent l'ensemble des points d'accès, peuvent être sécurisés très efficacement à l'aide d'outils de sécurité. En revanche, les modèles à poids ouverts et les modèles fermés mal protégés sont beaucoup plus difficiles à sécuriser et constituent l'origine probable de la plupart des menaces au niveau des incidents.
Le danger des systèmes non censurés: Les utilisateurs peuvent télécharger des modèles ouverts et supprimer leurs filtres de sécurité via un processus pouvant coûter au maximum des centaines ou quelques milliers de dollars. Des milliers de modèles non censurés existent déjà en ligne et ne refusent pas les requêtes malveillantes.
Capacités cybernétiques avancées: Certaines capacités actuelles de l'intelligence artificielle surpassent déjà les performances humaines en matière d'attaques cybernétiques persistantes et de détection de vulnérabilités. Cela pourrait permettre à des acteurs d'organiser des attaques à grande échelle de type essaim contre des entreprises et des infrastructures importantes.

Termes expliqués

IA de frontière — Les systèmes d'intelligence artificielle les plus récents et les plus avancés disponibles. Exemple: Un tout nouveau programme informatique capable d'écrire du code bien plus rapidement que n'importe quel programmeur humain.
Modèle à poids ouverts — Système d'intelligence artificielle dont les instructions internes sous-jacentes sont partagées publiquement afin que n'importe qui puisse les télécharger et les modifier. Exemple: Un livre de recettes public qui permet à n'importe quel boulanger de modifier les ingrédients comme il le souhaite.
Modèle à poids fermés — Système d'intelligence artificielle dont les créateurs conservent le contrôle total de l'accès et des paramètres internes. Exemple: Un coffre-fort numérique de haute sécurité que seuls les ingénieurs de l'entreprise d'origine peuvent ouvrir.
Pré-mortem — Exercice de planification au cours duquel un groupe imagine qu'un événement indésirable s'est déjà produit et remonte le fil pour en déterminer la cause. Exemple: Une équipe de constructeurs imaginant que leur pont s'est effondré avant même de le construire, dans le seul but de trouver les points faibles.

Analyse critique

Ce qui est encourageant. La recherche offre un regard structuré et réfléchi sur des vulnérabilités spécifiques de la technologie actuelle et met en avant des mesures concrètes que les développeurs et les législateurs peuvent prendre dès à présent pour réduire les risques de catastrophe.

Ce qui appelle à la prudence:

Basé sur un exercice de scénario. L'article s'appuie sur un pré-mortem prédictif et des discussions d'experts plutôt que sur des preuves irréfutables d'une attaque planifiée. Cela signifie que les scénarios sont des possibilités imaginées et non des issues garanties.
Incertitude quant aux risques biologiques et chimiques. Il existe moins de recherches publiques sur les menaces biologiques et chimiques, et aucun incident majeur n'a encore eu lieu dans ces domaines. Les auteurs admettent ne pas connaître précisément le niveau de danger que ces capacités pourraient atteindre si elles étaient pleinement exploitées.
Généralisations sur les échéances futures. La chronologie suggérant des risques crédibles d'ici quelques mois ou un an ou deux repose sur les tendances actuelles et non sur un calendrier fixe. Il est difficile de prédire avec certitude les prochains événements exacts.

En conclusion: Bien qu'un événement catastrophique lié à l'intelligence artificielle ne soit pas garanti, les chercheurs avertissent que des mesures de sécurité urgentes sont nécessaires pour empêcher que de graves risques ne deviennent réalité.

Ce que l'on ne sait pas encore

La source ne détaille pas l'ensemble des outils de sécurité, ne fournit pas non plus de feuille de route complète pour la réglementation internationale et ne garantit ni la date ni la manière exacte de la prochaine faille de sécurité.

D'après un article de Harvard Gazette. Ceci est une explication indépendante, rédigée avec nos propres mots et l'aide d'une IA ; Harvard Gazette ne l'a ni relue ni approuvée. Consultez l'original pour tous les détails.