Qui décide des dangers de l'intelligence artificielle ?

En bref: La société façonne la manière dont nous craignons les risques de l'intelligence artificielle en se basant sur des institutions plutôt que sur un danger pur. De plus, les investissements en matière de sécurité et les définitions des risques favorisent souvent les nations riches au détriment du Sud global.

Lorsqu'une nouvelle technologie arrive, qui décide de ce qui constitue une panne dangereuse ?

Ce qui s'est passé, en mots simples

Une analyse publiée dans le Jornal da USP discute de la manière dont les sociétés choisissent les risques à redouter et désignent les responsables lorsque des dysfonctionnements surviennent avec l'intelligence artificielle. Le texte explique que les concepteurs de modèles informatiques définissent souvent eux-mêmes les risques, passant à côté des problèmes rencontrés par les travailleurs de terrain et les citoyens ordinaires. Il est noté que les bases de données internationales sur la sécurité enregistrent principalement des événements signalés dans les régions riches, tandis que le reste du monde fournit essentiellement les cas bruts. L'article souligne également que les entreprises technologiques consacrent la grande majorité de leurs budgets de sécurité aux pays riches plutôt qu'au reste du monde. Enfin, il indique qu'un groupe de recherche au Brésil utilise les décisions de justice plutôt que les reportages d'actualité pour repérer différents types de préjudices technologiques.

Points clés

Les sociétés choisissent les risques en fonction de règles sociales La recherche sociologique montre que les gens redoutent certains dangers parce que ces craintes confirment leurs institutions sociales, tout en utilisant le vocabulaire du risque pour rejeter la faute.
Les créateurs contrôlent les définitions des risques Lorsque les concepteurs de la technologie expliquent eux-mêmes ses dangers, ils excluent le point de vue des travailleurs qui étiquettent les données et des gens ordinaires traités comme des cobayes.
L'argent de la sécurité suit les marchés riches Des documents internes d'une grande entreprise technologique ont révélé que la grande majorité de ses ressources mondiales de lutte contre la désinformation ont été attribuées aux États-Unis, ne laissant que très peu pour le reste du monde.
Le Brésil explore différentes manières de suivre les préjudices Un partenariat universitaire au Brésil examine de véritables décisions de justice plutôt que des articles de presse, ce qui permet de mettre au jour des préjudices cachés que les bases de données internationales standard ignorent.

Termes expliqués

Intelligence Artificielle — Systèmes informatiques conçus pour accomplir des tâches qui nécessitent habituellement la réflexion humaine. Exemple: Un programme qui reconnaît des visages sur des photographies.
Taxonomie — Un système utilisé pour regrouper et nommer des choses en se basant sur des traits communs. Exemple: Classer des livres dans des catégories telles que la fiction, l'histoire et la science.
Épistémologique — Qui a trait à la façon dont nous connaissons les choses et créons des catégories de connaissances. Exemple: Déterminer si une nouvelle découverte constitue un fait scientifique.

Pourquoi c'est important

Comprendre qui définit les défaillances technologiques aide les citoyens et les législateurs à établir des règles plus équitables afin que la protection atteigne toutes les communautés, et pas seulement les nations riches.

Ce que l'on ne sait pas encore

Ce texte est un article d'opinion présentant le point de vue d'un auteur sur la gouvernance technologique et la sociologie, et non un consensus scientifique universel.

D'après un article de Jornal da USP. Ceci est une explication indépendante, rédigée avec nos propres mots et l'aide d'une IA ; Jornal da USP ne l'a ni relue ni approuvée. Consultez l'original pour tous les détails.