¿Quién decide los peligros de la inteligencia artificial?
La sociedad moldea cómo tememos los riesgos de la inteligencia artificial basándose en instituciones en lugar de en el peligro puro. Además, las inversiones en seguridad y las definiciones de riesgo a menudo favorecen a las naciones ricas por encima del sur global.
En resumen: La sociedad moldea cómo tememos los riesgos de la inteligencia artificial basándose en instituciones en lugar de en el peligro puro. Además, las inversiones en seguridad y las definiciones de riesgo a menudo favorecen a las naciones ricas por encima del sur global.
Cuando llega una nueva tecnología, ¿quién decide qué cuenta como un fallo peligroso?
Qué ocurrió, en palabras sencillas
Un análisis publicado en Jornal da USP analiza cómo las sociedades eligen qué riesgos temer y a quién se responsabiliza cuando algo sale mal con la inteligencia artificial. El texto explica que las personas que construyen modelos informáticos suelen definir los riesgos por sí mismas, pasando por alto los problemas que enfrentan los trabajadores cotidianos y los ciudadanos comunes. Se señala que las bases de datos internacionales de seguridad registran principalmente eventos reportados en regiones ricas, mientras que el resto del mundo suministra principalmente los casos brutos. El artículo también destaca que las empresas de tecnología gastan la gran mayoría de sus presupuestos de seguridad en los países ricos en lugar de en el resto del mundo. Finalmente, señala que un grupo de investigación en Brasil utiliza decisiones judiciales en lugar de noticias para detectar diferentes tipos de daños tecnológicos.
Puntos clave
- Las sociedades eligen los riesgos basándose en reglas sociales La investigación sociológica muestra que las personas temen ciertos peligros porque esos temores confirman sus instituciones sociales, al tiempo que utilizan el lenguaje del riesgo para asignar culpas.
- Los creadores controlan las definiciones de riesgo Cuando los creadores de la tecnología también explican sus peligros, dejan fuera las perspectivas de los trabajadores que etiquetan datos y de la gente común tratada como sujetos de prueba.
- El dinero de la seguridad sigue a los mercados ricos Documentos internos de una importante empresa tecnológica revelaron que la gran mayoría de sus recursos globales contra la desinformación se destinaron a Estados Unidos, dejando muy poco para el resto del mundo.
- Brasil explora diferentes formas de rastrear el daño Una alianza universitaria en Brasil observa decisiones judiciales reales en lugar de reportes de noticias, lo que ayuda a descubrir daños ocultos que las bases de datos internacionales estándar pasan por alto.
Términos explicados
- Inteligencia Artificial — Sistemas informáticos diseñados para realizar tareas que normalmente requieren pensamiento humano. Ejemplo: Un programa que reconoce rostros en fotografías.
- Taxonomía — Un sistema utilizado para agrupar y nombrar cosas basándose en rasgos compartidos. Ejemplo: Clasificar libros en categorías como ficción, historia y ciencia.
- Epistemológico — Relacionado con cómo conocemos las cosas y creamos categorías de conocimiento. Ejemplo: Decidir si un nuevo descubrimiento cuenta como un hecho científico.
Por qué importa
Comprender quién define los fallos tecnológicos ayuda a los ciudadanos y legisladores a construir reglas más justas para que la protección llegue a todas las comunidades, y no solo a las naciones ricas.
Lo que aún no sabemos
Este texto es un artículo de opinión que presenta la perspectiva de un autor sobre la gobernanza tecnológica y la sociología, en lugar de un consenso científico universal.
Basado en información de Jornal da USP. Este es un texto explicativo independiente, escrito con palabras propias y ayuda de IA; Jornal da USP no lo ha revisado ni respaldado. Lee el original para ver todos los detalles.