Quem Decide os Perigos da Inteligência Artificial?
A sociedade molda como tememos os riscos da inteligência artificial com base em instituições, em vez de puro perigo. Além disso, os investimentos em segurança e as definições de risco costumam favorecer as nações ricas em detrimento do Sul Global.
Resumo rápido: A sociedade molda como tememos os riscos da inteligência artificial com base em instituições, em vez de puro perigo. Além disso, os investimentos em segurança e as definições de risco costumam favorecer as nações ricas em detrimento do Sul Global.
Quando uma nova tecnologia chega, quem decide o que conta como uma falha perigosa?
O que aconteceu, em palavras simples
Uma análise publicada no Jornal da USP discute como as sociedades escolhem quais riscos temer e quem é responsabilizado quando algo dá errado com a inteligência artificial. O texto explica que as pessoas que constroem modelos computacionais frequentemente definem os riscos sozinhas, deixando de lado os problemas enfrentados por trabalhadores comuns e cidadãos cotidianos. Observa-se que os bancos de dados internacionais de segurança registram majoritariamente eventos reportados em regiões ricas, enquanto o resto do mundo fornece principalmente os casos brutos. O artigo também destaca que as empresas de tecnologia gastam a grande maioria de seus orçamentos de segurança em países ricos em vez do restante do mundo. Por fim, aponta que um grupo de pesquisa no Brasil utiliza decisões judiciais em vez de notícias para identificar diferentes tipos de danos tecnológicos.
Pontos principais
- As sociedades escolhem os riscos com base em regras sociais Pesquisas de sociologia mostram que as pessoas temem determinados perigos porque esses temores confirmam suas instituições sociais, enquanto utilizam a linguagem do risco para atribuir culpa.
- Os criadores controlam as definições de risco Quando os criadores da tecnologia também explicam seus perigos, eles excluem as perspectivas dos trabalhadores que rotulam dados e das pessoas comuns tratadas como cobaias.
- O dinheiro da segurança segue os mercados ricos Documentos internos de uma grande empresa de tecnologia revelaram que a imensa maioria de seus recursos globais contra a desinformação foi direcionada aos Estados Unidos, deixando muito pouco para o resto do mundo.
- O Brasil explora diferentes formas de rastrear danos Uma parceria universitária no Brasil analisa decisões judiciais reais em vez de reportagens de notícias, ajudando a descobrir danos ocultos que os bancos de dados internacionais padrão deixam passar.
Termos explicados
- Inteligência Artificial — Sistemas de computador projetados para realizar tarefas que normalmente exigem pensamento humano. Exemplo: Um programa que reconhece rostos em fotografias.
- Taxonomia — Um sistema usado para agrupar e nomear coisas com base em características compartilhadas. Exemplo: Organizar livros em categorias como ficção, história e ciência.
- Epistemológico — Relacionado a como conhecemos as coisas e criamos categorias de conhecimento. Exemplo: Decidir se uma nova descoberta conta como fato científico.
Por que isso importa
Compreender quem define as falhas tecnológicas ajuda cidadãos e legisladores a criarem regras mais justas para que a proteção chegue a todas as comunidades, e não apenas às nações ricas.
O que ainda não sabemos
Este texto é um artigo de opinião que apresenta a perspectiva de um autor sobre governança tecnológica e sociologia, e não um consenso científico universal.
Com base em reportagem de Jornal da USP. Este é um texto explicativo independente, escrito com palavras próprias e auxílio de IA; Jornal da USP não o revisou nem o endossou. Leia o original para ver todos os detalhes.