Como a Inteligência Artificial Fortalece e Periga Ditadores
Ditadores estão usando inteligência artificial para vigiar cidadãos, censurar informações e substituir burocratas humanos. No entanto, isso cria uma nova dependência de um pequeno grupo de engenheiros especializados que mantêm a tecnologia.
Resumo rápido: Ditadores estão usando inteligência artificial para vigiar cidadãos, censurar informações e substituir burocratas humanos. No entanto, isso cria uma nova dependência de um pequeno grupo de engenheiros especializados que mantêm a tecnologia.
Quando um apresentador de telejornal russo apareceu em uma transmissão em outubro de 2024, os espectadores viram um rosto que não existia de fato, gerado inteiramente por software de computador.
O que aconteceu, em palavras simples
Os autores Bruce Schneier e Seva Gunitsky examinaram como líderes autocráticos usam a inteligência artificial para manter o controle. Governos em países como China, Rússia e Emirados Árabes Unidos estão empregando inteligência artificial para automatizar o trabalho governamental, filtrar conteúdo, rastrear funcionários e identificar manifestantes. Embora essa tecnologia ajude os líderes a vigiar subordinados e reduzir funcionários, os autores observam que ela não cria um Estado verdadeiramente autônomo.
Pontos principais
- Resolvendo o dilema da lealdade: Tradicionalmente, autocratas lutavam para empoderar subordinados sem arriscar traição, muitas vezes escolhendo oficiais mediocres para garantir a lealdade. A inteligência artificial oferece uma maneira de monitorar seguidores em tempo real e automatizar tarefas sem depender do discernimento humano.
- Vigilância em ação: China e Rússia usam câmeras de reconhecimento facial, coleta automatizada de dados e escaneadores de conteúdo de inteligência artificial como o Oculus para monitorar cidadãos, reprimir dissidências e rastrear oficiais regionais.
- Substituindo trabalhadores do governo: Governos estão explorando sistemas para redigir leis, emitir licenças e substituir oficiais. Por exemplo, os Emirados Árabes Unidos anunciaram que agentes autônomos de inteligência artificial assumiriam metade das operações federais em dois anos.
- Uma nova elite tecnológica: Sistemas de inteligência artificial exigem engenheiros qualificados e cientistas de dados para construí-los e mantê-los. Como os líderes políticos não entendem essa tecnologia complexa, eles se tornam profundamente dependentes de um pequeno grupo de trabalhadores técnicos.
Termos explicados
- Inteligência artificial — Sistemas de computador projetados para realizar tarefas que normalmente exigem raciocínio humano, como reconhecer rostos ou processar linguagem. Exemplo: Software que seleciona automaticamente milhares de imagens online para encontrar tópicos proibidos específicos.
- Autocracia — Um sistema de governo onde o poder absoluto é detido por um único governante ou um pequeno grupo. Exemplo: Uma nação onde um líder faz todas as leis sem precisar da aprovação de um parlamento eleito.
- Algoritmo — Um conjunto de instruções passo a passo ou regras que um computador segue para resolver um problema ou concluir uma tarefa. Exemplo: Uma lista de verificação digital que um programa usa para decidir quais hábitos de gastos parecem suspeitos.
Por que isso importa
Compreender como a tecnologia influencia o controle político ajuda a explicar as tendências globais de vigilância, censura digital e segurança cibernética.
O que ainda não sabemos
O ensaio discute tendências iniciais e ferramentas atualmente implantadas por governos específicos, mas a estabilidade a longo prazo e o sucesso prático desses sistemas de governança automatizados permanecem incertos.
Com base em reportagem de Bruce Schneier. Este é um texto explicativo independente, escrito com palavras próprias e auxílio de IA; Bruce Schneier não o revisou nem o endossou. Leia o original para ver todos os detalhes.