Nova pesquisa de Harvard explora os riscos de eventos catastróficos de IA
Um novo artigo de pesquisa conclui que evitar grandes eventos catastróficos decorrentes da inteligência artificial ainda é possível, mas isso exige uma ação decisiva de empresas de IA e governos. As constatações baseiam-se em uma análise preditiva e em percepções de especialistas, e não em provas definitivas de um desastre iminente.
Resumo rápido: Um novo artigo de pesquisa conclui que evitar grandes eventos catastróficos decorrentes da inteligência artificial ainda é possível, mas isso exige uma ação decisiva de empresas de IA e governos. As constatações baseiam-se em uma análise preditiva e em percepções de especialistas, e não em provas definitivas de um desastre iminente.
À medida que a inteligência artificial se torna mais poderosa a cada dia, especialistas correm para descobrir como impedir que a tecnologia cause danos massivos no mundo real antes que seja tarde demais.
O que aconteceu, em palavras simples
Pesquisadores do Belfer Center for Science and International Affairs, da Harvard Kennedy School, divulgaram um novo artigo que explora ameaças e vulnerabilidades atuais ligadas a modelos avançados de inteligência artificial. O cientista da computação e coautor Stephen Casper explicou que o projeto utilizou um exercício preditivo chamado pré-morte para estudar como um grande desastre poderia acontecer. O artigo alerta que incidentes perigosos podem ocorrer dentro de meses ou de um ano ou dois, a menos que empresas de tecnologia e governos façam escolhas cuidadosas agora mesmo. Eventos recentes, incluindo agentes mal-intencionados que burlaram vários sistemas nos Estados Unidos e na Austrália, já empurraram o público e os formuladores de políticas a prestarem mais atenção a esses riscos graves.
Pontos principais
- Definição de limiares catastróficos: A pesquisa define um incidente de terrorismo de grande porte facilitado por IA como aquele que causa mais de 50 mortes ou ferimentos graves, ou mais de um bilhão de dólares em danos. Esses números correspondem a definições existentes usadas em certas leis de inteligência artificial de fronteira.
- Modelos abertos versus fechados: Modelos de pesos fechados, nos quais os desenvolvedores controlam todos os pontos de acesso, podem se tornar muito seguros com o uso de ferramentas de segurança. Em contrapartida, modelos de pesos abertos e modelos fechados com salvaguardas deficientes são muito mais difíceis de proteger e representam a origem provável da maioria das ameaças em nível de incidente.
- O perigo dos sistemas não censurados: Os usuários podem baixar modelos abertos e remover seus filtros de segurança por um processo que pode custar centenas ou alguns milhares de dólares, no máximo. Milhares de modelos não censurados já existem online e não recusam solicitações prejudiciais.
- Capacidades cibernéticas avançadas: Algumas capacidades atuais de inteligência artificial já são sobre-humanamente boas em realizar ataques cibernéticos persistentes e encontrar vulnerabilidades. Isso poderia permitir que atores organizassem ataques em grande escala no estilo enxame contra empresas e infraestruturas importantes.
Termos explicados
- IA de fronteira — Os sistemas de inteligência artificial mais novos e avançados disponíveis. Exemplo: Um programa de computador totalmente novo que consegue escrever código muito mais rápido do que qualquer programador humano.
- Modelo de pesos abertos — Um sistema de inteligência artificial cujas instruções internas subjacentes são compartilhadas publicamente, permitindo que qualquer pessoa as baixe e altere. Exemplo: Um livro de receitas público que permite a qualquer confeiteiro alterar os ingredientes da maneira que quiser.
- Modelo de pesos fechados — Um sistema de inteligência artificial no qual os criadores mantêm controle total sobre o acesso e as configurações internas. Exemplo: Um cofre digital de alta segurança que apenas os engenheiros da empresa original podem abrir.
- Pré-morte — Um exercício de planejamento em que um grupo imagina que um evento ruim já aconteceu e trabalha de trás para frente para descobrir o motivo. Exemplo: Uma equipe de construtores imaginando que sua ponte desabou antes mesmo de construí-la, apenas para encontrar pontos fracos.
Análise crítica
O que é animador. A pesquisa oferece uma visão estruturada e cuidadosa sobre vulnerabilidades específicas na tecnologia atual e destaca etapas acionáveis que desenvolvedores e legisladores podem tomar agora para diminuir as chances de desastre.
O que pede cautela:
- Baseado em um exercício de cenário. O artigo baseia-se em uma pré-morte preditiva e em discussão de especialistas, e não em provas concretas de um ataque agendado. Isso significa que os cenários são possibilidades imaginadas, e não resultados garantidos.
- Incerteza em riscos biológicos e químicos. Há menos pesquisas abertas sobre ameaças biológicas e químicas, e nenhum incidente importante ocorreu ainda nessas áreas. Os autores admitem que não sabem totalmente quão perigosas essas capacidades podem se tornar quando plenamente exploradas.
- Generalizações sobre prazos futuros. O cronograma que sugere riscos credíveis dentro de meses ou de um ano ou dois baseia-se nas tendências atuais, e não em um cronograma fixo. É difícil apontar com certeza os próximos eventos exatos.
Conclusão: Embora um evento catastrófico de inteligência artificial não seja garantido, pesquisadores alertam que medidas urgentes de segurança são necessárias para evitar que riscos graves se tornem realidade.
O que ainda não sabemos
A fonte não aborda todas as ferramentas de segurança em detalhes, nem fornece um roteiro completo para regulamentações internacionais ou garante exatamente quando ou como a próxima violação de segurança acontecerá.
Com base em reportagem de Harvard Gazette. Este é um texto explicativo independente, escrito com palavras próprias e auxílio de IA; Harvard Gazette não o revisou nem o endossou. Leia o original para ver todos os detalhes.