Tornando Agentes de IA Seguros e Privados Usando Normas Contextuais

Resumo rápido: O Google Research lançou um relatório de workshop sobre desafios de privacidade e segurança para agentes de IA autônomos. O relatório sugere o uso de uma teoria chamada Integridade Contextual para ajudar os agentes a seguirem normas sociais.

À medida que a inteligência artificial começa a realizar tarefas complexas para nós, garantir que esses programas de computador mantenham nossos dados seguros e ajam de forma adequada é um grande desafio.

O que aconteceu, em palavras simples

Os cientistas do Google Research Eugene Bagdasarian e Marco Gruteser, juntamente com mais de 50 líderes acadêmicos e da indústria, lançaram um novo relatório de workshop chamado "Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle". O relatório baseia-se em um workshop realizado no final de 2025 na cidade de Nova York. Ele explora como agentes de software autônomos precisam de novas defesas nos níveis de sistema, modelo, usuário e ecossistema para lidar com dados pessoais de forma segura ao realizarem tarefas em várias etapas.

Pontos principais

Agentes autônomos precisam de novas abordagens de segurança Ao contrário do software tradicional, os agentes de IA em geral usam grandes modelos de linguagem para planejar dinamicamente e usar ferramentas externas, criando novos desafios de privacidade e segurança.
Fundamentado na Integridade Contextual O relatório utiliza a teoria da Integridade Contextual, que define privacidade como o fluxo adequado de informações com base em normas sociais estabelecidas, atores e princípios de transmissão.
Superando a lacuna semântica Grandes modelos de linguagem oferecem uma maneira de transformar regras sociais humanas de alto nível em políticas legíveis por máquina que os sistemas podem seguir.
Proposta de um motor de políticas contextual Os autores defendem uma camada supervisora com um motor de políticas dinâmico para monitorar e verificar se o compartilhamento de dados ou as ações são apropriados antes que aconteçam.
Chamado para benchmarks compartilhados O relatório sugere a criação de ambientes sandbox de código aberto, chamados "Agent Gym", para testar e simular com segurança interações entre múltiplos agentes.

Termos explicados

Agentes de IA — Programas de computador impulsionados por inteligência artificial que conseguem criar planos e usar ferramentas para concluir tarefas em várias etapas por conta própria. Exemplo: Um assistente virtual que reserva sua viagem e organiza sua agenda sem que você precise clicar em cada botão.
Grandes modelos de linguagem (LLMs) — Sistemas de computador avançados treinados com imensas quantidades de texto para entender e gerar linguagem semelhante à humana. Exemplo: Um aplicativo que lê um artigo longo e escreve um resumo curto para você.
Integridade Contextual — Uma teoria que define privacidade como o compartilhamento de informações de maneiras que correspondem às regras sociais aceitas para uma situação específica. Exemplo: Compartilhar seu histórico médico com seu médico é aceitável, mas compartilhar esse mesmo histórico com seu supermercado não é.

Por que isso importa

À medida que as ferramentas cotidianas começam a usar IA autônoma para lidar com tarefas pessoais, essas ideias de pesquisa visam ajudar a construir futuros sistemas que respeitem sua privacidade e sigam as regras sociais antes de compartilhar suas informações pessoais.

O que ainda não sabemos

O relatório é um resumo de workshop em estágio inicial que delineia direções de pesquisa em aberto e um chamado à ação, e não uma tecnologia finalizada ou solução completa.

Com base em reportagem de Google Research. Este é um texto explicativo independente, escrito com palavras próprias e auxílio de IA; Google Research não o revisou nem o endossou. Leia o original para ver todos os detalhes.