Créditos da imagem: Gabby Jones/Bloomberg / Getty Images
O Google está se preparando para lançar recursos de agentes de IA no Chrome – que podem realizar ações como reservar passagens ou fazer compras – e detalhou as rigorosas medidas de segurança implementadas para mitigar riscos de perda de dados e dinheiro. A estratégia do Google se baseia em modelos de observação e na necessidade de consentimento explícito do usuário para ações sensíveis.
Principais Mecanismos de Segurança:
- User Alignment Critic (Crítico de Alinhamento do Usuário): Um modelo de segurança construído com Gemini que examina as tarefas planejadas pelo agente. Se o Crítico determinar que o plano não atende ao objetivo do usuário, ele exige que o agente repense a estratégia. O modelo Crítico vê apenas metadados da ação proposta, e não o conteúdo da web em si.
- Conjuntos de Origens de Agentes: O Google restringe o acesso do agente a conjuntos de origens de dados:
- Somente leitura: Dados que o Gemini pode consumir (ex: listagens de um site de compras, mas não banners).
- Graváveis: Origens onde o agente pode clicar ou digitar.
- Benefício: Essa delimitação limita vetores de ameaça de vazamentos de dados cross-origin.
- Controle de Navegação e Consentimento:
- O Google usa um modelo observador para investigar URLs e evitar a navegação para sites prejudiciais.
- O controle mais rigoroso é dado ao usuário: para navegar em sites confidenciais (bancos, dados médicos) ou para realizar ações como fazer uma compra ou enviar uma mensagem, o agente deve pedir permissão ao usuário.
- Em sites que exigem login, o agente solicita permissão para usar o gerenciador de senhas do Chrome, garantindo que o modelo não tenha exposição a dados de senha.
A abordagem do Google demonstra o crescente foco da indústria (assim como a Perplexity, que lançou um modelo de detecção de ataque de injeção) em garantir que os novos recursos de IA de Agente sejam seguros e confiáveis.
Quer saber mais detalhes sobre a função do classificador de injeção imediata e como o Google está testando as capacidades de agente contra ataques criados por pesquisadores?
Leia o artigo completo em TechCrunch e confira como o Google está tornando o Chrome mais inteligente e seguro!
