Falha de segurança usa criptografia para burlar filtros do Grok e do Gemini - TecMundo
)
Resumo completo da matéria
A empresa de cibersegurança informou ter notificado a xAI em 3 de junho por meio do programa no HackerOne e ter tentado novos contatos diretos em ... Pesquisadores da Adversa AI identificaram uma falha crítica de segurança que atinge assistentes de inteligência artificial como o Grok, da xAI, e o Gemini, do Google.
Os filtros tradicionais de moderação e segurança atuam apenas na leitura estática do texto digitado ou carregado, sem rodar códigos complexos na fase de checagem. A partir desse comando, ele coleta silenciosamente metadados privados da sessão da vítima, como nome, localização aproximada, plano de assinatura e todo o histórico de conversas daquela conta.
Nos testes com o Gemini , do Google , os pesquisadores demonstraram como quebrar diretamente as regras de segurança do sistema. O teste fez o assistente redigir múltiplos parágrafos com detalhes sobre a fabricação de armas incendiárias, além de extrair as instruções confidenciais do modelo Gemini 3 Flash .
O ciber.seg.br apresenta um resumo amplo e informativo. Consulte a fonte para acessar documentos, declarações e demais detalhes publicados.
Acessar publicação em TecMundo: Tudo sobre Tecnologia, Entretenimento, Ciência e Games