Edgar Cervantes / Autoridade Android
Tl; Dr
- Um pesquisador demonstrou recentemente uma falha de Gêmeos que poderia ser explorada para injetar instruções maliciosas enquanto usava o recurso de resumo de e -mail do Gmail.
- Essas instruções foram ocultas em texto simples sob o corpo do email.
- O Google respondeu à pesquisa, afirmando que ele havia atualizado seus modelos para identificar essas medidas prontas de engenharia e bloquear os links de phishing.
As grandes empresas de tecnologia estão cobrando a IA como a ferramenta onipresente que nos liberta de atividades mundanas, e isso inclui a leitura de longos e -mails. Mas pouco ouvimos falar da possibilidade de IA, sem saber, nos levar a armadilhas que podem ser usadas para roubar nossos dados confidenciais. Foi exatamente isso que a pesquisa recente destacou quando discutiu a possibilidade de hackers usarem Gêmeos como meios para phishing.
Recentemente, um pesquisador de segurança cibernética demonstrou uma vulnerabilidade direcionada aos usuários do espaço de trabalho do Google, onde os Gêmeos podem ser manipulados para exibir instruções maliciosas. A vulnerabilidade foi enviada ao 0din, que é o programa de recompensa de bugs da Mozilla Foundation para aplicativos de IA e fala mais especificamente sobre a facilidade de equivocar o recurso de resumo de e -mail do Gmail para assinantes do Google Workspace.
A submissão demonstra como os avisos enganosos podem ser inseridos no corpo de um email em formato HTML simples ou como texto escondido com uma cor de fonte invisível. Gêmeos interpreta esses instruções como comandos e podem exibi -los no resumo de email sem cautela.
Como a mensagem está oculta no corpo do email original, ela passa despercebida pelo receptor, que provavelmente acreditará que é um aviso gerado por Gêmeos. Pesquisador Blurrylogic apontou que isso pode ser explorado para exibir mensagens que podem obrigar o destinatário a compartilhar Informações sensíveis sem verificação adequada, o que pode levar suas credenciais a serem roubadas usando engenharia social.
Logo após a publicação das descobertas no 0din, o Google compartilhou detalhes sobre as etapas necessárias para tornar Gêmeos mais resistentes a tais táticas. Abordando os relatórios sobre a vulnerabilidade de Gemini, o Google disse que atualiza continuamente seu repositório de instruções ou instruções maliciosas que podem manipular a saída do chatbot. Os modelos de aprendizado de máquina subjacentes são constantemente treinados para garantir que não respondam a instruções maliciosas.
O Google também listou outras etapas necessárias para combater diferentes formas de tentativas de phishing. Observou que Gemini identifica links suspeitos ou desonestos disfarçados como úteis no corpo de e -mail e os redigam nos resumos de email. Para fortalecer ainda mais suas medidas de segurança, Gemini também solicita confirmação de ações como excluir tarefas específicas.
Apesar das medidas imediatas do Google, devemos ser avisados de que os perpetradores de ameaças on -line geralmente pensam um passo à frente. Portanto, aconselhamos a confiar cegamente a qualquer mensagem em Gêmeos que solicitem ações como clicar em um link, fazer uma chamada ou enviar um e -mail a uma pessoa específica.
