Edgar Cervantes / Autoridade Android
DR
- Um pesquisador de segurança descobriu que o Gemini é suscetível a ataques de contrabando de ASCII.
- Esses ataques ocultam avisos maliciosos em e-mails ou convites de calendário que os LLMs podem ler quando solicitados a resumir o texto.
- O Google descartou a ameaça como um ataque de engenharia social, atribuindo a responsabilidade ao usuário final.
O Google tende a levar a sério a segurança de seus usuários, implementando uma série de medidas para manter o uso seguro de seus produtos. Na verdade, isso faz parte do processo de pensamento por trás da repressão da empresa ao carregamento lateral de aplicativos de desenvolvedores não verificados no Android. Mas parece que a empresa não está muito preocupada em resolver um problema que torna a Gemini suscetível a um tipo preocupante de ameaça cibernética.
Não quero perder o melhor de Autoridade Android?
De acordo com Bip do computadoro pesquisador de segurança Viktor Markopoulos testou alguns dos LLMs mais populares contra ataques de contrabando de ASCII. Markopoulos descobriu que Gemini, DeepSeek e Grok eram suscetíveis a esse tipo de ataque cibernético. No entanto, Claude, ChatGPT e Copilot tinham proteções, provando que essas opções eram seguras.
Se você não está familiarizado com esse tipo de ameaça cibernética, o contrabando de ASCII envolve “contrabandear” (ocultar) um prompt para uma IA ler. Por exemplo, o malfeitor poderia escrever uma mensagem secreta em um e-mail no menor tamanho de fonte disponível, e a vítima não perceberia. Se a vítima pedisse a uma ferramenta de IA, como o Gemini, para resumir o texto da mensagem, a IA também leria esta mensagem secreta.
Existem alguns motivos pelos quais algo assim é problemático. Por exemplo, o prompt pode dizer à IA para pesquisar informações confidenciais em sua caixa de entrada ou enviar detalhes de contato. Considerando que o Gemini agora está integrado ao Google Workspace, esse problema representa um risco ainda maior.
Markopoulos supostamente entrou em contato com o Google com esta descoberta. Ele chegou ao ponto de fazer uma demonstração onde transmitiu uma instrução invisível a Gêmeos. A IA acabou sendo enganada e compartilhou um site malicioso em troca de um telefone com desconto e de boa qualidade. No entanto, foi relatado que o Google descartou o problema não como um bug de segurança, mas sim como uma tática de engenharia social. Essencialmente, a empresa está dizendo que a responsabilidade recai sobre o usuário final.
Dada a resposta, parece que o Google não tem planos de corrigir esse problema de segurança do Gemini.
Obrigado por fazer parte da nossa comunidade. Leia nossa Política de Comentários antes de postar.
