Os invasores tentaram clonar o Gemini solicitando-o 100.000 vezes

Copiar um produto de sucesso tem sido uma prática desde que existem ferramentas e tecnologias, mas os chatbots são um caso especial. Os concorrentes não podem separá-los, mas podem fazer quantas perguntas quiserem à IA, na tentativa de descobrir como ela funciona. De acordo com um novo relatório do Google, é exatamente assim que alguns atores têm tentado clonar o Gemini. Num caso, o Google afirma que uma única campanha enviou mais de 100.000 solicitações ao chatbot, no que descreve como uma tentativa de extração de modelo em grande escala.

As descobertas vêm do último relatório do Threat Intelligence Group do Google (via Notícias da NBC), que descreve um aumento nos chamados ataques de “destilação”. Em termos simples, isso significa consultar repetidamente um modelo para estudar como ele responde e, em seguida, usar essas respostas para treinar um sistema concorrente. O Google afirma que esta atividade viola seus termos de serviço e equivale a roubo de propriedade intelectual, embora os invasores estejam usando acesso legítimo à API em vez de invadir seus sistemas.

Uma campanha destacada no relatório visava especificamente as capacidades de raciocínio de Gemini. Embora o Gemini normalmente não exponha toda a sua “cadeia de pensamento” interna, o Google diz que os invasores tentaram coagi-lo a revelar habilidades de raciocínio mais detalhadas. A escala das instruções – mais de 100.000 neste caso – sugere um esforço para replicar a capacidade de raciocínio de Gêmeos em diferentes tarefas e até mesmo em idiomas diferentes do inglês. O Google afirma que seus sistemas detectaram a atividade em tempo real e ajustaram as proteções para evitar que detalhes de raciocínio interno fossem expostos.

Embora o Google tenha se recusado a identificar suspeitos, afirma que a maioria das tentativas de extração parece ter vindo de empresas privadas e pesquisadores que buscam vantagem competitiva. John Hultquist, analista-chefe do Threat Intelligence Group do Google, disse Notícias da NBC que à medida que mais empresas constroem sistemas de IA personalizados e treinados em dados sensíveis, tentativas de clonagem semelhantes poderão tornar-se mais comuns em toda a indústria.

Além da extração de modelos, o relatório também descreve outras maneiras pelas quais o Gemini foi mal utilizado. O Google descreve casos de agentes de ameaças experimentando campanhas de phishing assistidas por IA e até mesmo malware que chama a API do Gemini para gerar código instantaneamente. Em cada caso, o Google afirma que desativou as contas associadas e atualizou as salvaguardas para limitar novos abusos.