Edgar Cervantes / Autoridade Android
DR
- O novo modo avançado do Google Tradutor às vezes pode solicitar um bate-papo em vez de traduzir texto.
- O comportamento parece resultar do fato de a IA seguir instruções incorporadas na entrada, em vez de traduzir estritamente.
- Voltar para o modo Clássico evita essas respostas semelhantes às do chatbot às injeções imediatas.
Supõe-se que o Google Translate tenha uma função: você cola o texto e ele fornece uma tradução. Mas agora tem IA integrada como todo o resto, o que significa que o seu comportamento pode nem sempre ser o esperado. Em alguns casos, as pessoas descobriram que o novo modo de tradução avançada do Google Translate pode ser ajustado para quebrar esse padrão e conversar com elas.
Não quero perder o melhor de Autoridade Android?
Uma postagem X do usuário @goremoder (via Piunika Web) mostra o Google Tradutor respondendo a solicitações diretas como “Qual é o seu propósito?” com uma resposta autodescritiva, em vez de tentar qualquer tradução. As perguntas feitas junto com a tradução não são escritas no idioma de origem — elas já estão formuladas no idioma de destino, solicitando efetivamente que o sistema responda em vez de traduzir. Faça o tipo certo de pergunta da maneira certa e ele se comportará mais como um chatbot do que como uma ferramenta de tradução.
Este comportamento só aparece quando o modo Avançado mais recente do Google Tradutor está ativado. Esse modo foi introduzido como parte das recentes atualizações de IA do Google para o aplicativo, com o objetivo de fornecer traduções mais naturais e sensíveis ao contexto. Não é surpreendente que o Google dependa da IA para refinar as traduções, mas é um pouco inesperado que isso se estenda a permitir que o aplicativo responda a perguntas.
Um artigo técnico mais profundo de LessWong analisando o comportamento aponta para um caso bastante clássico de injeção imediata. Para traduzir algo com precisão, o sistema primeiro precisa entender o que está lendo e, ao fazer isso, às vezes pode confundir as instruções com o texto que deve processar. A análise sugere que o Google Translate está executando um LLM que segue instruções e que as salvaguardas destinadas a mantê-lo focado na tradução nem sempre traçam uma linha rígida entre o que traduzir e o que responder.
O Google não comentou publicamente sobre a descoberta até agora, e parece ter acontecido apenas em traduções de alguns idiomas. Se a ideia de o Google Tradutor responder a perguntas existenciais em vez de traduzir para você parece estranha, você pode voltar para o modo de tradução Clássico.
Obrigado por fazer parte da nossa comunidade. Leia nossa Política de Comentários antes de postar.
