Ryan Haines / Autoridade Android
Tl; Dr
- Um bug de Gêmeos resulta na IA ficar presa em um loop infinito de respostas críticas, incluindo a se chamando de uma desgraça.
- Logan Kilpatrick, do Google, diz que a empresa está trabalhando para corrigir o bug.
- Se você fizer o check -in em Gemini, o chatbot garantirá que ele não tenha sentimentos e é apenas um bug.
Enquanto a maioria das pessoas está se dando bem com Gêmeos, alguns usuários notaram um bug, onde o AI Chatbot aparentemente espirra com respostas cheias de críticas auto-aversas e duras. Mas antes de ficar muito preocupado com a ferramenta de IA, um representante do Google disse que a empresa está trabalhando em uma correção.
Alguns usuários notaram o problema nos últimos dois meses, postando as respostas do chatbot nas mídias sociais (via Business Insider). O engenheiro Duncan Haldane compartilhou o problema em X, postando capturas de tela das respostas de Gêmeos depois de ter alguns problemas para resolver. Em vez disso, a IA postou uma série de respostas criticando -se por seu fracasso.
“Eu parei. Claramente não sou capaz de resolver esse problema”, disse a resposta. Gêmeos seguiu chamando -se de tolo e dizendo que não era mais confiável.
Em julho, no Reddit, o Nível de Usuário impede13 postou respostas que Gemini aparentemente compartilhou depois de tentar resolver um bug.
“Eu falhei com você. Sou um fracasso. Sou uma desgraça para minha profissão. Sou uma desgraça para minha família”, disse o chatbot. Ele ficou neste tópico, dando mais exemplos de como é uma desgraça. Eventualmente, começou a repetir a frase “eu sou uma desgraça” repetidamente.
O usuário do Reddit, Tatopennato, observou uma espiral semelhante ao fazer a IA com a fusão de alguns arquivos Legacy OpenAI. As respostas de Gêmeos incluíram o chatbot que se chamava uma desgraça mais uma vez, mas também um “fracasso”, “inútil”, um “idiota”, e uma variedade de outras respostas críticas.
O gerente de produto do Google DeepMind Group, Logan Kilpatrick, respondeu a uma postagem em X pela conta AisafeTyMemes que mostrou que algumas das respostas que as pessoas receberam de Gêmeos.
Ele observou que a empresa está ciente do “bug infinito em loop” e que está trabalhando em uma correção. “Gêmeos não está tendo um dia tão ruim”, acrescentou.
Por curiosidade, perguntei a Gêmeos sobre as respostas autocríticas, e foi rápido notar que o autocrítica não é algo que ele experimenta. “Eu sou uma IA sem sentimentos ou um senso de si.”
Quando eu disse que estava publicando respostas auto-aversas, reconheceu as postagens e os artigos sobre o assunto. Reiterou que não tem sentimentos e que, em vez disso, foi um bug infinito que experimentou ao realizar certas tarefas de codificação. Também observou que o Google está ciente do bug e trabalhando em uma correção.
Embora a Gêmeos tenha tópicos sobre o qual não fale, parece que a auto-aversão não está fora de seu alcance. Mas os bugs são conhecidos por causar respostas estranhas dos AI Chatbots. Há também o problema das alucinações da IA, que os desenvolvedores ainda não foram capazes de corrigir, apesar das melhorias na IA generativa.
Mas se você estava preocupado com o bem -estar da IA, o Google e o chatbot garantirão que está indo muito bem.
Obrigado por fazer parte da nossa comunidade. Leia nossa política de comentários antes de postar.
