Google Home está alucinando identidades fictícias

Com a semana do Halloween chegando, provavelmente não é o melhor momento para sua casa inteligente começar a sugerir que pessoas que você não conhece estão vagando por sua propriedade. No entanto, alguns usuários do Reddit afirmam que seus dispositivos Google Home começaram a descrever pessoas que não conhecem.

De acordo com uma postagem no subreddit r/googlehome, a câmera Nest de um usuário descreveu um resumo da atividade dizendo “Michael foi visto levando o lixo para fora”, embora ninguém com esse nome more lá. Quando o usuário perguntou sobre isso, o assistente do Google teria respondido que sua câmera “pode identificar rostos mesmo que você não os tenha nomeado explicitamente” e que avistou “Michael” entre 26 e 27 de outubro. Ele achou a resposta “muito assustadora”.

Enquanto um comentarista do tópico contava uma piada de Halloween sobre ser Michael Myers, outros compartilhavam esquisitices semelhantes. Uma pessoa disse que o Google Home os lembrava aleatoriamente de levar o lixo para fora, negou ter feito isso e depois insistiu que deviam estar enganados, provocando a piada de que era um exemplo de iluminação a gás do Google. Outro afirmou que seu dispositivo informava que seu amigo David havia visitado e aspirado a sala. O usuário tem um amigo com esse nome, mas essa pessoa não o visitou e ninguém aspirou.

Um segundo Redditor, postando alguns dias antes, afirmou que sua câmera gerou um resumo do dia deles, mas os identificou como uma mulher chamada Sarah. A IA até descreveu “Sarah” tirando as lixeiras e passeando com os cachorros. “Sou homem, moro sozinho e nem tenho uma amiga chamada Sarah”, escreveu o usuário. Quando ele questionou Gêmeos sobre isso, ele obteve uma resposta confusa: “Você me disse que Sarah é na verdade {meu nome} hoje, mas que eu inventei o nome Sarah ontem. Como essas duas coisas podem ser verdade?” O sistema também sugeriu que dois cães estavam ativos na sala, quando o usuário possui apenas um.

Nenhum dos casos foi verificado e nenhum padrão generalizado surgiu além de outro comentarista mencionando uma experiência semelhante de ser chamado de Kevin. Ainda assim, a conta oficial da comunidade Google Nest respondeu a uma das postagens, pedindo um clipe do incidente para que a equipe pudesse investigar mais detalhadamente.

Um comentarista sugeriu que o comportamento poderia simplesmente se resumir ao funcionamento dos grandes modelos de linguagem. Se o sistema prevê que um nome específico se ajusta melhor ao contexto do que está descrevendo, ele pode gerar esse nome mesmo que não seja real, uma vez que não consegue distinguir entre uma descrição precisa e uma descrição inventada.

Assumindo que não há culpa por parte dos usuários, a alucinação de Gêmeos no Google Home é uma suposição razoável. No entanto, tanto as reações divertidas quanto as de nervosismo são inteiramente compreensíveis.