Tl; Dr
- O resumo movido a IA do Google, chamado de visão geral da AI, está gerando definições falsas para expressões de fictional.
- Os usuários descobriram que poderiam digitar frases sem sentido no Google emparelhadas com “significado” para receber explicações fabricadas, mas muito confiantes.
- Embora o Google rotule a visão geral da IA como experimental, esse comportamento gera preocupações significativas sobre confiança e precisão nos resultados de pesquisa do Google.
Atualização, 24 de abril de 2025 (10:27 ET): Por meio de um porta -voz, o Google forneceu a seguinte declaração sobre a alucinação geral da IA:
Quando as pessoas fazem pesquisas absurdas ou ‘falsas’, nossos sistemas tentarão encontrar os resultados mais relevantes com base no conteúdo limitado da Web disponível. Isso é verdade para a pesquisa em geral e, em alguns casos, as visões gerais da IA também serão acionadas em um esforço para fornecer um contexto útil. As visões gerais da IA são projetadas para mostrar as informações apoiadas pelos principais resultados da Web, e sua alta taxa de precisão está em pé de igualdade com outros recursos de pesquisa, como trechos em destaque.
O Google também diz que, para algumas pesquisas, pode não haver muitas informações relevantes disponíveis na Internet. Tais casos são chamados de “vazios de dados”, que são um desafio para todos os mecanismos de pesquisa como um todo. A empresa lançou melhorias para limitar a visão geral da IA de aparecer nesses vazios de dados, o que, consequentemente, impediria o conteúdo enganoso, satírico ou inútil de surgir em visão geral da IA.
Artigo original, 24 de abril de 2025 (09:24 ET): A IA já está em toda parte, mas as empresas não estão parando de adicioná -la a ainda mais lugares. O Google está apostando muito na IA, adicionando -o em todas as superfícies com a Gemini Advanced e até trazendo a IA para a pesquisa do Google com as visões gerais do Google AI. No entanto, o elefante na sala é que a IA pode alucinar, inventar fatos que nunca existiram. A última instância das alucinações de IA vem do Google AI Visão geral, que fornece significado com confiança para idiomas e frases inventadas.
Destaques do Usuário Bluesky, Greg Jenner Engadget) que você pode digitar qualquer frase aleatória na pesquisa do Google e anexar “significado” à consulta de pesquisa para obter uma explicação completamente inventada para as palavras.
Alguém nos threads notou que você pode digitar qualquer frase aleatória no Google, depois adicionar “significado” depois e terá uma explicação de IA de um famosos idioma ou frase que você acabou de fazer. Aqui está o meu
O usuário pesquisou o significado de “você não pode lamber um texugo duas vezes” e as visões gerais do Google AI responderam com confiança que significava que você não poderia enganar alguém duas vezes. No entanto, a frase é completamente falsa e composta pelo usuário, e o Google explica como se fosse um idioma estabelecido.
Eu experimentei algumas de minhas próprias frases falsas como consultas de pesquisa e, com certeza, o Google AI Visisações gerais está confiante sobre o que elas significam, mesmo que esses “idiomáticos” surgissem a existência meros momentos atrás. O mesmo resultado de pesquisa também menciona que nenhum resultado foi encontrado para a string exata, praticamente confessando que o Google sonhou o significado!
O Google apenas alerta na página de resultados que “a IA generativa é experimental”, o que não é suficiente para os usuários para que os resultados possam ser totalmente inventados. Tanto a ficção quanto a coexistem na mesma página de resultados de pesquisa, pois as visões gerais da AI fazem parte da pesquisa do Google.
Como o usuário apontou, essas alucinações são um sinal de aviso para nós e o Google. O “Google” há muito se torna sinônimo da capacidade de pesquisar e verificar uma citação, verificar uma fonte ou rastrear algo que as pessoas se lembram apenas parcialmente. No entanto, essas alucinações confiantes abalam as próprias fundações da pesquisa do Google, pois se tornará muito mais difícil separar fatos da ficção se a AI tiver a verdade com tanta importância.
Entramos em contato com o Google para obter uma declaração sobre essas alucinações de visão geral da IA. Vamos mantê -lo atualizado quando aprendermos mais.
Você já experimentou uma visão geral da IA? Você já recebeu uma resposta alucinada? Que frase falsa você tentou e o que o Google disse que isso significava? Informe -nos nos comentários abaixo!
