O Google decidiu lançar amplamente seu recurso AI Overviews nos EUA no início deste mês, oferecendo resumos gerados por IA para várias consultas. Infelizmente, muitas respostas foram imprecisas, estranhas ou totalmente perigosas.
Agora, o Google confirmou em uma resposta a Autoridade Android que está tomando “ações rápidas” em consultas ofensivas:
A grande maioria das visões gerais de IA fornece informações de alta qualidade, com links para se aprofundar na web. Muitos dos exemplos que vimos foram consultas incomuns e também vimos exemplos que foram adulterados ou que não conseguimos reproduzir. Realizamos testes extensivos antes de lançar esta nova experiência e, assim como acontece com outros recursos que lançamos na Pesquisa, agradecemos o feedback. Estamos tomando medidas rápidas quando apropriado de acordo com nossas políticas de conteúdo e usando esses exemplos para desenvolver melhorias mais amplas em nossos sistemas, algumas das quais já começaram a ser implementadas.
Algumas das visões gerais de IA mais notáveis que se tornaram virais incluem uma recomendação para comer uma pequena pedra por dia, dizendo às pessoas para usarem cola não tóxica para garantir que o queijo grude na pizza e uma sugestão para beber pelo menos dois litros de urina por dia para passar uma pedra nos rins. Uma das gafes aparentes mais profundamente preocupantes foi a recomendação de pular de uma ponte se os usuários percebessem que estavam deprimidos. Parece que pelo menos algumas dessas respostas vieram dessas visões gerais de IA que fazem referência a artigos satíricos ou trolls em fóruns (por exemplo, Reddit).
Esta é apenas a mais recente de uma série de gafes de IA que vimos no Google, que aparentemente corre para trazer IA para tudo. Mais recentemente, o recurso de geração de imagens do Gemini foi criticado por criar imagens de nazistas racialmente diversos da era da Segunda Guerra Mundial, em vez de imagens historicamente precisas. Versões anteriores de Bard (agora Gêmeos) também ganharam manchetes por alucinações e respostas incorretas.