As respostas da IA do Google direcionaram alguns usuários a golpistas

A maioria das ferramentas de IA tem isenções de responsabilidade de que algumas das informações que eles fornecem podem não ser factuais. Mas isso não impediu as empresas de lançar chatbots para mais aplicativos e mecanismos de pesquisa, levando a muitos casos em que as ferramentas são incorretas com confiança.

As visões gerais da AI da Google Search se tornaram virais em várias ocasiões devido a essas respostas factualmente falhas. No entanto, os usuários agora estão relatando outro problema: os resumos de IA do Google estão fornecendo números incorretos para o suporte ao cliente – direcionando as pessoas a enganar os números.

O proprietário da empresa, Alex Rivlin, compartilhou sua experiência no Facebook, observando que as visões gerais da IA do Google o direcionaram para um número de telefone fraudulento (via Tendências digitais). Ele encontrou o golpe quando tentou entrar em contato com o suporte ao cliente da Royal Caribbean para reservar um ônibus para um próximo cruzeiro e telefonar para o número fornecido pela resposta da IA. Mas depois de compartilhar os detalhes do cartão de crédito com a pessoa que ele ligou, seu cartão foi acusado por diferentes compras não autorizadas.

Rivlin não é a única pessoa que encontrou esse problema. Em uma postagem no Reddit, o usuário Stimpy3901 disse que, quando pesquisou “como corrigir um nome com erros de ortografia no sudoeste”, a visão geral da AI forneceu um número de golpe. O usuário disse que, se você ligar para o número, os golpistas tentarão cobrar centenas de dólares para alterar o ingresso.

Outro usuário do Reddit, Scotiaminotia, encontrou o mesmo problema ao tentar entrar em contato com a British Airways. No entanto, eles observaram que, desde que relataram o problema há três meses, o resultado foi corrigido.

Essas respostas da IA não estão apenas recomendando números de fraude. Em julho, o usuário do Reddit PuddingResponsible disse que uma visão geral da IA estava direcionando os clientes de uma empresa a entrar em contato com um de seus clientes. De acordo com The Washington Postum porta -voz do Google disse que a empresa está ciente do problema e tomou medidas contra certos números de scammer. Também está trabalhando para melhorar os resultados.

No entanto, se você preferir errar por cautela, entre em contato apenas com os números dos sites oficiais da empresa. Visões gerais de IA estão erradas sobre fatos simples, como em que ano é, no passado. A ferramenta também inventou significados para idiomas falsos antes. Melhores informações de check duas vezes para que você possa evitar golpes.