Calvin Wankhede / Autoridade Android
Resumo
- Um estudo descobriu que a Perplexity cita regularmente conteúdo gerado por IA como fontes para suas respostas.
- Perplexity é um mecanismo de busca de IA que gera respostas após pesquisar informações online, semelhante à pesquisa do Google.
- Uma investigação diferente alegou recentemente que a Perplexity subverte as restrições ao web scraping para melhorar seu chatbot.
O mecanismo de busca baseado em IA Perplexity está enfrentando escrutínio e críticas depois que surgiu um estudo alegando que a ferramenta cita rotineiramente postagens de blog geradas por IA como fontes para suas respostas. O relatório, compilado pelo serviço de detecção de IA GPTZero, afirma que os usuários encontram “alucinações de segunda mão” ou informações apoiadas por fontes geradas por IA após apenas três solicitações, em média.
O estudo descobriu que, embora a Perplexity cite fontes, muitas vezes não leva em consideração a autenticidade do conteúdo. Isso significa que o chatbot irá regurgitar artigos escritos por ChatGPT e alucinações de IA como fatos. Pior ainda, apresentou conteúdos de websites de redes sociais como factos – num exemplo, uma mensagem para “festivais culturais em Quioto, no Japão” devolveu uma resposta que parecia plausível. No entanto, a Perplexity citou um único artigo gerado por IA do LinkedIn como sua única fonte para esta solicitação.
A GPTZero afirma que pode identificar conteúdo gerado por IA com uma taxa de precisão de 97%. Forbes também executou o conteúdo ofensivo por meio de um algoritmo de detecção de IA diferente e chegou à mesma conclusão. Em comunicado oferecido à publicação, o diretor de negócios da Perplexity, Dmitri Shevelenko, admitiu que a ferramenta de busca atribui pontuações de confiança a diferentes domínios. Isso é semelhante ao funcionamento do PageRank do Google – os algoritmos rebaixam e excluem sites de baixa qualidade.
Shevelenko também confirmou que o Perplexity usa algoritmos internos de detecção de IA para sinalizar conteúdo ofensivo. No entanto, ele não ofereceu nenhuma explicação sobre por que a ferramenta dependia tanto de conteúdo gerado por IA, alegando em vez disso que o estudo não representa uma “avaliação abrangente” das fontes do Perplexity.
A Perplexity foi fundada por Aravind Srinivas, que trabalhou como pesquisador de IA na OpenAI, e atualmente está avaliada em mais de US$ 2 bilhões. A empresa atraiu investimentos consideráveis da Nvidia e do fundador da Amazon, Jeff Bezos.
O referido estudo não é a primeira polêmica que atinge a startup de IA nas últimas semanas. Na semana passada, Com fio alegou que Perplexity havia copiado o site da publicação, apesar das tentativas dos engenheiros do site de bloquear as tentativas. E depois de testar o chatbot em vários prompts, Com fio também descobriu que o chatbot às vezes fazia suposições fundamentadas com base nos URLs dos artigos, em vez de resumi-los diretamente. O fundador e CEO da Perplexity disse à publicação que suas conclusões refletiam “um mal-entendido profundo e fundamental de como a Perplexity e a Internet funcionam”.