Rita El Khoury / Autoridade Android
TL;DR
- O Google postou um GIF de seu chatbot AI, Bard, em ação.
- Astrônomos no Twitter apontaram que a nova ferramenta do Google cometeu um erro.
- Após a notícia da disseminação do flub, as ações da Alphabet caíram 8%.
Ontem, a Microsoft realizou um evento surpresa de IA, onde realizou uma demonstração ao vivo de seu mecanismo de busca Bing, alimentado por IA. Para não ficar atrás, o Google postou uma demonstração no Twitter de seu próprio chatbot de IA. No entanto, as coisas não saíram exatamente como planejado.
Não é segredo que a enorme popularidade do ChatGPT preocupa o Google. Para competir contra essa ameaça aos seus negócios, o Google revelou seu próprio chatbot de IA – o Bard. A ferramenta pode produzir respostas inteligentes para consultas em linguagem natural usando informações extraídas da Internet.
Um dia após a demonstração ao vivo do Bing com IA da Microsoft, o Google postou um GIF no Twitter mostrando sua nova ferramenta de IA em ação. O GIF mostra Bard respondendo à pergunta “Que novas descobertas do Telescópio Espacial James Webb posso contar ao meu filho de 9 anos?” Bard então fornece uma lista com marcadores de respostas.
O Bard é um serviço experimental de IA de conversação, alimentado por LaMDA. Construído usando nossos grandes modelos de linguagem e com base em informações da web, é uma plataforma de lançamento para curiosidade e pode ajudar a simplificar tópicos complexos → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
No último ponto, diz “JWST tirou as primeiras fotos de um planeta fora do nosso sistema solar”. Os astrônomos no Twitter foram rápidos em apontar que essa informação era falsa. O astrofísico Grant Tremblay mais tarde citou o post no Twitter explicando que a primeira imagem de um planeta fora do nosso sistema solar foi tirada em 2004 – isso é antes da criação do Telescópio Espacial James Webb.
Não querendo ser um idiota ~bem, na verdade~, e tenho certeza que Bard será impressionante, mas para o registro: o JWST não tirou “a primeira imagem de um planeta fora do nosso sistema solar”.
Embora esse flub possa ser um momento engraçado para alguns nas mídias sociais, o Google está quase rindo. Não muito tempo depois que a notícia do erro se espalhou, as ações da empresa-mãe do Google – Alphabet – caíram 8%, de acordo com Reuters. Isso resultou em uma perda de mais de US$ 100 bilhões em valor de mercado.
Não é incomum que ferramentas de IA como Bard e ChatGPT cometam erros factuais devido a elas extrairem informações da Internet, em vez de um banco de dados confiável de dados verificados. O problema é que esses sistemas apresentam as informações de uma forma autoritária que faz você acreditar que as respostas são verdadeiras.
A Microsoft se protegeu preventivamente da responsabilidade decorrente disso, colocando o ônus no usuário. Isso é declarado em seu aviso de isenção de responsabilidade que diz “O Bing é alimentado por IA, portanto, surpresas e erros são possíveis. Certifique-se de verificar os fatos e compartilhar feedback para que possamos aprender e melhorar!”
Em resposta ao incidente, um porta-voz do Google disse The Verge:
Isso destaca a importância de um processo de teste rigoroso, algo que estamos iniciando esta semana com nosso programa Trusted Tester. Combinaremos feedback externo com nossos próprios testes internos para garantir que as respostas de Bard atendam a um alto padrão de qualidade, segurança e fundamentação em informações do mundo real.
Em um tweet de acompanhamento, Tremblay menciona “Mas o ChatGPT etc., embora assustadoramente impressionante, geralmente está * com muita confiança * errado. Será interessante ver um futuro em que os LLMs verificam os próprios erros.” Ainda não se sabe se esse incidente convencerá essas empresas a implementar a garantia de qualidade por meio de verificações de erros.