Andrew Grush / Autoridade Android
Bem-vindo ao Novidades em IA, nossa atualização semanal, onde trazemos a você as últimas notícias, ferramentas e dicas sobre IA para ajudá-lo a se destacar neste novo e corajoso mundo movido pela IA. Vamos começar focando na maior (e atualmente mais recente) história da semana:
Modelos de treinamento podem usar imagens reais que retratam abuso infantil
Um novo relatório alarmante do Observatório da Internet de Stanford descobriu que o conjunto de dados LAION-5B tem pelo menos 3.200 imagens de suspeita de abuso sexual infantil e até agora pelo menos mil imagens foram confirmadas por Stanford em colaboração com o Centro Canadense para Proteção Infantil e outros grupos antiabuso. O que é mais preocupante é que esses dados são atualmente usados por ferramentas como o Stability AI da Stable Diffusion e os geradores de imagens do Google.
A boa notícia é que a organização sem fins lucrativos por trás do LAION deixou claro que tem uma política de tolerância zero para conteúdo prejudicial e removeria temporariamente os conjuntos de dados online à medida que o problema fosse analisado. Embora as imagens constituam apenas uma pequena fração do banco de dados, o dano não pode ser subestimado. É muito possível que esses dados estejam sendo usados por pessoas mal-intencionadas para gerar imagens de pornografia ilegal e para outros fins nefastos. Na verdade, já houve incidentes relacionados ao uso de IA para remover digitalmente a roupa de adolescentes usando suas fotos nas redes sociais. Anteriormente, acreditava-se que isso era feito em grande parte usando dados de treinamento de pornografia adulta em combinação com imagens legais e comuns de crianças coletadas pelos scrappers dos dados de treinamento. Acontece que é possível que esses dados de treinamento ilegais também estejam envolvidos.
Infelizmente, a forma como os modelos de IA funcionam torna difícil impedir a eliminação de dados ilegais que encontra na Internet, o que torna a importância das salvaguardas ainda mais crucial. Embora muitas empresas como a Stable Diffusion já tenham práticas que reduzem os danos, existem muitas ferramentas não autorizadas ou hackeadas por aí. Já houve apelos anteriores de todos os 50 procuradores-gerais dos EUA para abordar o CSAM gerado por IA no Congresso e, esperançosamente, este novo relatório ajuda a lançar uma luz ainda mais brilhante que implementa as proteções e regulamentações necessárias. Você pode ler mais sobre a história na Associated Press.
IA nas notícias: o que mais está acontecendo esta semana
Embora o relatório acima seja certamente a notícia mais preocupante da semana, está longe de ser a única coisa que acontece na IA. Aqui está um rápido resumo:
- Rite Aid foi proibida de usar reconhecimento facial de IA. A Rite Aid teve problemas com a FTC depois de usar o reconhecimento facial de IA para perseguir ladrões de lojas e outros malfeitores. A empresa estava usando as imagens para construir um banco de dados de “pessoas de interesse”. Esse banco de dados acabou levando os funcionários das lojas a usar essas informações para acusar os clientes de mau comportamento, visando principalmente mulheres e pessoas de cor. Devido ao “uso imprudente de sistemas de vigilância facial”, a FTC afirma que a empresa não poderá usar o reconhecimento facial de IA em seus negócios nos próximos cinco anos.
- Não há como se esconder de nossos senhores da IA. Um novo projeto chamado Predicting Image Geolocations foi criado por três estudantes de Stanford para ajudar a descobrir onde as imagens do Google Street View foram tiradas pela primeira vez. Mas depois de fornecer fotos pessoais nunca antes vistas, eles foram capazes de usar a IA para encontrar com precisão a localização da pessoa com um alto grau de precisão. Dizer que isso apresenta grandes preocupações com a privacidade seria dizer o mínimo.
- A UE quer apoiar startups locais de IA. A União Europeia quer proporcionar a estas startups acesso ao poder de processamento necessário que um supercomputador pode fornecer.
- Um jornal do Arkansas está processando o Google. O processo movido por Helana World Chronicle afirma que o Google Bard AI foi treinado em um conjunto de dados que incluía “notícias, revistas e publicações digitais” e que isso está impactando negativamente a imprensa livre sem nenhum retorno positivo. Afirma ainda que a recente IA do Google foi projetada para desencorajar os usuários finais de visitar sites de notícias, preferindo usar a IA diretamente do Google para o trabalho.
Destaque de ferramentas e aplicativos de IA
Em nosso destaque de ferramentas e aplicativos de IA, destacamos novos aplicativos e ferramentas que acreditamos que merecem atenção extra. Seremos honestos, esta foi uma semana mais tranquila para ferramentas, o que faz sentido no meio da temporada de férias. O destaque desta semana vai para uma ferramenta que não é tecnicamente nova, mas que está recebendo uma atualização bastante interessante.
Copiloto da Microsoft
O Microsoft Copilot não recebe o mesmo nível de atenção que alguns outros chatbots, mas é baseado no GPT 4 e é realmente muito poderoso. Ele também está chegando a mais lugares, inclusive no Microsoft Edge, no Windows e muito mais. Na maior parte, o Copilot faz as mesmas coisas que os demais chatbots principais, mas sua nova integração com o Suno vale a pena destacar esta semana. Basta visitar o Microsoft Copilot e pedir para “fazer música com Suno”. Com um plug-in simples, você poderá criar sua música gerada por IA usando um simples prompt de texto de uma ou duas linhas.
Como fazer e dicas: Bard vs ChatGPT, qual chatbot de IA se sai melhor no planejamento de viagens?
Quer saber mais sobre IA, como fazer melhor uso das ferramentas de IA ou como proteger sua privacidade da IA? Cada semana traremos a você um novo guia prático ou dica que achamos que vale a pena compartilhar. Esta semana estou fazendo uma pequena autopromoção para meu último artigo sobre IA, que analisa mais de perto como o Gemini Pro e o ChatGPT se comparam quando se trata de planejar um itinerário de viagem. Isso não apenas traz algumas dicas sobre como as duas ferramentas tendem a responder de maneira diferente, mas também é um bom guia para ver qual delas se adapta melhor às suas necessidades.