Gemini obtém detecção SynthID para detectar imagens feitas por IA

Você tem um amigo que realmente se orgulha de ser capaz de identificar imagens falsas, manipuladas e compostas? “Já vi algumas lojas na minha época. Posso dizer pelos pixels.” Caramba, talvez essa pessoa seja você. Mas embora detectar um trabalho rápido de clonagem em um antigo quadro de mensagens da Internet fosse uma coisa, a IA moderna realmente melhorou seu jogo quando se trata de produzir falsificações de aparência realista. Felizmente, estamos obtendo novas ferramentas para identificá-los e uma dessas soluções está sendo lançada agora.

Estamos falando do SynthID, que em si não é nada novo – o Google já o usa para marcar invisivelmente suas próprias fotos, vídeos, áudio e até texto gerados e editados por IA, já há algum tempo. Isso é muito bom, mas como você deve reconhecer um conteúdo como esse quando se depara com ele?

No início deste ano, o Google anunciou seu SynthID Detector exatamente para esse propósito, mas isso foi complicado desde o início. Além de o acesso ser inicialmente limitado por uma lista de espera, era necessário carregar manualmente mídias suspeitas em um portal da web para análise. Portanto, embora isso funcionasse para identificar a IA, estava longe de ser simplificado.

Em vez de passar por esses obstáculos, agora temos uma solução muito mais fácil: o reconhecimento SynthID chegou ao Google Gemini.

Estamos descobrindo que uma nova entrada SynthID aparece entre os aplicativos conectados do Gemini, e interagir com ela permite que você escaneie rapidamente uma imagem em busca de marcas reveladoras de influência da IA. Gemini irá relatar o quanto da imagem parece ter sido afetada pela IA, caso você esteja lidando com conteúdo apenas parcialmente manipulado.

Por mais útil que seja, ainda há um grande problema subjacente: nem todo mundo está usando SynthID, e se alguma mídia foi gerada por um modelo de IA que não a utiliza, a Gemini não será capaz de identificá-la. O Google está ansioso para expandir o ecossistema SynthID contratando parceiros adicionais, mas no momento seu alcance ainda é um pouco limitado.