O Google não dirá como aplicará marcas d’água para fotografia gAI

No Google I/O 2023, a empresa teve muito a dizer sobre IA generativa. Por exemplo, vimos o chatbot do Google, Bard, ser implementado em mais países/idiomas e aprendemos como a ferramenta agora pode ser integrada a outros serviços do Google, como Mapas e Planilhas. O Google também anunciou uma nova ferramenta “Ajude-me a escrever” no Gmail, que faz exatamente o que você espera. Um dos anúncios mais controversos, porém, foi o Magic Editor, um novo sistema que pode criar imagens generativas de IA usando fotos que você já capturou.

Apenas alguns dias após o I/O, publicamos um artigo de opinião sobre os problemas que vimos no Magic Editor. Essencialmente, a ferramenta levanta a questão: o que é uma foto? Se uma fotografia é um momento capturado da realidade, manipular esse momento para refletir uma realidade totalmente diferente não é um problema ético substancial? Em outras palavras, se você tirar uma foto de sua família em um dia nublado e alterá-la com o Magic Editor para incorporar um céu ensolarado, isso não mudará um aspecto central da memória que a foto reflete? Onde está o limite para essa manipulação?

Este é um dilema significativo que enfrentamos na era da IA ​​em desenvolvimento. Felizmente, ficamos felizes em saber que o Google está levando o problema a sério. No palco, o Google enfatizou seu foco em manter as ferramentas generativas de IA seguras e éticas. Mais recentemente, foram incorporadas proteções ao Magic Editor que impedem a edição de rostos e pessoas, por exemplo.

A empresa também se comprometeu, em diversas ocasiões, com marcas d’água na mídia que incluem elementos generativos de IA para que qualquer pessoa possa ver se é totalmente real ou não. Algumas semanas atrás, procuramos essa marca d’água – mas não conseguimos encontrá-la. Isso nos levou a enviar uma mensagem diretamente ao Google.

No início de novembro, entramos em contato com um representante de relações públicas do Google que trabalha na divisão do Google Fotos. Pedimos instruções explícitas sobre como encontrar a marca d’água associada a fotos manipuladas usando Magic Editor, Magic Eraser e ferramentas semelhantes do Google.

Numa resposta apenas algumas horas depois, o representante de relações públicas disse-nos que os metadados são baseados em padrões do Conselho Internacional de Telecomunicações de Imprensa (IPTC). Para ver essas informações, você precisa usar uma ferramenta baseada na web fornecida pelo IPTC. O serviço gratuito exige que você forneça o URL de uma imagem, carregue uma foto ou forneça o URL de um site para obter uma lista de imagens localizadas lá. Tentamos isso enviando uma foto capturada por um Pixel 8 Pro e depois manipulada pelo Magic Editor. Com certeza, poderíamos ver essas informações listadas:

Para constar, também carregamos a imagem original e descobrimos que ela não tinha a tag “AI-Generated with Google”. Isso prova que o IPTC pode distinguir uma foto que incorpora elementos gerados por IA no estilo Magic Editor de uma com apenas ajustes de edição baseados em IA, como aqueles feitos pelo Pixel 8 Pro para clareza, cor, foco, etc.

Embora este sistema funcione, não é muito conveniente. Quantas pessoas sabem que este site existe? Essas informações não deveriam estar claramente listadas no próprio Google Fotos? Por que não consigo clicar com o botão direito em uma foto no Chrome e ver essas informações? Tenha essas perguntas em mente ao passarmos para a segunda pergunta que fizemos ao Google.

Em nosso e-mail original, também perguntamos ao Google sobre suas políticas relacionadas a imagens generativas de IA de seus parceiros. Por exemplo, um fabricante de Android precisará cumprir regras específicas para seus próprios sistemas de IA para continuar usando o Google Play Services? Esses parceiros também serão obrigados a fornecer uma marca d’água semelhante para mídia de IA? Rumores sugerem que a Samsung tem sistemas de IA em desenvolvimento para a série Galaxy S24, então isso se tornará importante em breve.

A resposta do Google a esta pergunta foi nos vincular à sua política de conteúdo gerado por IA e a uma postagem no blog de outubro sobre IA. Você pode ficar à vontade para ler os dois artigos, mas economizarei algum tempo: não há nada em nenhuma das páginas sobre a obrigatoriedade de marcas d’água para imagens geradas por IA e fotografias alteradas por IA criadas por parceiros do Google. No entanto, o Google tem uma página diferente que descreve suas políticas sobre comportamento enganoso, que inclui uma seção sobre mídia manipulada (nota: não gerada especificamente por IA). Aqui está uma parte relevante:

Os aplicativos que manipulam ou alteram mídia, além dos ajustes convencionais e editoriais aceitáveis ​​para clareza ou qualidade, devem divulgar ou colocar marca d’água de forma proeminente na mídia alterada quando não estiver claro para a pessoa comum que a mídia foi alterada.

A parte interessante é “… divulgar com destaque ou marcar mídia alterada com marca d’água”. Não sou advogado, mas parece-me que o Google está violando sua própria política ao enterrar sua marca d’água atrás da ferramenta IPTC Photo Metadata.

Acompanhamento sem resposta

Depois de receber essas respostas do Google, enviamos um e-mail de acompanhamento com uma nova pergunta. Aqui está, literalmente:

Haverá atualizações nos produtos existentes do Google para permitir que os usuários vejam os metadados de IA relevantes sem a necessidade de visitar um site de terceiros? Parecem ser muitas etapas extras para descobrir se uma imagem é gerada por IA, e espero que a maioria dos usuários não faça isso, o que dará mais espaço para a disseminação de desinformação. Como exemplo do que quero dizer, eventualmente haverá metadados relevantes mostrados diretamente no Google Fotos? Um clique com o botão direito no Chrome?

O representante de relações públicas do Google não respondeu a este e-mail. Seguimos com um lembrete, mas ainda não recebemos nada de resposta. Desde então, não vimos nenhuma informação nova sobre as políticas de marca d’água do Google para conteúdo de IA, nem nenhuma atualização nos serviços do Google que tornaria mais fácil ver a marca d’água da própria empresa.

A nosso ver, há três coisas que o Google precisa mudar aqui.

O primeiro é óbvio. O Google precisa tornar mais fácil para o cidadão comum descobrir se uma imagem foi criada ou manipulada usando IA generativa. Não deveria haver necessidade de uma ferramenta de terceiros, especialmente uma como o IPTC, que tão poucas pessoas conhecem. Além disso, esta marca d’água precisa ser segura. Não tenho experiência no assunto, mas parece que não seria muito difícil para alguém apagar a tag “AI-Generated with Google” de uma mídia para falsificar a verificação. Isto poderia, teoricamente, levar a uma disseminação de desinformação.

Em segundo lugar, a Google deve forçar os seus parceiros a seguirem estas mesmas políticas de marcas de água. Com o tamanho do Google em vários setores, ele está em uma posição única para policiar milhares de outras empresas e milhões de desenvolvedores, simplesmente obrigando-os a seguir as regras de marca d’água.

Finalmente, o Google deve aplicar essas políticas hipotéticas com mão de ferro. Considerando que não tem nenhum mandato disponível publicamente relacionado com marcas de água geradas pela IA nos meios de comunicação social – e é muito provável que viole as suas próprias políticas existentes para meios de comunicação manipulados – parece que temos uma situação de Velho Oeste nas nossas mãos neste momento. Se o Google for tolerante agora, será muito mais difícil ser rigoroso e controlar todos mais tarde.

Devido ao quão proeminente e influente o Google é, ele tem a responsabilidade de fazer tudo o que puder para evitar que a mídia gerada por IA fique fora de controle. Como diz o ditado, é difícil colocar a pasta de dente de volta no tubo. Não há melhor lugar para começar com medidas preventivas do que o Android e o Chrome, o maior sistema operacional móvel do mundo e o navegador de internet mais popular do mundo, respectivamente. Com mais de três mil milhões de dispositivos Android activos em todo o mundo e um número semelhante de utilizadores do Chrome, nenhuma outra empresa tem tanta influência como a Google neste aspecto.

Também não somos os únicos que pensam isso. Judd Heape, vice-presidente da Qualcomm, disse o seguinte quando perguntamos sobre a Truepic, uma empresa parceira da Qualcomm que trabalha para trazer transparência ao mundo da IA:

A Qualcomm como um todo não está dizendo ‘OEMs, vocês devem [use Truepic]’, mas isso é algo que protegerá o usuário final. E você sabe quem seria bom nisso é o Google. Como parte do Android, eles exigem coisas. Eles podem exigir seus testes. No passado, eles exigiram coisas para os adolescentes… ao embelezar fotos, você pode desativar esse recurso. Algo assim também pode ser feito aqui com o C2PA. Mas vamos ver, acho que nos próximos anos veremos como isso se desenrola.

Concordamos com os pensamentos do Sr. Heape neste ponto, mas sentimos que a ideia de esperar pelos “próximos anos” não é de todo viável. As coisas estão acontecendo rápido demais para isso. Basta olhar para o ChatGPT – ele tem apenas um ano. Num ano, alterou dramaticamente não apenas a indústria tecnológica, mas o mundo inteiro. Não temos tempo para descobrir o que fazer com a IA generativa – precisamos de ação agora.

Ainda assim, estamos encorajados com o início do Google aqui. Mesmo o pequeno gesto de adicionar uma marca d’água às fotos do Magic Editor/Eraser é mais do que muitas outras empresas fariam sem que as regulamentações as obrigassem a fazê-lo. Mas uma marca d’água quase sempre oculta não é suficiente, e o Google não pode ficar parado se seus próprios parceiros não seguirem regras semelhantes.

O que você acha? Responda à enquete abaixo e conte-nos nos comentários por que você escolheu sua resposta.