De Stephen Hawking a Michael Jackson, a bagunça de Sora 2 não poupa nem celebridades mortas

Se você pensou que o Veo 3 ultrapassou os limites da IA ​​para gerar vídeos perfeitamente sincronizados com os lábios apenas a partir de prompts de texto, o Sora 2 da OpenAI implora que você o revisite. Lançado na semana passada, juntamente com um feed rolável de vídeos verticais no estilo TikTok, Sora 2 foi projetado para marcar um “grande salto em frente” na geração de vídeos altamente realistas com um maior grau de controlabilidade e a capacidade de seguir as leis da física com melhor precisão.

Embora a OpenAI afirme que o Sora 2 é uma “plataforma mais saudável para entretenimento e criatividade em comparação com o que está disponível no momento”, estamos vendo ele sendo usado para gerar mais resíduos de IA. Embora o modelo mais recente, assim como o aplicativo de vídeo, ainda seja somente para convidados, estamos vendo inúmeras contas de conteúdo ofensivo indiferente sendo gerado. Como seria de esperar da Internet, estamos testemunhando uma tendência insuperável de recriar personagens fictícios. E embora exija que as celebridades optem explicitamente (em vez de optar por não participar) para permitir que seus rostos ou personalidades sejam transformados com Sora, estamos vendo os falecidos enfrentando o peso dos usuários extremamente imaginativos com acesso antecipado.

De Stephen Hawking batendo em lutadores profissionais em um ringue da WWE ao ex-presidente dos EUA John F. Kennedy discutindo os avanços da IA ​​no comércio online, Gandhi andando à deriva em um Toyota Supra, Michael Jackson realizando um ato peculiar de standup ou uma entrevista de rua com o rapper Tupac Shakur, esses são alguns dos inúmeros deepfakes com celebridades que não estão mais entre nós. Isso é possível porque o aplicativo permite fazer upload de uma imagem e usá-la como referência de semelhança, produzindo resultados quase que instantaneamente.

Se servir de consolo, Sora 2 nem sequer poupou Sam Altman, que foi retratado em vários vídeos roubando lojas, dormindo em uma cadeira de escritório ou iniciando um tumulto de dança em uma estação de metrô. Ironicamente, esses vídeos foram compartilhados por um suposto engenheiro da OpenAI, Gabiel Peters, demonstrando a facilidade de criação de vídeos.

Além de serem angustiantes, todos esses vídeos violam a política da OpenAI, que exige consentimento explícito de celebridades quando suas características físicas podem ser usadas para “participações especiais”. O problema é ainda mais premente para celebridades falecidas que não podem consentir em participações especiais, especialmente porque a OpenAI permitiu a criação de vídeos com figuras históricas, como confirmou um porta-voz da empresa ao Garon.

E não podemos esquecer o aspecto humano por trás de tudo. Esses vídeos são totalmente desrespeitosos com os mortos. E falando das suas implicações sociais, poderiam ser usadas para mobilizar pessoas através de falsas narrativas políticas, usadas para cyberbullying descarado, ou mesmo para pornografia de vingança. Esses são aspectos pelos quais a OpenAI precisa assumir a responsabilidade. A mera anexação de uma marca d’água Sora (que pode ser facilmente cortada) não garante imunidade.

Embora atualmente haja pouca resistência por parte de celebridades, seus familiares ou porta-vozes – além de a filha do célebre ator Robert William – podemos esperar que as disputas legais aumentem para a OpenAI se ela não puder conter o conteúdo em sua plataforma. A OpenAI ou qualquer representante ainda não abordou o assunto publicamente, embora tenhamos poucas esperanças de moderação do conteúdo.