YouTube enfrenta reação contra vídeos de IA voltados para crianças

O YouTube passou anos tentando se posicionar como um lugar mais seguro para os espectadores mais jovens, mas uma nova onda de conteúdo gerado por IA para crianças está gerando polêmica. Um grande grupo de especialistas em desenvolvimento infantil está instando o Google a intervir e potencialmente proibir algumas delas de uma vez.

Conforme relatado por Bloombergmais de 200 especialistas infantis, grupos de defesa e escolas enviaram uma carta ao CEO do Google, Sundar Pichai, e ao CEO do YouTube, Neal Mohan, pedindo que os vídeos gerados por IA sejam removidos das recomendações para crianças no YouTube e no YouTube Kids. O grupo visa o que descreve como conteúdo produzido em massa e de baixa qualidade – muitas vezes apelidado de lixo de IA – projetado para chamar a atenção em vez de realmente ensinar alguma coisa.

Suas preocupações são um pouco mais profundas do que apenas a qualidade do conteúdo. A carta argumenta que esses vídeos podem afetar a capacidade de atenção das crianças e confundir a linha entre o que é real e o que não é. Também aponta para um problema familiar para os pais: o tempo de tela se infiltrando em espaços que de outra forma seriam preenchidos com brincadeiras e interação social no mundo real. Eles dizem que o YouTube é efetivamente parte de um “experimento descontrolado” com crianças, promovendo conteúdo gerado por IA sem evidências claras de que seja realmente benéfico.

O YouTube afirma que não está ignorando o problema. Um porta-voz disse que a empresa já limita o conteúdo gerado por IA no YouTube Kids a um conjunto menor de canais avaliados e exige que os criadores divulguem quando os vídeos são feitos com IA. Ela também afirma que seus sistemas são construídos para penalizar conteúdo com spam produzido em massa, mas os críticos não estão convencidos de que isso seja suficiente.

Também há uma mensagem confusa aqui. Enquanto enfrenta apelos para reprimir o conteúdo de IA para crianças, o Google investiu recentemente no Animaj, um estúdio de animação de IA focado na produção de vídeos do YouTube para públicos mais jovens. Os críticos por trás da carta argumentam que medidas como essa poderiam encorajar mais tempo de tela, inclusive entre “bebês e crianças pequenas que não deveriam ter nenhum tempo de tela”.

Tudo isso acontece num momento em que a controladora do YouTube já está sob pressão sobre como suas plataformas afetam os usuários mais jovens. Um veredicto recente do júri dos EUA considerou o Google e o Meta responsáveis ​​​​em um caso relacionado ao vício em mídias sociais. Ambas as empresas planejam apelar, mas este último desenvolvimento levanta mais questões sobre a abordagem do Google aos usuários mais jovens.