YouTube expõe crianças a vídeos de IA prejudiciais, dizem especialistas
Carta de especialistas cobra ação do YouTube contra vídeos de IA que dominam o consumo de mídia por parte de crianças
Grupos de defesa e especialistas criticaram o YouTube por entregar vídeos de baixa qualidade gerados por inteligência artificial ao seu público mais vulnerável: crianças.
Em uma carta enviada ao CEO do YouTube, Neal Mohan, e a Sundar Pichai, CEO da controladora Google, a organização de defesa infantil Fairplay expressa “profunda preocupação” com a disseminação de vídeos gerados por IA tanto no YouTube quanto no YouTube Kids. O documento foi assinado por mais de 200 organizações e especialistas, como psiquiatras infantis e educadores.
Esse tipo de conteúdo, apelidado de “AI slop” (algo como "lixo de IA"), prejudica o desenvolvimento infantil ao distorcer a percepção de realidade, sobrecarregar os processos de aprendizado e sequestrar a atenção, prolongando o tempo online e substituindo atividades offline essenciais para um crescimento saudável, diz a carta, enfatizando que “esses danos são particularmente graves para crianças pequenas.”
Segundo o documento, grande parte desse conteúdo gerado por IA aposta em ritmo acelerado, cores vibrantes, música chamativa e títulos caça-cliques para capturar a atenção do público infantil. Ao mesmo tempo, cresce na internet um movimento crítico a esse tipo de material, especialmente quando ele apresenta baixa qualidade ou flerta com o vazio típico do chamado “brain rot” (apodrecimento do cérebro).
O texto pede que o YouTube identifique claramente todo conteúdo gerado por IA e proíba esse tipo de material no YouTube Kids. Também propõe impedir que vídeos gerados por IA sejam recomendados a menores de 18 anos e sugere criar uma opção para que pais desativem esse conteúdo, mesmo quando buscado pelas crianças.
PADRÕES DE VÍDEOS DO YOUTUBE PARA CRIANÇAS
Em nota, o porta-voz Boot Bullwinkle afirmou que o YouTube mantém “altos padrões para o conteúdo do YouTube Kids, incluindo a limitação de vídeos gerados por IA a um pequeno conjunto de canais de alta qualidade”.
“Também oferecemos aos pais a opção de bloquear canais. Em todo o YouTube, priorizamos a transparência em relação ao conteúdo de IA, rotulando materiais produzidos com nossas próprias ferramentas e exigindo que criadores informem quando usam IA para gerar conteúdo realista”, disse Bullwinkle. “Estamos constantemente ajustando nossa abordagem para acompanhar a evolução do ecossistema.”
A política atual da plataforma exige que criadores informem quando conteúdos “realistas” são produzidos com mídia alterada ou sintética, incluindo IA generativa. Já conteúdos claramente irreais, como animações ou vídeos com efeitos especiais, não precisam dessa sinalização. O YouTube afirma que está trabalhando no desenvolvimento de rótulos específicos para o YouTube Kids.
Na carta, a Fairplay argumenta que a política de divulgação voluntária e a definição considerada “extremamente limitada” de conteúdo alterado ou sintético permitem que crianças continuem expostas a uma enxurrada de vídeos gerados por IA sem identificação.
Leia mais: Não é só o slop. Uso de IA está deixando tudo mais parecido
Além disso, muitos usuários do público infantil ainda não sabem ler ou não conseguem compreender avisos desse tipo – o que, segundo o texto, os deixa “por conta própria ou obriga os pais a jogar um interminável jogo de ‘acerte o alvo’”.
CONTEÚDO HIPNOTIZANTE
A campanha da Fairplay surge pouco depois de o Google, por meio de seu fundo AI Futures Fund, investir US$ 1 milhão na Animaj, estúdio de animação com IA focado em conteúdo infantil e com números impressionantes de audiência, segundo a Bloomberg.
A mobilização também vem na esteira de um veredicto histórico em um processo sobre vício em redes sociais, no qual um júri da Califórnia concluiu que o YouTube foi projetado para reter a atenção de jovens usuários sem considerar seu bem-estar. A Meta foi considerada responsável pelas mesmas acusações no mesmo caso.
Na carta, especialistas propõe impedir que vídeos gerados por IA sejam recomendados a menores de 18 anos.
“Empurrar ‘lixo de IA’ para crianças pequenas é mais uma prova de como o YouTube e o YouTube Kids são projetados para maximizar o tempo de tela, inclusive de bebês. Esse tipo de conteúdo hipnotiza as crianças, dificultando que elas saiam das telas e passem para atividades essenciais como brincar, dormir e interagir socialmente”, afirmou Rachel Franz, diretora do programa Young Children Thrive Offline, da Fairplay. “Além disso, o algoritmo do YouTube torna praticamente impossível evitar esse tipo de conteúdo.”
No início do ano, Mohan listou o “combate ao AI slop” como uma das prioridades da empresa para 2026. Em um post publicado em janeiro, ele afirmou que a companhia está “ampliando sistemas já consolidados, que têm sido eficazes no combate a spam e caça-cliques, além de reduzir a disseminação de conteúdo repetitivo e de baixa qualidade.”
