YouTube exibe vídeos de IA a crianças sem alerta

Factual · Plantão Xaplin · checado em 2 fontes independentes

Vídeos gerados por inteligência artificial (IA) têm sido sugeridos pelo algoritmo do YouTube a usuários infantis sem aviso explícito sobre o uso da tecnologia, informam a BBC News Brasil e a Folha de S.Paulo. Um teste conduzido pela BBC News Brasil revelou que clipes do tipo apareceram após cerca de 15 minutos de navegação, com buscas iniciais por temas como jogos Roblox, Minecraft e vídeos de animais.

Os conteúdos incluem desde animações com personagens que alteram nome, voz e aparência sem explicação, a músicas infantis com letras incompreensíveis e trechos em múltiplos idiomas, de acordo com as reportagens. Muitos desses vídeos, produzidos em escala e replicados por diversos canais, "acumulam dezenas ou centenas de milhares de visualizações", segundo a Folha de S.Paulo, e criadores chegam a recomendar o nicho infantil como oportunidade de negócio.

Especialistas ouvidos pela BBC News Brasil alertam que o material pode levar crianças a "confundir realidade e ficção e afetar de forma significativa e permanente sua capacidade de atenção e seu desenvolvimento cognitivo e social". Embora o YouTube afirme combater conteúdos de IA de baixa qualidade e ter regras mais rígidas para vídeos infantis, pesquisadores indicam que a plataforma não identifica automaticamente esses vídeos, e muitos criadores não informam sobre o uso da tecnologia.

A maioria dos vídeos com fortes indícios de IA, como vozes que não correspondiam aos personagens e desenhos que mudavam de forma, não apresentava qualquer aviso da plataforma, conforme constatado pelos pesquisadores ouvidos pela BBC News Brasil. O jornal The New York Times realizou uma análise manual e com ferramenta de detecção para ilustrar a frequência desses vídeos.

Fontes: Folha de S.Paulo · BBC News Brasil