O mais recente problema envolvendo o YouTube Kids, que conta com vídeos com tutoriais de suicídio para crianças dentro de desenhos animados aparentemente inocentes mostra mais uma vez como o YouTube é incompetente para controlar as práticas que violam as normas de uso da própria plataforma.

E esse não é um problema apenas para o Google e o YouTube, que perdem anunciantes a rodo (já que nenhuma marca quer ser associada a conteúdos violentos, sexistas ou que não se alinham com os seus valores), mas também para os próprios produtores de conteúdo, que começam a ser penalizados pelas práticas indevidas de pessoas doentes. E o problema pode afetar todas as plataformas e formatos de conteúdo.

No caso do YouTube Kids, o impacto é muito maior. Estamos falando de crianças e adolescentes que são especialmente influenciáveis por esse tipo de conteúdo. E não podemos dizer que o Google não está tomando medidas para tentar coibir a prática. Milhões de vídeos são eliminados por trimestre, mas a impressão que fica é que os esforços são inúteis, e que essa é uma batalha muito difícil de vencer.

E a pior parte é que o YouTube está perdendo essa batalha mesmo utilizando sistemas de inteligência artificial e trabalhando com moderadores humanos. É uma tarefa árdua e enorme para qualquer sistema de moderação combinada.

Truques como o adotado pelos vídeos de tutoriais de suicídio é a última prova cabal que o YouTube ainda não detectou qual é a raiz do problema, que se torna cada vez maior e mais difícil de ser detectado. Tudo bem, a comunidade pode (e deve) seguir denunciando os vídeos ilegais para ajudar na moderação da plataforma, mas muitos entendem que a ajuda do usuário está bem longe de ser o ideal ou que sequer é eficiente.

No meio de tudo isso, está o usuário, que consome os conteúdos do YouTube Kids como se fosse uma plataforma como outra qualquer. E, infelizmente, crianças e adolescentes estão expostos a essa ameaça. Uma pena: a ideia de um segmento dedicado ao conteúdo infantil em um ambiente seguro é maravilhosa, mas infelizmente é contaminada por alguns usuários com mentalidades doentes e perturbadas.

Como vamos resolver isso? Eu não sei. Insisto que a solução ainda está bem longe de ser alcançada.