A Proliferação de Conteúdo Nazista no TikTok
O Papel dos Algoritmos na Disseminação do Ódio
O TikTok tornou-se um vetor preocupante para a exaltação e disseminação do nazismo, com perfis que publicam conteúdos de forma explícita e, frequentemente, através de códigos elaborados para evadir a moderação da plataforma. No Brasil, a apologia ao regime nazista é tipificada como crime, intensificando a gravidade do problema.
A descoberta desses conteúdos, inicialmente reportada ao g1 por um leitor, revelou um padrão alarmante: após interagir com um perfil nazista, o algoritmo do TikTok passou a recomendar proativamente conteúdos semelhantes. Este fenômeno sublinha criticamente o papel dos algoritmos na amplificação de ideologias de ódio, transformando a experiência do usuário em um ciclo de exposição crescente a materiais extremistas.
A Investigação do g1 e a Resposta da Plataforma
A investigação do g1 identificou ao menos 62 contas dedicadas à exaltação do nazismo em um período de quatro semanas. Em menos de três dias de monitoramento, vídeos, fotos e memes com essas referências apareceram com frequência na página 'Para Você', acompanhados de um volume considerável de comentários favoráveis à ideologia.
Questionado, o TikTok afirmou ter removido os conteúdos identificados por violarem suas Diretrizes da Comunidade. A plataforma reitera que não permite apoio ou disseminação de ideologias de ódio, incluindo supremacia, antissemitismo e preconceito, e que símbolos e imagens associados a esses movimentos também são proibidos. A empresa mencionou que treina seus profissionais de segurança para aprimorar a detecção de comportamentos de ódio e proteger o contradiscurso.
Estratégias de Disfarce e o Conceito de 'Dog Whistle'
A maioria das postagens nazistas utiliza hashtags, emojis e siglas como forma de 'camuflar' a ideologia, embora conteúdos explícitos também sejam encontrados. Essas táticas visam dificultar a detecção automatizada e manual por parte dos moderadores da plataforma, ao mesmo tempo em que comunicam a mensagem a um público-alvo.
As pesquisadoras Liriam Sponholz e Yasmin Curzi caracterizam esses conteúdos como 'dog whistle' (apito de cachorro): sinais com duplo sentido que passam despercebidos pela maioria, mas são claramente reconhecidos por aqueles familiarizados com as referências. Essa estratégia permite que os autores mantenham uma negação plausível, enquanto continuam a propagar a ideologia de ódio, desafiando a eficácia das políticas de moderação e a capacidade dos algoritmos em identificar e conter essa disseminação.
Dog Whistles: A Estratégia dos Códigos Ocultos
A Resposta do TikTok e os Desafios da Moderação
O TikTok emergiu como um reduto preocupante para a exaltação e disseminação do nazismo, com perfis publicando conteúdos que glorificam Hitler e a ideologia. Essa prática ocorre tanto de forma explícita quanto por meio de códigos e siglas que visam driblar as ferramentas de moderação da plataforma e a legislação brasileira, que criminaliza a apologia ao regime nazista.
Uma investigação do g1, iniciada a partir da denúncia de um leitor, revelou a extensão do problema. O usuário relatou que, após acessar um vídeo de denúncia, a plataforma passou a recomendar-lhe progressivamente mais conteúdos semelhantes. Em um período de quatro semanas, o g1 identificou pelo menos 62 contas dedicadas à publicação de material de exaltação ao nazismo, que rapidamente passaram a ser exibidos na página 'Para Você' (for you), juntamente com um volume significativo de comentários favoráveis à ideologia.
A Resposta do TikTok
Em resposta às evidências apresentadas pelo g1, o TikTok removeu os conteúdos identificados, alegando violação de suas Diretrizes da Comunidade. A plataforma reiterou seu posicionamento de não permitir o apoio ou a disseminação de ideologias de ódio, incluindo supremacia de grupos, antissemitismo ou outras formas de preconceito. O uso de símbolos e imagens associados a movimentos de ódio também é expressamente proibido. A empresa destacou ainda que investe no treinamento regular de seus profissionais de segurança para aprimorar a detecção de comportamentos, símbolos, termos e estereótipos ofensivos, além de proteger o contradiscurso.
Os Desafios da Moderação e a Disseminação Criptografada
A complexidade da moderação é acentuada pelo uso generalizado de hashtags, emojis e siglas para fazer referência velada à ideologia nazista, um método conhecido como 'dog whistle' (apito de cachorro). Esses sinais de duplo sentido são projetados para passar despercebidos pela maioria dos usuários, mas são imediatamente reconhecidos por aqueles familiarizados com as referências, permitindo uma negação plausível por parte dos publicadores. Pesquisadoras como Liriam Sponholz e Yasmin Curzi, especializadas em discurso de ódio, apontam que muitos desses conteúdos disfarçados ainda podem configurar apologia ao nazismo, evidenciando o constante desafio de identificar e combater eficazmente a propagação de ideologias extremistas na plataforma.
