Como o TikTok pode estar radicalizando seus usuários

Plataforma popular entre jovens conduz pessoas que interagem com conteúdos preconceituosos em direção a mais ódio e extremismo, segundo estudo

    Uma análise da organização americana Media Matters divulgada na terça-feira (5) avaliou o que acontece quando um usuário interage apenas com conteúdos transfóbicos no TikTok, rede social de vídeos curtos, popular entre crianças e adolescentes. Segundo o estudo, o aplicativo passa a recomendar vídeos que reproduzem ainda mais transfobia, ao lado de outros tipos de discurso de ódio e extremismo, como misoginia, racismo, antissemitismo e teorias da conspiração.

    Esses tipos de conteúdo violam as regras do TikTok contra “extremismo violento” e “comportamento de ódio”, mas outros estudos recentes têm mostrado que não é difícil encontrá-los na plataforma. O que a nova pesquisa revela é que o aplicativo pode estar ativamente apresentando vídeos cada vez mais radicais a seus jovens usuários, de forma parecida com o que já aconteceu em outras mídias, como o YouTube.

    Neste texto, o Nexo explica como a pesquisa foi feita, mostra qual o lugar da transfobia no TikTok e apresenta os estudos que mapeiam o extremismo na plataforma.

    Como a análise foi feita

    Os pesquisadores da Media Matters abriram uma nova conta no TikTok, em um aparelho celular usado apenas para interagir com conteúdos considerados transfóbicos.

    Na definição usada no estudo, “conteúdos transfóbicos” são aqueles que “degradam pessoas trans, insistem que ‘só existem dois gêneros’, e/ou zombam das experiências de pessoas trans”. E “interagir” significa seguir perfis que produzem esses conteúdos, curtir vídeos e assisti-los até o fim, ou salvar o áudio usado nas postagens (funcionalidade comum no TikTok, onde vídeos de dublagem são populares).

    Depois disso, foram analisados 360 conteúdos que apareceram na página “Para você” do aplicativo, que reúne vídeos recomendados pelo algoritmo do TikTok com base no comportamento do usuário. Do total, 103 continham narrativas anti-trans e/ou homofóbicas, 42 eram misóginos, 29 apresentavam discursos racistas ou mensagens de supremacia branca, e 14 incentivavam a violência.

    Alguns posts aproveitavam a função de dublagens do TikTok para reproduzir discursos de ódio de forma velada. Um exemplo é de um usuário que fez um vídeo com a cabeça baixa, acompanhado do texto: “Não acredito que no passado as pessoas eram mortas só por serem gays”. Ele parecia estar lamentando a violência contra homossexuais, mas a letra da música tocando no vídeo revelava a mensagem oposta: “Queria que pudéssemos voltar no tempo, para os bons e velhos dias”.

    Na conclusão do estudo, os pesquisadores destacam a rapidez com que o TikTok pode introduzir usuários a diferentes tipos de extremismo, devido ao formato de vídeos curtos, que começam a ser reproduzidos imediatamente quando se abre o app. “É plausível que um usuário baixe o aplicativo no café da manhã e passe a receber conteúdos de supremacia branca e neonazismo antes do almoço”, diz o relatório.

    A transfobia no TikTok

    Em maio, outra análise da Media Matters já havia mostrado que vídeos que incitam violência contra a população LGBTI não apenas existem no TikTok, como são recomendados pelo próprio aplicativo a usuários que mostram interesse nesse tipo de conteúdo.

    O problema é acentuado pelo fato de que a principal página acessada por usuários do TikTok é a “Para você”, com conteúdos selecionados pelo algoritmo — diferentemente de outras redes sociais, como Instagram ou Twitter, em que o feed de notícias é mais determinado por quais perfis o usuário segue.

    Para pessoas transgênero, essa característica do app tem um lado positivo e outro muito negativo. Criadores de conteúdo trans ouvidos em reportagens do site Vice e Business Insider relatam que a plataforma pode ser um ótimo lugar para jovens LGBTI encontrarem comunidades e trocarem experiências, devido ao formato de vídeos curtos, que favorecem o humor e a franqueza.

    Mas o app também os expõe a muito assédio — mais do que outras mídias sociais, segundo 12 usuários ouvidos pelo Insider —, porque os seus conteúdos podem ser exibidos na página “Para você” de pessoas intolerantes que não os seguem. Os ataques preconceituosos tomam a forma de comentários, mensagens privadas, e respostas em vídeo usando as ferramentas de “dueto” e “costura” do TikTok.

    A moderação da plataforma vem sendo criticada por falhas no combate ao assédio e ao discurso de ódio — e também por acusações de censura contra pessoas trans. Em reportagens do site Buzzfeed News e da BBC News, usuários transgênero disseram que tiveram vídeos ou perfis derrubados sem que tivessem violado nenhuma das regras da rede social, e sem que fosse apresentada qualquer outra explicação.

    Um relatório divulgado em setembro de 2020 pela organização Australian Strategic Policy Institute, da Austrália, mostrou que o TikTok estava suprimindo o alcance de hashtags com conteúdos LGBTI (como #gay) em ao menos oito idiomas diferentes.

    Theo Bertram, diretor de políticas públicas do TikTok para Europa, Oriente Médio e África, pediu desculpas pela censura em uma reunião com parlamentares britânicos no mesmo mês. Ele disse que a prática foi adotada em países com leis que discriminam a população LGBTI e também como uma estratégia contra o bullying, que admitiu ter sido “péssima ideia”.

    A rede social disse ao Buzzfeed, em abril de 2021, que “não remove conteúdos ou perfis com base na identidade de gênero e toma muito cuidado para cultivar um ambiente seguro e acolhedor”, onde a comunidade possa “se expressar autenticamente e criativamente”.

    O extremismo na plataforma

    Mais de 1.000 vídeos do TikTok com conteúdo extremista foram mapeados em um estudo divulgado em agosto de 2021 pelo Institute for Strategic Dialogue, organização com base no Reino Unido.

    Segundo o autor da pesquisa, Ciáran O’Connor, a rede social tem um “problema considerável na aplicação” de regras contra extremismo e discurso de ódio. Há moderação, mas é inconsistente: dos 1.030 vídeos identificados no estudo, 81,5% ainda estavam disponíveis na plataforma no momento de publicação do relatório.

    Mais de um terço dos conteúdos era de supremacistas brancos. O mais assistido, com 2 milhões de visualizações, continha racismo contra asiáticos e desinformação sobre a covid-19. Foram encontradas postagens negando que o Holocausto ocorreu e vídeos produzidos originalmente pelo grupo terrorista Estado Islâmico.

    “A principal conclusão é que é fácil encontrar conteúdo incentivando ódio e apoiando extremismo (em diversas formas) no TikTok”

    Ciáran O’Connor

    Pesquisador do Institute for Strategic Dialogue, ao site Insider

    A rede social respondeu ao estudo, declarando que “valoriza a colaboração do Institute for Strategic Dialogue e de outros grupos cujas importantes pesquisas sobre desafios que afetam toda a indústria ajudam a fortalecer a aplicação de políticas para manter a plataforma segura e acolhedora”.

    No Brasil, uma análise do site Núcleo publicada em agosto de 2021 mostrou que hashtags relacionadas a militarismo, manuseio de armas e ações policiais têm recebido cada vez mais engajamento desde janeiro de 2020 — acompanhando o aumento na visibilidade de militares durante o governo do presidente Jair Bolsonaro, que apoia o armamento da população.

    Conteúdos com essas hashtags frequentemente incentivam a violência por parte de agentes do Estado, segundo o Núcleo. “Militarismo, exaltação de armas de fogo e de policiais também pode ser um gatilho para radicalização online”, diz a análise do jornalista Sérgio Spagnuolo. “Se não chega a ser discurso de ódio, beira a banalização do uso da violência.”

    PARA CONTINUAR LENDO,
    TORNE-SE UM ASSINANTE

    Tenha acesso ilimitado e apoie o jornalismo independente de qualidade

    VOCÊ PODE CANCELAR QUANDO QUISER
    SEM DIFICULDADES

    Já é assinante, entre aqui

    Todos os conteúdos publicados no Nexo têm assinatura de seus autores. Para saber mais sobre eles e o processo de edição dos conteúdos do jornal, consulte as páginas Nossa equipe e Padrões editoriais. Percebeu um erro no conteúdo? Entre em contato. O Nexo faz parte do Trust Project.