A Infiltração na Cultura Pop do TikTok
Em tempos recentes, o TikTok se tornou um epicentro cultural onde tendências emergem e se dissipam rapidamente. Porém, há uma corrente sombria tentando se infiltrar no aplicativo, aproveitando suas características de virabilidade e alcance global. Grupos nazistas, que há décadas buscam diversas plataformas para disseminar seus preconceitos e ideologias odiosas, estão se adaptando e se escondendo por trás de códigos e trends inofensivas para espalhar seu discurso de ódio de forma quase imperceptível.
O TikTok, pertencente à empresa chinesa ByteDance, alcançou popularidade massiva entre adolescentes e jovens adultos, grupos frequentemente visados por ideologias extremistas que tentam moldar suas mentalidades em formação. Estes grupos souberam utilizar códigos e símbolos para driblar os rígidos sistemas de monitoramento da plataforma, enganando algoritmos e sistemas de moderação humana que tentam incessantemente manter a comunidade segura.
Pesquisadores apontam que enquanto o TikTok avança rapidamente como um veículo de cultura e entretenimento, torna-se um crescente desafio para os moderadores reconhecer as sutilezas de linguagem e símbolos codificados usados por estes grupos extremistas. Além disso, eles conseguem mascarar memes aparentemente inofensivos e até mesmo trends virais que escondem significados ocultos, escapando nas entrelinhas dos vídeos compartilhados.
Disfarces Inteligentes: Códigos e Símbolos
Nas últimas décadas, o uso de códigos e símbolos tem se mostrado uma ferramenta eficaz para grupos extremistas nazistas. O TikTok, com sua diversidade de conteúdos e usuários, não é exceção e está cada vez mais visado. Estes grupos adotaram símbolos como o número 88, que representa ‘Heil Hitler’ (com ‘H’ sendo a oitava letra do alfabeto). Estas simbologias, quando incorporadas de forma sutil em vídeos, podem passar facilmente despercebidas.
Além de números, há ainda o uso de emojis e sinais visuais que, dependendo do contexto e da frequência em que aparecem, podem aludir a mensagens odiosas. Isto coloca em evidência a dificuldade dos sistemas de inteligência artificial em detectar e diferenciar usos legítimos de códigos culturais daqueles que têm significado propagandístico nocivo.
A prática não é inédita, lembrando movimentos anteriores onde símbolos culturais eram apropriados ou ressignificados. Entretanto, o desafio para plataformas como o TikTok reside na identificação precoce desses códigos, cujo significado pode até ser temporal ou regional, exigindo um aparato humano capaz de traduzir e entender tais nuances culturais e tecnológicas em tempo real.
A Resiliência dos Grupos Extremistas
Os grupos extremistas conseguem se adaptar rapidamente às políticas de moderação. Ao contrário de plataformas estáticas, o TikTok contém um fluxo constante e rápido de conteúdo novo, dificultando cribagem rápida e eficaz. Estes grupos testam frequentemente quais tipos de conteúdo podem escapar dos filtros e quais estratégias são bem-sucedidas, atualizando sua abordagem com regularidade.
Sua resiliência impressiona, uma vez que mobilizam pequenas mudanças em seus símbolos e códigos como uma resposta direta ao aumento da vigilância. Isso cria um ciclo vicioso onde a resposta das plataformas precisa ser bastante ágil e proativa para mitigar os efeitos danosos, especialmente sobre um público jovem e impressionável.
A Influência das Trends na Disseminação Ideológica
O fenômeno dos ‘trends’ do TikTok, que transformam clipes de áudio em fenômenos virais, também está sendo utilizado para propósitos nefastos. Grupos extremistas identificaram o potencial das trends como uma ferramenta poderosa para axiomar mensagens do seu ideário. Estes clipes permitem mesclar elementos de humor ou viralidade, repassando mensagens extremistas quase despercebidas.
Ao surfarem na onda de trends populares, os criadores de conteúdo inserem elementos subjetivos e subliminares que, quando consumidos repetidamente, podem criar um efeito normalizador da ideologia. Assim, percepções preconceituosas passam a ser absorvidas de maneira subconsciente. Isso é demonstrado pelo aumento no consumo indiscriminado de conteúdo, sem uma análise crítica do que está sendo visualizado.
Essa apropriação também pode diluir o impacto da mensagem original da trend e gerar um ciclo onde a reinterpretação negativa ganha precedência em algumas esferas, alterando o significado cultural inicial. Mesmo com políticas restritivas, a fluidez da disseminação de trends dificulta uma intervenção direta e efetiva pela equipe de moderação.
Táticas de Neutralização
Muitos usuários e criadores de conteúdos estão adotando medidas de proteção proativas por meio de contra-discurso, ou seja, criando conteúdo que expõe e ridiculariza estas tentativas de apologia às ideologias odiosas. Esta dissociação das trends é uma tentativa de neutralizar os efeitos e captar atenção para a gravidade potencial da manipulação digital.
Responsabilidade das Plataformas de Mídia
Com a crescente pressão mundial sobre o controle de discursos de ódio nas mídias sociais, plataformas como o TikTok estão sob escrutínio para melhorar seus sistemas de detecção e resposta. A responsabilidade de monitorar e eliminar conteúdo odioso é vasta, mas crucial em um momento em que a desinformação e discurso de ódio têm o potencial de alimentar atos de violência física e exclusão social.
O TikTok já implementou uma série de diretrizes comunitárias e sistemas de moderação baseados em inteligência artificial para detecção automática de conteúdo violador. Contudo, estes sistemas precisam constantemente evoluir para serem eficazes. Além disso, há a necessidade de parcerias com ONGs, pesquisadores e governos que auxiliem no bloqueio de tendências prejudiciais antes da viralização.
Fortalecer a moderação humana também é essencial. Ter moderadores locais que entendam a cultura e os códigos locais podem ajudar a identificar significados ocultos que podem não ser evidentes para um sistema algorítmico ou moderadores de outra região.
Impacto de uma vigilância mais rigorosa
Implementar mudanças e reforçar a moderação não está isento de desafios. Alterações em algoritmos e políticas podem, muitas vezes, ser vistas como censura ou violação de liberdade de expressão por usuários leais. O complicado equilíbrio entre liberdade de expressão e a necessidade de se eliminar o discurso de ódio continua a ser um ponto de debate acalorado entre defensores dos direitos digitais.
A Educação como Ferramenta de Prevenção
Mais do que restringir apenas, as plataformas de mídia social encontram na educação um caminho viável e sustentável para a resolução de problemas. Campanhas de orientação digital podem ajudar a capacitar especialmente os jovens a reconhecerem dicas e pistas de discurso nocivo, promovendo um uso mais consciente das redes sociais.
Educar jovens e desenvolvedores de conteúdo sobre o funcionamento dos algoritmos, como certas mensagens se infiltram em tendências, e como sinais de códigos podem aparecer, pode desencadear maior resistência à absorção de ideologias odiosas. Criadores de conteúdo informados podem ser poderosos guardiões, expondo e transmitindo conteúdo mais positivo e construtivo aos seus seguidores.
Apesar do extenso poder das plataformas digitais, é importante que elas assumam um papel ativo e colaborativo na construção de uma comunidade online mais segura e inclusiva. As iniciativas educacionais são um complemento para as restritivas, sendo parte de uma estratégia holística para erradicar o discurso de ódio.
Desenvolvimento de um Pensamento Crítico
Estimular um pensamento crítico é essencial para permitir que os usuários, especialmente os jovens, filtrem e questionem o que consomem online. Isso implica reconhecer a influência das tecnologias digitais na formação de opiniões e crenças, possibilitando escolhas de consumo de conteúdo mais conscientes.
Enquanto o TikTok e outras plataformas se esforçam para encontrar um equilíbrio entre tecnologia, regulação e educação, os usuários têm de ser parceiros ativos nessa luta, exercendo um consumo mais responsável e questionador.