No cenário dinâmico e em constante evolução das redes sociais, surgiu um curioso fenómeno linguístico: “falar algo.” Essa linguagem digitalmente nativa emprega palavras codificadas com significados alternativos para discutir temas excessivamente moderados nas redes sociais, evitando assim a detecção por algoritmos. O crescimento dessa linguagem reflete uma batalha contínua entre usuários e grandes empresas de tecnologia. No TikTok, é comum encontrar pessoas trocando o termo “suicídio” por expressões como “não (vivo)"; emojis ou palavras com grafia estranha também são frequentemente usados. Algospeak tem permeado todas as formas de discurso político em nossas plataformas de mídia social, mas o conceito não é novo e parece mais uma versão modernizada do Gíria Cockney Rimada.
Mas Algospeak é mais do que apenas um jogo de palavras criativo; é a navegação intencional e hábil no intrincado labirinto da moderação de conteúdo que pode silenciar discussões sobre temas sancionados. Num mundo onde a legalidade das drogas está em constante evolução, as plataformas têm o desafio de encontrar o equilíbrio entre a aplicação das diretrizes comunitárias e a promoção do diálogo aberto. Como as interpretações restritivas das políticas de moderação de conteúdos muitas vezes sufocam discussões matizadas, as consequências não intencionais da moderação de conteúdos em discussões cruciais sobre tópicos relacionados com drogas tornam-se claramente evidentes.
Como funciona a moderação de conteúdo
A maioria das principais plataformas de mídia social, como Meta ou TikTok, adota uma abordagem um tanto genérica para moderação de conteúdo. TikTok emprega moderação de conteúdo em tempo real por meio de algoritmos avançados que verificam e analisam continuamente o conteúdo gerado pelo usuário para identificar e resolver rapidamente as violações da comunidade. Esses sistemas sinalizam conteúdo com base em uma variedade de sinais, incluindo palavras-chave, imagens, títulos, descrições e áudio.
O que molda o conteúdo de maneira diferente no TikTok, entretanto, é como a plataforma regula a visibilidade do conteúdo. Ao contrário da moderação de conteúdo tradicional, que se concentra principalmente na remoção ou filtragem, a moderação de visibilidade consiste em promover, amplificar ou priorizar intencionalmente o conteúdo considerado mais relevante e apropriado. Esta tem sido uma tendência proeminente na moderação de conteúdo além do TikTok: a Human Rights Watch descobriu como o conteúdo relacionado à Palestina no Instagram e no Facebook de propriedade da Meta tem sido sistematicamente censurado. A supressão de conteúdos relacionados com política, comunidades marginalizadas, drogas ou crime, independentemente do contexto e do público que tenta atingir, levanta questões sobre como uma rede supostamente “social” é guiada mais por aqueles que dirigem as plataformas do que pelos próprios membros que as compõem. .
Diferentes plataformas, diferentes controles
No passado, as mudanças no algoritmo do YouTube suscitaram preocupações entre os criadores de canais de educação sobre drogas. Criadores como PsychedSubstance e The Drug Classroom, que oferecem conteúdo informativo sobre segurança de drogas e redução de danos, viram suas receitas de publicidade e número de visualizações impactado significativamente pelas mudanças no algoritmo do Youtube. Estas mudanças, implementadas depois de os anunciantes terem desistido devido às preocupações com a exibição de anúncios contra conteúdos extremistas, levaram a uma monetização limitada de alguns vídeos, afetando a capacidade dos canais de sobreviver e alcançar um público mais vasto. Em alguns casos, eles até apagaram completamente canais que promoviam a redução de danos.
Dinâmicas semelhantes podem ser vistas em todas as plataformas. Instagram tem desafios colocados consistentemente para conteúdo relacionado a cannabis e negócios de cannabis, por exemplo. O que antes era uma raridade para a indústria sediada nos EUA e no Canadá, a eliminação de contas comerciais de cannabis tornou-se agora um problema recorrente. Desafios semelhantes são encontrados em clínicas e empresas relacionadas com a cetamina, que devem cumprir os regulamentos sobre medicamentos na promoção de produtos de forma equilibrada. Embora seja válido garantir que os anunciantes respeitem os regulamentos existentes em torno da promoção de produtos médicos, existe uma prática de consumo recreativo destas substâncias que precisa de ser abordada. Impedir a divulgação de informações sobre redução de danos significa que o conteúdo relacionado com drogas é, portanto, controlado por regras de publicidade – que constituem um parcela substancial da receita da plataforma – ou diretrizes restritivas de segurança comunitária.
Estas decisões das plataformas desencadeiam uma conversa mais ampla sobre para quem serve a Internet e como encontrar o equilíbrio apropriado entre medidas regulatórias e preservação de canais abertos, especialmente em espaços onde discurso responsável é crucial.
Moderação de conteúdo versus moderação de contexto
Enquanto o TikTok modera o conteúdo em tempo real por meio de algoritmos, moderação de contexto considera as circunstâncias circundantes e os significados diferenciados do conteúdo. No passado, plataformas como o Facebook, o Twitter (X) e o YouTube empregavam dezenas de milhares de trabalhadores numa base caso a caso, considerando factores como a intenção, o comportamento histórico e a conversa mais ampla ao avaliar conteúdos potencialmente problemáticos. Ter algum nível de supervisão humana na moderação pode ajudar a encontrar uma abordagem mais equilibrada à moderação de conteúdo, mantendo a marca das plataformas segura e ao mesmo tempo permitindo discussões diferenciadas. Mas confiar em algoritmos é muito mais econômico do que empregar milhares de moderadores (mesmo que sejam pago quase nada).
Não é de admirar que o fascínio dos algoritmos tenha se tornado irresistível para as plataformas. A relação custo-benefício e a eficiência que prometem fazem deles uma escolha tentadora – e, ao contrário dos moderadores humanos, eles não se tornam traumatizado pelo conteúdo que estão moderando. Mas a dependência excessiva das plataformas é, em última análise, às suas próprias custas. Embora a automação traga velocidade e escala, muitas vezes falta-lhe a compreensão diferenciada e o conhecimento contextual que só a supervisão humana pode fornecer. A necessidade de moderação de conteúdo diferenciada é amplificada pela mudança no cenário da reforma da política de drogas. Como a legalidade de substâncias como a cannabis e os psicodélicos mudado ao longo do tempo, o mesmo acontece com os contextos jurídicos e culturais que os rodeiam. Infelizmente, as actuais estruturas de moderação muitas vezes carecem da flexibilidade para responder a essas mudanças. A redução de danos, com a sua ênfase específica ao contexto na mitigação de riscos, requer uma abordagem igualmente sensível ao contexto que confrontos com as diretrizes rígidas e a filtragem automatizada atualmente empregadas por muitas plataformas.
É possível encontrar um equilíbrio?
Encontrar um equilíbrio entre a eficiência dos algoritmos automatizados e a profundidade da percepção humana não é apenas uma escolha de plataformas, mas uma necessidade, especialmente quando se trata de navegar pelas complexidades do discurso e da educação sobre drogas. De certa forma, o algospeak é protegido pela moderação algorítmica de conteúdo, pois pode ultrapassar os controles para atingir públicos mais amplos. Dada a terceirização global da moderação de conteúdo, os moderadores muitas vezes podem não ter acesso completo contextual informações em uma postagem e restringir conteúdo relacionado a drogas com base na proibição global de drogas, mesmo que sejam descriminalizadas ou legais no local em que a postagem foi originalmente feita.
E embora as políticas internacionais proporcionem uma aplicação mais fácil - especialmente com a ascensão da inteligência artificial - resultam frequentemente numa abordagem única que não considera as nuances nacionais ou regionais. O desenvolvimento de práticas de moderação de conteúdos a este nível será fundamental para refletir as mudanças nas leis e nos comportamentos, sejam eles relacionados com drogas ou qualquer outra prática ou produto. Esta limitação é reconhecida pelo Reddit que tem um voltado para a comunidade abordagem à moderação. Esta plataforma destaca como a moderação específica do contexto pode funcionar, onde aqueles que mais investem na comunidade têm uma palavra a dizer na moderação do seu conteúdo, ao mesmo tempo que defendem os valores de todo o Reddit. Mas plataformas maiores de interesse geral, como o Twitter (X), podem ter dificuldades para replicar o modelo de moderação microcomunitária do Reddit em grande escala.
Em última análise, a melhor solução para moderação de conteúdo requer tempo e investimento sério, duas coisas que uma indústria construiu com base nas não regulado, o crescimento exponencial despreza. Somente através da organização comunitária ou da regulamentação governamental as empresas de mídia social mudarão seus hábitos. E até que sejam forçados a colaborar com especialistas no assunto – como organizações de redução de danos – para desenvolver políticas de moderação de conteúdos adequadas ao contexto, não podemos esperar mudanças sistémicas. Quer se trate de ignorância intencional ou deliberada, por enquanto, as empresas de redes sociais optarão por moderar as suas enormes comunidades internamente e com pouca ou nenhuma responsabilidade comunitária.
