O discurso de ódio na internet

O hate speech, ou discurso de ódio, como foi batizado este fenômeno social aqui no Brasil, constitui um desafio para o Estado Democrático de Direito, porque testa os limites da liberdade de expressão, colocando-a em confronto direto com interesses ou direitos de grupos vulneráveis a esse tipo de discurso.

Com o advento da internet e a popularização das mídias sociais, as manifestações de ódio se potencializaram e disseminaram de tal maneira que hoje muitos falam em uma “cultura do ódio” ou uma “era do ódio”. Mensagens ofensivas e discriminatórias, antes restritas no espaço e no tempo, passaram a ser disseminadas em altíssima velocidade e a ter alcance global, superdimensionando a gravidade dessas manifestações.

A internet é plataforma amplamente utilizada para veicular o discurso de ódio. Mensagens discriminatórias pululam nas redes sociais, em fóruns, chats, blogs, vídeos e outros canais de comunicação digital. A possibilidade de anonimato e a velocidade na disseminação das mensagens via internet encoraja manifestações preconceituosas de todo tipo. Há uma sensação de poder e de impunidade que, em conjunto com a ignorância e o preconceito, além de outros sentimentos amalgamados, impulsiona o hater a destilar a sua ira, em velocidade digital.

Esse fenômeno foi identificado por Byung-Chul Han, professor de Filosofia da Universidade de Artes de Berlim, para o qual o anonimato propiciado pela internet é, em grande medida, causa da falta de respeito que se percebe na comunicação digital: “O respeito está ligado ao nome. O anonimato e o respeito excluem-se mutuamente. A comunicação anônima, que a digitalização facilita, opera uma destruição maciça do respeito. E é, em parte, responsável pela crescente cultura da indiscrição e da falta de respeito. As shitstorms são também anônimas e é o anonimato que as torna tão violentas.”

Associada ao anonimato está a grande velocidade da comunicação digital, que, diferentemente do que ocorre com as antigas e analógicas formas de comunicação escrita, tem uma “temporalidade diferente”, porque possibilitam a imediata transmissão das mensagens, sem o tempo de reflexão que, por exemplo, as cartas enviadas a um jornal propiciavam, permitindo, assim, a dissipação e autocontenção de certos sentimentos. Essa distinta temporalidade, segundo Byung-Chul Han, faz da comunicação digital uma forma de comunicação em que o emissor da mensagem tende, de forma irrefletida, a expressar seus sentimentos: “Pelo seu lado, a comunicação digital torna possível que o afeto seja objeto de transmissão imediata. A sua temporalidade torna-a transmissão de afetos, mais do que a comunicação analógica. Assim, de certo modo, o meio digital é um meio afetivo.”

Na internet, o hate speech se sofisticou, com o uso de formas de expressão que se valem das facilidades trazidas por esse meio tecnológico de acesso e disseminação de mensagens. Dentre essas formas, está o uso de “memes”, forma de expressão de uma ideia, por vídeos, imagens (estáticas ou animadas), frases, palavras, hashtags, disseminados através de redes sociais, blogs, e-mails e outros serviços baseados na rede mundial de computadores, via internet. Muitos desses memes se tornam virais, espalhando-se rapidamente entre os usuários e ganhando muita popularidade, especialmente entre os jovens, o que os torna uma forma particularmente eficaz de propagação de mensagens discriminatórias.

O uso dessa e de outras formas de disseminação de ódio e preconceito através da internet se tornou tão frequente que empresas mantenedoras de mídias e redes sociais virtuais, como o Facebook, têm buscado medidas tecnológicas para identificar esses tipos de mensagem, inclusive com o uso de inteligência artificial.

Para dificultar sua identificação, haters têm utilizado símbolos e comunicação codificada para disseminar seu ódio e preconceito. Neonazistas, antissemitas e supremacistas raciais passaram a usar, por exemplo, um conjunto de três parênteses em volta de um sobrenome judeu – por exemplo, (((Fleishman))) – para identificar e marcar judeus com a finalidade de submetê-los a assédio em redes sociais como o “Twitter”.

Como forma de dificultar ainda mais sua identificação e a censura às suas mensagens, haters têm-se utilizado da chamada deep web, ou internet profunda, parte da rede mundial de computadores que não é alcançada pelos motores de busca tradicionais, como Google e Yahoo, e que, por isso, constitui um refúgio atraente para muitos usuários e grupos que se dedicam a propagar mensagens de ódio.

Além do hater, o emissor de mensagem de ódio, há também a figura que se convencionou chamar de “troll”, que é aquele que usa a internet para postar mensagens inflamatórias, irrelevantes, fora de contexto com a intenção de provocar respostas emocionais ou com o mero intuito de interromper o curso normal de um debate ou uma discussão.

A verdade é que a quantidade de dados que circulam a cada instante na internet é tão grande que é impossível saber seu tamanho real, que aumenta a uma velocidade vertiginosa. Além disso, a internet constitui um ambiente virtual que ultrapassa as fronteiras de um território nacional específico. Tudo isso torna praticamente impossível o controle de todas as informações que circulam na internet.

Na verdade, é bom que isso ocorra. Como quase tudo na vida, a internet é uma ferramenta que pode ser usada para o bem ou para o mal. O seu mau uso por alguns ou por muitos não diminui sua importância e sua utilidade como instrumento de disseminação de informações e ideias úteis para a sociedade. Embora, de um lado, seja verdade que a internet possibilita a prática de atos terríveis, como o cyberbullying, a violação de privacidade e a disseminação de conteúdos criminosos (cybercrimes) e abjetos – como a forma de pedofilia extrema da distribuição de pornografia infantil –, também é verdade que a internet trouxe benefícios imensos para a sociedade, aproximando pessoas e culturas e permitindo o acesso e a troca de informações em tempo quase real, com inegáveis avanços para o conhecimento humano.

A liberdade de expressão e comunicação é fundamental e deve ser a tônica no uso da internet. Mas isso não dispensa a autorregulação por parte dos provedores de internet, que devem empreender esforços para impedir a utilização da web como plataforma para discursos de ódio e para a prática de crimes e violações de direitos.

Além disso, os governos devem agir, através da implementação de normas que busquem combater abusos, para possibilitem excluir conteúdos lesivos, protejam a privacidade e assegurem a reparação de danos causados a terceiros, como buscam fazê-lo, no Brasil, a Lei n^o 12.965/2014, que institui o Marco Civil da Internet, e a Lei n^o 13.709/2018, Lei Geral de Proteção de Dados.

Com todas as suas vicissitudes, a internet deve ser vista como uma ferramenta a serviço dos indivíduos e da sociedade. Ferramenta que será tão mais útil e valiosa quanto mais livre, disseminada e responsável for a sua utilização.

NOTAS______________________________

1 HAN, Byung-Chul. No Enxame. Reflexões sobre o Digital. Lisboa: Relógio D´Água, 2016, p. 14.

2  Ibidem, p. 15.

3 Palavras-chave ou termos associados a um tópico ou assunto que se deseja indexar em determinados aplicativos, como o Twitter, Facebook e outros.

4 Veja-se, a respeito, matéria publicada no jornal Folha de São Paulo, em 20.5.2018: “Ódio na internet tem assumido estilo de meme para atrair jovens”. Disponível em: <https://www1.folha.uol.com.br/mercado/2018/05/odio-na-internet-tem-assumido-estilo-de-meme-para-atrair-jovens.shtml>.

5 Ver, a respeito, matéria publicada no Business Standard, em 12.9.2018: “In fight against hate speech, FB’s new AI tool can detect offensive memes”. Disponível em: <https://www.business-standard.com/article/technology/in-fight-against-hate-speech-fb-s-new-ai-tool-can-detect-offensive-memes-118091200398_1.html>.

6 Cf. Fleishmanm Cooper e Smith, Anthony. (((Echoes))), Exposed: The Secret Symbol Neo-Nazis Use to Target Jews Online. In: https://m.mic.com/articles/amp/144228/echoes-exposed-the-secret-symbol-neo-nazis-use-to-target-jews-online.

7  Sobre a deep web e sua diferença em relação à dark web, ver ROWE, Adam. What Is the Deep Web and How Can You Access It? In: Tech.Co, 04.5.2018. Disponível em: <https://tech.co/what-is-the-deep-web-2018-05>. Sobre o uso da deep web (referida na matéria como dark web) pelos haters ver, a respeito, matéria do The Guardian, de 23.8.2017: The dilemma of the dark web: protecting neo-Nazis and dissidents alike. Disponível em: <https://www.theguardian.com/technology/2017/aug/23/dark-web-neo-nazis-tor-dissidents-white-supremacists-criminals-paedophile-rings>.

8 Veja-se: https://www.lifewire.com/what-is-internet-trolling-3485891.

9 De acordo com o site live-counter.com, o tamanho da internet em 19.10.2018 giraria em torno de 13.892.504 petabytes (cada petabyte corresponde a 1.024 terabytes, um milhão de gygabites ou 2⁵⁰ bytes). Disponível em: <http://www.live-counter.com/how-big-is-the-internet/>.