Por Pablo Domingues de Mello
O contexto político brasileiro há anos vem sendo tomado por agressividade, violência verbal e física, e politização das massas, ainda que por vias controversas como o uso de desinformação e fake news para manipulação das massas. As violências verbais que antes eram restritas ao convívio pessoal hoje não mais encontram fronteiras ou barreiras físicas graças ao advento da internet, e em especial das redes sociais, representando essas não apenas um ambiente de potencialização de vozes silenciadas, mas, em uma dimensão negativa, a exposição de grupos socialmente vulnerabilizados a uma forma mais potente de uma violência há muito presente: o discurso de ódio.
Nesse sentido, o direito precisa tanto fornecer respostas sobre os limites da liberdade de expressão a partir de uma visão constitucional sobre a nossa Constituição Federal – parece óbvio, mas por vezes esquece-se que nosso direito é analisado a partir do nosso contexto normativo. Além, é dado ao direito, também, o dever de esclarecer qual o papel dos provedores e plataformas de redes sociais na mitigação e prevenção dos danos causados por discursos de ódio, seja no campo político, seja na afetação ao direito, intimidade e dignidade das pessoas atingidas por essa violência, direta ou indiretamente.
A partir dessas provocações, Daury Cesar Fabriz e Gabriel Heringer de Mendonça, produziram artigo científico com o objetivo de desvelar o papel das plataformas de redes sociais no combate ao discurso de ódio. O trabalho intitulado “O papel das plataformas de redes sociais diante do dever de combater o discurso de ódio no Brasil” foi publicado em 2022 na Revista da Faculdade de Direito da UFPR no volume 67, número 1, páginas 127-149. A investigação contou com uma metodologia de abordagem dedutiva a partir do emprego de um procedimento bibliográfico, com uma revisão da bibliografia, da legislação e da jurisprudência existentes sobre o tema.
O texto traça breves bases de discussão ao conceituar liberdade de expressão no ordenamento jurídico brasileiro. Aqui, a liberdade de expressão recebeu em 1988 status de direito fundamental na Constituição Federal e como tal merece e recebe atenção especial, proteção e garantia por parte do Estado a partir de um dever de abstenção (um direito negativo). Nesse sentido, partindo de uma interpretação completa da nossa Constituição Federal, percebe-se que desde 1988, ano da promulgação da Carta Magna, ela mesma já trouxe limites ao exercício da liberdade de expressão, como a criminalização do racismo, vedação ao anonimato e a inviolabilidade da intimidade, da vida privada, da honra e da imagem das pessoas. Todos esses direitos em mesmo grau de igualdade: direitos fundamentais essenciais ao exercício de um Estado Democrático de Direito, pelo menos nos moldes pensados pela Constituição de 1988.
Aliás, nesses tempos turvos que vivemos, a interpretação completa da Constituição Federal tem sido tarefa hercúlea, já que grupelos fascistas e proto fascistas preferem não ver o que a Constituição diz, mas o que eles gostariam que ela dissesse. É evidente que a Constituição apesar de ser a base fundante do Estado que vivemos não encontra-se livre de crítica, tem sido criticada há anos! Entretanto, nenhuma crítica pode se basear em uma pretensão de abolição da democracia, ainda que burguesa, porque isso representa não o interesse social, mas o interesse particular de grupos golpistas que, muitas vezes, sequer sabem o que defendem.
Essa crítica pode ser exprimida a partir da leitura do texto de Daury e Gabriel, que defendem, corretamente, a inexistência de um suposto direito absoluto a liberdade de expressão. Defensores dessa linha baseiam-se em grande medida no tratamento dado pelo Estados Unidos da América sobre a liberdade de expressão, inclusive tratamento muito criticado por autores estadunidenses.
Curioso é, contudo, que a defesa por um direito absoluto à liberdade de expressão (leia-se: sem restrição alguma) parte de uma base normativa, teórico e filosófica situada em um país de contexto histórico, social e político totalmente distinto como os EUA. Entretanto, essa importação – acrítica – não se atenta nem para as diferenças entre Brasil e EUA, nem para as críticas existentes a essa doutrina nos próprios EUA, muito menos para as previsões expressas e claras da própria Constituição brasileira, que repudia qualquer noção de uma liberdade de expressão absoluta que sirva de escudo a práticas violentas como o discurso de ódio.
Qualquer análise, então, não situada em nosso contexto normativo, nossa história constitucional e social não se possui qualquer base normativa-jurídico-constitucional, mas apenas um desejo do que gostaria que fosse o direito à liberdade de expressão, não efetivamente o que ele é. Mesmo nesse prisma, em um campo filosófico, a contradição de um direito absoluto acima dos demais direitos constitucionais revela não um apreço pela liberdade irrestrita de expressão, mas por uma liberdade irrestrita de oprimir haja vista que no contexto do capitalismo burguês heterossexual, cisgênero, branco e masculinizado, as diferentes vozes encontram diferentes amplitudes, espaços de acesso e espaços de poder (Akotirene, 2018; Butler, 2021; Bibbings, 2004; Borrillo, 2016; Bonassi, 2017; Bourdieu 1989 e 2020; Biroli, 2013; de Almeida, 2018; Domingues, 2020; Flauzina, 2006 e 2014; Fanon, 2015; Foucault 2014, 2014b, 1984).
Daury e Gabriel deixam claro:
Diante de um conflito entre a liberdade de expressão e outros direitos fundamentais, não é possível sustentar a prevalência daquela, de forma prévia e sem a análise dos fatos. Isso porque não existe uma hierarquia de direitos fundamentais exposta na Constituição. Logo, diante de um caso de colisão entre a liberdade de expressão e a inviolabilidade da honra/imagem/intimidade, é necessária a análise do caso concreto.
O critério de análise do caso concreto é aquele elaborado a partir da teoria defendida por Alexy (1992) e inclusive aplicado pela Suprema Corte brasileira, em casos paradigmáticos como o caso Ellwanger (HC 82.424), criminalização da homotransfobia (ADO 26 e MI 4733) e pelo Superior Tribunal de Justiça em caso como o da aplicação da Lei de Racismo (Lei 7.176/89) em caso de preconceito contra pessoas moradoras do nordeste brasileiro (REsp 1.569.850).
Faz emergir nesse contexto, e muito bem conduzido pelos autores do texto, o debate acerca do discurso de ódio e essa forma de violência representar legítima restrição do direito fundamental à liberdade de expressão. Para eles, e eu concordo, o discurso de ódio é definido por seu conteúdo, forma e tom empregado pelo emissor, assim como a motivação: “Tais características, que permeiam o discurso, permitem identificar situações de abuso do direito de liberdade de expressão, na medida em que importem em ataques a outros direitos fundamentais previstos na Constituição da República e que deterioram o ambiente democrático”. Ainda, o discurso de ódio, acrescendo, deve estar vinculado necessariamente a características pessoas(ais) da(s) vítima(s) que estejam vinculadas às estruturais sociais vulnerabilizantes apontadas pelos autores Daury e Gabriel como sendo “raça, de gênero, de orientação sexual e de origem/nacionalidade.”.
Por isso, na mesma linha do defendido pelo professor Daniel Sarmento (2006), Daury e Gabriel sustentam que a liberdade de expressão não deve comportar o discurso de ódio, pois, além do aspecto moral, o preconceito e a intolerância veiculados em seu conteúdo não contribuem para um debate racional, gerando o comprometimento da continuidade da discussão.
Resgato o que defendi acima, nem por um aspecto normativo-constitucional, nem filosófico, nem moral, a liberdade de expressão, direito fundamental tão caro a uma democracia tão jovem quanto a brasileira, pode e dever ser utilizado como escudo protetor para condutas agressivas, violentas, degradantes, desmoralizantes e que se soma aos preconceitos e discriminações estruturais e institucionais existentes na sociedade para propagar o ódio e eliminação de pessoas socialmente vulnerabilizadas.
Surge, pois, o chamado dever fundamental de combate ao discurso de ódio, uma dimensão constitucional relacionada com os direitos fundamentais. Na lógica constitucional e interpretada por Daury e Gabriel, tomando de partida os ensinamentos de Lyra et. al. (2020) os direitos fundamentais pressupõem deveres fundamentais, haja vista que qualquer direito denota “o cumprimento de ao menos um dever, tanto para os poderes públicos (deveres de proteção) como para as pessoas (deveres fundamentais)”.
Direitos e deveres fundamentais, então, apesar de sua imbricada relação, são identificáveis perante uma autonomia e marcados por uma ausência de ordem prevalente. Há, pois, um equilíbrio entre direitos e deveres fundamentais sendo esses últimos voltados para
[…] proporcionar as bases materiais para existência e funcionamento da sociedade e para a concretização dos direitos fundamentais de todos, decorrentes de uma ordem jurídica democrática, com posição de primazia normativa e controle de revisão (fundamentalidade formal), cujos conteúdos integram o estatuto da pessoa, formado por direitos e deveres fundamentais e orientado pela dignidade da pessoa humana (fundamentalidade material) (LYRA et. al, 2020, p. 69)
Assim, defendem Daury e Gabriel, a existência de um dever fundamental de atuação contra o discurso de ódio, na medida em que este gera a segregação e a discriminação de pessoas determinadas ou grupos, em uma logica de exclusão, de preconceito e de intolerância. Essa defesa decorre especialmente do direito fundamental à liberdade de expressão quanto do princípio da dignidade humana, representada nos direitos fundamentais tais como igualdade (artigo 5º, caput, da Constituição Federal); igualdade de gênero (artigo 5º, inciso I, da Constituição Federal); inviolabilidade da intimidade, da vida privada, da honra e da imagem (artigo 5º, inciso X, da Constituição Federal) e criminalização do racismo[1] (artigo 5º, inciso XLII, da Constituição Federal).
Por fim, a partir das provocações acima elencadas pelos autores, eles introduzem a internet como ambiente de análise do conflito entre liberdade de expressão, discursos de ódio e o dever fundamental do Estado e da sociedade civil em combater o discurso de ódio. Especialmente, os autores centram sua análise nas redes sociais, essas definidas como “um serviço ofertado na internet, no qual os indivíduos constroem seu próprio perfil (aberto ou não) e criam uma lista de outros usuários com os quais compartilham uma conexão, permitindo, assim, que eles se comuniquem entre si e que um visualize e compartilhe a lista de contatos do outro” (Boyd; Elisson, 2008, p. 211).
São, pois – as redes sociais – na palavra dos autores “empreendimentos privados, nos quais os usuários atuam como um webmaster de si mesmo, enquanto o fornecedor atua como um provedor de hospedagem e se vale do conjunto de dados divulgados pelo usuário para contratar anunciantes, que oferecem produtos de acordo com as preferências que são declaradas” (p. 137).
Como componentes da internet, responsável por criar uma sociabilidade virtual, o ciberespaço, as redes sociais são atravessadas por estruturas computacionais, tecnológicas tais como algoritmos e marcas de governança privada permeadas por interesses, valores e códigos privados. Não são dados ontológicos retirados da natureza porquanto são produtos direto da produção humana e, portanto, enviesadas.
Tratando especificamente das redes sociais, os autores trabalham a partir do contexto normativo brasileiro, resgatando as disposições do Marco Civil da Internet (Lei n.º 12.965/2014), um divisor de águas na relação das plataformas de redes sociais no Brasil. Até a promulgação da lei, jurisprudência e doutrina jurídica discutiam a responsabilidade de plataformas de redes sociais, tais como Facebook, Twitter e Youtube, a respeito de conteúdos publicados em suas redes, em especial aqueles com conteúdo ilício (como o discurso de ódio). O Marco Civil da Internet normativiza e adota um posicionamento de privilégio da liberdade de expressão em detrimento de outros direitos ao assegurar, em seus artigos 18 e 19, a isenção das plataformas de responsabilidade pelo discurso divulgado por terceiros, fazendo surgir uma obrigação dela apenas após notificação judicial para tanto.
É possível perceber que as disposições contidas no Marco Civil da Internet vão de encontro com a teoria de Alexy antes apresentadas, bem como as premissas adotadas pelo Supremo Tribunal Federal e pelo Superior Tribunal de Justiça ao atribuir de forma prévio um privilégio maior à liberdade de expressão em detrimento de outros direitos. A partir do posicionamento apresentado anteriormente, a restrição de um direito fundamental em detrimento de outro apenas poderia ocorrer a partir da análise do caso concreto e não previamente estabelecido.
Por isso, Daury e Gabriel apontam para uma “falta de proteção gerada para a vítima” (p. 140), a qual necessita buscar o Judiciário para fazer cessar uma violação de seu direito, algo custoso porquanto depende ou da atuação da Defensoria Pública, mediante empenho de recursos públicos, ou de advogados privados, mediante empenho de valores financeiros da vítima.
Assim, com a quase desoneração do Estado na regulação da matéria, as plataformas de redes sociais, por meio de instrumentos de governança privada, regulam a comunidade através de termos celebrados pelos usuários, responsáveis por determinar quais condutas serão, ou não, aceitas (p. 141). Parte-se, pois, de uma premissa de inexistência de neutralidade das redes, diante da expressiva atuação de filtros e derrubadas de conteúdos ilícitos (contrários ao Direito) ou proibidos (contrários às normas de uso da rede social).
Representa-se esse modelo, portanto, a partir de um modelo estadunidense, de uma lógica de controle posterior, “mediante sistema de denúncias por parte dos usuários. Esse tipo de mecanismo é conhecido como flagging e, geralmente, desencadeia um processo de revisão feito por moderadores humanos” (p. 141). Esse modelo é adotado pela gigante das bigtechs, a Facebook (atual Meta), dentre outras plataformas de redes sociais.
Por meio do auxílio da tecnologia, como algoritmos, as redes sociais valem-se de mecanismos que trabalham na lógica do visível/invisível, realizando direcionamento e determinando a maior exposição de dado conteúdo, e, assim, estimulando ou não a divulgação de informações sobre certo tema. Nessa lógica, o algoritmo trabalha para identificar preferências dos usuários e, dessa forma, estimular sua navegação (p. 142). Há, ainda, uma problemática envolvendo o quê é definido como conteúdo não permitido pelas redes sociais, já que os critérios adotados pelas empresas, consequentemente pelos moderadores de conteúdo e processos de automatização, mudam e são orientados por um standard normativos aberto e vago, baseado em um complexo sistema de regras internas em um paradigma de governança privada.
Por fim, os autores chamam atenção para o que devem ser desempenhado pelas plataformas de redes sociais no combate do discurso de ódio, chamando atenção para um constitucionalismo digital (Nitrini, 2021, p. 132). Nessa perspectiva, o constitucionalismo seria atualizado para o ambiente digital, em especial a noção de eficácia horizontal de direitos fundamentais entre particulares. Além do dever fundamental de atuação contra o preconceito e a discriminação, o modelo de controle de discurso de ódio implementado pelas plataformas de redes sociais segue a ótica de negócio, como uma exigência do mercado para angariar cada vez mais usuários, por meio da necessidade de manutenção de um ambiente seguro e atraente para seus consumidores (Balkin, 2018, p. 2.022).
Reside a problemática em torno do excesso de liberdade das plataformas digitais de redes sociais em editar regras, sendo essas regras dotadas de uma falta de transparência sobre os critérios utilizados na moderação de conteúdo. Soma-se a isso a falta de um devido processo no qual o usuário bloqueado ou removido possa argumentar e tentar reverter a ação da plataforma (p. 144). Os autores concluem, então, que “o importante não é buscar anular a atuação das plataformas de redes sociais na moderação do discurso, mas sim investir no fortalecimento da relação entre Estado e empresas de infraestrutura de internet. A atuação conjunta das duas esferas é essencial para o sucesso no combate ao discurso de ódio e para a manutenção do nível necessário de liberdade de expressão.”
No estágio atual do ciberespaço, as redes sociais detêm o controle, dirigindo o poder tradicional do Estado, de modo que às empresas de redes sociais é imposta a adoção de meios rápidos e de custos menores para agir nas situações necessárias. Também não se pode perder de vista, evidente, a necessidade de atuação governamental na regulação do ciberespaço, sob pena da lógica da atividade empresarial das redes sociais ser pautada por critérios de mercado e não pelos critérios constitucionais e legais existentes no ordenamento jurídico brasileiro.
Partilho da ideia e solução dos autores, adicionando que o modelo de governança privada das redes sociais é importante sobretudo pensando em soluções de prevenção ao discurso de ódio. Por exemplo, por meio da tecnologia – que existe – as plataformas de redes digitais poderiam criar mecanismos de verificação de conteúdo antes da sua postagem, isto é, o usuário seria notificado antes de efetuar uma postagem sobre a possibilidade daquele conteúdo ferir direitos alheios e por consequência sofrer sanções legais e internas, das próprias diretrizes da plataforma.
É, ao meu sentir, um exemplo reformista de bom uso do algoritmo para identificar possíveis conteúdos marcados por discurso de ódio e tentar impedir a sua postagem que, se ocorrer, o usuário esteve previamente advertido das consequências legais da sua conduta.
Acredito que os problemas relacionados ao mau uso das redes sociais e a negligência do mercado e dos Estados em buscar uma real regulação do ciberespaço está muito mais relacionado a um problema estrutural, do modo de produção capitalista, do que conjuntural, ligado a uma política ou outra adotada por Estados e empresas. Entretanto, em um contexto de busca por soluções mais imediatas, acredito que a imposição por parte do Estado para que as empresas tornem públicas, claras e em linguagem acessível os termos de uso e conduta das suas plataformas, o uso de algoritmos para retirada de conteúdos ofensivo do ar, bem como a prevenção de sua postagem conforme apresentado acima, e, por fim, a refundação da responsabilização civil das empresas por danos praticados por terceiros são alguns caminhos para iniciar uma discussão mais profunda sobre a prevenção e remediação de discursos de ódio praticados nas redes sociais.
REFERÊNCIAS:
AKOTIRENE, Carla. O que é interseccionalidade? Belo Horizonte: Justificando, 2018
ALEXY, Robert. Colisão de Direitos Fundamentais e Realização de Direitos Fundamentais no Estado de Direito Democrático. Tradução Luís Afonso Heck. Revista da Faculdade de Direito da UFRGS, Porto Alegre, v. 17, 1992.
BALKIN, Jack M. Free Speech is a triangle. Columbia Law Review, New York, v. 118, n. 7, p. 2.011-2.055, 2018.
BIBBINGS, Lois. Heterosexuality as Harm: Fitting In. HILLYARD, Paddy; PANTAZIS, CHRISTINA; TOMBS, Steve; GORDON, Dave. Beyond criminology: taking harm seriously. London: Pluto Press, 2004
BIROLI, Flávia. Autonomia e desigualdades de gênero: contribuições do feminismo para a crítica democrática. Vinhedo: Editora Horizonte, 2013
BONASSI, Brune Camilo. Cisnorma: Acordos Societários sobre o Sexo Binário e Cisgênero. 2017. 121f. Dissertação (Mestrado em Psicologia) – Programa de Pós-Graduação em Psicologia, Universidade Federal de Santa Catarina, Florianópolis, 2017. Disponível em: https://repositorio.ufsc.br/xmlui/handle/123456789/182706. Acesso em: 16 mai. 2022
BORRILLO, Daniel. Homofobia: história e crítica de um preconceito. Belo Horizonte: Autêntica Editora, 1a ed., 2016
BOURDIEU, Pierre. A dominação masculina. Tradução de Maria Helena Kuhner, 18a ed. Rio de Janeiro: Bertrand Brasil, 2020
BOURDIEU, Pierre. O Poder Simbólico. Rio de Janeiro: Bertrand Brasil S.A., 1989. Disponível em: https://nepegeo.paginas.ufsc.br/files/2018/06/BOURDIEU-Pierre.-O-poder- simb%C3%B3lico.pdf. Acesso em: 07 mai. 2022
BUTLER, Judith. Problemas de Gênero: feminismo e subversão da identidade. Tradução de Renato Aguiar. Rio de Janeiro: Civilização Brasileira, 2021
DE ALMEIDA, Silvio Luiz. O que é racismo estrutural? Belo Horizonte: Letramento, 2018
DOMINGUES, Pablo. O amor que não ousa dizer o nome: o discurso de ódio LGBT+fóbico e a criminalização da homotransfobia pelo Supremo Tribunal Federal. 2020. 98f. Monografia (Graduação em Direito) – Curso de Direito da Universidade Federal de Santa Maria, Santa Maria, 2020
FABRIZ, Daury Cesar; MENDONÇA, Gabriel Heringer de. O papel das plataformas de redes sociais diante do dever de combater o discurso de ódio no Brasil. Revista da Faculdade de Direito UFPR, Curitiba, v. 67, n. 1, p. 127-149, jan./abr. 2022. ISSN 2236-7284. Disponível em: https://revistas.ufpr.br/direito/article/view/83904. Acesso em: 30 abr. 2022. DOI: http://dx.doi.org/10.5380/rfdufpr.v67i1.83904
FLAUZINA, Ana Luiza. As Fronteiras Raciais do Genocídio. Revista de Direito da Universidade de Brasília, vol. 1, n. 1, jan.-jun., p. 119-146, 2014
FLAUZINA, Ana Luiza. Corpo Negro Caído no Chão: O sistema penal e o projeto genocida do Estado Brasileiro. Dissertação (Mestrado em Direito) – Universidade de Brasília, Brasília, 2006. Disponível em: https://repositorio.unb.br/handle/10482/5117. Acesso em: 27 abr. 2022
FOUCAULT, Michel. História da Sexualidade I: a vontade de saber. Tradução de Maria Thereza da Costa Albuquerque e J. A. Guilhon Albuquerque. São Paulo: Paz e Terra, 2014
FOUCAULT, Michel. Microfísica do poder. 4a ed. Rio de Janeiro: Graal, 1984
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. 42a ed. Petrópolis: Editora Vozes, 2014b
LYRA, J. F. D. C. et al. A era dos deveres: a necessidade de um estatuto da pessoa humana para a eficácia social dos direitos fundamentais. Revista Mexicana de Derecho Constitucional, Ciudad de México, n. 43, jul.-dic. 2020.
NITRINI, Rodrigo Vidal. Liberdade de expressão nas redes sociais: o problema jurídico da remoção de conteúdo pelas plataformas. Belo Horizonte: Dialética, 2021.
SARMENTO, Daniel. A liberdade de expressão e o problema do “hate speech”. Rio de Janeiro, 2006. Disponível em: https://bit.ly/388mDPK. Acesso em: 8 nov. 2022
[1] Entendendo-se, aqui, o racismo, inclusive, como dimensão da homotransfobia, protegendo assim integrantes da comunidade LGBTI+ conforme decidido pelo Plenário do Supremo Tribunal Federal na Ação Direta de Inconstitucionalidade por Omissão n.º 26 e no Mandado de Injunção n.º 4733
BLOG DO NUDI 