A Responsabilização das plataformas digitais sobre o conteúdo postado por terceiros: possibilidades no enfrentamento à disseminação de discurso de ódio e fake news - Marchioni, Artur [UNESP] (Universidade Estadual Paulista (Unesp), 2023)
A estabilidade das instituições democráticas vem sendo ameaçada, nos últimos anos, pelo acirramento das tensões nas relações sociopolíticas, econômicas e culturais que se institucionalizaram sob a égide do Estado Democrático de Direito. Nesse panorama, a comunicação pelas mídias digitais vem sendo apontada como um dos fatores que alimentam a polarização, por meio da disseminação de fake news e discurso de ódio, enviesando e fragmentando o debate público. A presente pesquisa guiou-se pela hipótese de que a isenção de responsabilidade das plataformas digitais, prevista no Marco Civil da Internet, teve como efeito não esperado ou pretendido a ampla disseminação de conteúdos perniciosos no âmbito das mídias digitais. Ao longo deste trabalho, buscamos compreender aspectos sobre a comunicação digital e sua interferência na formação da opinião pública e, especialmente, o papel das redes sociais enquanto um espaço que é, paradoxal e concomitantemente, público e privado, e as implicações do capitalismo de vigilância sobre a Democracia Liberal-Representativa. Em um segundo momento, recorremos ao debate sobre o princípio constitucional da liberdade de expressão, enquanto institucionalização, pelo Direito, de um dos fundamentos basilares para a efetivação de uma esfera pública democrática. Verificamos, assim, que o uso dos dados dos usuários para influenciar a comunicação social, por meio de uma psicopolítica dado-pulsional, constitui uma nova forma de ameaça à autonomia e à autodeterminação democrática, atuando sobre a formação da vontade, de forma que a possibilidade de regulamentação dos conteúdos veiculados pelas plataformas digitais não constitui, por si só, afronta ao princípio da liberdade de expressão, mas que, ao contrário, mostra-se indispensável para a promoção de um debate público efetivamente democrático. Por fim, após a revisão bibliográfica que constitui o fundamento teórico deste trabalho, recorremos à aplicação sistemática do método de mapeamento de arranjos jurídico-institucionais, para avaliar os impactos da isenção de responsabilidade das plataformas digitais sobre o conteúdo postado por terceiros, estabelecido pelo art. 19 do Marco Civil da Internet, na ampla disseminação de fake news e discurso de ódio. Conclui-se que, desde 2014, ainda sob a égide da isenção de responsabilidade do Marco Civil da Internet, há um movimento de diversos atores envolvidos na comunicação digital, como Estados, Organizações Internacionais, sociedade civil, usuários e as próprias plataformas, para ampliar a moderação de conteúdo nas mídias digitais, de maneira a combater a disseminação sistemática de conteúdos perniciosos, que tem se materializado tanto pela ação jurídico-institucional propriamente dita, no Brasil especialmente por meio do Programa de Enfrentamento à Desinformação do Tribunal Superior Eleitoral, quanto pela atuação das plataformas, por uma espécie de governança privada dos discursos.

The stability of democratic institutions has been threatened in recent years by the intensification of tensions in sociopolitical, economic, and cultural relations that have become institutionalized under the aegis of the Democratic Rule of Law. In this context, communication through digital media has been identified as one of the factors fueling polarization through the spread of fake news and hate speech, skewing and fragmenting public discourse. This research is guided by the hypothesis that the liability exemption for digital platforms, as outlined in the Marco Civil da Internet (Brazilian Internet Civil Rights Framework), had the unintended consequence of widespread dissemination of harmful content in the digital media sphere. Throughout this work, we sought to understand how digital communication interferes with the formation of public opinion, especially the role of social networks as a space that is paradoxically both public and private, and the implications of surveillance capitalism on Liberal-Representative Democracy. In a second phase, we delved into the debate on the constitutional principle of freedom of expression as the institutionalization, by law, of one of the fundamental pillars for the realization of a democratic public sphere. We found that the use of user data to influence social communication through a psycho-politics of data-driven impulses constitutes a new form of threat to democratic autonomy and self-determination, influencing the formation of will. The possibility of regulating content on digital platforms is not inherently a violation of the principle of freedom of expression; instead, it proves essential for the promotion of a genuinely democratic public discourse. Finally, after the literature review that forms the theoretical foundation of this work, we applied a systematic mapping method of legal-institutional arrangements to assess the impacts of the liability exemption for digital platforms on third-party content, as established by Article 19 of the Marco Civil da Internet, in the widespread dissemination of fake news and hate speech. It is concluded that since 2014, still under the exemption provided by the Marco Civil da Internet, various actors in digital communication, including states, international organizations, civil society, users, and the platforms themselves, have been moving to enhance content moderation on digital media. This is aimed at combating the systematic spread of harmful content, manifested both through legal and institutional actions, in Brazil especially through the Superior Electoral Court's Program to Combat Disinformation, and through the platforms' efforts in a kind of private governance of discourses.
The liability of digital platforms for content posted by third parties: possibilities in combating the dissemination of hate speech and fake news
Keywords: Fake news; Discurso de ódio; Capitalismo de vigilância; Liberdade de expressão; Plataformas digitais; Fake news; Hate speech; Surveillance capitalism; Freedom of expression; Digital platforms