The use of artificial intelligence in online content moderation and the right to freedom of expression

Abstract

This dissertation is a study on the use of artificial intelligence in monitoring content on online platforms and possible restrictions on users' right to freedom of expression. In the era where the topic of the moment is the development of new technologies and the use of the Internet, the need for regulations that protect the people who use them is growing exponentially, especially due to the speed and volume with which content spreads, in addition to the dissemination of fake news and/or illegal content. Online platforms, especially giant ones like the Meta group (including Facebook and Instagram) for example, must ensure that the digital environment is safe, informative and democratic for their users. To better understand this context, I began my research by addressing the rules on online monitoring obligations for platforms, in accordance with European Union regulations, in addition to analyzing the opinion of the Court of Justice of the European Union on this topic. Furthermore, I addressed the use of artificial intelligence in the practice of online monitoring and identified difficulties that affect users' rights. Along these lines, I explored Facebook as the main case study, raising real examples and impacts on users. With gaps and challenges identified to improve artificial ntelligence systems in the practice of online monitoring and mitigate the risks that affect people and users on the Internet, explored throughout this work, I also presented alternatives for protecting the online environment and for building of reliable systems.

Esta dissertação é um estudo sobre o uso da inteligência artificial no monitoramento de conteúdos nas plataformas online e possíveis restrições ao direito de liberdade de expressão dos usuários. Na era em que o assunto do momento é o desenvolvimento de novas tecnologias e o uso da Internet, cresce exponencialmente a necessidade de regulamentações que protejam as pessoas que as utilizam, especialmente devido à velocidade e ao volume com que os conteúdos se propagam, além da disseminação de fake news e/ou conteúdos ilegais. As plataformas online, principalmente as gigantes como o grupo Meta (incluindo Facebook e Instagram) por exemplo, devem assegurar que o ambiente digital seja seguro, informativo e democrático aos seus usuários. Para entender melhor esse contexto, iniciei minha pesquisa endereçando as normas sobre obrigação de monitoramento online às plataformas, de acordo com as regulamentações da União Europeia, além de analisar a opinião da Corte de Justiça da União Europeia neste tema. Além disso, abordei a utilização da inteligência artificial na prática de monitoramento online e identifiquei dificuldades que afetam o direito dos usuários. Nessa linha, explorei o Facebook como principal estudo de caso, levantando exemplos reais e impactos aos usuários. Com lacunas e desafios identificados para aprimorar os sistemas de inteligência artificial na prática de monitoramento online e mitigar os riscos que afetam as pessoas e os usuários na Internet, explorados ao longo deste trabalho, também apresentei alternativas para a proteção do ambiente online e para a construção de sistemas confiáveis.