Large-scale content moderation by private social media platforms

Authors

DOI:

https://doi.org/10.5585/prismaj.v21n1.20573

Keywords:

content moderation, social media, terms of use, artificial intelligence, legislative frameworks

Abstract

Social media exert a massive control over all content that is posted by users, by algorithmic activity. In order to understand if the moderating activity is in accordance with the legal system, it is necessary to address the legal basis for the activity. Still, it appears that the traditional mechanisms for protecting citizens do not face the new challenges of the digital environment. These mechanisms are verified in the regulatory framework of social networks and in the legislative proposals for regulating content moderation. From the analysis of regulatory attempts to moderate content, an idea of regulation is presented, in order to ensure the expression of users and the reduction of removal of content, which is harmful to the public space. The methodology in relation to the line of approach refers to the phenomenological-hermeneutic method, by understanding the institutionalized content moderation in the legal system. From a procedural point of view, it is exploratory and monographic.

Downloads

Download data is not yet available.

Author Biographies

Álerton Emanuel Poletto, Faculdade Meridional - IMED - Passo Fundo, Rio Grande do Sul

Mestrando em Direito do PPGD da Faculdade Meridional - IMED, membro do Grupo de Pesquisa IAJUS - Inteligência Artificial e Direito. Bolsista PROSUP/Capes.

Fausto Santos de Morais, Faculdade Meridional - IMED - Passo Fundo, Rio Grande do Sul

Doutor e Mestre em Direito (UNISINOS), coordenador do Grupo de Pesquisas IAJUS – Inteligência Artificial e Direito. Sócio fundador da Associação Ibero-americana de Direito e Inteligência Artificial. Editor Chefe da Revista Brasileira de Direito e da Revista Brasileira de Direito e Inteligência Artificial. Professor do Curso de Mestrado em Direito do PPGD/IMED.

References

ALEMANHA. Ministério Federal da Justiça e Defesa do Consumidor. Network Enforcement Act (Netzwerkdurchsetzungsgesetz -NetzDG), de 01 de setembro de 2017. Disponível em: https://www.gesetze-im-internet.de/netzdg/BJNR335210017.html. Acesso em: 02 mar. 2021.

BALKIN, Jack M., How to Regulate (and Not Regulate) social media. Knight Institute Occasional Paper Series, n. 1 mar. 2020. Disponível em: https://knightcolumbia.org/content/how-to-regulate-and-not-regulate-social-media. Acesso em: 13 nov. 2020.

BARRETT, Paul M. Who Moderates the Social Media Giants? A Call to End Outsourcing. Nova Iorque: New York University, 2020.

BRASIL. Câmara dos Deputados. Projeto de Lei n° 2.630, de 04 de fevereiro de 2020. Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2256735&fichaAmigavel=nao. Acesso em: 03 mar. 2021.

BRASIL. Câmara dos Deputados. Projeto de Lei n° 21, de 03 de julho de 2020a. Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil, e dá outras providências. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928. Acesso em: 03 jul. 2021.

BRASIL. Lei 13.709 de 14 de agosto de 2018. Lei Geral de Proteção de Dados (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm. Acesso em: 03 mar. 2021.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Marco Civil da Internet. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 01 mar. 2021.

BRASIL. Supremo Tribunal Federal. Tema de Repercussão Geral n° 533. Dever de empresa hospedeira de sítio na internet fiscalizar o conteúdo publicado e de retirá-lo do ar quando considerado ofensivo, sem intervenção do Judiciário. Relator: Min. Luiz Fux. Disponível em: http://www.stf.jus.br/portal/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=4155926&numeroProcesso=660861&classeProcesso=ARE&numeroTema=533. Acesso em: 02 mar. 2021.

ESTADOS Unidos da América. United States Code. Disponível em: https://uscode.house.gov/browse/prelim@title47/chapter5/subchapter2/part1&edition=prelim. Acesso em: 03 mar. 2021.

FACEBOOK e Instagram bloqueiam conta de Trump por tempo indeterminado. G1, [s.l.], 07 de jan. 2021. Disponível em: https://g1.globo.com/economia/tecnologia/noticia/2021/01/07/facebook-bane-conta-de-donald-trump-por-tempo-indeterminado-diz-mark-zuckerberg.ghtml. Acesso em: 01 mar. 2021.

FACEBOOK. Padrões da Comunidade. [s.l.] 2021. Disponível em: https://www.facebook.com/communitystandards/. Acesso em: 01 mar. 2021.

FACEBOOK. Política de dados. [s.l.] 2021a. Disponível em: https://www.facebook.com/policy.php. Acesso em: 01 mar. 2021.

FACEBOOK. Termos de Serviço. [s.l.] 2020. Disponível em: https://www.facebook.com/legal/terms/update. Acesso em: 01 mar. 2021.

FACEBOOK. Transparency Center. [s.l.] 2021c. Disponível em: https://transparency.fb.com/ Acesso em: 16 jun. 2021.

FRANCE: Constitutional Council declares French hate speech ‘Avia’ law unconstitutional. ARTICLE 19,18 jun. 2020. Disponível em: https://www.article19.org/resources/france-constitutional-council-declares-french-hate-speech-avialaw-unconstitutional/. Acesso em: 03 mar. 2021.

GILLESPIE, Tarleton. Custodians of the Internet: plataforms, contente moderation, and yhe hidder decisions that shape social media. [s.l.] Yale University Press, 2018.

GRIMMELMANN, James. The Virtues of Moderation. Yale Journal of Law & Technology. v. 17, p. 41-109, 2015.

HARTMANN PEIXOTO, Fabiano. Direito e Inteligência Artificial: Referenciais básicos com comentários à resolução CNJ 332/2020. Brasília: DR.IA, 2020.

HARTMANN, Ivar Alberto M. Fake News, Pandemia e Moderação de Conteúdo. Entrevista concedida a Fausto Santos de Morais e Lucas Carini. IAJUS TALK. [s.l.] 2021. Disponível em: https://www.youtube.com/watch?v=ijeas6USNK8&t=774s

HARTMANN, Ivar Alberto M.; SARLET, Ingo Wolfgang. DIREITOS FUNDAMENTAIS E DIREITO PRIVADO: A PROTEÇÃO DA LIBERDADE DE EXPRESSÃO NAS MÍDIAS SOCIAIS. Direito Público, [S.l.], v. 16, n. 90, dez. 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3755 Acesso em: 07 mar. 2021.

INSTAGRAM. Diretrizes da Comunidade. [s.l.] 2021. Disponível em: https://help.instagram.com/477434105621119/?helpref=hc_fnav&bc[0]=Ajuda%20do%20Instagram&bc[1]=Central%20de%20Privacidade%20e%20Seguran%C3%A7a Acesso em: 18 mar. 2021.

INSTAGRAM. Keeping Instagram a safe and supportive place. [s.l.] 2021a. Disponível em: https://about.instagram.com/community/safety Acesso em: 18 mar. 2021.

MAGRANI, Eduardo. Entre dados e robôs: ética e privacidade na era da hiperconectividade. 2 ed. Porto Alegre: Arquipélago Editorial, 2019.

PORTUGAL. Lei n. 27/2021 de 17 de maio de 2021. Carta Portuguesa de Direitos Humanos na Era Digital. Disponível em: https://dre.pt/application/conteudo/163442504 Acesso em: 24 jun. de 2021.

REINO UNIDO. Government Digital Service. Online Harms White Paper de abril de 2019. Disponível em: https://www.gov.uk/government/consultations/online-harms-white-paper. Acesso em: 02 mar. 2021.

SARLET, Ingo Wolfgang; SALES, Gabrielle Bezerra. FREEDOM OF EXPRESSION AND HATE SPEECH REGULATION IN SOCIAL MEDIA PLATFORMS: CONSIDERATIONS ON THE EXAMPLE OF THE SO-CALLED “GERMAN NETWORK ENFORCEMENT ACT” ("NETZWERKDURCHSETZUNGSGESETZ"). REVISTA DE DERECHO CONSTITUCIONAL EUROPEO. Granada, n. 35, jan-jun de 2021. Disponível em: http://www.ugr.es/~redce/REDCE35/articulos/12_SARLET_SALES.htm Acesso em: 01 ago. 2021.

SENRA, Ricardo. Após Twitter, Facebook e Instagram excluem vídeo de Bolsonaro por 'causar danos reais às pessoas'. BBC News, 2020. Disponível em: https://www.bbc.com/portuguese/brasil-52101240 Acesso em: 20 mar. 2021.

THE SANTA CLARA PRINCIPLES on Transparency and Accountability in Content Moderation. Disponível em: https://santaclaraprinciples.org/. Acesso em: 01 mar. 2021.

TWITTER. As Regras do Twitter. [s.l.] 2021. Disponível em: https://help.twitter.com/pt/rules-and-policies/twitter-rules Acesso em: 18 mar. 2021.

TWITTER. Política de informações enganosas sobre a COVID-19. [s.l.] 2021a. Disponível em: https://help.twitter.com/pt/rules-and-policies/medical-misinformation-policy Acesso em: 18 mar. 2021.

TWITTER. Política de mídia sensível. [s.l.] 2019. Disponível em: https://help.twitter.com/pt/rules-and-policies/media-policy Acesso em: 18 mar. 2021.

UNIÃO EUROPEIA. Comissão Europeia. The Digital Services Act: ensuring a safe and accountable online environment, 2021. Disponível em: https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_en. Acesso em: 02 mar. 2021.

Published

2022-06-13

How to Cite

POLETTO, Álerton Emanuel; SANTOS DE MORAIS, Fausto. Large-scale content moderation by private social media platforms. Prisma Juridico, [S. l.], v. 21, n. 1, p. 108–126, 2022. DOI: 10.5585/prismaj.v21n1.20573. Disponível em: https://periodicos.uninove.br/prisma/article/view/20573. Acesso em: 1 sep. 2024.

Issue

Section

Artigos