Discriminação por dados: uma análise a partir da literatura científica internacional

Abstract

Os dados pessoais assumem papel fundamental na dinâmica socioeconômica contemporânea, tendo como um dos principais aspectos discutidos na atualidade o seu potencial de subsidiar situações discriminatórias. Desse modo, a presente dissertação tem por objetivos: a) caracterizar o universo de produção científica na referida temática a partir dos autores, instituições e países; e b) tecer um panorama da configuração temática dessa literatura de modo a identificar tendências de pesquisa. Para tanto, a pesquisa utiliza como universo bibliográfico as bases de dados Scopus e Web of Science sem um recorte temporal definido, sobre os temas “data discrimination”, “algorithmic bias”, “algorithmic discrimination” e “fair algorithms”. Os resultados obtidos possibilitaram, a partir da experiência investigativa, inferir que o domínio de conhecimento analisado incorpora predominantemente dados pessoais, seja sua dimensão comportamental seja no âmbito dos denominados dados sensíveis. Os referidos dados, por sua vez, estão suscetíveis à ação de algoritmos de distintas ordens, sejam eles de relevância, filtragem, preditivos, de ranqueamento social, de recomendação de conteúdos e de classificação aleatória. Tais algoritmos, por sua vez, podem trazer embutidos, em sua programação, vieses discriminatórios relativos a gênero, orientação sexual, raça, nacionalidade, religião, idade, classe social, perfil socioeconômico, aparência física, e posicionamento político.

Personal data assume a fundamental role in contemporary socioeconomic dynamics, having as one of the main aspects, its potential to subsidize discriminatory situations. Thus, this MSc thesis aims to: a) characterize the universe of scientific publications in the referred theme in terms of authors, institutions, and countries; and b) to furnish an overview of the thematic configuration of this literature in order to identify its research trends. The research corpus derives from a search without a defined time frame at Scopus and Web of Science databases, under the terms “data discrimination”, “algorithmic bias”, “algorithmic discrimination” and “fair algorithms”. The results obtained made it possible to infer that the knowledge domain analysed predominantly incorporates personal data, whether in its behavioural dimension or the scope of the so-called sensitive data. These data are susceptible to the action of algorithms of different orders, be they relevance, filtering, predictive, social ranking, content recommendation and random classification. Such algorithms can have discriminatory biases in their programming related to gender, sexual orientation, race, nationality, religion, age, social class, socioeconomic profile, physical appearance, and political positioning.