Quênia como espelho do colonialismo digital: o uso de dados pessoais pela inteligência artificial e os desafios à autonomia e aos direitos humanos no Sul Global

Abstract

O presente trabalho investiga as relações entre a Inteligência Artificial (IA), o Capitalismo de Vigilância e o Colonialismo de Dados, tomando o Quênia como estudo de caso paradigmático para compreender como a extração de dados pessoais e a precarização do trabalho digital configuram novas formas de violação de direitos humanos e civis no Sul Global. De modo específico, o estudo examina como o avanço da Inteligência Artificial depende da exploração invisibilizada de trabalhadores do Sul Global, tomando o caso dos quenianos terceirizados na moderação e rotulagem de dados como expressão concreta do Colonialismo Digital Contemporâneo. Embora apresentados como parte de um ecossistema tecnológico promissor, esses trabalhadores são expostos diariamente a conteúdos altamente traumáticos e submetidos a baixos salários, ausência de suporte adequado e condições laborais que violam sua dignidade, sua integridade psíquica e seus direitos fundamentais. Paralelamente, é proposta uma reflexão acerca do modo como os próprios usuários da internet são impactados pela coleta massiva e pouco transparente de seus dados pessoais, comprometendo sua autonomia, privacidade e controles epistêmico e informacional. Destarte, o artigo evidencia que a expansão da IA, embora tecnologicamente promissora, tem produzido graves assimetrias de poder e riscos concretos tanto para trabalhadores vulnerabilizados quanto para usuários submetidos a modelos opacos de vigilância e predição comportamental.

This paper investigates the relationships among Artificial Intelligence (AI), Surveillance Capitalism, and Data Colonialism, taking Kenya as a paradigmatic case study to understand how the extraction of personal data and the precarization of digital labor constitute new forms of human and civil rights violations in the Global South. More specifically, the study examines how the advancement of Artificial Intelligence depends on the invisibilized exploitation of workers in the Global South, using the case of Kenyan outsourced data moderators and labelers as a concrete expression of Contemporary Digital Colonialism. Although presented as part of a promising technological ecosystem, these workers are exposed daily to highly traumatic content and subjected to low wages, inadequate support, and working conditions that violate their dignity, psychological integrity, and fundamental rights. In parallel, the article reflects on how internet users themselves are affected by the large-scale and often opaque collection of their personal data, undermining their autonomy, privacy, and epistemic and informational control. Thus, the article demonstrates that the expansion of AI, despite its technological promise, has generated severe power asymmetries and concrete risks both for vulnerable workers and for users subjected to opaque models of surveillance and behavioral prediction.