Estudo brasileiro revela como algoritmos da internet reproduzem — e ampliam — o racismo da sociedade

Um estudo conduzido pela Universidade Federal do Ceará (UFC) aponta que os algoritmos de grandes plataformas digitais não apenas refletem desigualdades raciais, como também amplificam silenciosamente esse preconceito. A pesquisa, realizada pelo professor Júlio Araújo e publicada no livro “Necroalgoritmização: notas para definir o racismo algorítmico”, mostra como os sistemas de inteligência artificial filtram conteúdos, distorcem representações e favorecem discursos que reforçam o racismo, muitas vezes sem que os usuários percebam. O intuito da pesquisa é mostrar como a tecnologia pode reforçar o racismo e influenciar uma discriminação automatizada que afeta milhões de pessoas.

Em Xataka Brasil

Alunos foram proibidos de usar seus celulares para não usar o ChatGPT; ninguém imaginava que o problema seriam os professores

Estudo do Ceará revela que algoritmo está reforçando o racismo

Os algoritmos são a base fundamental da inteligência artificial (IA). Ele possui uma sequência de instruções lógicas e bem definidas para processar dados, aprender e tomar decisões. Contudo, apesar de escritos em linguagem de programação, não se pode esquecer que os algoritmos são sequências produzidas por seres humanos. Por isso, eles carregam ideologias e podem produzir textos, fotos e vídeos que amplificam preconceitos na sociedade, como o racismo e sexismo. E é exatamente isso que a pesquisa de Júlio aborda.

Segundo ele, o algoritmo se comporta como um agente que aprende e replica desigualdades já presentes na sociedade. O estudo mostra que, ao organizar buscas, sugerir conteúdos ou moderar publicações, esses sistemas tendem a priorizar imagens, temas e perfis que se alinham ao padrão branco, considerado “neutro”. Já conteúdos associados a pessoas negras aparecem menos, são interpretados como “sensíveis” ou até marcados como suspeitos.

Em Xataka Brasil

Descobrir o melhor caminho era um problema não resolvido desde os anos 1970; um algoritmo encontrou a solução em um piscar de olhos

Necroalgoritmização: entenda o que significa o termo e o que ele representa

O professor Júlio Araújo nomeou essa prática como “necroalgoritmização”, uma expressão usada para descrever o racismo algorítmico e como eles perpetuam hierarquias e desigualdades estruturais. A ideia do nome se relaciona com o pensamento da filósofa Achille Mbembe sobre a necropolítica, que analisa como determinados corpos são expostos de forma desigual à violência e ao apagamento. Na internet, isso se traduz em sistemas que diminuem a visibilidade de pessoas negras, reforçam estereótipos ou associam automaticamente certos perfis à criminalidade ou perigo. De acordo com Júlio, esse processo não ocorre de forma explícita e opera com uma lógica própria. Ele é incorporado ao funcionamento das plataformas de modo silencioso, diferente do racismo estrutural que se manifesta na sociedade de forma explícita, institucionalizada e reconhecível.

Júlio também fala sobre um comportamento que se tornou comum no ambiente digital, conhecido como “isca de raiva”. O termo foi eleito como palavra do ano pelo dicionário de Oxford e reflete o esgotamento emocional sentido por usuários de redes sociais que são expostos a conteúdos planejados para atrair a atenção e causar indignação. Segundo o pesquisador, essas plataformas lucram com o preconceito à medida que os conteúdos preconceituosos geram comoção e aumentam a coleta de dados. Dessa forma, Júlio acredita que a prática deve ser regulada, pois a medida que isso não for tratado como um problema, a tendência é que esses padrões sejam naturalizados.