Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas

Resumo

O racismo é parte da estrutura fundamental das sociedades capitalistas, característica que também se manifesta na forma como as ferramentas tecnológicas são elaboradas. No atual capitalismo de dados, os vieses raciais discriminatórios têm-se revelado como mais uma maneira de reforçar as desigualdades já existentes na sociedade, na medida em que corroboram para a reprodução do racismo que, nas redes sociotécnicas, converte-se em uma forma de opressão algorítmica. A partir de uma abordagem metodológica centrada na revisão de literatura, este artigo tem como objetivo explorar os enviesamentos racistas presentes nas redes digitais, em especial aqueles inscritos nos algoritmos que organizam e classificam a informação disponível online, trazendo o debate ao campo da ética da informação. Os resultados da pesquisa apontam que os softwares e a aplicação das tecnologias de inteligência artificial podem atuar como meios para aprofundar desigualdades, cujos vieses são mascarados tanto pela própria tecnologia (marcada por práticas informacionais invisíveis a seus usuários) quanto pela confiança e crença dataísta na neutralidade tecnológica. Conclui-se que, apesar de não ser a única forma de opressão presente nas redes, o racismo algorítmico tem importante papel na manutenção estrutural das desigualdades raciais, uma vez que não só é alimentado por elas, mas também as alimenta. Nesse sentido, são apresentados elementos que têm potencial de mitigar os vieses algorítmicos atualmente em uso, de forma a trazer mais equidade e responsabilidade em seus processos de elaboração