Participe do nosso grupo no Whatsapp Participe do nosso grupo no Telegram
18 de janeiro de 2022
Ainda não é assinante
Cenarium? Assine já!
ASSINE

Com Informações da Agência Brasil

SÃO PAULO – Uma pessoa negra que é automaticamente reconhecida como gorila em uma plataforma digital para fotos. Em uma mídia social, o recorte automático de uma foto fora do padrão de visualização privilegia rostos de pessoas brancas. Em outra rede, uma mulher negra tem seu alcance de postagens aumentado em 6.000% ao publicar mulheres brancas.

Esses exemplos não são pontuais e vêm sendo alvo de críticas e reflexões de usuários da internet e pesquisadores. Como modelos matemáticos, os chamados algoritmos, poderiam ser racistas? O pesquisador Tarcizio Silva, doutorando em Ciências Humanas e Sociais na Universidade Federal do ABC (UFABC), explica que é necessário se perguntar como esses sistemas são usados de forma a permitir “a manutenção, intensificação e ocultação do racismo estrutural”. Silva desenvolveu uma linha do tempo que demonstra casos, dados e reações.

“A solução não está somente na transparência de códigos, mas sim na apropriação e crítica social da tecnologia”, diz. Como os sistemas são alimentados, quais dados são aceitos, quem cria as tecnologias e quem é incluído ou excluído na multiplicação de dispositivos automatizados são algumas das questões levantadas por Silva. “O racismo algorítmico é uma tecnologização e automatização do racismo estrutural”, avalia.

Idealizadores do blog Tecnocríticas, Renata Gusmão, Gabriela Guerra e Felipe Martins atuam na área de tecnologia da informação (TI) e usam a internet para discutir, entre outros temas, a ausência de neutralidade da tecnologia.

“Quem pensa esses algoritmos são pessoas dentro de uma sociedade machista, racista, desigual. Logo a lógica por trás de uma solução carrega esses mesmos valores. Não estão considerando a diversidade dos usuários finais e acabam reforçando desigualdades e discriminações do mundo ‘real’”, apontam em entrevista por e-mail à Agência Brasil. 

“A solução não está somente na transparência de códigos, mas sim na apropriação e crítica social da tecnologia”, diz. Como os sistemas são alimentados, quais dados são aceitos, quem cria as tecnologias e quem é incluído ou excluído na multiplicação de dispositivos automatizados são algumas das questões levantadas por Silva. “O racismo algorítmico é uma tecnologização e automatização do racismo estrutural”, avalia.

#AlgoritmoRacista

Um dos casos de maior repercussão recentemente ocorreu no Twitter, com o recorte automático de fotos que privilegiavam rostos brancos. Milhares de usuários usaram a hashtag #AlgoritmoRacista, na própria rede, para questionar a automatização que expunha o racismo. Silva explica que essa descoberta mostrou o uso de algoritmos baseados em redes neurais, cuja técnica encontra regiões de interesse sobre a imagem a partir de dados levantados por rastreamento de olhar.

“Um acúmulo de dados e pesquisas enviesadas que privilegiavam a estética branca resultou no sistema que o Twitter usava e não conseguiu sequer explicar corretamente onde estava a origem da questão”, disse o pesquisador. Na época, a plataforma se comprometeu a revisar o mecanismo. “Devíamos ter feito um trabalho melhor ao prever essa possibilidade quando estávamos projetando e construindo este produto”.

“É assim que o racismo algorítmico funciona, por meio do acúmulo de uso de tecnologias pouco explicáveis e pouco ajustadas que a princípio otimizam algum aspecto técnico, mas na verdade mutilam a experiência dos usuários”, acrescenta o pesquisador.