Estudos apontam as consequências e possíveis soluções para moderar conteúdos discriminatórios reproduzidos no ambiente virtual
“Cabelo ruim”, “cabelo bom”, “pele feia” e “pele bonita”. Você já prestou atenção nas imagens que aparecem na internet quando se busca por essas palavras? É comum encontrar fotos de mulheres negras quando as palavras estão associadas a algo negativo, enquanto as expressões positivas são direcionadas majoritariamente a imagens de mulheres brancas. Em uma rápida pesquisa no Google, um dos maiores buscadores do mundo, ainda é possível visualizar atribuições negativas a mulheres negras. Mas por que isso acontece? Pesquisadores do campo da tecnologia chamam de “racismo algorítmico” o conceito utilizado para nomear a reprodução do racismo estrutural dentro do ambiente digital, conforme detalha o especialista Tarcízio Silva, um dos principais estudiosos do termo no Brasil.
O racismo algoritmo é o modo pelo qual o racismo estrutural é atualizado e reproduzido por tecnologias digitais algorítmicas, que geralmente são chamadas de inteligência artificial — mas eu não gosto de usar esse termo — ao incorporar decisões que podem ser decisões discriminatórias geralmente para aumento de lucro e atividade das empresas de uma forma irresponsável e, em alguns casos, de forma intencional devido à supremacia branca e ao racismo”, destaca Silva.
No Brasil, um dos casos emblemáticos sobre os impactos da reprodução do racismo e sexismo nos buscadores aconteceu em 2019, quando a empresária baiana e relações públicas Cáren Cruz pesquisou na internet “mulher negra dando aula” e se deparou com imagens que associavam mulheres negras a conteúdos pornográficos. Ela preparava uma apresentação corporativa para uma empresa e tinha feito a pesquisa porque só encontrava imagens de mulheres brancas em posições de ensino. O resultado das imagens explícitas já foi retirado do buscador pela plataforma.
Acesse a matéria completa no site de origem.
