‘A gente transformou ódio em riqueza, em potência para combater através da IA’, aponta diretora da Código Não Binário
Um ataque coordenado de ódio de extrema direita, potencializado pelos algoritmos das redes sociais, motivou a ONG Código Não Binário a criar uma ferramenta de inteligência artificial para detecção de discurso de ódio anti-LGBT+ e a acionar a Justiça contra as big techs Meta (proprietária do Facebook, do Instagram e do Whatsapp), Google (responsável pelo YouTube), X e ByteDance (TikTok) em ação civil pública que denuncia a violência digital.
As diretoras da Código Não Binário, Veronyka Gimenes e Amanda Claro, participaram nesta segunda-feira (2) do jornal Conexão BdF, da Rádio Brasil de Fato, e contaram sobre o processo que levaram à criação da ferramenta e ao processo judicial – protocolado com apoio do Instituto Brasileiro de Transmasculinidades (Ibrat), do Fórum Nacional de Travestis e Transexuais Negras e Negros (Fonatrans) e da revista AzMina.
Em maio de 2024, um corte de um episódio do podcast Entre Amigues, da Código Não Binário, viralizou nas principais redes. O vídeo falava sobre o termo “boyceta”, usado na periferia de São Paulo para se referir a pessoas transmasculinas. O assunto foi o mais comentado do Brasil no X (rede de Elon Musk) por dois dias, em grande parte com discurso de ódio. O conteúdo também foi impulsionado pelo algoritmo do TikTok para milhões de perfis.
Ao partir para a análise do conteúdo, o grupo, em busca de preservar a saúde mental das pessoas envolvidas, desenvolveu uma metodologia de extração de dados. Dois mil comentários foram classificados manualmente, e, a partir daí, uma ferramenta de inteligência artificial (IA) passou a realizar a análise dos demais. Um relatório técnico foi elaborado e baseou a Ação Civil Pública.
A IA desenvolvida pelo grupo foi batizada de TybyrIA, e homenageia Tybyra do Maranhão, primeira pessoa vítima oficial de LGBTfobia durante a colonização do território do Brasil. Segundo relatos, ele foi amarrado à boca de um canhão, que foi disparado, causando a morte instantaneamente. A ferramenta, gratuita e com código aberto, está disponível no site da Código Não Binário.
“Já que dizem que os dados são o ‘novo petróleo’, a gente levou isso ao pé da letra, e transformou esse ódio nessa riqueza, nessa potência de combater essa circulação de ódio através dessa IA”, resumiu Veronyka na entrevista ao Conexão BdF.
A especialista destacou também a importância de desmitificar alguns conceitos a respeito da inteligência artificial. O tema ganhou força nos últimos anos e seguirá fazendo parte do cotidiano, e as ferramentas não devem ser demonizadas.
“Esse modelo de IA, não é como o ChatGPT”, comparou. “Não tem nada a ver com os grandes modelos de linguagem que geram esse interesse comercial super ganancioso, de criar datacenters do tamanho de cidade pelo mundo inteiro. A gente precisa diferenciar isso, mas é algo que afasta as pessoas da IA e é um desconhecimento sobre o campo”, ponderou.
