Violência política de gênero, desinformação de gênero, discurso de ódio com base em gênero, revenge porn. Não é possível combater as muitas faces da violência de gênero na internet de forma eficaz sem vontade política para regular e uma ação coordenada entre as plataformas. Pesquisadora de Inteligência Artificial e discurso de ódio e gênero, Luiza Santos falou também, nesta entrevista à série #panorama2024 do *desinformante, sobre o sexismo que alcança até as assistentes virtuais e a ineficácia na autorregulação das plataformas.
Luiza Santos é doutora em Comunicação e Informação pela Universidade Federal do Rio Grande do Sul (UFRGS), com estágio doutoral na Goethe Universität (ALE) e no Sussex Humanities Lab da Univesity of Sussex (UK). Professora Substituta na Universidade Estadual de Ponta Grossa (UEPG), atualmente coordena o Grupo de Pesquisa em Tecnologias e Culturas Digitais da Intercom.
Liz Nóbrega: Antes mesmo de a gente falar de Chat GPT, já existiam as assistentes digitais, como a Alexa, a Siri, personificadas sempre com figuras femininas que inclusive sofreram ataques misóginos. Nem as máquinas escapam ao sexismo? Como você vê essa relação entre IA e gênero?
Luiza Santos: Talvez nem as máquinas escapem ao sexismo porque, dependendo do olhar ou análise que a gente utilizar, elas dão na verdade vazão ou continuidade ao sexismo ou à misoginia. Além dessas assistentes que você listou, relacionadas a marcas de tecnologia, a gente tem a Bia do Bradesco, a Lu da Magalu, a Nat da Natura. Existe uma associação da mulher com a máquina. Gosto muito de trabalhar com uma autora canadense, a Sarah Sharma, que traz essa ideia de que se espera das mulheres uma forma de ação que é similar à máquina. Há uma prescrição sobre como a gente deveria se comportar.
E quando há hoje um questionamento sobre esse papel, com as mulheres querendo modificar um pouco esse conjunto, a gente vai ter o que a Sarah Sharma chama de “mulheres-máquinas quebradas”, que são essas mulheres que talvez não performem mais como um contexto patriarcal esperaria. Estão saindo um pouco desse jogo, e por isso são consideradas como se não estivessem funcionando adequadamente, podendo ser substituídas. Em um dos seus artigos, a Sarah vai analisar alguns discursos de pessoas relacionadas aos grupos de extrema-direita, misóginos, e o pessoal de desenvolvimento de tecnologia, e apontar como existe um certo pensamento hoje sobre efetivamente substituir por máquinas as mulheres que estão dificultando muito a vida dos homens.
Existe a ascensão das assistentes sociais, mas a gente também tem robôs para sexo, que na maioria das vezes são femininos. Vemos essa relação também no cinema. Por exemplo, na ficção científica “Her” o sistema operacional Samantha, na voz da Scarlett Johansson, é uma máquina que vem para substituir a mulher do relacionamento anterior do protagonista, que era uma mulher real, com suas questões, que não agia sempre como ele esperava, ou da maneira mais fácil. Voltando às assistentes pessoais: são objetos que vão sofrer uma série de abusos, como as mulheres sofrem. A Bia do Bradesco tinha umas respostas para quando alguém a assediava sexualmente. Se alguém insinuava um estupro em relação à Bia, ela falava: “eu sou uma máquina, eu não namoro”, associando estupro a namoro, o que é completamente sem sentido. Aí eles fizeram uma modificação para que ela começasse a falar: “olha, estupro é crime”.
Lena Benz: Estudos mostram que os principais alvos dos deepfakes pornográficos são as mulheres. Podemos esperar que esse problema se intensifique nos próximos anos? Quais seriam as saídas possíveis?
Luiza Santos: Não sei se a gente pode esperar um agravamento, mas cada novo desenvolvimento tecnológico invariavelmente vai ser apropriado tanto para questões relacionadas à pornografia, quanto para a violência. Esse tipo de montagem, principalmente quando envolve expor em algum nível mulheres reais, não é só pornografia, é uma violência de gênero. Precisaria de um esforço para abarcar os diferentes tipos de violência online que as mulheres sofrem num mesmo escopo. Quando a gente pega Facebook, X, Tiktok etc., todas essas plataformas têm diretrizes de comunidade, a despeito de a gente discutir se elas são ou não implementadas. Usualmente algumas coisas são proibidas, como o discurso de ódio com base em diversas características, inclusive características de gênero. Mas geralmente essa diretriz não vem associada a outras práticas que a gente tem online contra mulheres: a violência política de gênero, a desinformação de gênero, o discurso de ódio com base em gênero, o revenge porn. Quando eu pego, por exemplo, o caso da Vera Magalhães, não é só um caso de violência política de gênero, tem discurso de ódio, tem uma campanha junto acontecendo. Essas práticas que acontecem por meio de mídias digitais geralmente são analisadas e combatidas de maneira separada.
Eu vejo com muita preocupação esses grupos masculinistas, que estão crescendo. Eles não só vão replicar ideias muito equivocadas sobre as mulheres ou sobre gênero, mas também desenvolver estratégias de violência contra as mulheres. Como os homens usam muitas plataformas, para inclusive fazer essa [confirmação] de grupo, para os iguais se encontrarem, são grupos muito letrados, que sabem como usar as diferentes plataformas, quais são estratégias para dar mais visibilidade a um tipo de ataque. Talvez uma coisa que a gente precise fazer é combinar todos esses diferentes tipos de violência [contra a mulher] que já vêm sendo investigados, e de alguma maneira combatidos, e colocar tudo junto. Entender que são expressão de uma mesma coisa e que talvez não possam ser adequadamente combatidos de maneira isolada.
