Ir direto ao conteúdo

Por que algoritmos de busca levam a resultados machistas

O Google alterou recentemente o mecanismo para evitar que a palavra 'lésbica' mostrasse sites pornográficos. Modelos de aprendizado de máquina por trás de sistemas podem reproduzir desigualdades

 

Em 19 de julho de 2019, o Google alterou o algoritmo de seu mecanismo de busca para que sites pornográficos deixem de constar entre os resultados principais de pesquisas pelo termo “lesbienne” – lésbica, em francês.

A partir de agora, quem pesquisa é primeiramente direcionado para páginas informativas, como já acontecia nas buscas por palavras como homossexual e transexual.

A mudança é uma resposta a reclamações que a empresa vinha recebendo devido aos resultados sexualizados sobre mulheres lésbicas.

Nas redes sociais, a página francesa #SEOlesbienne foi uma das responsáveis por colocar em pauta essa falha do algoritmo. A campanha também foi encabeçada pela jornalista Marie Turcan, que chamou atenção para o problema em uma sequência de tuítes em abril de 2019.

Os resultados refletem a fetichização, presente na sociedade, da sexualidade de mulheres que se relacionam com mulheres. Além da homofobia, lésbicas são afetadas pelo machismo, que faz a sexualidade feminina ser comumente vista em função do prazer masculino.

Buscas pelo termo em português também apresentavam sites pornográficos logo no topo, segundo apontou uma reportagem publicada pelo site BuzzFeed em 2018. Em agosto de 2019, resultados do tipo não apareceram nas primeiras páginas de busca por “lésbica”.

A assessoria do Google no Brasil declarou, em nota, que a empresa trabalha para filtrar a aparição indesejada de conteúdo potencialmente ofensivo.

A lógica por trás do algoritmo

Para funcionar, um algoritmo – conjunto de comandos que cumpre uma dada função – se baseia em aprendizado de máquina, técnica da inteligência artificial que faz com que um sistema aprenda informações e execute uma tarefa sem depender de interferência humana.

No caso de um mecanismo de busca como o Google, os algoritmos são usados para decidir automaticamente o que é mais relevante e, consequentemente, deve ser mais visto. Em resumo, determinam aquilo que estará ou não na primeira página de resultados da busca.

O problema é que os modelos de aprendizagem de máquina não são neutros: reproduzem as desigualdades presentes nos dados que alimentam e treinam os algoritmos. Se a maioria das imagens disponíveis ligadas a certas profissões representa homens, por exemplo, isso faz com que mulheres estejam menos representadas na busca por essas imagens.

Lançado em 2018, o livro “Algorithms of Oppression” (Algoritmos da opressão, em tradução livre) analisou buscas textuais e imagéticas, assim como anúncios pagos, para tratar de como algoritmos de busca reforçam o racismo. 

A autora, a professora da Universidade da Califórnia em Los Angeles Safiya Noble, afirma que a combinação de interesses privados em promover certos sites e do monopólio de um número relativamente pequeno de buscadores leva a algoritmos de busca enviesados, que discriminam pessoas – sobretudo mulheres – negras.

Assim como acontecia até hoje com o termo “lésbica”, a autora descobriu que uma pesquisa por termos como garotas negras, asiáticas ou latinas conduzia a resultados sexualmente explícitos.

O viés racista dos algoritmos se tornou evidente em 2015, quanto um sistema de reconhecimento de imagens do Google categorizou uma foto de dois amigos – um homem e uma mulher, ambos negros – como sendo “gorilas”. Na época, a empresa garantiu que tomaria providências para corrigir a falha e disse haver “claramente muito trabalho pela frente com classificação de imagem, e nós estamos avaliando como evitar que erros como esse aconteçam no futuro”.

Em entrevista ao podcast If Then em setembro de 2018, Noble explica que, em seu surgimento, os buscadores eram pensados como o acesso a uma biblioteca, onde todo tipo de informação estava igualmente disponível.

Atualmente, grandes mecanismos de busca comerciais, como o Google, são pagos para otimizar determinados conteúdos, destacando-os como anúncios. Há também resultados que ficam no topo devido à popularidade – sites de maior tráfego aparecem primeiro.

A ordenação dos resultados, porém, é fruto de muitas outras variáveis. No caso do Google, a empresa declara serem mais de 200 os fatores que compõem seus algoritmos de busca.

Em entrevista ao Nexo em 2016, Virgilio Almeida, professor de ciência da computação da Universidade Federal de Minas Gerais e professor visitante da Universidade de Harvard, comparou os algoritmos que ordenam os resultados a uma caixa preta: não é possível ter acesso ao seu funcionamento interno, que é complexo e de propriedade das empresas que são donas das ferramentas de busca.

Todos os conteúdos publicados no Nexo têm assinatura de seus autores. Para saber mais sobre eles e o processo de edição dos conteúdos do jornal, consulte as páginas Nossa Equipe e Padrões editoriais. Percebeu um erro no conteúdo? Entre em contato. O Nexo faz parte do Trust Project. Saiba mais.

Mais recentes

Você ainda tem 2 conteúdos grátis neste mês.

Informação com clareza, equilíbrio e qualidade.
Apoie o jornalismo independente. Junte-se ao Nexo!