O problema com a pesquisa de imagens do Google

Na Computer Aid, participamos em eventos de todos os aspetos do mundo da TI e, este ano em particular, tem havido um foco na igualdade de género e na diversificação dos oradores que são contratados. Isto chegou mesmo a um ponto crucial no Cimeira de TIC do Setor Público onde Kit Collingwood, Diretora Adjunta do Universal Credit, Departamento de Trabalho e Pensões levantou a questão de ser a única mulher inscrita no painel e afirmou categoricamente que não voltaria a participar num evento em que fosse a única mulher no painel.

Ainda nessa manhã, enquanto conversava com outros participantes, fui informada de que não havia necessidade de realizar o debate sobre “Mulheres nas Tecnologias da Informação” mais tarde nesse dia, pois «não é nada de novo, pois as mulheres já estão no setor da tecnologia há muito tempo». Era óbvio que ele não tinha lido a estatística que acompanhava o título da palestra, segundo a qual apenas 17% dos trabalhadores do setor tecnológico do Reino Unido são mulheres.

Isto esteve muito na minha mente quando esta manhã, um colega me mostrou o que acontece quando se pesquisa por imagem no Google por ‘Computadores para Rapazes’ vs ‘Computadores para Raparigas’.’

É fácil ver a diferença. Os resultados da pesquisa por ‘Computadores para Rapazes’ são maioritariamente algumas imagens de stock standard de crianças a usar computadores, com ar feliz e com diversidade relativamente boa. No entanto, ao pesquisar ‘Computadores para Raparigas’, não só não se vêem crianças, como somos inundados por um mar de rosa. O mais preocupante é um slide de uma apresentação que diz ‘Computadores não são para raparigas’.

Esta não é a primeira vez que o algoritmo de pesquisa do Google tem um problema com a forma como identifica as imagens, em 2015 Jacky Alciné apontou que o Google Photos estava a classificar os seus amigos negros como “gorilas”.”

Mas como é que um motor de busca faz estas escolhas? Para explicar melhor, incluí este vídeo:

Dado que os resultados da pesquisa são baseados Algoritmo PageRank, isto significa que para estas imagens aparecerem, as pessoas estão a fazer mais links para estes computadores cor-de-rosa estereotipados do que para páginas web positivas como, por exemplo, Stemettes, Code First: Girls, Meninas que Codam e muitas outras organizações maravilhosas que promovem a igualdade no setor tecnológico. Parte disto pode dever-se ao facto de estes websites não terem muitas imagens disponíveis, mas é mais provável que se deva aos estereótipos de género enraizados que vemos na sociedade atual.

Já abordámos a questão do preconceito de género no nosso trabalho com a Universidade do Zimbábue, onde se constatou que, embora houvesse igualdade de acesso, a proporção entre estudantes do sexo masculino e feminino que utilizavam os laboratórios de TIC da universidade era de 87% homens para 13% mulheres (apesar de um número de matrículas quase igual, com 51% mulheres em comparação com 49% homens). Considerou-se que isto se devia a uma desigualdade ‘socializada’, em que as alunas sentiam que não tinham tanto direito a aceder aos laboratórios como os alunos. Enfrentámos esta questão social criando laboratórios exclusivos para mulheres, um espaço concebido para as 51% mulheres matriculadas na universidade.

Isto permitiu que as alunas adquirem competências básicas de TIC, que lhes proporcionariam melhores oportunidades de emprego no futuro e mais opções para estudos posteriores. Ao reconhecer o problema social e incorporá-lo na nossa solução, acendemos uma faísca de mudança e desafiámos a visão de que as TIC são um domínio exclusivo de estudantes do sexo masculino no sistema de ensino superior do Zimbabué.

Então, como é que mudamos o algoritmo e fazemos com que funcione de uma forma melhor e mais precisa? Por exemplo, quando procuro em sites de imagens de stock, não temos o mesmo problema:

Bem, se alguém tiver vontade de uma tarefa longa e laboriosa, poderiam criar imensos websites com imagens de raparigas a usar computadores, devidamente etiquetados e categorizados, e a ligar para outros websites importantes para aumentar o seu ranking no algoritmo. Ou poderíamos fazer o Google tomar a iniciativa e resolver o problema na raiz, usar o botão abaixo para enviar um tweet ao Google a pedir que resolvam a sua pesquisa e promovam a igualdade:

TWEET GOOGLE