Inteligência artificial tem um problema de gênero

Mulheres enfrentam desafios com uma tecnologia pensada por homens. No ambiente de trabalho, a inteligência artificial está sendo utilizada cada vez mais, e o seu raciocínio está diretamente ligado a quem a programou. Como fazer, então, para que essa tecnologia seja mais plural e carregue menos preconceitos?

Por Monique Munarini, para o Instituto Aurora

(Foto: This is engineering / Pexels)

Inteligência artificial virou sinônimo de avanço tecnológico e modernidade. Inúmeras empresas utilizam inteligência artificial para reduzir seus custos e aumentar a eficiência das tomadas de decisões. Infelizmente, as pautas de igualdade de gênero não entraram nessa tendência.

O que vamos abordar neste artigo:

Mas, afinal, o que é Inteligência Artificial?
E onde estão as mulheres?
E o que podemos fazer para mudar isso?

Publicado em 16/06/2021.

Mas, afinal, o que é Inteligência Artificial?

Inteligência artificial não possui um conceito aceito internacionalmente pelos cientistas. No entanto, apenas a título de ilustração, podemos dizer que inteligência artificial é uma ferramenta criada para imitar o raciocínio humano, a qual aprende a partir dos dados a que ela é exposta. Ela está presente na assistente virtual do seu smartphone, no GPS, nos chats de SAC. O maior case de sucesso brasileiro é a Magalu, a assistente virtual da Magazine Luiza.

A inteligência artificial foi criada após a Segunda Guerra Mundial e ganhou repercussão dentro dos laboratórios do MIT. O raciocínio da IA está diretamente ligado ao de seu criador e, assim como uma criança, absorve os preconceitos e aspectos culturais de quem a programou. O ambiente de criação da IA é o das áreas STEM (ciência, tecnologia, engenharia e matemática), o qual sempre foi um ambiente onde as mulheres são minoria e sofrem inúmeros tipos de discriminação.

A questão central não é somente a IA aprender e reproduzir estereótipos de gênero discriminatórios vindos destas áreas, mas transformar isso em efeito cascata. As gigantes da tecnologia conhecidas como GAFA (Google, Apple, Facebook, Amazon), sem exceção, foram protagonistas de escândalos envolvendo IA e discriminação de gênero.

E onde estão as mulheres?

Segundo a UNESCO, as mulheres correspondem a apenas 17% da área de tecnologia e ocupam menos de 5% das posições de liderança. No Brasil, de acordo com o PNAD, dos 580 mil profissionais existentes, apenas 20% são mulheres. Ainda que em número reduzido, as mulheres que vencem inúmeros desafios para seguirem carreiras nessas áreas sofrem vários tipos de discriminação, ausência de reconhecimento de seu trabalho ou até mesmo assédio. Em uma pesquisa realizada para o dia das mulheres de 2021, verificou-se que 81% das mulheres entrevistadas nas áreas STEM já sofreram algum tipo de discriminação.

Uma das justificativas para a ausência de representatividade de mulheres nesse setor é a ausência de profissionais qualificadas, principalmente no que diz respeito à promoção de mulheres para cargos de liderança. Esse fenômeno é chamado de vazamento do cano: leaky pipeline.

Existem inúmeros fatores para que as mulheres saiam do mercado de tecnologia ou sequer entrem. Eles começam desde cedo com o estereótipo cultural de que ciência não é coisa de menina ou que somente pessoas “masculinizadas” seguem cursos de engenharia, até o fato de que meninas, que segundo a OCDE, são tão boas quanto meninos em exatas, se sentem menos confiantes nessas matérias. A falta de reconhecimento e incentivo que começa desde a infância tende a se alargar ao longo do caminho acadêmico e profissional.

Com a inteligência artificial, isso se torna ainda mais complexo, porque muitas mulheres sequer estão cientes da discriminação que sofrem pelo simples fato de serem mulheres. A questão não é apenas a ausência de mulheres contribuindo no desenvolvimento de tecnologias como IA e buscando por igualdade de gênero neste mercado, são as consequências que elas já sofrem por serem “esquecidas”.

Em 2016, a Amazon trabalhava com inteligência artificial para fazer uma pré-seleção de currículos de candidatos com base no banco de dados interno da empresa. Diante da ausência de números expressivos de funcionárias mulheres, a IA entendeu que mulheres não se encaixavam nas vagas de trabalho da Amazon e passou a rejeitar os currículos de mulheres.

Pesquisas de 2014 e 2020 mostraram que a IA usada para a otimização de anúncios do Google e do Facebook automaticamente estava deixando de exibir ofertas de trabalho de acordo com o gênero identificado pelo usuário. Enquanto cuidador de crianças estava sendo mostrado para mulheres, vagas de tecnologia estavam sendo mostradas para homens.

Ambos os estudos verificaram que não eram os anunciantes que escolhiam o gênero do grupo alvo para receber os anúncios, mas a própria inteligência artificial de ambas as companhias que, provavelmente a partir dos estereótipos de gênero dos desenvolvedores, entendia que determinado gênero não era o mais adequado para determinado anúncio de emprego.

Esses e outros casos foram importantes para consolidar a demanda por uma inteligência artificial mais ética e menos discriminatória. Também iniciou-se a pressão popular para que os governos regulassem essa tecnologia de forma não apenas a evitar a discriminação de gênero, mas também para estabelecer a responsabilidade por estas ações. Ainda não há legislação no Brasil, assim como também não existe ainda em países europeus.

A inteligência artificial está trazendo inúmeras mudanças em diversos setores da economia e da sociedade em geral. Há estudos que indicam como a IA pode favorecer ou prejudicar o alcance dos Objetivos para um Desenvolvimento Sustentável (ODS). Em relação ao ODS 5, relacionado a igualdade de gênero, a inteligência artificial tem se mostrado prejudicial à sua conquista. Isso porque, com o atual desenvolvimento da inteligência artificial, ela reproduz, transformando em efeito cascata, vieses discriminatórios e estereótipos de gênero de uma forma muito mais difícil de ser identificado do que se fosse o resultado de uma conduta humana.

E o que podemos fazer para mudar isso?

Conhecimento é crucial em todos os aspectos da vida humana. Tendo em vista que IA já está enraizada em nossa sociedade, em nossas empresas, em nossas relações, o essencial é buscarmos aprender mais sobre o assunto e assim incentivar que mais pesquisas sejam feitas.

Também em relação à educação das meninas, as quais estarão, ainda mais que nós, sujeitas a decisões automatizadas por parte de inteligência artificial, é essencial que haja o incentivo àquelas que se mostram curiosas ou mesmo atraídas pelo mundo de exatas.

Estes objetivos são de longo e médio prazo. A curto prazo é vital estabelecer redes de contatos com mulheres em diversas áreas para auxiliar o mercado a encontrar essas mulheres e as absorver de forma mais abrangente. É importante reconhecer que não adianta tentarmos mudar tecnologias que refletem a nossa realidade e imitam o raciocínio humano, sem de fato trabalharmos para mudá-los antes.

O Instituto Aurora oferece serviços para empresas, ajudando a construir um ambiente que preze pela igualdade, sem deixar de respeitar as diferenças. Saiba mais.

Acompanhe o Instituto Aurora nas redes sociais: Instagram | Facebook | Linkedin | Youtube