A Inteligência Artificial (IA) tem proporcionado significativos avanços em diversas áreas da ciência e da sociedade nos últimos anos. A IA é, em linhas gerais, uma ferramenta criada para mimetizar a capacidade do raciocínio humano de aprimorar e automatizar determinadas tarefas se baseando em informações que recebe e processa.

Esses algoritmos são construídos por seres humanos e incorporam, invariavelmente, as visões de mundo e as crenças de quem os desenvolve. Os programadores, como convencionamos chamar as pessoas que escrevem os códigos necessários para o desenvolvimento de uma tecnologia, reproduzem em suas criações não só um determinado modelo mental, mas também um conjunto de vieses –crenças, interpretações, visões– sobre os mais diferentes temas e situações que serão analisados pelo algoritmo da inteligência artificial.

É como se, ao produzir uma tecnologia, ela carregasse uma parte fundamental do seu criador, como uma impressão digital ou um traço de DNA. E esses elementos constitutivos influenciarão, para sempre, o processo de aprendizado, análise e automação realizado pela máquina. E qual o grande dilema desse processo? É que os responsáveis por criar a imensa maioria das soluções digitais são um grupo homogêneo de pessoas, já que a tecnologia ainda é uma área dominada pelo público masculino.

Essa falta de diversidade em IA traz resultados concretos: os algoritmos criados por um grupo diminuto de pessoas passam a impactar toda a sociedade, que possui diferentes demandas e está exposta a uma multiplicidade de situações. Com uma tecnologia feita por poucos para ser consumida por muitos, não raro encontramos falhas técnicas graves, que geram resultados muito perversos, como o racismo, a intolerância religiosa e outras formas de discriminação e preconceitos em suas aplicações.

Isso sem falar no reforço a estereótipos de gênero, um problema estrutural do mercado da tecnologia e que também está muito presente no campo da inteligência artificial.

O universo de STEM (sigla que, em inglês, representa a junção das áreas de ciência, tecnologia, engenharia e matemática), conta hoje com uma baixa representatividade feminina. Apesar de sermos aproximadamente metade da população mundial, atualmente, as mulheres representam apenas 28% do total de graduados em engenharia e 40% nas áreas de ciência da computação e informática. No Brasil, apenas 17% dos programadores são mulheres. O Relatório de Diferenças de Gênero de 2021 do Fórum Econômico Mundial, apresenta que a disparidade de gênero fica mais alta em setores que exigem habilidades técnicas disruptivas. De acordo com o relatório, dentro do número de mulheres que trabalham com tecnologia, elas representam apenas 14% da força de trabalho dentro da Computação em Nuvem e 32% em Análise de Dados e IA.

É válido ressaltar que esses números não significam que as mulheres não tenham aptidão para a tecnologia –afinal, ironicamente, a primeira programadora da história foi uma mulher–, mas sim de que há uma longa construção cultural e de preconceitos que reforçam estereótipos de gêneros, dificultando a inserção de meninas e mulheres na ciências.

Esse perigoso cenário se complementa com o potencial de gerar repetição de ciclos discriminatórios dentro do próprio mercado de trabalho de tecnologia, fenômeno que já foi mapeado, inclusive pelas Big Techs do mercado, como Google, Apple, Facebook, Amazon, algumas delas protagonistas em polêmicas envolvendo Inteligência Artificial e a discriminação de gênero.

Segundo a agência de notícias Reuters, em 2018, a Amazon descartou um programa de análise de currículos baseado em inteligência artificial, que fazia uma pré-seleção de currículos de candidatos com base no banco de dados interno da empresa, depois de descobrir que a ferramenta não classificava mulheres para cargos mais técnicos, como o de desenvolvedor de softwares. Diante da ausência de números expressivos de funcionárias mulheres, a IA compreendeu que mulheres não se encaixavam nas vagas de trabalho da Amazon e passou a rejeitar os currículos de mulheres na hora de selecionar os candidatos.

Outro grande evento de discriminação de gênero teve como protagonista o Facebook , e foi descoberto através de uma auditoria, conduzida por pesquisadores independentes da University of Southern California (USC). A auditoria revelou que o sistema de entrega de anúncios do Facebook mostra diferentes vagas para mulheres e homens, embora as oportunidades exijam as mesmas qualificações.

Mulheres programam para mulheres

Incluir mulheres e outras minorias no ecossistema de inovação, pesquisa e tecnologia, é indispensável para promover um espaço de desenvolvimento de produtos e serviços que atendam e considerem as demandas desse grupo.

Algumas ações buscam garantir a perspectiva de gênero no mercado de tecnologia, com destaque para as diversas iniciativas de educação digital implementadas em vários países e que têm como objetivo ampliar o número de mulheres programadoras em tecnologia. Outras iniciativas, por sua vez, buscam hackear o próprio sistema: é o caso do “projeto Mina”. Desenvolvido por três pesquisadoras da Unicamp, o algoritmo de inteligência artificial “Mina” é capaz de detectar automaticamente discursos de ódio misóginos –de ódio contra às mulheres– em comentários postados na internet

O estudo criou uma base de dados com cerca de 4 mil termos ofensivos encontrados nas redes sociais e a meta é que, quando o programa estiver disponível, sirva para evitar violências e até identificar agressores. Você pode contribuir com o projeto, ajudando a rotular alguns exemplos de comentários reais extraídos da Internet, classificando-os como comentários de ódio ou não, para treinar o algoritmo Mina.

O desafio é enorme e o caminho, longo, mas a descoberta do problema e, principalmente, de como ele impacta a todos já está colocada. Agora é preciso agir para criar uma tecnologia diversa e inclusiva que seja capaz de nos levar à transformação digital que tanto queremos, merecemos e precisamos.

Letícia Piccolotto é Presidente Executiva da Fundação BRAVA e fundadora do BrazilLAB – primeiro hub de inovação GovTech que conecta startups com o poder público

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!