Gênero e IA, o que você tem a ver com isso?
A quem interessa ou deveria interessar os desafios envolvendo viés algorítmico, Gênero e Inteligência Artificial?
Já voltamos para a pergunta, antes um convite. Algo comum aqui na Taqtile, é que quando alguém se sensibiliza e se aprofunda sobre um assunto e leva de forma organizada para os fóruns adequados, esse assunto vai adiante.
Foi assim quando parte do time da Taqtile se sensibilizou com os desafios éticos e de responsabilidade associados aos usos e implementação de soluções com Inteligência Artificial. Primeiro, surgiu o comitê, depois os planos de estudos, as trocas com especialistas, os experimentos iniciais e, claro, as iterações. Alguns meses depois, estamos prestes a lançar um assessment de responsabilidade e ética orientado a projetos com IA.
Estruturado em 10 dimensões (governança, dados, qualidade, segurança e impacto humano) o assessment torna visível o que precisa ser feito para tornar soluções com IA mais seguras, e preparadas para o futuro. Seja ela em produção, seja ainda em desenvolvimento.
Comento sobre isso porque estamos testando o assessment com parceiros e decidimos abrir algumas vagas para novos, sem custo. Caso você tenha interesse e uma solução com IA em desenvolvimento ou em produção, entre em contato com a gente pelo LinkedIn para um teste.
Feito o convite, voltamos ao assunto.
A quem interessa os desafios envolvendo Gênero e IA? Esse relato começa com uma iniciativa do Clube das Impostoras, grupo de afinidade de troca e apoio das mulheres da empresa e termina com a provocação que alcançou toda a empresa há algumas semanas.
Neste artigo vou contar sobre como foi o treinamento Mulheres no Comando: o que nunca te disseram sobre chegar no topo, sobre liderança feminina, com a Jéssica Paraguassu*. Começando com um evento interno para as mulheres a capacitação terminou em um workshop para toda a empresa com o tema: Quem programa o futuro? Gênero, poder e decisão na era algorítmica.
A importância de nomear o incômodo
Pedindo permissão pra Naomi Sato, [Oi Naomi o/], aprendi que o incômodo no ambiente corporativo de fato tem várias faces, mas para as mulheres ele é bem mais implacável. Não é uma novidade, mas escutar e ler sobre, como mostra a Naomite em seu artigo Que tipo de incômodo você quer sustentar é diferente.
Todo mundo já sentiu um certo incômodo, uma dificuldade de se expressar e se sentir escutado ou reconhecido em ambientes corporativos. Acontece que para as mulheres isso é uma realidade que começa muito antes, que remonta à infância e à própria formação.
Presentes, ou até intensificados em ambientes corporativos, esses incômodos — pequenos e grandes — vão se somando e provocando um auto-silenciamento. Parte pode ser por cansaço, mas parte por uma descrença que será escutada e reconhecida.
Acontece que nesse processo não só mulheres estão sendo silenciadas, mas toda uma perspectiva, um repertório e uma experiência de mundo que contribuiria em atividades, inclusive de negócio. A Jéssica não só deixou claro isso em seu workshop, como mostrou que distanciar essa discussão do negócio é um erro. No vídeo que publicamos no LinkedIn, caso você não tenha visto ainda, ela exemplifica bem.
Por isso, como foi explorado pela Naomi em seu artigo, é muito importante criar momentos para que esses incômodos possam ser nomeados e debatidos. Não por acaso, é uma das convicções do Clube das Impostoras: organizar espaços só das mulheres e para as mulheres pode parecer um passo pequeno, mas tem valor real para ampliar a representatividade feminina em posições de liderança.
Mulheres e tecnologia
E no universo de tecnologia e IA isso também é importante. Como a Jéssica trouxe em seu workshop, nos últimos 20 anos houve uma queda na participação de mulheres graduadas em Ciência da Computação nos EUA de 37% para 19% (NCES). Não só isso, estudos indicam que apenas 11% das posições de liderança em IA são ocupadas por mulheres, e que globalmente 22% dos profissionais de IA são mulheres (Global Gender Gap Report, World Economic Forum, 2023).
No Brasil, apesar do crescimento entre 2015 e 2022 ter sido de 60% na participação feminina no setor de tecnologia, 83,3% do mercado ainda é composto por homens (CNN, CAGED). O dado fica ainda mais significativo, quando descobrimos que 63% das pessoas que trabalham em plataformas de microtrabalho no Brasil são mulheres.
Isso porque é por meio de microtrabalho, não só no Brasil, que os modelos de LLM são treinados. E diferente de posições mais formais e conhecidas, a remuneração e as condições de trabalho são bastante inferiores (veja na reportagem da BBC).
Com efeito, como retrata o filme Estrelas Além do Tempo (2016), a ideia de que as mulheres não se interessam por computação e tecnologia é bastante imprecisa. Elas não só fizeram parte da fundação do campo como seguem impactando até hoje.
Mas o que eu tenho a ver com isso?
Caso você se interesse por criar produtos relevantes, resolver problemas de negócio e inovar — ou, enfim, ser um colega mais envolvido — esse assunto também deve lhe interessar.
Você já deve ter ouvido algum desses dados por aí:
97% dos "CEOs" gerados são homens brancos, enquanto "pessoa do serviço social" é quase sempre negra (Bloomberg).
o erro de reconhecimento facial alcança 34,7% para mulheres negras, contra 0,3% em homens brancos (Gender Shades).
LLMs têm 4x mais chance associar mulher a "casa" que homem (Unesco).
Contudo, esse assunto não termina nos vieses das Inteligências Artificiais. Como colocou a Jéssica enquanto nos apresentava todo esse cenário, isso se reflete também no nosso trabalho. Porque esse viés não só invisibiliza a participação e contribuição de uma parte expressiva da população, inclusive no desenvolvimento de tecnologia, como evidencia que a perspectiva de mulheres está sendo desconsiderada.
Manter esse cenário na adoção em escala de IA amplifica os riscos e problemas; inclusive invisibilizando ainda mais essa parte da população. Não por acaso, já em 2021 uma recomendação sobre a Ética da Inteligência Artificial foi formalmente aprovada na Unesco pelos seus 193 estados-membros. Esse foi o primeiro marco normativo global associado ao tema.
No entanto, para além de se familiarizar com diretrizes e frameworks (como exploramos a seguir), é importante reconhecer em nós — especialmente homens —, a realidade desse "silenciamento silencioso". Porque essas perspectivas, que se perdem pelo constante incômodo e silenciamento provocados nas mulheres, atrapalham processos de inovação ou de qualquer resolução de problema de negócio. Como disse a Jéssica, muitas vezes:
"A gente pensa que está tomando as decisões racionais, a partir da perspectiva mais racional possível, mas será que as perguntas que a gente está fazendo, as pesquisas que a gente está rodando, os olhares que a gente está tendo não estão levando a gente a olhar o mundo de uma perspectiva que é predominante masculina?"
O que eu posso fazer de diferente?
Essa, de fato, foi uma das propostas centrais do workshop Gênero e IA. Trabalhando no detalhe a noção que IA não é neutra, e que decisões técnicas distribuem riscos e benefícios a grupos sociais específicos, o treinamento trouxe uma série de provocações.
Enquanto não conseguimos cobrir todas as recomendações, tampouco a profundidade com a qual ela tratou do tema — procure o treinamento dela —, organizamos aqui parte do que nos foi apresentado. Entre as indicações, esteve o trabalho de Catherine D'Ignazio & Lauren F. Klein (MIT, 2020) sobre o Data Feminism como método de trabalho.
Framework: Os 7 Princípios Fundamentais
Catherine D'Ignazio & Lauren F. Klein — MIT Press (2020)
Examine Power: Mapear quem se beneficia e quem é prejudicado pelos dados
Challenge Power: Construir dados que contestem e não legitimem desigualdades
Elevate emotion & embodiment: Reconhecer corpos e afetos como dimensões legítimas do conhecimento
Rethink binaries & hierarchies: Abandonar categorias que naturalizam opressão (gênero binário, raça, etc.)
Embrace pluralism: Múltiplas perspectivas produzem conhecimento mais completo
Consider context: Dados não falam por si — o contexto faz o dado
Make labor visible: Tornar visível quem coleta, anota, limpa
Um outro modelo apresentado foi Algorithmic Impact Assessment (AIA), um padrão criado pelo governo canadense que estabelece regras estritas para o uso de Inteligência Artificial e algoritmos em serviços públicos. O AIA é uma ferramenta para avaliar o impacto com recorte de gênero, raça e vulnerabilidade antes de deploy de produtos e revisitado continuamente.
Mapear stakeholders afetados: Quem é atingido pela decisão do sistema? Quem fica invisível?
Classificar o risco por categoria: Alto, médio ou baixo — com recorte de gênero, raça e classe;
Auditar dados de treino e saída: Métricas de equidade, sub-representação, erro diferencial;
Definir mitigações e supervisão: Human-in-the-loop para decisões sensíveis. Canal de contestação;
Revisão contínua: O sistema muda, o mundo muda. A avaliação precisa ser viva.
E para quem se interessar mais a Jéssica organizou uma bibliografia impecável para mergulhar nessas discussões:
Imagem: Taqtile. Organização: Jéssica Paraguassu
Como estamos internalizando as provocações na Taqtile?
A partir do treinamento, algumas perguntas passaram a circular internamente.
Primeiro, apresentado no início do workshop como um dos principais alvos do Clube das Impostoras em suas atividades, mais do que se preocupar em quantas mulheres existem ou estão entrando na empresa: é preciso olhar para as posições de liderança e influência:
Como e com quem estamos tomando decisões?
Quais pontos de vista estão sendo considerados?
Como elas têm impactado a diversidade interna e das pessoas usuárias dos nossos produtos e serviços?
Como um desdobramento disso, outra pergunta que passou a orientar o envolvimento da Taqtile com o assunto, foi: quem nós somos quando estamos programando o futuro de outros? Para iniciar o workshop, Danilo Toledo trouxe o peso dessa questão ao conectá-la à principal meta da empresa em 2026:
"Ela não foi uma aposta simplesmente na tecnologia, ela foi uma escolha nas pessoas. A escolha que estava por trás é garantir que cada um aqui dentro da Taqtile conseguisse trabalhar com aquilo que é recente, que é atual, que é emergente. Que a gente pare de fazer coisas como a gente fazia antes, olhe para o futuro, e que cada um possa se realizar, se desenvolver, desenvolver a Taqtile, desenvolver os negócios dos nossos clientes. E isso exige encontros como esse, que nos fazem questionar quem que nós somos enquanto a gente está acelerando e programando o futuro dos outros."
E completou: "Cada decisão técnica que a gente toma aqui, no nosso dia a dia, sai da Taqtile com escala. Então liderar essa transição envolve a gente entender os vieses do que a gente está acelerando, por isso que é importante encontros como esse". A provocação, por fim, virou duas perguntas-chave, reforçando que mais do que como audiência, é preciso olhar para esse tema como pessoas que tomam decisões.
Quem nós somos quando estamos programando o futuro de outros? Liderar essa transição exige saber qual é o passado que estamos automatizando.
Que decisão dos meus próximos sprints já carrega escolhas sobre dados, IA e vieses? O que precisamos fazer para que não só nós, mas a IA que treinamos, tome decisões melhores?
Fica mais uma vez nosso agradecimento à Jéssica pela troca importante, ao Clube das Impostoras e a Tuanny Martins e Naomi Sato que puxaram a frente e organizaram todo o encontro e treinamento com a ajuda da Bianca Lima, Ysabella Andrade e Erica Urushibata.
Se esse tema mobilizou alguma pergunta, conecte-se com a Taqtile no LinkedIn. Seguimos publicando sobre IA responsável, gênero e tecnologia aplicada a negócios.
*Jéssica é mestranda em Economia Política Mundial pela UFABC, onde coordena o Núcleo de Estudos em Gênero e Tecnologia, com pesquisa focada nos impactos da inteligência artificial sobre o trabalho e a vida das mulheres. Com mais de 15 anos de experiência corporativa e criadora da metodologia Mulheres no Comando, que já alcançou mais de 2 milhões de mulheres, ela atua na interseção entre produção acadêmica e transformação prática, dedicada a construir um futuro mais inclusivo diante das transformações digitais.