Feminismo de Dados: A Revolução Silenciosa que Transforma a Tecnologia e a Sociedade
Um novo conceito, o Feminismo de Dados, tem emergido nos corredores acadêmicos e nos debates sobre inteligência artificial. Originado em instituições como a Unicamp, essa abordagem propõe uma análise crítica sobre a suposta neutralidade dos algoritmos, defendendo que eles podem perpetuar preconceitos existentes na sociedade.
A ideia central é que, por trás de cada linha de código e de cada conjunto de dados, existem escolhas humanas que refletem a visão de mundo de seus criadores, majoritariamente homens brancos. Essa perspectiva levanta questões cruciais sobre poder e representatividade no desenvolvimento tecnológico.
Em poucos anos, o Feminismo de Dados transcendeu o ambiente acadêmico, influenciando a linguagem da indústria de tecnologia, o debate público sobre IA e até mesmo a formulação de leis em países como o Brasil. O portal G1 destaca que a professora Sandra Ávila, referência em IA e doutora pela UFMG e Sorbonne, define o Feminismo de Dados como uma questão de poder, onde “dados são poder” no mundo atual.
As Origens e a Popularização do Feminismo de Dados
O conceito de Feminismo de Dados ganhou força nos Estados Unidos a partir de 2020, com a publicação do livro das pesquisadoras Catherine D’Ignazio (MIT) e Lauren Klein (Universidade Emory). Elas argumentam que a coleta e organização de dados são processos inerentemente subjetivos, influenciados por quem coleta, o que coleta e qual o propósito da coleta.
A predominância de homens brancos em equipes de tecnologia, segundo D’Ignazio e Klein, leva à exclusão ou “invisibilização” de mulheres, negros e pessoas de baixa renda. Essa teoria rapidamente encontrou eco em grandes empresas de tecnologia, como Google, Microsoft e Amazon, que passaram a adotar termos como “IA responsável” e “equidade algorítmica”.
No Brasil, essa influência já se reflete na legislação. O projeto que busca regular a inteligência artificial no país, aprovado pelo Senado em 2024, prevê que empresas expliquem como seus sistemas automatizados tomam decisões e avaliem potenciais discriminações de raça e gênero. A responsabilidade, antes atribuída ao código, agora recai sobre os gestores do sistema.
Casos Reais de Viés Algorítmico e a Busca por Soluções
O Feminismo de Dados se apoia em exemplos concretos de viés algorítmico. Em 2018, a Amazon desativou um sistema de seleção de currículos por ele penalizar candidatas mulheres, pois foi treinado com dados históricos de contratações predominantemente masculinas.
Naquele mesmo ano, uma auditoria do MIT revelou que programas de reconhecimento facial da IBM e Microsoft apresentavam taxas de erro significativamente maiores ao identificar mulheres de pele escura, em contraste com homens de pele clara. A professora Sandra Ávila, por exemplo, dedicou-se ao tema após observar algoritmos de diagnóstico de câncer de pele com desempenho inferior em peles negras.
Segundo Ávila, a solução não reside apenas em aumentar o volume de dados, mas em compreender como as características de certas condições de saúde podem variar entre diferentes tipos de pele, exigindo abordagens distintas. Ela também ressalta a importância de analisar o desempenho dos sistemas de forma segmentada, e não apenas por métricas gerais, para identificar falhas em grupos específicos.
Críticas e Desafios na Implementação do Feminismo de Dados
Apesar das boas intenções, o Feminismo de Dados enfrenta críticas quanto à sua aplicabilidade prática e ao risco de se tornar uma agenda política. Críticos apontam que a proposta de incorporar a “justiça social” desde a concepção dos sistemas pode diluir o foco técnico.
Rafaela Weber Mallmann, pesquisadora do projeto Understanding Artificial Intelligence (USP), aponta uma possível “abstração” que limita a aplicação prática do Feminismo de Dados, dificultando a criação de modelos de avaliação ou diretrizes para políticas públicas. A transformação de discursos sobre “justiça” em ferramentas concretas para engenheiros ainda é um desafio.
Há também o receio de que a ciência de dados se transforme em militância disfarçada. Alberto Cairo, da Universidade de Miami, questiona se o uso de narrativas emocionais e políticas pode levar à manipulação de dados para sustentar causas específicas, em vez de refletir a realidade de forma objetiva.
Fernando Osório, pesquisador de IA da USP, argumenta que a capacidade de classificar e categorizar é inerente à cognição humana, e a IA, de certa forma, replica esse processo natural. O cerne do debate, portanto, reside em quem define os valores incorporados nas máquinas, uma decisão que, segundo ele, é complexa demais para ser restrita a laboratórios, salas de aula ou escritórios corporativos.
