Vieses de gênero em algoritmos de Machine Learning

Abstract

A seguinte pesquisa tem como foco a análise dos vieses de gênero em algoritmos de Machine Learning, abordando a questão de forma interdisciplinar. O estudo se propõe a revisar a literatura e explorar os impactos dos algoritmos, examinando como diferentes subcategorias de Machine Learning, incluindo Processamento de Linguagem Natural (NLP), Reconhecimento Facial, Reconhecimento de Fala e Reconhecimento de Imagem, podem contribuir para a promoção de discriminações de gênero. A pesquisa é fundamentada em evidências de discriminação algorítmica e busca compreender os mecanismos funcionais desses sistemas automatizados no contexto contemporâneo. A governança, com ênfase em políticas de responsabilização, é discutida como uma forma de mitigar esses vieses. Metodologias para detecção de vieses são exploradas, oferecendo uma visão abrangente dos desafios e possíveis soluções para minimizar as desigualdades de gênero em tecnologias emergentes. Uma das metodologias de abordar e quantificar o viés de gênero em algoritmos de predição é replicada para um contexto brasileiro, fazendo uso de uma função de alternância e da divergência Kullback-Leibler.The following research focuses on the analysis of gender biases in machine learning algorithms, adopting an interdisciplinary approach. The study aims to review the literature and explore the impacts of algorithms by examining how different subcategories of machine learning, including Natural Language Processing (NLP), Facial Recognition, Speech Recognition, and Image Recognition, may contribute to the promotion of gender discrimination. Grounded in evidence of algorithmic bias, the research seeks to understand the functional mechanisms of these automated systems in the contemporary context. Governance, with an emphasis on accountability policies, is discussed as a means to mitigate these biases. Methodologies for bias detection are explored, providing a comprehensive view of the challenges and potential solutions for minimizing gender inequalities in emerging technologies. One of the methodologies for addressing and quantifying gender bias in predictive algorithms is replicated for a Brazilian context, utilizing a swap function and the Kullback-Leibler divergence.