Defesa de Dissertação de Mestrado de Gabriela de Barros Coutinho, 11/12/25, 10h, por videoconferência
Link para defesa: https://meet.google.com/byf-cpwe-opb
Mitigação de Viés de Modelos de Aprendizado de Máquina de Governo Digital
Resumo:
A crescente adoção de Aprendizado de Máquina (AM) no Governo Digital impõe o desafio crítico de equilibrar eficiência operacional com a equidade em decisões de alto impacto social. A literatura atual evidencia uma lacuna significativa entre os princípios éticos abstratos e a prática técnica, ou seja, na aplicação de práticas adotadas para tratamento de viés nos dados para construção de modelos baseados em aprendizado de máquina no escopo geral para o escopo de governo digital, carecendo de fluxos de trabalho auditáveis que orientem cientistas de dados na implementação de sistemas inteligentes justos.
Para preencher essa lacuna, esta dissertação propõe e avalia o Protocolo Experimental para Mitigação de Viés em Governo Digital (PEM-Gov). O método traduz a justiça algorítmica em um processo de engenharia sistemático estruturado em quatro fases: (i) definição do problema, que abrange o entendimento do contexto e identificação de riscos no problema abordado e em variáveis sensíveis; (ii) análise de modelos sem tratamento de viés; (iii) mitigação de viés, com a aplicação de técnicas de tratamento de viés na construção de modelos; e (iv) avaliação comparativa, focada na análise estatística de trade-offs.
O protocolo foi instanciado experimentalmente nas bases públicas COMPAS e HMDA, comparando 60 modelos gerados a partir de 3 algoritmos e 4 técnicas de mitigação. Testes de hipótese de Friedman, Nemenyi e Dunn-Bonferroni constituíram uma etapa importante do protocolo, promovendo a robustez técnica das escolhas. Os resultados indicaram ser possível obter uma melhoria na equidade (medida pela Equalized Odds Ratio) sem perdas estatisticamente significativas na performance global (Acurácia e F1-Score), especialmente com o uso de algoritmos não lineares, oferecendo ao setor público um caminho para uma IA mais responsável.
Abstract:
The increasing adoption of Machine Learning (ML) in Digital Government poses the critical challenge of balancing operational efficiency with equity in high-impact social decisions. Current literature reveals a significant gap between abstract ethical principles and technical practice, that is, in the application of practices adopted for bias treatment in data for building machine learning-based models in the general scope to the scope of digital government, lacking auditable workflows to guide data scientists in implementing fair intelligent systems.
To fill this gap, this dissertation proposes and evaluates the Experimental Protocol for Bias Mitigation in Digital Government (PEM-Gov). The method translates algorithmic justice into a systematic engineering process structured in four phases: (i) problem definition, which includes understanding the context and identifying risks in the problem addressed and in sensitive variables; (ii) analysis of models without bias treatment; (iii) bias mitigation, with the application of bias treatment techniques in model construction; and (iv) comparative evaluation, focused on statistical analysis of trade-offs.
The protocol was experimentally instantiated on the public COMPAS and HMDA databases, comparing 60 models generated from 3 algorithms and 4 mitigation techniques. Friedman, Nemenyi, and Dunn-Bonferroni hypothesis tests constituted an important step in the protocol, promoting the technical robustness of the choices. The results indicated that it is possible to obtain an improvement in equity (measured by the Equalized Odds Ratio) without statistically significant losses in overall performance (Accuracy and F1-Score), especially with the use of non-linear algorithms, offering the public sector a path to more responsible AI.
Banca examinadora:
Profa. Flavia Cristina Bernardini, UFF – Presidente
Prof. José Viterbo Filho, UFF
Dr. Eduardo de Oliveira Andrade, BlueShift Brasil