Resumo: Os modelos de aprendizado de máquina estão assumindo um papel cada vez maior na tomada de decisões de pontuação de crédito devido à sua precisão na previsão do reembolso do empréstimo. Contudo, uma crítica relativa à implementação destes modelos é a dificuldade de explicar a tomada de decisão do algoritmo para indivíduos cujos pedidos de crédito foram rejeitados. Estudos recentes revelam que explicações contrafactuais fornecem aos usuários o feedback da decisão do modelo através de uma lista de mudanças que eles podem fazer em seu perfil para orientar aplicações futuras. Portanto, fornecer explicações contrafactuais viáveis é um factor crucial para garantir que as alterações propostas estejam ao alcance dos utilizadores. Propomos um método chamado Model-Agnostic Pareto-Optimal Feasible Counterfactual Explanations Mining (MAPOFCEM) para fornecer feedback viável e acionável sobre decisões tomadas por um algoritmo de risco de crédito. Este método permite que indivíduos a quem foi negado um empréstimo façam ajustes específicos em seus perfis, aumentando assim suas chances de aprovação de empréstimos no futuro. Nossa abordagem integra um mecanismo de detecção de valores discrepantes no processo de busca contrafactual para gerar explicações contrafactuais viáveis. Os resultados experimentais demonstram que o MAPOFCEM fornece uma estrutura mais viável e robusta em comparação com os modelos de referência de código aberto existentes na literatura, o que aumenta a usabilidade de tais ferramentas para avaliar modelos de risco de crédito em aplicações do mundo real Ver menos

Abstract: Machine learning models are assuming an ever-expanding role in making credit score decisions due to their accuracy in predicting loan repayment. However, a criticism concerning the implementation of these models is the difficulty of explaining the algorithm’s decisionmaking for individuals whose credit applications have been rejected. Recent studies reveal that counterfactual explanations provide to users the model decision feedback through a list of changes they can make to their profile to guide future applications. Therefore, providing feasible counterfactual explanations is a crucial factor in ensuring that proposed changes are within the reach of users. We proposed a method called Model-Agnostic Pareto-Optimal Feasible Counterfactual Explanations Mining (MAPOFCEM) to provide feasible and actionable feedback regarding decisions made by a credit risk algorithm. This method empowers individuals who have been denied a loan to make specific adjustments to their profiles, thereby increasing their chances of loan approval in the future. Our approach integrates an outlier detection mechanism within the counterfactual search process to generate feasible counterfactual explanations. The experimental results demonstrate that MAPOFCEM provides a more feasible and robust framework compared to existing open-source reference models in the literature, which enhances the usability of such tools for evaluating credit risk models in real-world applications Ver menos