Este projeto apresenta uma solução preditiva baseada em Machine Studying, cujo objetivo é classificar automaticamente a aprovação de solicitações de empréstimos. Foram aplicadas técnicas de balanceamento, ajuste de hiperparâmetros, teste de diferentes algoritmos e modulação do ponto de decisão. O modelo closing incorpora práticas avançadas de modelagem e avaliação, equilibrando desempenho e interpretabilidade.
A base de dados foi carregada a partir de um arquivo CSV e continha informações como sexo, estado civil, renda, valor do empréstimo e histórico de crédito. Após a substituição de categorias por variáveis numéricas e o tratamento de valores ausentes, os dados foram preparados para modelagem.
Separaram-se as variáveis explicativas e a variável alvo (aprovacao_emprestimo). Em seguida, os dados foram divididos entre treino e teste (80/20).
Na primeira tentativa, o modelo obteve acurácia perfeita no treino, mas apenas 72.91% nos dados de teste — evidenciando overfitting. Para contornar isso, foi aplicada uma limitação na profundidade da floresta.
A análise de importância das variáveis revelou que historico_credito e renda são os principais determinantes para a aprovação.
Ao aplicar limitação de profundidade da árvore (max_depth=4), o modelo passou a generalizar melhor: acurácia de 78.12% no teste, com melhora no f1-score da classe minoritária.
O novo modelo atingiu:
- Acurácia Treino: 82.29%
- Acurácia Teste: 78.12%
Esses valores indicam melhor generalização, com perda controlada de desempenho.
Dado o desequilíbrio entre courses (mais casos de aprovação do que reprovação), aplicou-se o algoritmo SMOTE, duplicando amostras da classe minoritária no conjunto de treino.
Resultado após rebalanceamento:
- Classe 0 (não aprovado): recall aumentou de 0.43 para 0.33 (com modelos mais cautelosos).
- Classe 1 (aprovado): recall preservado em níveis altos (0.95).
- ROC-AUC após balanceamento: 0.6836.
Realizou-se uma busca por hiperparâmetros ideais da Random Forest, considerando variações de profundidade, número de árvores e critério de divisão.
Melhores parâmetros encontrados:
- Acurácia: 76%
- ROC-AUC: 0.6763
- Mantida a robustez em recall para a classe majoritária e equilíbrio razoável na minoria.
O algoritmo XGBoost foi implementado e testado. Apesar de competitivo, apresentou recall menor na classe 0 e ROC-AUC de 0.6399. A efficiency sugere que, para este dataset, Random Forest tem melhor comportamento com rebalanceamento.
Foi aplicado um ajuste no limiar de decisão do modelo (de 0.5 para 0.4), objetivando capturar mais casos negativos. Houve ganho em recall da classe 0 (de 0.33 para 0.40) sem prejudicar demasiadamente a classe 1.
A versão closing do modelo utiliza Random Forest com parâmetros otimizados, dados balanceados through SMOTE e ajuste do threshold de decisão. O desempenho world teve leve redução em acurácia, compensado por ganhos importantes em equidade entre courses.
Este projeto demonstra que a aplicação consciente de técnicas como oversampling, tuning e ajuste de sensibilidade pode transformar um modelo enviesado em uma solução mais justa, confiável e aplicável ao mundo actual.
