实战案例：使用机器学习算法预测用户贷款是否违约?

2023-11-22 22:00
文章标签 算法 实战 学习 使用 机器 是否 用户 案例 预测 贷款 违约

本文主要是介绍实战案例：使用机器学习算法预测用户贷款是否违约?，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

大家好，最近一张"因疫情希望延缓房贷"的截图在网上流传，随即引起网友们的热议！

当借款人从贷款机构借钱而不能如期还贷款时，就可能会发生贷款违约。拖欠贷款不仅会上报征信，还可能有被起诉的风险。

为更好的管控风险，贷款机构通常会基于用户信息来预测用户贷款是否违约，今天我将使用示例数据集来给大家讲解预测贷款违约的工作原理，原创不易，喜欢本文记得点赞、关注、收藏，完整版数据和代码文末获取。

【注】文末提供技术交流群

数据

数据中包含每个客户的人口统计特征和显示他们是否会拖欠贷款的目标变量。

首先，我们导入库并加载数据集。

import numpy as np # linear algebra
import pandas as pd # data processing, CSV file I/O (e.g. pd.read_csv)
import matplotlib.pyplot as plt
import seaborn as sns
%matplotlib inline
sns.set_theme(style = "darkgrid")
data = pd.read_csv("/kaggle/input/loan-prediction-based-on-customer-behavior/Training Data.csv")
data.head()

探索数据集

首先，我们从了解数据及数据分布开始

rows, columns = data.shape
print('Rows:', rows)
print('Columns:', columns)

输出

Rows: 252000
Columns: 13

我们看到数据有252000行和 13 个特征，其中 12 个是输入特征，1 个是输出特征。

现在我们检查数据类型和其他信息。

data.info()

输出

RangeIndex: 252000 entries, 0 to 251999Data columns (total 13 columns)#   Column             Non-Null Count   Dtype 
---  ------             --------------   ----- 0   Id                 252000 non-null  int64 1   Income             252000 non-null  int64 2   Age                252000 non-null  int64 3   Experience         252000 non-null  int64 4   Married/Single     252000 non-null  object5   House_Ownership    252000 non-null  object6   Car_Ownership      252000 non-null  object7   Profession         252000 non-null  object8   CITY               252000 non-null  object9   STATE              252000 non-null  object10  CURRENT_JOB_YRS    252000 non-null  int64 11  CURRENT_HOUSE_YRS  252000 non-null  int64 12  Risk_Flag          252000 non-null  int64 
dtypes: int64(7), object(6)
memory usage: 25.0+ MB

我们看到一半特征是数值型，一半是字符串，所以它们可能是类别特征。

在数据科学中将数值数据称为"定量数据"，类别数据被称为"定性数据"

让我们检查数据中是否存在任何缺失值。

data.isnull().sum()

输出

Id                   0
Income               0
Age                  0
Experience           0
Married/Single       0
House_Ownership      0
Car_Ownership        0
Profession           0
CITY                 0
STATE                0
CURRENT_JOB_YRS      0
CURRENT_HOUSE_YRS    0
Risk_Flag            0
dtype: int64

让我们检查数据列名称。

data.columns

输出

Index(['Id', 'Income', 'Age', 'Experience', 'Married/Single','House_Ownership', 'Car_Ownership', 'Profession', 'CITY', 'STATE','CURRENT_JOB_YRS', 'CURRENT_HOUSE_YRS', 'Risk_Flag'],dtype='object')

我们得到了数据特征的名称。

分析数值列

首先，我们从数值数据开始分析。

data.describe()

输出

现在，我们检查数据分布。

data.hist( figsize = (22, 20) )
plt.show()



现在，我们检查目标变量的计数。

data["Risk_Flag"].value_counts()

输出

0    221004
1     30996
Name: Risk_Flag, dtype: int64

只有一小部分目标变量由拖欠贷款的人组成。

现在，我们绘制相关图。

fig, ax = plt.subplots( figsize = (12,8) )
corr_matrix = data.corr()
corr_heatmap = sns.heatmap( corr_matrix, cmap = "flare", annot=True, ax=ax, annot_kws={"size": 14})
plt.show()

分析类别特征

现在，我们继续分析类别特征。

首先，我们定义一个函数来创建绘图。

def categorical_valcount_hist(feature):print(data[feature].value_counts())fig, ax = plt.subplots( figsize = (6,6) )sns.countplot(x=feature, ax=ax, data=data)plt.show()

首先，我们检查已婚人数与单身人数。

categorical_valcount_hist("Married/Single")

所以，大部分人都是单身。

现在，我们检查房屋所有权的数量。

categorical_valcount_hist("House_Ownership")

现在，让我们检查 states 数。

print( "Total categories in STATE:", len( data["STATE"].unique() ) )
print()
print( data["STATE"].value_counts() )

输出

Total categories in STATE: 29
Uttar_Pradesh        28400
Maharashtra          25562
Andhra_Pradesh       25297
West_Bengal          23483
Bihar                19780
Tamil_Nadu           16537
Madhya_Pradesh       14122
Karnataka            11855
Gujarat              11408
Rajasthan             9174
Jharkhand             8965
Haryana               7890
Telangana             7524
Assam                 7062
Kerala                5805
Delhi                 5490
Punjab                4720
Odisha                4658
Chhattisgarh          3834
Uttarakhand           1874
Jammu_and_Kashmir     1780
Puducherry            1433
Mizoram                849
Manipur                849
Himachal_Pradesh       833
Tripura                809
Uttar_Pradesh[5]       743
Chandigarh             656
Sikkim                 608
Name: STATE
dtype: int64

现在，我们检查职业（Profession）的数量。

print( "Total categories in Profession:", len( data["Profession"].unique() ) )
print()
data["Profession"].value_counts()

输出

Total categories in Profession: 51
Physician                     5957
Statistician                  5806
Web_designer                  5397
Psychologist                  5390
Computer_hardware_engineer    5372
Drafter                       5359
Magistrate                    5357
Fashion_Designer              5304
Air_traffic_controller        5281
Comedian                      5259
Industrial_Engineer           5250
Mechanical_engineer           5217
Chemical_engineer             5205
Technical_writer              5195
Hotel_Manager                 5178
Financial_Analyst             5167
Graphic_Designer              5166
Flight_attendant              5128
Biomedical_Engineer           5127
Secretary                     5061
Software_Developer            5053
Petroleum_Engineer            5041
Police_officer                5035
Computer_operator             4990
Politician                    4944
Microbiologist                4881
Technician                    4864
Artist                        4861
Lawyer                        4818
Consultant                    4808
Dentist                       4782
Scientist                     4781
Surgeon                       4772
Aviator                       4758
Technology_specialist         4737
Design_Engineer               4729
Surveyor                      4714
Geologist                     4672
Analyst                       4668
Army_officer                  4661
Architect                     4657
Chef                          4635
Librarian                     4628
Civil_engineer                4616
Designer                      4598
Economist                     4573
Firefighter                   4507
Chartered_Accountant          4493
Civil_servant                 4413
Official                      4087
Engineer                      4048
Name: Profession
dtype: int64
数据分析

现在，我们从了解不同数据特征之间的关系开始。

sns.boxplot(x ="Risk_Flag",y="Income" ,data = data)


现在，我们看到了标志变量和年龄之间的关系。

sns.boxplot(x ="Risk_Flag",y="Age" ,data = data)


sns.boxplot(x ="Risk_Flag",y="Experience" ,data = data)


sns.boxplot(x ="Risk_Flag",y="CURRENT_JOB_YRS" ,data = data)


sns.boxplot(x ="Risk_Flag",y="CURRENT_HOUSE_YRS" ,data = data)


fig, ax = plt.subplots( figsize = (8,6) )
sns.countplot(x='Car_Ownership', hue='Risk_Flag', ax=ax, data=data)


fig, ax = plt.subplots( figsize = (8,6) )
sns.countplot( x='Married/Single', hue='Risk_Flag', data=data )


fig, ax = plt.subplots( figsize = (10,8) )
sns.boxplot(x = "Risk_Flag", y = "CURRENT_JOB_YRS", hue='House_Ownership', data = data)

特征工程

在进行建模之前，数据准备是数据科学领域的必需过程。在数据准备过程中，我们必须完成多项任务，这些关键职责之一是类别数据的编码。

众所周知，在日常工作中的大多数数据都有分类字符串值，而大多数机器学习模型只处理数值类别。

编码类别数据是将分类数据转换为整数格式的过程，以便将数据输入模型以提高预测准确性。

我们将对类别特征应用编码。

from sklearn.preprocessing import LabelEncoder
from sklearn.preprocessing import OneHotEncoder
import category_encoders as celabel_encoder = LabelEncoder()
for col in ['Married/Single','Car_Ownership']:data[col] = label_encoder.fit_transform( data[col] )

onehot_encoder = OneHotEncoder(sparse = False)
data['House_Ownership'] = onehot_encoder.fit_transform(data['House_Ownership'].values.reshape(-1, 1) )high_card_features = ['Profession', 'CITY', 'STATE']count_encoder = ce.CountEncoder()# Transform the features, rename the columns with the _count suffix, and join to dataframe
count_encoded = count_encoder.fit_transform( data[high_card_features] )
data = data.join(count_encoded.add_suffix("_count"))data= data.drop(labels=['Profession', 'CITY', 'STATE'], axis=1)
data.head()


特征工程部分完成后，我们将数据拆分为训练集和测试集。

将数据拆分为训练和测试集

为了评估我们的机器学习模型的工作效率，我们必须将数据集划分为训练集和测试集。训练集用于训练机器学习模型，其统计数据是已知的，测试数据集用于预测。

x = data.drop("Risk_Flag", axis=1)
y = data["Risk_Flag"]
from sklearn.model_selection import train_test_split
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.2, stratify = y, random_state = 7)

我们将测试集规模设为整个数据的 20%。

随机森林分类器

基于树的算法在机器学习中被广泛用于处理监督学习挑战。这些算法适应性强，几乎可以解决任何问题（分类或回归）。

此外它们具有高度准确性、稳定性和可解释性的预测。

随机森林是一种常见的基于树的有监督学习技术，该方法可用于解决分类和回归问题。随机森林通常结合数百个决策树，然后在不同的数据样本上训练每个决策树。

现在，我们训练模型并执行预测。

from sklearn.ensemble import RandomForestClassifier
from imblearn.over_sampling import SMOTE
from imblearn.pipeline import Pipelinerf_clf = RandomForestClassifier(criterion='gini', bootstrap=True, random_state=100)
smote_sampler = SMOTE(random_state=9)
pipeline = Pipeline(steps = [['smote', smote_sampler],['classifier', rf_clf]])
pipeline.fit(x_train, y_train)
y_pred = pipeline.predict(x_test)

现在，我们检查准确性分数。

from sklearn.metrics import confusion_matrix, precision_score, recall_score, f1_score, accuracy_score, roc_auc_score
print("-------------------------TEST SCORES-----------------------") 
print(f"Recall: { round(recall_score(y_test, y_pred)*100, 4) }")
print(f"Precision: { round(precision_score(y_test, y_pred)*100, 4) }")
print(f"F1-Score: { round(f1_score(y_test, y_pred)*100, 4) }")
print(f"Accuracy score: { round(accuracy_score(y_test, y_pred)*100, 4) }")
print(f"AUC Score: { round(roc_auc_score(y_test, y_pred)*100, 4) }")

输出

-------------------------TEST SCORES-----------------------
Recall: 54.1378
Precision: 54.3306
F1-Score: 54.234
Accuracy score: 88.7619
AUC Score: 73.8778

结论

今天我将预测用户贷款是否违约整个流程都讲解了一遍，有几点值得关注：

  • 当我们需要高度准确的结果同时避免过度拟合时，随机森林方法适用于具有许多条目和特征的数据集上的分类和回归任务，这些条目和特征可能具有缺失值。
  • 此外，随机森林提供了相对特征重要性，使您能够选择最重要的特征。 它比神经网络模型更易解释，但比决策树更难解释。
  • 在分类特征的情况下，我们需要执行编码，以便 ML 算法可以处理它们。
  • 预测贷款违约高度依赖于人口统计数据，收入较低的人更有可能拖欠贷款。

代码获取

在下方公众号后台回复：信贷违约，完整版代码即可获取

推荐文章

  • 李宏毅《机器学习》国语课程(2022)来了

  • 有人把吴恩达老师的机器学习和深度学习做成了中文版

  • 上瘾了，最近又给公司撸了一个可视化大屏(附源码)

  • 如此优雅，4款 Python 自动数据分析神器真香啊

  • 梳理半月有余，精心准备了17张知识思维导图，这次要讲清统计学

  • 年终汇总：20份可视化大屏模板，直接套用真香(文末附源码)

技术交流

欢迎转载、收藏、有所收获点赞支持一下！

在这里插入图片描述

目前开通了技术交流群，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友

  • 方式①、发送如下图片至微信，长按识别，后台回复：加群；
  • 方式②、添加微信号：dkl88191，备注：来自CSDN
  • 方式③、微信搜索公众号：Python学习与数据挖掘，后台回复：加群

长按关注

这篇关于实战案例：使用机器学习算法预测用户贷款是否违约?的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/413215。

相关文章

如何使用Lombok进行spring 注入

如何使用Lombok进行spring 注入

《如何使用Lombok进行spring注入》本文介绍如何用Lombok简化Spring注入,推荐优先使用setter注入,通过注解自动生成getter/setter及构造器,减少冗余代码,提升开发效... Lombok为了开发环境简化代码，好处不用多说。spring 注入方式为2种，构造器注入和setter
阅读更多...
MySQL中比较运算符的具体使用

MySQL中比较运算符的具体使用

《MySQL中比较运算符的具体使用》本文介绍了SQL中常用的符号类型和非符号类型运算符,符号类型运算符包括等于(=)、安全等于(=)、不等于(/!=)、大小比较(,=,,=)等,感兴趣的可以了解一下... 目录符号类型运算符1. 等于运算符=2. 安全等于运算符<=>3. 不等于运算符<>或!=4. 小于运
阅读更多...
使用zip4j实现Java中的ZIP文件加密压缩的操作方法

使用zip4j实现Java中的ZIP文件加密压缩的操作方法

《使用zip4j实现Java中的ZIP文件加密压缩的操作方法》本文介绍如何通过Maven集成zip4j1.3.2库创建带密码保护的ZIP文件,涵盖依赖配置、代码示例及加密原理,确保数据安全性,感兴趣的... 目录1. zip4j库介绍和版本1.1 zip4j库概述1.2 zip4j的版本演变1.3 zip4
阅读更多...
从入门到进阶讲解Python自动化Playwright实战指南

从入门到进阶讲解Python自动化Playwright实战指南

《从入门到进阶讲解Python自动化Playwright实战指南》Playwright是针对Python语言的纯自动化工具,它可以通过单个API自动执行Chromium,Firefox和WebKit... 目录Playwright 简介核心优势安装步骤观点与案例结合Playwright 核心功能从零开始学习
阅读更多...
Python 字典 (Dictionary)使用详解

Python 字典 (Dictionary)使用详解

《Python字典(Dictionary)使用详解》字典是python中最重要,最常用的数据结构之一,它提供了高效的键值对存储和查找能力,：本文主要介绍Python字典(Dictionary)... 目录字典1.基本特性2.创建字典3.访问元素4.修改字典5.删除元素6.字典遍历7.字典的高级特性默认字典
阅读更多...
使用Python构建一个高效的日志处理系统

使用Python构建一个高效的日志处理系统

《使用Python构建一个高效的日志处理系统》这篇文章主要为大家详细讲解了如何使用Python开发一个专业的日志分析工具,能够自动化处理、分析和可视化各类日志文件,大幅提升运维效率,需要的可以了解下... 目录环境准备工具功能概述完整代码实现代码深度解析1. 类设计与初始化2. 日志解析核心逻辑3. 文件处
阅读更多...
Java docx4j高效处理Word文档的实战指南

Java docx4j高效处理Word文档的实战指南

《Javadocx4j高效处理Word文档的实战指南》对于需要在Java应用程序中生成、修改或处理Word文档的开发者来说,docx4j是一个强大而专业的选择,下面我们就来看看docx4j的具体使用... 目录引言一、环境准备与基础配置1.1 Maven依赖配置1.2 初始化测试类二、增强版文档操作示例2.
阅读更多...
一文详解如何使用Java获取PDF页面信息

一文详解如何使用Java获取PDF页面信息

《一文详解如何使用Java获取PDF页面信息》了解PDF页面属性是我们在处理文档、内容提取、打印设置或页面重组等任务时不可或缺的一环,下面我们就来看看如何使用Java语言获取这些信息吧... 目录引言一、安装和引入PDF处理库引入依赖二、获取 PDF 页数三、获取页面尺寸（宽高）四、获取页面旋转角度五、判断
阅读更多...
C++中assign函数的使用

C++中assign函数的使用

《C++中assign函数的使用》在C++标准模板库中,std::list等容器都提供了assign成员函数,它比操作符更灵活,支持多种初始化方式,下面就来介绍一下assign的用法,具有一定的参考价... 目录​1.assign的基本功能​​语法​2. 具体用法示例​​​(1) 填充n个相同值​​(2)
阅读更多...
MySql基本查询之表的增删查改+聚合函数案例详解

MySql基本查询之表的增删查改+聚合函数案例详解

《MySql基本查询之表的增删查改+聚合函数案例详解》本文详解SQL的CURD操作INSERT用于数据插入（单行/多行及冲突处理）,SELECT实现数据检索（列选择、条件过滤、排序分页）,UPDATE... 目录一、Create1.1 单行数据 + 全列插入1.2 多行数据 + 指定列插入1.3 插入否则更
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2