基于CART树的银行贷款风控模型实现

代码实现

1. 导包

[1]:import numpy as npimport pandas as pdimport matplotlib.pyplot as pltfrom sklearn import treefrom sklearn.tree import DecisionTreeClassifierfrom sklearn.model_selection import train_test_split,cross_val_score,GridSearchCVimport graphviz

2. 加载数据

数据地址：
链接：https://pan.baidu.com/s/1WJFvu30qbF7vhzvvcOYPiw
提取码：jt9o

[2]:data = pd.read_csv("data.csv",index_col = "nameid")data.head()

字段中文含义：

1. name_id: 姓名
2. profession： 职业，1-企业工作者，2-个体经营户，3-自由工作者，4-事业单位，5-体力劳动者
3. education： 教育程度，1-博士及以上，2-硕士，3-本科，4-专科，5-高中及以下
4. house_loan： 是否有房贷，1-有，0-没有
5. car_loan：是否有车贷，1-有，0-没有
6. married： 是否结婚，1-是，0-否
7. child：是否有小孩，1-有，0-没有
8. revenue：月收入
9. approve：是否予以贷款，1-贷款，2-不贷款

3. 检查数据

[3]:data.info()

  数据很干净，没有缺失值存在。共1000行数据

3. 切分测试集和训练集

  先将特征和标签分开，然后将数据集中20%作为测试集，80%作为训练集。切分完后最好将每个数据集的索引恢复(决策树算法中不是必须)。

[4]:x = data.iloc[:,:-1]y = data["approve"]
[5]:Xtrain,Xtest,Ytrain,Ytest = train_test_split(x,y,test_size = 0.2)
[6]:for i in [Xtrain,Xtest,Ytrain,Ytest]:i.index = range(i.shape[0])

4. 建模

4.1 无参数建模

[7]:clf = DecisionTreeClassifier(random_state=10)clf = clf.fit(Xtrain,Ytrain)score = clf.score(Xtest,Ytest)
[8]:score

0.735

4.2 交叉验证

[9]:clf = DecisionTreeClassifier(random_state=10)score = cross_val_score(clf,x,y,cv=10).mean()score

0.7444790479047905

4.3 网格搜索

[10]:params = {'criterion':['gini',"entropy"],'max_depth':[*range(1,10,1)],'min_samples_leaf':np.arange(3,10,1),"min_impurity_decrease":[*np.linspace(0,0.5,50)]}
[11]:clf = GridSearchCV(DecisionTreeClassifier(random_state=10),param_grid=params,cv=10)clf = clf.fit(Xtrain,Ytrain)[12]:clf.best_params_
{'criterion': 'gini','max_depth': 4,'min_impurity_decrease': 0.0,'min_samples_leaf': 6}[13]:clf.best_score_
0.84625

4.5 模型可视化

[14]:clf = DecisionTreeClassifier(criterion="gini",max_depth=4,min_samples_leaf=6,min_impurity_decrease=0)clf = clf.fit(Xtrain,Ytrain)dot_data = tree.export_graphviz(clf, out_file=None,feature_names=data.columns[:-1],class_names=["贷款","不贷款"],filled=True, rounded=True,special_characters=True)
graph = graphviz.Source(dot_data)
[14]:graph = graphviz.Source(dot_data)graph

参考资料：http://www.yearsmart.com/124.html