Python回归分析五部曲(四)—逻辑回归

文:朱元禄(jacky)

(一)基础铺垫

  • 逻辑回归(Logistic Regression)是什么?
    • 针对因变量为分类变量而进行回归分析的一种统计方法,属于概率型非线性回归。
    • 优点:算法易于实现和部署,执行效率和准确度高;
    • 缺点:离散型的自变量数据需要通过生产虚拟变量的方式才能使用;

(二)底层原理及逻辑

  • 在线性回归中,因变量是连续变量,那么线性回归能够根据因变量和自变量之间存在的线性关系来构造回归方程;但是,一旦因变量是分类变量,那么因变量与自变量就不会存在上面这种线性关系了,这时候就要通过某种变换来解决这个问题,这个变换就是对数变换;
  • 要理解对数变换,jacky就要介绍一个函数:Singmoid
    • Singmoid函数又叫”S型”函数,在数据挖掘领域大量使用,它得图形是一个S形状,如下图所示:

《Python回归分析五部曲(四)—逻辑回归》

  • 它得公式为:

《Python回归分析五部曲(四)—逻辑回归》

  • 我们经常把它作为归一化的函数来使用,所谓归一化函数是指可以把连续数值,如上图X轴正无穷大到负无穷大的范围转化为0到1的范围,这就叫归一化;因此,S函数可以为我们提供了一种将连续型的数据离散化为离散型数据的方法;
  • 如果f(x)>0.5,那么我们可以把输入转换为1,如果f(x)<0.5,那么转换为0;

(三)案例实操-金融场景

1.场景介绍

  • 什么是金融场景中的信用风险?
    • 信用风险是指借款人、证券发行人或交易对手因某些原因不愿或无力履行合同而构成违约,使银行、投资者或交易对手遭受损失的可能性。信用风险还包括由于履约能力的变化引起的损失的可能性。因此信用风险的大小主要取决于客户的财务状况和风险状况。

2.痛点剖析

  • 互联网金融的痛点在于信用风险控制。很多金融平台没有相应资质或者经验,审查材料不严,导致大量资信不良的个人成功借贷,有些还是大数额的贷款。那么,针对这个痛点,可以利用逻辑回归模型解决。下面jacky就跟大家介绍如何利用该模型解决互联网金融信用风险问题,并用Python将它实现;

3.特征选择

(1) 因变量

  • 借贷人是否违约
    • 违约:0
    • 未违约:1

(2) 自变量

  • 违约记录
  • 借贷时间
  • 银行存款数额
  • 工作状态
  • 房贷情况
  • 个人财产
  • 年龄
  • 电话号码
  • 户口所在地
  • 购买金融产品的种类

4.代码实操

(1) 导入数据

#---author:朱元禄---
#导入数据
import pandasdata = pandas.read_csv(
 'file:///Users/apple/Desktop/jacky_reinvest.csv',encoding='GBK'
)
#处理缺失值
data = data.dropna()
#查看数据规模
data.shape

(2) 数据预处理

  • 逻辑回归要求输入的数据是数值型的数据,因此我们要对离散数据进行虚拟数据的生成;

1)处理字符型与大小无关的字段

dummyColumns = [    
'工作状态','房贷情况','电话号码','户口所在地'
]
for column in dummyColumns:
    data[column]=data[column].astype('category')
dummiesData = pandas.get_dummies(
    data,
    columns=dummyColumns,
    prefix=dummyColumns,
    prefix_sep=" ",
    drop_first=True)

2)调用Map方法进行可比较大小虚拟变量的转换

productDict={
'12个月定存':4,'6个月定存':3,'3个月定存':2,'1个月定存':1
}
data['产品Map']=data['金融产品'].map(productDict)

(3) 挑选可以建模的变量(特征列)

  • 数据挖掘对数据和业务知识的理解是非常重要的;
  • 挑选特征列也是建模中最耗费精力的事情,特征变量需要一一比较,才能选择出来,在本案例中,jacky就简化处理了,毕竟是分享
dummiesSelect = [    
'jacky选取的特征列1','jacky选取的特征列2','...'
]
inputData = dummiesData[dummiesSelect]
outputData = dummiesData[['违约结论']]

(4) 建模求解回归方程

from sklearn import linear_model
lrModel = linear_model.LogisticRegression()

(5) 模型训练

lrModel.fit(inputData,outputData)

(6) 模型评估

lrModel.score(inputData,outputData)

(7) 使用模型预测未知参数

  • 因为逻辑回归输入的参数是通过虚拟变量进行预处理过的,因此如果我们要对新的数据进行预测,那么我们必须将我们的新数据使用训练样本的处理方法再处理一次,这样才能作为逻辑模型的输入进行预测,只要依葫芦画瓢在重复写一次代码即可,这里jacky就不赘述了;

5.模型解读

本案例,jacky使用了真实场景数据,为了数据的保密性,具体结果展示就没法一一呈现了,但是jacky披露的模型的解读,对于从事数据建模的朋友来说,可能还是有帮助的;

  • 正相关系数表示自变量越大,违约概率越小;负相关系数表示自变量越大,违约概率越大。下面逐一分析:
  • 1.违约记录:之前没有违约历史记录的客户更加有信用,在之后违约的可能性也比较小。之前有过信用卡逾期未还款、股票融资被平仓后没有归还欠款的客户,违约记录越多的客户,以后违约的可能性也比较大。
  • 2.借贷时间:借贷时间越长的客户,违约的概率越大。借贷时间越长,外在的经济环境和客户自身的资产负债情况的不可预知性越大,违约的概率也随之增加。
  • 3.银行存款数额:银行存款数额的大小,一定程度上反映了客户的财务状况,较好的财务状况表明了更好的偿贷能力,违约的可能性更小。
  • 4.工作状态:客户目前职业,收入对于客户的偿贷愿望都有着直接影响。如果一个客户有着良好的工作,稳定的收入,该客户的现金流更加容易预测,违约的几率也随之降低。
  • 5.房贷情况:这个比较复杂,一方面较高的房贷对于客户来说是财政负担,偿还其他贷款的能力有所降低;另一方面,如果有足够的公积金偿还房贷,又恰恰证明了其较高的收入,能够负担起其余的债务。
  • 6.个人财产:学区房、商业区等较高房价的住房可以作为借贷抵押。一般拥有这些住房的客户,资产较高,可以更好地承担债务。
  • 7.年龄:年龄较小的客户消费欲望强烈,收入不稳定,积蓄不多,更有违约的风险。年龄较大的客户一般都有明确的消费计划,收入稳定,有着较为丰厚的积蓄,性格也比较稳重,个人违约的意愿也比较小。
  • 8.电话号码:联系方式对信用方式有正的方式。且与登记手机号码的客户相比,登记座机号码的客户更加稳定;
  • 9.户口所在地:城市户口的客户一般收人较高,也比较稳定;农村户口的客户一般在城市打工或者在农村务农,收入无法得到切实的保障,遵守契约的意识也比较淡薄,违约可能性更大。
    原文作者:数据分析jacky
    原文地址: https://zhuanlan.zhihu.com/p/33396825
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞