一种样本特征选择方法、装置、设备及介质与流程

1.本技术涉及人工智能技术领域，尤其涉及一种样本特征选择方法、装置、设备及介质。


背景技术：

2.近年来，基于人工智能的机器学习、深度学习等技术的应用越来越广泛，尤其是利用机器学习、深度学习等技术进行建模，被广泛应用于信贷风控、云服务、活体检测、图像检索、行为识别、机器人导航与定位等领域。
3.实际应用中，建模过程即为模型训练过程，为了使模型训练效果达到最优，在模型训练之前，通常需要从各维度的样本特征中选择用于模型训练的样本特征，由于选择出来的样本特征会作为模型输入参与模型训练和使用，因此，样本特征的选择对模型训练和使用的最终效果有直接决定性的影响，然而，目前的样本特征选择方法所选择出来的样本特征不是很准确，从而导致模型训练和使用的最终效果不是很理想。


技术实现要素：

4.本技术实施例提供了一种样本特征选择方法、装置、设备及介质，用以解决现有技术存在的由于样本特征选择的准确性较差，导致模型训练和使用的效果不是很理想的问题。
5.本技术实施例提供的技术方案如下：
6.一方面，本技术实施例提供了一种样本特征选择方法，包括：
7.基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果；
8.基于各个样本特征的实际样本分布和基准样本分布，确定各个样本特征的单调性检测结果；
9.基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果；
10.基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果；
11.基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果；
12.基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征。
13.另一方面，本技术实施例提供了一种样本特征选择装置，包括：
14.信息量确定单元，用于基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果；
15.单调性检测单元，用于基于各个样本特征的实际样本分布和基准样本分布，确定
各个样本特征的单调性检测结果；
16.稳定性检测单元，用于基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果；
17.重要性检测单元，用于基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果；
18.相关性检测单元，用于基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果；
19.特征选择单元，用于基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征。
20.另一方面，本技术实施例提供了一种样本特征选择设备，包括：存储器、处理器和存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时实现本技术实施例提供的样本特征选择方法。
21.另一方面，本技术实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机指令，计算机指令被处理器执行时实现本技术实施例提供的样本特征选择方法。
22.本技术实施例的有益效果如下：
23.本技术实施例中，通过从样本特征的信息量、单调性、稳定性、重要性和相关性各方面综合评估样本特征的可选性，可以提升最终选择出的目标样本特征选择的准确度和可靠性，进而在利用选择出的目标样本特征进行模型训练时，可以提高模型训练和模型使用的最终效果。
24.本技术的其它特征和优点将在随后的说明书中阐述，并且，部分地可以从说明书中变得显而易见，或者通过实施本技术而了解。本技术的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中特别指出的结构来实现和获得。
附图说明
25.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
26.图1为本技术实施例中样本特征选择方法的总体框架示意图；
27.图2为本技术实施例中样本特征选择方法的概况流程示意图；
28.图3为本技术实施例中样本特征选择方法的具体流程示意图；
29.图4为本技术实施例中样本特征选择装置的功能结构示意图；
30.图5为本技术实施例中样本特征选择设备的硬件结构示意图。
具体实施方式
31.为了使本技术的目的、技术方案及有益效果更加清楚明白，下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，并不是全部的实施例。基于本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
32.为便于本领域技术人员更好地理解本技术，下面先对本技术涉及的技术用语进行简单介绍。
33.1、信息量检测，为通过判断各个样本特征的信息量是否在设定范围内，来确定各个样本特征的可用程度的一种检测。
34.2、单调性检测，为通过判断各个样本特征的实际样本分布与基准样本分布是否一致，来确定各个样本特征是否符合单调性要求的一种检测。
35.3、稳定性检测，为通过判断各个样本特征的特征稳定性指标是否不大于稳定性阈值，来确定各个样本特征是否符合稳定性要求的一种检测。
36.4、重要性检测，为通过判断各个样本特征的重要性程度是否满足重要性筛选条件，来确定各个样本特征是否符合重要性要求的一种检测。
37.5、相关性检测，为通过判断各个样本特征之间的相关程度是否满足相关性筛选条件，来确定各个样本特征是否符合相关性要求的一种检测。本技术实施例中，相关性检测包括但不限于：两两相关性检测和多重共线性检测；其中：
38.两两相关性检测，为通过判断各个样本特征中每两个样本特征的两两相关性得分是否不大于两两相关阈值，来确定各个样本特征中每两个样本特征之间的可替代程度的一种检测；
39.多重共线性检测，为通过判断各个样本特征的多重共线性得分是否不大于多重共线阈值，来确定各个样本特征中每一样本特征与其他样本特征之间的可替代程度的一种检测。
40.需要说明的是，本技术中提及的“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样的用语在适当情况下可以互换，以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外，本技术中提及的“和/或”，描述的是关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
41.在介绍了本技术涉及的技术用语后，接下来，对本技术实施例的应用场景和设计思想进行简单介绍。
42.目前，为了使模型训练效果达到最优，在模型训练之前，通常需要采用特定算法从各维度的样本特征中选择用于模型训练的样本特征，例如，在信用风险控制领域，在对信用评分模型进行训练之前，通过会采用蒙特卡罗搜索和决策树算法、信息增益算法或逾期显著性算法，从各维度的样本特征中选取用于信用评分模型的样本特征，然而，目前的这些样本特征选择方法所选择出来的样本特征不是很准确，从而导致信用评分模型的训练和使用的效果都不是很理想。
43.为此，本技术实施例中，参阅图1所示，对各个样本特征分别进行信息量检测、单调性检测、稳定性检测、重要性检测和相关性检测，并根据各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择用于信用评分模型训练的目标样本特征。这样，通过从样本特征的信息量、单调性、稳定性、重要性和相关性各方面综合评估样本特征的可选性，可以提升最终选择出的目标样本特征选择的准确度和可靠性，进而在利用选择出的目标样本特征对信用评分模型进行训
练时，可以提高信用评分模型的训练和使用的最终效果。
44.在介绍了本技术实施例的应用场景和设计思想之后，下面对本技术实施例提供的技术方案进行详细说明。
45.本技术实施例提供了一种样本特征选择方法，该样本特征选择方法可以应用于诸如计算机、服务器等样本特征选择设备，参阅图2所示，本技术实施例提供的样本特征选择方法的概况流程如下：
46.步骤201：基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果。
47.实际应用中，样本特征选择设备基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果时，可以采用但不限于以下方式：
48.首先，样本特征选择设备针对各个样本特征，对该样本特征进行分箱，得到该样本特征对应的各个特征分箱后，基于该样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比，确定该样本特征对应的各个特征分箱的证据权重。
49.具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(1)获得该样本特征对应的各个特征分箱的证据权重；
[0050][0051]
其中，woei表征第i个特征分箱的证据权重；goodi表征第i个特征分箱的好样本数量占比；badi表征第i个特征分箱的坏样本数量占比；#goodi表征第i个特征分箱中标签为好样本的训练样本数量；#good
t
表征标签为好样本的训练样本总数量；#badi表征第i个特征分箱中标签为坏样本的训练样本数量；#bad
t
表征标签为坏样本的训练样本总数量。
[0052]
然后，样本特征选择设备针对各个样本特征，基于该样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比和证据权重，确定该样本特征对应的各个特征分箱的信息量。
[0053]
具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(2)获得该样本特征对应的各个特征分箱的信息量；
[0054]
ivi＝(good
i-badi)*woei……
公式(2)
[0055]
其中，ivi表征第i个特征分箱的信息量；goodi表征第i个特征分箱的好样本数量占比；badi表征第i个特征分箱的坏样本数量占比；woei表征第i个特征分箱的证据权重。
[0056]
最后，样本特征选择设备针对各个样本特征，基于该样本特征对应的各个特征分箱的信息量，确定该样本特征的信息量并作为该样本特征的信息量检测结果。
[0057]
具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(3)获得该样本特征的信息量；
[0058][0059]
其中，iv表征样本特征的信息量；ivi表征第i个特征分箱的信息量；n表征特征分箱的数量。
[0060]
步骤202：基于各个样本特征的实际样本分布和基准样本分布，确定各个样本特征
的单调性检测结果。
[0061]
实际应用中，样本特征选择设备基于各个样本特征的实际样本分布和基准样本分布，确定各个样本特征的单调性检测结果时，可以采用但不限于以下方式：
[0062]
第一种方式：样本特征选择设备针对各个样本特征，可以基于该样本特征的训练样本中好样本的实际样本分布与基准样本分布是否一致，确定该样本特征的单调性检测结果。
[0063]
第二种方式：样本特征选择设备针对各个样本特征，可以基于该样本特征的训练样本中坏样本的实际样本分布与基准样本分布是否一致，确定该样本特征的单调性检测结果。
[0064]
步骤203：基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果。
[0065]
实际应用中，样本特征选择设备基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果时，可以采用但不限于以下方式：
[0066]
首先，样本特征选择设备针对各个样本特征，基于该样本特征对应的各个特征分箱的训练样本数量占比和验证样本数量占比，确定该样本特征对应的各个特征分箱的特征稳定性指标。
[0067]
具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(4)获得该样本特征对应的各个特征分箱的特征稳定性指标；
[0068][0069]
其中，csii表征第i个特征分箱的特征稳定性指标；actuali表征第i个特征分箱的训练样本数量占比；#traini表征第i个特征分箱中训练样本数量；#train表征训练样本总数量；expectedi表征第i个特征分箱的验证样本数量占比；#testi表征第i个特征分箱中验证样本数量；#test表征验证样本总数量。
[0070]
然后，样本特征选择设备针对各个样本特征，基于该样本特征对应的各个特征分箱的特征稳定性指标，确定该样本特征的特征稳定性指标并作为该样本特征的稳定性检测结果。
[0071]
具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(5)获得该样本特征的特征稳定性指标；
[0072][0073]
其中，csi表征样本特征的特征稳定性指标；csii表征第i个特征分箱的特征稳定性指标；n表征特征分箱的数量。
[0074]
步骤204：基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果。
[0075]
实际应用中，样本特征选择设备基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果时，可以采用但不限于以下方式：
[0076]
第一种方式：样本特征选择设备将各个样本特征的训练样本输入一个重要性检测
模型，得到包含各个样本特征的重要性得分的重要性检测结果。
[0077]
第二种方式：样本特征选择设备将各个样本特征的训练样本多次输入一个重要性检测模型，得到多个包含各个样本特征的重要性得分的重要性检测结果。
[0078]
第三种方式：样本特征选择设备将各个样本特征的训练样本分别输入至少两个重要性检测模型，得到至少两个包含各个样本特征的重要性得分的重要性检测结果。
[0079]
值得说的是，本技术实施例中，重要性检测模型包括但不限于：xgboost、lightgbm、gbdt、rf、cart等。
[0080]
步骤205：基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果。
[0081]
实际应用中，样本特征选择设备基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果时，可以采用但不限于以下方式：
[0082]
第一种方式：相关性检测方式包括两两相关性检测算法。
[0083]
此种情况下，样本特征选择设备可以基于各个样本特征的训练样本，采用两两相关性检测算法，得到每两个样本特征之间的两两相关性得分并作为各个样本特征的相关性检测结果。
[0084]
具体的，样本特征选择设备可以采用下述公式(6)获得每两个样本特征之间的两两相关性得分；
[0085][0086][0087]
其中，r(x,y)表征样本特征x和样本特征y的两两相关性得分；cov(x,y)表征样本特征x和样本特征y的协方差；var[x]表征样本特征x的方差；var[y]表征样本特征y的方差；n表征训练样本的数量；xi表征第i个训练样本中样本特征x的值；yi表征第i个训练样本中样本特征y的值；表征样本特征x的均值。
[0088]
第二种方式：相关性检测方式包括多重共线性检测算法。
[0089]
此种情况下，样本特征选择设备可以基于各个样本特征的训练样本，采用多重共线性检测算法，得到各个样本特征的多重共线性得分并作为各个样本特征的相关性检测结果。
[0090]
具体的，样本特征选择设备针对各个样本特征，可以采用下述公式(7)获得该样本特征的多重共线性得分；
[0091][0092]
其中，vifi表征第i个样本特征的多重共线性得分；表征基于第i个样本特征的训练样本，对除第i个样本特征之外的所有样本特征的训练样本进行线性回归分析得到的回归方程的判定系数。
[0093]
第三种方式：相关性检测方式包括两两相关性检测算法和多重共线性检测算法。
[0094]
此种情况下，样本特征选择设备可以采用上述两种方式，获取各个样本特征中每
两个样本特征之间的两两相关性得分以及各个样本特征的多重共线性得分并作为各个样本特征的相关性检测结果。
[0095]
步骤206：基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征。
[0096]
实际应用中，样本特征选择设备基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征时，可以采用但不限于以下方式：
[0097]
首先，样本特征选择设备基于各个样本特征的信息量检测结果，从各个样本特征中选择信息量在设定范围内的样本特征组成第一待选样本特征集合。具体的，样本特征选择设备可以基于信息量检测结果中各个样本特征的信息量，从各个样本特征中选择信息量在0.01～0.1之间的样本特征组成第一待选样本特征集合。
[0098]
其次，样本特征选择设备基于各个样本特征的单调性检测结果，从各个样本特征中选择单调性检测通过的样本特征组成第二待选样本特征集合。具体的，样本特征选择设备可以采用但不限于以下方式：
[0099]
第一种方式：样本特征选择设备基于各个样本特征的训练样本中好样本的实际样本分布与基准样本分布是否一致，确定各个样本特征的单调性检测结果时，可以基于单调性检测结果，从各个样本特征中选择训练样本中好样本的实际样本分布与基准样本分布一致的样本特征组成第二待选样本特征集合。
[0100]
第二种方式：样本特征选择设备基于各个样本特征的训练样本中坏样本的实际样本分布与基准样本分布是否一致，确定各个样本特征的单调性检测结果时，可以基于单调性检测结果，从各个样本特征中选择训练样本中坏样本的实际样本分布与基准样本分布一致的样本特征组成第二待选样本特征集合。
[0101]
值得说的是，本技术实施例中，样本特征选择设备还可以将各个样本特征中单调性检测未通过且符合微调条件的样本特征进行微调后加入第二待选样本特征集合；其中，符合微调条件的样本特征为通过微调后训练样本中好样本的实际样本分布与基准样本分布一致的样本特征，或者通过微调后训练样本中坏样本的实际样本分布与基准样本分布一致的样本特征。
[0102]
然后，样本特征选择设备基于各个样本特征的稳定性检测结果，从各个样本特征中选择特征稳定性指标不大于稳定性阈值的样本特征组成第三待选样本特征集合。具体的，样本特征选择设备可以基于稳定性检测结果中各个样本特征的特征稳定性指标，从各个样本特征中选择特征稳定性指标不大于0.1的样本特征组成第三待选样本特征集合。
[0103]
再者，样本特征选择设备基于各个样本特征的重要性检测结果，从各个样本特征中选择重要性得分满足重要性筛选条件的样本特征组成第四待选样本特征集合。具体的，样本特征选择设备可以采用但不限于以下方式：
[0104]
第一种方式：样本特征选择设备将各个样本特征的训练样本输入一个重要性检测模型，得到包含各个样本特征的重要性得分的重要性检测结果时，可以基于该重要性检测结果，从各个样本特征中选取重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征组成第四待选样本特征集合。
[0105]
第二种方式：样本特征选择设备将各个样本特征的训练样本多次输入一个重要性
检测模型，得到多个包含各个样本特征的重要性得分的重要性检测结果时，可以将该多个重要性检测结果各自对应的重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征中重复出现的样本特征组成第四待选样本特征集合。
[0106]
第三种方式：样本特征选择设备将各个样本特征的训练样本分别输入至少两个重要性检测模型，得到至少两个包含各个样本特征的重要性得分的重要性检测结果时，可以将该至少两个重要性检测结果各自对应的重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征的交集组成第四待选样本特征集合。
[0107]
之后，样本特征选择设备基于各个样本特征的相关性检测结果，从样本特征中选择两两相关性得分和/或多重共线性得分满足相关性筛选条件的样本特征组成第五待选样本特征集合。具体的，样本特征选择设备可以采用但不限于以下方式：
[0108]
第一种方式：样本特征选择设备基于各个样本特征的训练样本，采用两两相关性检测算法，得到每两个样本特征之间的两两相关性得分作为各个样本特征的相关性检测结果时，针对各个样本特征中的每两个样本特征，确定相关性检测结果中该两个样本特征的两两相关性得分不大于两两相关阈值时，将该两个样本特征加入第五待选样本特征集合，确定相关性检测结果中该两个样本特征的两两相关性得分大于两两相关阈值时，将该两个样本特征中的其中一个样本特征加入第五待选样本特征集合。具体的，样本特征选择设备针对各个样本特征中的每两个样本特征，可以在确定相关性检测结果中该两个样本特征的两两相关性得分不大于0时，将该两个样本特征加入第五待选样本特征集合，确定相关性检测结果中该两个样本特征的两两相关性得分大于0时，将该两个样本特征中的其中一个样本特征加入第五待选样本特征集合。
[0109]
第二种方式：样本特征选择设备基于各个样本特征的训练样本，采用多重共线性检测算法，得到各个样本特征的多重共线性得分作为各个样本特征的相关性检测结果时，可以基于该相关性检测结果中各个样本特征的多重共线性得分，从各个样本特征中选取多重共线性得分不大于多重共线阈值的样本特征加入第五待选样本特征集合。具体的，样本特征选择设备基于相关性检测结果中各个样本特征的多重共线性得分，可以从各个样本特征中选取多重共线性得分不大于10的样本特征加入第五待选样本特征集合。
[0110]
第三种方式：样本特征选择设备基于各个样本特征的训练样本，采用两两相关性检测算法和多重共线性检测算法，得到各个样本特征中每两个样本特征之间的两两相关性得分以及各个样本特征的多重共线性得分作为各个样本特征的相关性检测结果时，可以基于该相关性检测结果中每两个样本特征之间的两两相关性得分，从各个样本特征中选取出第一待选样本特征子集(具体选取方式可参见上述第一种方式)，基于该相关性检测结果中各个样本特征的多重共线性得分，从各个样本特征中选取出第二待选样本特征子集(具体选取方式可参见上述第二种方式)，将第一待选样本特征子集和第二待选样本特征子集的交集中的样本特征组成第五待选样本特征集合。
[0111]
最后，样本特征选择设备基于第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合，获得目标样本特征。
[0112]
具体的，样本特征选择设备可以基于第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合的交集，得
到目标样本特征。
[0113]
下面以“为信用评分模型的训练和使用选择目标样本特征”为具体应用场景，对本技术实施例提供的样本特征选择方法作进一步详细说明，参阅图3所示，本技术实施例提供的样本特征选择方法的具体流程如下：
[0114]
步骤301：样本特征选择设备获取信用评分模型对应的待选择的各个样本特征。
[0115]
实际应用中，样本特征选择设备可以将信用评分模型的训练样本包含的各个字段作为信用评分模型对应的待选择的各个样本特征，具体的，信用评分模型对应的待选择的各个样本特征包括但不限于：年龄、性别、婚姻状况、工作岗位性质、收入情况、名下财产、信用等级、贷款金额、贷款途径、还款期限、逾期状况等。
[0116]
步骤302：样本特征选择设备针对信用评分模型的各个样本特征，对该样本特征进行分箱，得到该样本特征对应的各个特征分箱后，基于该样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比，确定该样本特征对应的各个特征分箱的证据权重。
[0117]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(1)获得该样本特征对应的各个特征分箱的证据权重。
[0118]
步骤303：样本特征选择设备针对信用评分模型的各个样本特征，基于该样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比和证据权重，确定该样本特征对应的各个特征分箱的信息量。
[0119]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(2)获得该样本特征对应的各个特征分箱的信息量。
[0120]
步骤304：样本特征选择设备针对信用评分模型的各个样本特征，基于该样本特征对应的各个特征分箱的信息量，确定该样本特征的信息量。
[0121]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(3)获得该样本特征的信息量。
[0122]
步骤305：样本特征选择设备针对信用评分模型的各个样本特征，基于该样本特征的实际样本分布与基准样本分布是否一致，确定该样本特征的单调性检测结果。
[0123]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以基于该样本特征的训练样本中好样本的实际样本分布与基准样本分布是否一致，确定该样本特征的单调性检测结果，还可以基于该样本特征的训练样本中坏样本的实际样本分布与基准样本分布是否一致，确定该样本特征的单调性检测结果；其中，各个样本特征的基准样本分布是根据经验预判得到的，不同的样本特征对应不同或相同的基准样本分布，每一样本特征的基准样本分布为单调递增分布、单调递减分布、正u分布或倒u分布中的一种。
[0124]
步骤306：样本特征选择设备针对信用评分模型的各个样本特征，基于该样本特征对应的各个特征分箱的训练样本数量占比、验证样本数量占比，确定该样本特征对应的各个特征分箱的特征稳定性指标。
[0125]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(4)获得该样本特征对应的各个特征分箱的特征稳定性指标。
[0126]
步骤307：样本特征选择设备针对信用评分模型的各个样本特征，基于该样本特征对应的各个特征分箱的特征稳定性指标，确定该样本特征的特征稳定性指标并作为该样本特征的稳定性检测结果。
[0127]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(5)获得该样本特征的特征稳定性指标。
[0128]
步骤308：样本特征选择设备基于信用评分模型的各个样本特征的训练样本，采用重要性检测模型，确定信用评分模型的各个样本特征的重要性检测结果。
[0129]
实际应用中，样本特征选择设备可以将信用评分模型的各个样本特征的训练样本输入一个重要性检测模型，得到包含各个样本特征的重要性得分的重要性检测结果，也可以将信用评分模型的各个样本特征的训练样本多次输入一个重要性检测模型，得到多个包含各个样本特征的重要性得分的重要性检测结果，还可以将信用评分模型的各个样本特征的训练样本分别输入至少两个重要性检测模型，得到至少两个包含各个样本特征的重要性得分的重要性检测结果；其中，重要性检测模型包括但不限于：xgboost、lightgbm、gbdt、rf、cart等。
[0130]
步骤309：样本特征选择设备基于信用评分模型的各个样本特征的训练样本，采用两两相关性检测算法，得到每两个样本特征之间的两两相关性得分。
[0131]
实际应用中，样本特征选择设备可以采用上述公式(6)获得信用评分模型的各个样本特征中每两个样本特征之间的两两相关性得分。
[0132]
步骤310：样本特征选择设备基于信用评分模型的各个样本特征的训练样本，采用多重共线性检测算法，得到信用评分模型的各个样本特征的多重共线性得分。
[0133]
实际应用中，样本特征选择设备针对信用评分模型的各个样本特征，可以采用上述公式(7)获得该样本特征的多重共线性得分。
[0134]
步骤311：样本特征选择设备基于信用评分模型的各个样本特征的信息量，从信用评分模型的各个样本特征中，选择信息量在设定范围内(例如0.01～0.1)的样本特征组成第一待选样本特征集合。
[0135]
步骤312：样本特征选择设备基于信用评分模型的各个样本特征的单调性检测结果，从信用评分模型的各个样本特征中，选择单调性检测通过的样本特征组成第二待选样本特征集合。
[0136]
实际应用中，样本特征选择设备基于信用评分模型的各个样本特征的训练样本中好样本的实际样本分布与基准样本分布是否一致，确定信用评分模型的各个样本特征的单调性检测结果时，可以基于信用评分模型的各个样本特征的单调性检测结果，从信用评分模型的各个样本特征中选择训练样本中好样本的实际样本分布与基准样本分布一致的样本特征组成第二待选样本特征集合；样本特征选择设备基于信用评分模型的各个样本特征的训练样本中坏样本的实际样本分布与基准样本分布是否一致，确定信用评分模型的各个样本特征的单调性检测结果时，可以基于信用评分模型的各个样本特征的单调性检测结果，从信用评分模型的各个样本特征中选择训练样本中坏样本的实际样本分布与基准样本分布一致的样本特征组成第二待选样本特征集合。
[0137]
步骤313：样本特征选择设备将信用评分模型的各个样本特征中单调性检测未通过且符合微调条件的样本特征进行微调后加入第二待选样本特征集合。
[0138]
实际应用中，符合微调条件的样本特征可以是通过微调后训练样本中好样本的实际样本分布与基准样本分布一致的样本特征，或者通过微调后训练样本中坏样本的实际样本分布与基准样本分布一致的样本特征。
[0139]
步骤314：样本特征选择设备基于信用评分模型的各个样本特征的特征稳定性指标，从信用评分模型的各个样本特征中，选择特征稳定性指标不大于稳定性阈值(例如0.1)的样本特征组成第三待选样本特征集合。
[0140]
步骤315：样本特征选择设备基于信用评分模型的各个样本特征的重要性得分，从信用评分模型的各个样本特征中，选择重要性得分满足重要性筛选条件的样本特征组成第四待选样本特征集合。
[0141]
实际应用中，样本特征选择设备将信用评分模型的各个样本特征的训练样本输入一个重要性检测模型，得到包含各个样本特征的重要性得分的重要性检测结果时，可以基于该重要性检测结果，从信用评分模型的各个样本特征中，选取重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征组成第四待选样本特征集合；样本特征选择设备将信用评分模型的各个样本特征的训练样本多次输入一个重要性检测模型，得到多个包含各个样本特征的重要性得分的重要性检测结果时，可以将该多个重要性检测结果各自对应的重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征中重复出现的样本特征组成第四待选样本特征集合；样本特征选择设备将信用评分模型的各个样本特征的训练样本分别输入至少两个重要性检测模型，得到至少两个包含各个样本特征的重要性得分的重要性检测结果时，可以将该至少两个重要性检测结果各自对应的重要性得分不小于重要性阈值或者重要性得分排名前n的样本特征的交集组成第四待选样本特征集合。
[0142]
步骤316：样本特征选择设备针对信用评分模型的各个样本特征中的每两个样本特征，确定该两个样本特征的两两相关性得分不大于两两相关阈值(例如0)时，将该两个样本特征加入第一待选样本特征子集，确定该两个样本特征的两两相关性得分大于两两相关阈值时，将该两个样本特征中的其中一个样本特征加入第一待选样本特征子集。
[0143]
步骤317：样本特征选择设备基于信用评分模型的各个样本特征的多重共线性得分，从各个样本特征中选取多重共线性得分不大于多重共线阈值(例如10)的样本特征加入第二待选样本特征子集。
[0144]
步骤318：样本特征选择设备将第一待选样本特征子集和第二待选样本特征子集的交集中的样本特征组成第五待选样本特征集合。
[0145]
步骤319：样本特征选择设备将第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合的交集中的样本特征确定为信用评分模型的目标样本特征。
[0146]
步骤320：样本特征选择设备基于信用评分模型的各目标样本特征的训练样本进行模型训练，并基于信用评分模型的各目标样本特征的实际特征数据进行模型使用。
[0147]
值得说的是，本技术实施例中，样本特征选择设备对信用评分模型的各个样本特征的信息量检测、单调性检测、稳定性检测、重要性检测和相关性检测并无先后顺序，样本特征选择设备对信用评分模型的各个样本特征的选择也无先后顺序，此外，样本特征选择设备对信用评分模型的各个样本特征的信息量检测、单调性检测、稳定性检测、重要性检测和相关性检测，与样本特征选择设备对信用评分模型的各个样本特征的选择可以并行执行，也可以先后执行，具体执行顺序可以根据实际情况灵活设定，上述步骤302-319的执行顺序仅为一个示例，不应对本技术实施例的样本特征选择方法的执行顺序带来任何限制。
[0148]
基于上述实施例，本技术实施例还提供了一种样本特征选择装置，参阅图4所示，
本技术实施例提供的样本特征选择装置400至少包括：
[0149]
信息量确定单元401，用于基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果；
[0150]
单调性检测单元402，用于基于各个样本特征的实际样本分布和基准样本分布，确定各个样本特征的单调性检测结果；
[0151]
稳定性检测单元403，用于基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果；
[0152]
重要性检测单元404，用于基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果；
[0153]
相关性检测单元405，用于基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果；
[0154]
特征选择单元406，用于基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征。
[0155]
在一种可能的实施方式中，基于各个样本特征的好样本数量占比和坏样本数量占比，确定各个样本特征的信息量检测结果时，信息量确定单元401具体用于：
[0156]
针对各个样本特征，基于样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比，确定各个特征分箱的证据权重，并基于各个特征分箱的好样本数量占比、坏样本数量占比和证据权重，确定各个特征分箱的信息量，以及基于各个特征分箱的信息量，确定样本特征的信息量并作为样本特征的信息量检测结果。
[0157]
在一种可能的实施方式中，基于样本特征对应的各个特征分箱的好样本数量占比、坏样本数量占比，确定各个特征分箱的证据权重时，信息量确定单元401具体用于：
[0158]
采用以下公式获得样本特征对应的各个特征分箱的证据权重；
[0159][0160][0161]
其中，woei表征第i个特征分箱的证据权重；goodi表征第i个特征分箱的好样本数量占比；badi表征第i个特征分箱的坏样本数量占比；#goodi表征第i个特征分箱中标签为好样本的训练样本数量；#good
t
表征标签为好样本的训练样本总数量；#badi表征第i个特征分箱中标签为坏样本的训练样本数量；#bad
t
表征标签为坏样本的训练样本总数量。
[0162]
在一种可能的实施方式中，基于各个特征分箱的好样本数量占比、坏样本数量占比和证据权重，确定各个特征分箱的信息量时，信息量确定单元401具体用于：
[0163]
采用以下公式获得各个特征分箱的信息量；
[0164]
ivi＝(good
i-badi)*woei；
[0165]
其中，ivi表征第i个特征分箱的信息量；goodi表征第i个特征分箱的好样本数量占比；badi表征第i个特征分箱的坏样本数量占比；woei表征第i个特征分箱的证据权重。
[0166]
在一种可能的实施方式中，基于各个特征分箱的信息量，确定样本特征的信息量时，信息量确定单元401具体用于：
[0167]
采用以下公式获得样本特征的信息量；
[0168][0169]
其中，iv表征样本特征的信息量；ivi表征第i个特征分箱的信息量；n表征特征分箱的数量。
[0170]
在一种可能的实施方式中，基于各个样本特征的实际样本分布和基准样本分布，确定各个样本特征的单调性检测结果时，单调性检测单元402具体用于：
[0171]
针对各个样本特征，基于样本特征的训练样本中好样本的实际样本分布与基准样本分布是否一致，确定样本特征的单调性检测结果；
[0172]
或者；
[0173]
针对各个样本特征，基于样本特征的训练样本中坏样本的实际样本分布与基准样本分布是否一致，确定样本特征的单调性检测结果。
[0174]
在一种可能的实施方式中，基于各个样本特征的训练样本数量占比和验证样本数量占比，确定各个样本特征的稳定性检测结果时，稳定性检测单元403具体用于：
[0175]
针对各个样本特征，基于样本特征对应的各个特征分箱的训练样本数量占比、验证样本数量占比，确定各个特征分箱的特征稳定性指标，基于各个特征分箱的特征稳定性指标，确定样本特征的特征稳定性指标并作为样本特征的稳定性检测结果。
[0176]
在一种可能的实施方式中，基于样本特征对应的各个特征分箱的训练样本数量占比、验证样本数量占比，确定各个特征分箱的特征稳定性指标时，稳定性检测单元403具体用于：
[0177]
采用以下公式获得样本特征对应的各个特征分箱的特征稳定性指标；
[0178][0179][0180]
其中，csii表征第i个特征分箱的特征稳定性指标；actuali表征第i个特征分箱的训练样本数量占比；#traini表征第i个特征分箱中训练样本数量；#train表征训练样本总数量；expectedi表征第i个特征分箱的验证样本数量占比；；#testi表征第i个特征分箱中验证样本数量；#testi表征验证样本总数量。
[0181]
在一种可能的实施方式中，基于各个特征分箱的特征稳定性指标，确定样本特征的特征稳定性指标时，稳定性检测单元403具体用于：
[0182]
采用以下公式获得样本特征的特征稳定性指标；
[0183][0184]
其中，csi表征样本特征的特征稳定性指标；csii表征第i个特征分箱的特征稳定性指标；n表征特征分箱的数量。
[0185]
在一种可能的实施方式中，基于各个样本特征的训练样本，采用重要性检测模型，确定各个样本特征的重要性检测结果时，重要性检测单元404具体用于：
[0186]
将各个样本特征的训练样本输入一个重要性检测模型，得到包含各个样本特征的重要性得分的重要性检测结果；
[0187]
或者；
[0188]
将各个样本特征的训练样本多次输入一个重要性检测模型，得到多个包含各个样
本特征的重要性得分的重要性检测结果；
[0189]
或者；
[0190]
将各个样本特征的训练样本分别输入至少两个重要性检测模型，得到至少两个包含各个样本特征的重要性得分的重要性检测结果。
[0191]
在一种可能的实施方式中，相关性检测方式包括两两相关性检测算法和/或多重共线性检测算法；基于各个样本特征的训练样本，采用相关性检测方式，确定各个样本特征的相关性检测结果时，相关性检测单元405具体用于：
[0192]
基于各个样本特征的训练样本，采用两两相关性检测算法，得到每两个样本特征之间的两两相关性得分并作为各个样本特征的相关性检测结果；
[0193]
和/或；
[0194]
基于各个样本特征的训练样本，采用多重共线性检测算法，得到各个样本特征的多重共线性得分并作为各个样本特征的相关性检测结果。
[0195]
在一种可能的实施方式中，基于各个样本特征的训练样本，采用两两相关性检测算法，得到每两个样本特征之间的两两相关性得分时，相关性检测单元405具体用于：
[0196]
采用以下公式获得每两个样本特征之间的两两相关性得分；
[0197][0198][0199]
其中，r(x,y)表征样本特征x和样本特征y的两两相关性得分；cov(x,y)表征样本特征x和样本特征y的协方差；var[x]表征样本特征x的方差；var[y]表征样本特征y的方差；n表征训练样本的数量；xi表征第i个训练样本中样本特征x的值；yi表征第i个训练样本中样本特征y的值；表征样本特征x的均值。
[0200]
在一种可能的实施方式中，基于各个样本特征的训练样本，采用多重共线性检测算法，得到各个样本特征的多重共线性得分时，相关性检测单元405具体用于：
[0201]
针对各个样本特征，采用以下公式获得样本特征的多重共线性得分；
[0202][0203]
其中，vifi表征第i个样本特征的多重共线性得分；表征基于第i个样本特征的训练样本，对除第i个样本特征之外的所有样本特征的训练样本进行线性回归分析得到的回归方程的判定系数。
[0204]
在一种可能的实施方式中，基于各个样本特征的信息量检测结果、单调性检测结果、稳定性检测结果、重要性检测结果和相关性检测结果，从各个样本特征中选择目标样本特征时，特征选择单元406具体用于：
[0205]
基于各个样本特征的信息量检测结果，从各个样本特征中选择信息量在设定范围内的样本特征组成第一待选样本特征集合；
[0206]
基于各个样本特征的单调性检测结果，从各个样本特征中选择单调性检测通过的样本特征组成第二待选样本特征集合；
[0207]
基于各个样本特征的稳定性检测结果，从各个样本特征中选择特征稳定性指标不
大于稳定性阈值的样本特征组成第三待选样本特征集合；
[0208]
基于各个样本特征的重要性检测结果，从各个样本特征中选择重要性得分满足重要性筛选条件的样本特征组成第四待选样本特征集合；
[0209]
基于各个样本特征的相关性检测结果，从样本特征中选择两两相关性得分和/或多重共线性得分满足相关性筛选条件的样本特征组成第五待选样本特征集合；
[0210]
基于第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合，获得目标样本特征。
[0211]
在一种可能的实施方式中，基于各个样本特征的单调性检测结果，从各个样本特征中选择单调性检测通过的样本特征组成第二待选样本特征集合时，特征选择单元406还用于：
[0212]
将各个样本特征中单调性检测未通过且符合微调条件的样本特征进行微调后加入第二待选样本特征集合。
[0213]
在一种可能的实施方式中，基于第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合，获得目标样本特征时，特征选择单元406具体用于：
[0214]
基于第一待选样本特征集合、第二待选样本特征集合、第三待选样本特征集合、第四待选样本特征集合和第五待选样本特征集合的交集，得到目标样本特征。
[0215]
需要说明的是，本技术实施例提供的样本特征选择装置400解决技术问题的原理与本技术实施例提供的样本特征选择方法相似，因此，本技术实施例提供的样本特征选择装置400的实施可以参见本技术实施例提供的样本特征选择方法的实施，重复之处不再赘述。
[0216]
在介绍了本技术实施例提供的样本特征选择方法和装置之后，接下来，对本技术实施例提供的样本特征选择设备进行简单介绍。
[0217]
参阅图5所示，本技术实施例提供的样本特征选择设备500至少包括：处理器501、存储器502和存储在存储器502上并可在处理器501上运行的计算机程序，处理器501执行计算机程序时实现本技术实施例提供的样本特征选择方法。
[0218]
本技术实施例提供的样本特征选择设备500还可以包括连接不同组件(包括处理器501和存储器502)的总线503。其中，总线503表示几类总线结构中的一种或多种，包括存储器总线、外围总线、局域总线等。
[0219]
存储器502可以包括易失性存储器形式的可读介质，例如随机存储器(random access memory，ram)5021和/或高速缓存存储器5022，还可以进一步包括只读存储器(read only memory，rom)5023。
[0220]
存储器502还可以包括具有一组(至少一个)程序模块5024的程序工具5025，程序模块5024包括但不限于：操作子系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
[0221]
样本特征选择设备500也可以与一个或多个外部设备504(例如键盘、遥控器等)通信，还可以与一个或者多个使得用户能与样本特征选择设备500交互的设备通信(例如手机、电脑等)，和/或，与使得样本特征选择设备500与一个或多个其它设样本特征选择备500进行通信的任何设备(例如路由器、调制解调器等)通信。这种通信可以通过输入/输出
(input/output，i/o)接口505进行。并且，样本特征选择设备500还可以通过网络适配器506与一个或者多个网络(例如局域网(local area network，lan)，广域网(wide area network，wan)和/或公共网络，例如因特网)通信。如图5所示，网络适配器506通过总线503与设样本特征选择备500的其它模块通信。应当理解，尽管图5中未示出，可以结合样本特征选择设备500使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(redundant arrays of independent disks，raid)子系统、磁带驱动器以及数据备份存储子系统等。
[0222]
需要说明的是，图5所示的样本特征选择设备500仅仅是一个示例，不应对本技术实施例的功能和使用范围带来任何限制。
[0223]
下面对本技术实施例提供的计算机可读存储介质进行简单介绍。本技术实施例提供的计算机可读存储介质存储有计算机指令，计算机指令被处理器执行时实现本技术实施例提供的样本特征选择方法。具体地，该可执行程序可以内置或者安装在样本特征选择设备500中，这样，样本特征选择设备500就可以通过执行内置或者安装的可执行程序实现本技术实施例提供的样本特征选择方法。
[0224]
此外，本技术实施例提供样本特征选择方法还可以实现为一种程序产品，该程序产品包括程序代码，当该程序产品可以在样本特征选择设备500上运行时，该程序代码用于使样本特征选择设备500执行本技术实施例提供的样本特征选择方法。
[0225]
本技术实施例提供的程序产品可以采用一个或多个可读介质的任意组合，其中，可读介质可以是可读信号介质或者可读存储介质，而可读存储介质可以是但不限于是电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合，具体地，可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、ram、rom、可擦式可编程只读存储器(erasable programmable read only memory，eprom)、光纤、便携式紧凑盘只读存储器(compact disc read-only memory，cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
[0226]
本技术实施例提供的程序产品可以采用cd-rom并包括程序代码，还可以在计算设备上运行。然而，本技术实施例提供的程序产品不限于此，在本技术实施例中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
[0227]
应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本技术的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。
[0228]
此外，尽管在附图中以特定顺序描述了本技术方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。
[0229]
尽管已描述了本技术的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本技术范围的所有变更和修改。
[0230]
显然，本领域的技术人员可以对本技术实施例进行各种改动和变型而不脱离本技术实施例的精神和范围。这样，倘若本技术实施例的这些修改和变型属于本技术权利要求及其等同技术的范围之内，则本技术也意图包含这些改动和变型在内。