本发明涉及人工智能,尤其涉及一种用于生成扩展置信规则库的扩展规则推理网络。
背景技术:
1、深度学习作为人工智能领域的一个重要分支,在图像识别、故障诊断、自然语言处理等方面的应用取得了很好的效果。虽然这些模型具有很高的准确性,但它们是“黑箱”机制目前无法解释其决策和操作的过程。人工智能(ai)系统在公平性、问责性、透明度和可解释性方面的发展受到限制。同时,在不同的科学和工业领域中产生大量的不确定信息,这些信息具有多种类型的不确定性知识。由于不确定性知识表达的不完整性、模糊性、不精确性使模型的准确预测面临重大挑战。为了解决上述低可解释性问题和转化不确定性知识,基于置信规则的专家系统(brb)[rimer]被广泛使用,这是一种具有高解释性的方法。
2、基于规则的系统有两个基本组成部分:知识库和推理机。知识库的组成部分通常是if-then规则的形式,也称为规则库。在if-then规则的结果部分嵌入置信度得到了brb,因此能够有效的处理不确定性知识。yang等人提出了brb的近似推理方法rimer。rimer是在d-s证据理论、决策理论、模糊集理论和基于证据推理方法的基础上发展起来的。该方法可以捕获数据集中涉及的模糊、不完整和不确定的知识,以在先行属性和相关结果之间建立线性或非线性关系,建立一个具备可解释性模型。目前,brb在可解释性方面表现出优势,许多优化方法己被研究。然而,当构建brb的数据的属性数量较大时,存在规则指数爆炸问题。
3、为了弥补这一缺陷,liu等人将置信程度嵌入到每条规则的后件属性和所有前件属性中,提出了扩展置信规则库(extended belief rule base,ebrb)。在不影响规则可解释性的前提下,ebrb通过数据驱动方法将样本直接转化为置信规则,避免了规则指数爆炸的问题。ebrb的推理过程与rimer相似,能够表达不确定性知识并且具备高可解释性。yang等人通过研究个体匹配度和激活权重的可解释性,考察效用值和属性权重对系统精度的影响,提出了一种新的激活权重计算方法和参数优化方法,极大提高ebrb系统的可解释性。由于置信结构嵌入到每条规则的整个属性中,因此ebrb可以更有效地表达多种不同类型的不确定性,并且已经证明了其解决分类问题的潜力。已经广泛应用于成本预测、寿命预测和碳排放预测等多个领域。
4、ebrb虽然可以处理不确定知识,但仍存在几个挑战需要解决。为了更精确推理ebrb,需要准确给出ebrb系统的所有参数。然而,使用数据驱动方法构建ebrb面临样本数量较大导致规则数量庞大的问题,专家直接给定每一条规则的所有参数是非常困难的。
技术实现思路
1、本发明所要解决的技术问题是如何提供一种能够提高分类结果和模型的可解释性,并且网络可干预性强的用于生成扩展置信规则库的扩展规则推理网络。
2、为解决上述技术问题,本发明所采取的技术方案是:一种用于生成扩展置信规则库的扩展规则推理网络,包括:信息转换模块、ebrb系统构建模块、输入层、个体匹配聚合层、规则激活层和输出层;
3、所述信息转换模块,用于对数据进行预处理,删除异常、噪声和不完整的数据实例,随后,将数值数据转换为置信度分布表示,以产生标准化的erin训练数据集;
4、所述ebrb系统构建模块,用于利用数据驱动方法构建ebrb;
5、所述输入层,用于决定输入样本与每条规则之间的个体匹配程度;
6、所述个体匹配聚合层,用于将单独的匹配度聚合在一起;
7、所述规则激活层,用于计算规则激活权重;
8、所述聚合和激活层构成所述扩展规则推理网络(erin)中的隐藏层;
9、所述输出层,用于生成一个置信集作为所述扩展规则推理网络(erin)的最终输出,生成扩展置信规则库。
10、采用上述技术方案所产生的有益效果在于:本申请结合深度学习和ebrb提出了扩展规则推理网络(erin)模型。erin前馈过程是ebrb的推理机制,反馈过程使用梯度下降算法更新参数,并引入伪梯度降低训练过程的复杂度。erin结合ebrb的可解释性和处理不确定知识的能力,充分利用了深度学习优异的学习机制。通过训练erin,得到最合适的参数,自动生成ebrb,并生成了一个可解释的分类网络用于样本分类。实验结果和对比分析表明,所提出的erin在可解释性和网络学习能力方面以及解决分类上具有优势。
1.一种用于生成扩展置信规则库的扩展规则推理网络,其特征在于包括:信息转换模块、ebrb系统构建模块、输入层、个体匹配聚合层、规则激活层和输出层;
2.如权利要求1所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述信息转换模块的处理方法包括如下步骤:
3.如权利要求2所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述构建ebrb系统的方法包括如下步骤:
4.如权利要求3所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述输入层的处理方法包括如下步骤:
5.如权利要求4所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述个体匹配聚合层的处理方法包括如下步骤:
6.如权利要求5所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述规则激活层的处理方法包括如下步骤:
7.如权利要求6所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述输出层的处理方法包括如下步骤:
8.如权利要求1所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述网络的参数更新包括属性权重规则权重θk(k=1,...,m)和结果的置信度更新;
9.如权利要求1所述的用于生成扩展置信规则库的扩展规则推理网络,其特征在于,所述erin的训练过程包括如下步骤: