一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法及系统

文档序号:36490993发布日期:2023-12-26 19:32阅读:76来源:国知局
一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法及系统

本发明涉及一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法及系统,属于医疗健康信息。


背景技术:

1、生存分析是医学领域常用的时间-事件数据分析方法,用于分析和预测事件发生的时间,揭示协变量与结果之间的关系,对个体一段时间内的风险进行预测。传统的生存分析模型如cox比例回归模型(cph),假设患者的失败风险是患者协变量的线性组合。该假设并未模拟现实世界的非线性关系,尤其是患者生存时间与协变量之间的复杂关系,在许多应用中,例如提供个性化的治疗建议,假设风险函数是线性的可能过于简单。

2、为了解决cph的局限性,更好的对非线性数据进行建模,前人将机器学习和深度学习与生存分析相结合,神经网络能够更加精准的模拟现实存在的数据分布,从而拥有更加强大准确的泛化能力,david faraggi等人提出了一种将前馈神经网络与cph相结合的模型,它被视为cph的非线性拓展,但未能展示超出线性cox模型的改进。


技术实现思路

1、针对现有技术的不足,本发明提供了一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法。

2、本发明还提供了一种基于残差的自注意力深度神经网络的患者治疗方案推荐系统。

3、术语解释:

4、1、whas:worcester heart attack study,是一个重要的心血管疾病研究数据集。

5、2、support:study to understand prognoses preferences outcomes andrisks of treatment,是一个旨在了解治疗的预后、患者偏好、治疗结果和风险等方面的研究数据集。

6、3、metabric:molecular taxonomy of breast cancer internationalconsortium(metabric)是一个旨在了解乳腺癌的分子分类和分子特征的研究数据集。

7、4、rotterdam&gbgs:rotterdam&german breast cancer study group,是一个用于乳腺癌研究的重要数据资源。

8、5、cph,cox proportional hazard model,cox比例回归模型。

9、6、rsf:random survival forests,随机生存森林。

10、7、deepsurv:深度全连接生存网络。

11、本发明的技术方案为:

12、一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法,包括:

13、获取患者的生存数据,将生存数据进行预处理后输入训练好的生存模型中,得到该患者的治疗方案。

14、根据本发明优选的,预处理,包括:缺失值处理、特征类型转换、特征编码。

15、根据本发明优选的,生存数据包括三个元素:m维向量x、失效事件发生时间y和事件终点标志e;

16、定义一个生存数据集d,生存数据集d包括若干生存数据;生存数据集d的一个实例为{xi,yi,ei},i∈(1,n),其中,xi是第i个数据的特征向量,n为数据集d中的样本数量;则m维向量x用一个矩阵表示:

17、其中,n是患者样本的数量,m是生存数据集d中患者特征的数量;x的每一行,被视为特征向量,代表一个患者样本x,其中,第i个坐标对应第i个患者的特征;对于生存数据集d的标签,如果ei等于1,则感兴趣的事件已经发生;如果ei等于0,则随访者未经历该事件;若随访者在随访期间经历了感兴趣事件,则其观察时间yi为生存时间ti;若感兴趣事件没有发生,则其观察时间yi为随访截止时间ci,yi和ei的关系为:

18、失效事件发生时间y和事件终点标志e分别定义为:y=[y1,y2,y3,…yi…,yn];e=[e1,e2,e3,…ei…,en]。

19、根据本发明优选的,生存模型包括依次连接的输入层、残差单元层和注意力机制层;残差单元层包括若干残差单元;每个残差单元包括两个线性层、batch normalization层和relu函数;

20、在输入层,对生存数据进行初始映射,将生存数据从原始表示空间以特征矩阵的形式映射到生存模型中的特征空间;

21、输入层输出的数据进入残差单元层,采用两个线性层来进行特征变换,其中每个线性层包含权重和偏差,用于对数据进行线性变换,使用残差连接(residual connection)和batch normalization层实现特征交叉,如式(i)所示:

22、xl+1=f(xl,{wl,wl+1})+xl  (i)

23、式(i)中,wl,wl+1是前后两个线性层的参数,f表示将残差单元的输入xl映射到输出xl+1的函数;

24、注意力机制层定义如式(ii)、(iii)所示:

25、a=softmax(xixi;)  (ii)

26、xo=axi  (iii)

27、式(ii)、(iii)中,xi是注意力机制层的输入,xo是注意力机制层的输出,a是注意力权重;该注意力权重通过softmax函数进行归一化,使得注意力权重的和为1,并且每个权重的取值范围在0到1之间;

28、生存模型输出每个观察对象的风险分数,表示在给定时间点t处事件发生的风险或危险性的分数。

29、根据本发明优选的,通过线性函数估计风险函数h(x),定义如式(iv)所示:

30、

31、式(iv)中,h0(t)是非参数基线危险,是一个仅与时间有关的函数,是无分布的或参数化的,并且是相对风险函数,在式(iv)中是时间不变的,给定在时间yi时仍处于风险中的个体集合,部分似然是事件发生在个体i的每个事件时间yi的概率的乘积,因此,生存模型的目标函数是局部似然函数,并且定义为式(v):

32、

33、式(v)中,r(yi)表示满足yj>yi的条件;部分似然损失函数的目标是最大化cox模型的偏似然估计,让已经发生的事件出现的可能性最大,因此,通过使用负对数似然作为训练生存模型的损失函数来优化生存模型参数,因此对应的损失函数如式(vi)所示:

34、

35、患者在接受不同的治疗方案时面对不同的治疗风险,假设每种治疗方案都有其独自的风险函数定义为hi(x),使用训练好的生存模型,将患者的特征x作为输入,得出不同治疗方案的风险评估;使用危险差来计算采用治疗方案i而非治疗方案j的风险,推荐函数定义为式(vii):

36、recij=hi(x)-hj(x)  (vii)。

37、一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法的步骤。

38、一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现基于基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐方法的步骤。

39、一种基于残差的自注意力深度神经网络的生存模型的患者治疗方案推荐系统,包括:

40、生存数据获取模块,被配置为:获取患者的生存数据;

41、生存数据预处理模块,被配置为:对生存数据进行预处理;

42、患者治疗方案推荐模块,被配置为:将生存数据预处理后输入训练好的生存模型中,得到该患者的治疗方案。

43、本发明的有益效果为:

44、本发明提出了一种基于残差的自注意力深度神经网络的生存模型,将神经网络与cox比例回归模型相结合,在没有任何前提假设的情况下,使用残差块和自注意力机制的神经网络来更好的对生存时间的分布以及协变量与结果之间的非线性关系进行直接建模。将本发明与之前的三个模型的性能进行了比较,结果表明本发明优于其他三种方法。此外,还证明,本发明在预测个性化治疗建议方面的有效性。

当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1