DeepSurv：深度学习+Cox回归 [github代码]

Minerva

发布于 2020-08-11 16:13:59

5.8K0

发布于 2020-08-11 16:13:59

文章被收录于专栏：Python编程和深度学习Python编程和深度学习

文章地址：https://link.springer.com/article/10.1186/s12874-018-0482-1

代码地址：https://github.com/czifan/DeepSurv.pytorch

1 背景

1.1 概要

生存预测模型探索的是患者的各个属性/特征与治疗效果之间的关系。这篇文章[2]之前的生存预测模型，像linear Cox proportional hazards model需要有专业的医学知识作为专业背景来构建特征工程，而另外的一些nonlinear survival methods，像neural networks/survival forests则没有在有效的推荐系统中得到实践证明。文中提出一种Cox proportional hazards deep neural network的生存模型DeepSurv，并且在模拟数据集及临床数据集上进行实验，证明了模型具有可比的或者最好的性能，此外还将该DeepSurv应用到治疗效果推荐系统上提供个性化推荐。

1.2 相关概念

生存数据： 一般生存数据由三部分组成：患者的基线数据

，死亡事件时间

，事件指标

。如果死亡事件发生了，则

代表的就是基线数据

与死亡事件发生之间的时间间隔，此时

E=1

。如果死亡事件没有发生，则

表示基线数据

与患者最后一次采集数据的时间间隔，此时

E=0

，这部分数据称为右删失(right-censored)。

生存函数（Survival Function）： 生存函数可以定义为

S(t)=Pr(T>t)

，其表示的是个体在时刻

生存的概率，其可以通过下式进行估计，

\hat{S}(t)=\frac{number\ of\ patients\ surviving\ longer\ than\ t}{total\ number\ of\ patients}.

密度函数（Density Function）： 密度函数可以定义为

f(t)=\lim_{\delta \rightarrow 0}\frac{Pr\left(t\leq T< t+\delta | T\geq t \right )}{\delta}

，其表示已经处在生存时间

的短暂时刻发生事件的概率，其估计方法为，

\hat{f}(t)=\frac{number\ of\ patients\ dying\ in\ the\ interval\ beginning\ at\ time\ t}{(total\ number\ of\ patients)\times(interval\ width)}.

风险函数（Hazard Function）： 风险函数用来衡量当前个体在时刻

之前没有发生任何事件的情况下，时刻

发生事件的概率，其可以定义为

\lambda(t)=\lim_{\delta \rightarrow 0}\frac{Pr\left(t\leq T< t+\delta\right)}{\delta}

，其估计方法为，

\hat{\lambda}(t)=\frac{number\ of\ patients\ dying\ in\ the\ interval\ beginning\ at\ time\ t}{(number\ of\ patients\ surviving\ at\ t)\times(interval\ width)}.

Cox比例风险回归模型： Cox比例风险回归模型是一种常用的方法，用于在给定基线数据

的情况下对个体的生存风险进行建模。该模型由两部分组成：只与时间相关的基线风险函数

\lambda_0(t)

和只与患者数据

1.3 Linear Survial Models

线性生存模型是把cox模型中的

h(x)

采用线性函数

\hat{h}_{\beta}(x)=\beta^Tx

进行建模，可以定义为，

L_c(\beta)=\prod_{i:E_i=1}\frac{exp(\hat{h}_{\beta}(x_i))}{\sum_{j\in \Re(T_i)}exp(\hat{h}_{\beta}(x_j))},

其中

T_i,E_i,x_i

分别表示事件事件、事件指标、第

个基准数据。上述式子定义在一组可观察到事件发生的患者上

E_i=1

，风险集合

\Re (t)=\{i:T_i\geq t\}

表示在时刻

仍然处于风险的患者集合。

1.4 NonLinear Survial Models

即

\hat{h}_{\theta}(x)

由非线性模型进行建模。

2 方法

2.1 DeepSurv

DeepSurv是一个多层感知机，模型的预测输出是一个值，代表患者的健康风险，其损失函数定义为，

l(\theta):=-\sum_{i:E_i=1}\left(\hat{h}_{\theta}(x_i)-log\sum_{j\in\Re(T_i)}e^{\hat{h}_{\theta}(x_j)} \right ),

文中将DeepSurv设计成了一个深度结构（可能有多层隐藏层），并且加入了权重衰减正则化、ReLU激活、batch normalization、SELU、dropout、SGD、Adam、梯度裁剪、学习率调整策略等当时比较新的技术。

2.2 治疗推荐系统

在一项临床研究中，患者根据其相关的预后特征和所接受的治疗具有不同程度的风险。文中把这个假设概括为，假设研究中的患者被分到

个治疗组

\tau \in \{0,1,\cdots,n-1\}

中的一个，每一个治疗方案

具有独立的风险函数

h_i(x)

。总的来说，风险函数变成了，

\lambda(t;x|\tau=i)=\lambda_0(t)\cdot e^{h_i(x)},

基于上述的假设，每一个个体拥有一样的初始风险函数

\lambda_0(t)

，我们可以用采用不同资料方案的风险率的对数来对比同一个体接受两种治疗方案的对比，其推导为，

rec_{ij}(x)=log\left(\frac{\lambda(t;x|\tau=i)}{\lambda(t;x|\tau=j)} \right )=log\left(\frac{\lambda_0(t)\cdot e^{h_i(x)}}{\lambda_0(t)\cdot e^{h_j(x)}} \right )=h_i(x)-h_j(x),

如果

rec_{ij}>0

，则说明

方案比

方案风险高，应该选择

方案，反之则反。

3 结果

我复现了文章中第4节在几个数据集上的结果，模型和训练的参数有稍微的调整，参数配置可以自己在配置文件里面修改，结果如下表所示。（代码托管在我的Github上[1]）

[1] https://github.com/czifan/DeepSurv.pytorch

[2] https://link.springer.com/article/10.1186/s12874-018-0482-1

本文参与腾讯云自媒体分享计划，分享自微信公众号。

原始发表：2020-08-08，如有侵权请联系 cloudcommunity@tencent.com 删除

https

网络安全

推荐系统

本文分享自 Python编程和深度学习微信公众号，前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体分享计划，欢迎热爱写作的你一起参与！

https

网络安全

推荐系统

登录后参与评论

0 条评论

热度