多任务深度自编码器利用外周血时序DNA甲基化数据预测阿尔兹海默症进展.

paper：Multi-task deep autoencoder to predict Alzheimer’s disease progression using temporal DNA methylation data in peripheral blood

0. TL; DR

本文将多任务学习 (Multi-Task Learning, MTL) 应用于纵向 DNA 甲基化数据的阿尔茨海默病AD进展预测。模型被设计为同时执行两个任务：主任务是预测 AD 进展，辅助任务是重构输入的时序甲基化数据。这种共享表示的框架能够有效减少过拟合，并提升模型性能。

作者开发了两种多任务深度自编码器，MT-CAE (Multi-Task Convolutional AutoEncoder)利用卷积操作来同时捕捉甲基化数据的空间和时间依赖性。MT-LSTMAE (Multi-Task Long Short-Term Memory AutoEncoder)利用堆叠的 LSTM 层来学习高阶的非线性时间依赖性。

在阿尔茨海默病神经影像学倡议的纵向 DNA 甲基化数据上进行基准测试，在预测 AD 进展和重构时序 DNA 甲基化谱方面，均优于现有的先进机器学习方法。研究证明，仅使用历史的 DNA 甲基化数据就能准确地预测 AD 进展，而包含所有时序 DNA 甲基化数据可以进一步提高性能。

1. 背景介绍

阿尔茨海默病 (AD) 的病理特征包括大脑中的淀粉样蛋白-β (Aβ) 沉积、tau 蛋白的过度磷酸化以及神经炎症。因此，脑成像（如 MRI, PET）和脑脊液（CSF）生物标志物是目前主要的 AD 诊断方法。然而，这些方法要么成本高昂，要么具有侵入性，限制了它们的广泛应用。

利用从外周组织（如血液）获得的生物标志物，因其无创和易于获取的特点，成为一个极具吸引力的替代方案。越来越多的证据表明，表观遗传学，特别是 DNA 甲基化，在 AD 的发病和进展中扮演着重要角色。

阿尔茨海默病神经影像学倡议 (ADNI) 最近提供了一个大型队列，其中包含从血液样本中收集的纵向 DNA 甲基化数据。这些数据为我们理解外周 DNA 甲基化动态与 AD 诊断和进展的关系，以及预测哪些个体更容易发展为 AD 提供了前所未有的机会。

然而，利用纵向 DNA 甲基化数据来预测 AD 进展面临着诸多挑战：

高维度：DNA 甲基化数据维度极高（数十万个 CpG 位点），给预测建模带来了巨大挑战。
时空相关性：纵向的甲基化数据在空间（不同 CpG 位点之间）和时间（不同时间点之间）上都存在非线性的相关性。
缺乏专用模型：尽管已有研究使用深度学习分析 AD 的影像数据或临床数据，但很少有研究专门针对高维、时序的甲基化数据来预测 AD 进展。

为此，作者提出了两种基于多任务学习 (Multi-task learning, MTL) 的深度自编码器模型 MT-CAE 和 MT-LSTMAE。这些模型旨在通过一个统一的框架，同时完成对 AD 进展的预测和对原始时序甲基化数据的重构，从而更有效地学习数据的压缩特征表示，并提升预测性能。

2. MT-CAE 和 MT-LSTMAE

2.1 纵向 DNA 甲基化数据

ADNI 队列，包含649名受试者在多个时间点（最多5次，间隔约1年）的外周血 DNA 甲基化数据（EPIC 芯片）。使用 ChAMP R包进行归一化、批次校正和细胞类型校正。

CN-to-MCI 转换：将从认知正常 (CN) 转换为轻度认知障碍 (MCI) 的受试者作为阳性样本，始终保持 CN 的受试者作为阴性样本。
MCI-to-AD 转换：将从 MCI 转换为痴呆 (AD) 的受试者作为阳性样本，始终保持 MCI 的受试者作为阴性样本。

由于 CpG 位点数量巨大，作者采用了一种基于方差比率的简单特征选择方法，选取了差异最大的前 $n$ 个 CpG 位点作为模型的输入特征。

2.2 多任务深度自编码器架构

作者提出的两种多任务深度自编码器MT-CAE 和 MT-LSTMAE，其核心思想是利用自编码器 (autoencoder) 进行特征降维，并将其与一个分类任务在一个多任务学习 (MTL) 框架下进行联合优化。两种模型的都由一个编码器 (encoder)、一个解码器 (decoder) 和一个分类器 (classifier) 组成。

2.2.1 多任务卷积自编码器 (MT-CAE)

将一个受试者的时序 DNA 甲基化数据格式化为一个二维图像，其中行为时间步，列为 CpG 特征。

编码器由两个卷积 (convolutional) 层和一个最大池化 (maxpooling) 层组成。卷积核沿着时间轴滑动，从而能够同时捕捉特征维度上的空间依赖性和时间维度上的时间依赖性。最终，编码器输出一个一维的压缩特征表示 $z$。

解码器将特征表示 $z$ 通过上采样 (upsampling) 和两个转置卷积 (transposed convolutional) 层，来重构原始的二维时序甲基化数据 $\hat{X}$。

分类器将特征表示 $z$ 送入一个前馈神经网络，通过 softmax 激活函数预测 AD 的进展概率。

2.2.2 多任务 LSTM 自编码器 (MT-LSTMAE)

编码器由两个堆叠的 LSTM 层组成。第一个 LSTM 层接收每个时间点的甲基化谱作为输入，并为每个时间步生成一个输出。第二个 LSTM 层接收第一个 LSTM 层的输出序列，并只在最后一个时间步 $T$ 输出一个最终的隐藏状态 $h^2_T$，作为整个时序数据的压缩特征表示。

解码器由一个 LSTM 层和多个共享权重的全连接层组成。它将编码器输出的 $h^2_T$ 复制 $T$ 次作为输入，并尝试在每个时间步重构原始的甲基化谱。

分类器与 MT-CAE 类似，将特征表示 $h^2_T$ 送入一个前馈神经网络进行分类。

2.2.3 混合损失函数

为了实现多任务学习，作者设计了一个混合损失函数 $L_T$，它是预测损失 (prediction loss) $L_P$ 和重构损失 (reconstruction loss) $L_R$ 的加权平均。

预测损失 $L_P$ 使用二元交叉熵 (binary cross-entropy)。

\[L_P = -\frac{1}{n} \sum_{i=1}^{n} \left[ y_i \log(p(y_i)) + (1-y_i) \log(1-p(y_i)) \right]\]

重构损失 $L_R$使用均方误差 (mean squared error)。

\[L_R = \frac{1}{n} \|X - \hat{X}\|^2 = \frac{1}{n} \sum_{i=1}^{n} \sum_{j=1}^{p} (x_{ij} - \hat{x}_{ij})^2\]

总损失 $L_T$:

\[L_T = \alpha L_P + (1-\alpha) L_R\]

其中，权重 $\alpha$ 是一个超参数。通过最小化这个混合损失函数，模型被激励去学习那些既能很好地重构原始数据，又能准确地预测 AD 进展的特征表示。

3. 实验分析

3.1 预测性能与现有机器学习方法的比较

作者将 MT-CAE 和 MT-LSTMAE 与八种经典的深度学习方法（如 CNN, LSTM, BiLSTM, CNNLSTM）以及随机森林 (Random Forest) 进行了性能比较。

图 A (CN-to-MCI 预测): 在使用未缩放 (unscaled) 的 beta 值时，MT-CAE 和 MT-LSTMAE 的性能遥遥领先，其中位 AUC 分别达到了0.996和0.991，显著优于所有其他方法。在使用缩放后 (scaled) 的 beta 值时，所有模型的性能都出现了下降，但 MT-CAE 的表现仍然是最好的之一。
图 B (MCI-to-AD 预测): 趋势与 CN-to-MCI 预测相似。在使用未缩放的 beta 值时，MT-LSTMAE 和 MT-CAE 再次取得了最佳性能。

作者提出的两种多任务深度自编码器在预测 AD 进展方面，显著优于经典的深度学习方法。此外，使用未缩放的 beta 值作为输入，通常能取得更好的性能。

3.2 多任务学习 vs. 单任务学习

为了验证多任务学习的优势，作者将其与对应的单任务 (single-task) 学习方法进行了比较。单任务方法采用两步策略：先用自编码器提取特征，再用一个独立的分类器进行预测。

结果清晰地显示，无论是 MT-CAE vs. CAE，还是 MT-LSTMAE vs. LSTMAE，多任务模型的性能都显著优于其单任务的对应版本。例如，在 CN-to-MCI 预测中（使用未缩放 beta 值），MT-LSTMAE 的中位 AUC (0.991) 远高于 LSTMAE (0.580)。

多任务学习通过联合优化预测和重构两个任务，能够学习到更优的特征表示，从而显著提升预测性能。

3.3 时序信息对 AD 进展预测的提升

作者比较了使用全部时序数据和仅使用历史数据（即第一个时间点的数据）进行预测的性能差异。

结果显示，即使仅使用历史数据，模型也能实现相当准确的预测（例如，MT-LSTMAE_1t 的 AUC 达到了0.956）。然而，在所有模型中，使用全部时序数据的性能都一致地优于仅使用历史数据。

时序信息对于 AD 进展的预测至关重要，包含所有时间点的甲基化数据能够进一步提升预测的准确性。

3.4 多任务深度自编码器对时序甲基化数据的重构能力

作者评估了模型在辅助任务重构时序甲基化数据上的性能，并与标准的自编码器（AE）进行了比较。

在所有情况下，MT-CAE 和 MT-LSTMAE 的重构性能（以皮尔逊相关系数 R 和 MSE 衡量）都优于标准的 AE。MT-LSTMAE 的重构性能是最好的，在使用未缩放 beta 值时，其 R 值最高可达0.996。同样，使用未缩放的 beta 值能够显著提高所有模型的重构性能。

多任务学习不仅提升了主任务（预测）的性能，也提升了辅助任务（重构）的性能。

3.5 特征大小对性能的敏感性分析

作者评估了输入特征数量（1000, 2000, 4000个 CpG 位点）对模型性能的影响。

增加特征数量对所有方法的性能影响有限，尤其是在使用未缩放 beta 值时。这表明，1000个信息最丰富的 CpG 位点已经足以构建高性能的预测模型。

综上所述，该研究成功地开发了两种基于多任务深度自编码器的新型深度学习模型。它们不仅在预测阿尔茨海默病进展方面超越了现有的机器学习方法，还在数据重构方面表现出色，为利用外周血时序 DNA 甲基化数据进行疾病诊断和机制研究提供了强大的新工具。