0. TL; DR

DeepMethyGene 是一个基于 ResNet 的自适应递归卷积神经网络模型，用于利用 DNA 甲基化信息预测基因表达。该模型根据输入维度动态调整输出通道，并实施残差块来缓解梯度消失问题。

预测基因表达方面DeepMethyGene显著优于 geneEXPLORE, SVM 和随机森林等模型。在多个独立的 TCGA 癌症数据集（COAD, GBM, LUAD）上进行验证，DeepMethyGene 均表现出与在训练集（BRCA）上相当的优异性能，证明了其强大的泛化能力和鲁棒性。

1. 背景介绍

基因表达是将遗传信息转化为生物功能的基本过程，对生物体的生长、发育和功能调控至关重要。异常的基因表达在包括癌症在内的许多疾病的发生和发展中扮演着关键角色。通过准确预测基因表达模式，研究人员可以揭示疾病特异性的分子机制，为疾病的预防、早期诊断和治疗提供有价值的见解。

DNA 甲基化是一种重要的表观遗传修饰，它通过在 DNA 的胞嘧啶上添加甲基基团来调控基因表达。甲基化模式的改变，特别是基因启动子区域的异常甲基化，通常与多种疾病的发生有关，并可以作为肿瘤的生物标志物。因此，深入研究甲基化对基因表达的影响，不仅有助于理解复杂的基因调控机制，也可能为治疗各种疾病（特别是癌症和遗传性疾病）提供新的视角和方法。

近年来，机器学习，特别是深度学习，已广泛应用于生物学领域。在基因调控和表观遗传学分析中，卷积神经网络、图卷积网络等技术已被用于解决各种挑战。然而，在利用 DNA 甲基化预测基因表达方面，现有的研究仍存在一些局限性。

例如，一些研究只关注启动子区域的甲基化，忽略了远端调控元件（如增强子）的影响。而 geneEXPLORE 模型虽然强调了长距离 DNA 甲基化的重要性，但其预测准确性（$R^2$ 仅为0.491）仍有提升空间。此外，现有模型的静态架构在处理不同输入维度时缺乏灵活性，可能导致计算资源浪费或信息丢失。

因此，作者提出了 DeepMethyGene，旨在通过使用可变卷积核和残差网络块来构建一个模型，以进一步提高基于甲基化预测基因表达的准确性。

2. DeepMethyGene 方法

作者提出了 DeepMethyGene，一个基于自适应递归卷积神经网络架构的预测模型，该架构的灵感来源于 ResNet。

2.1 数据集与预处理

作者使用了来自 TCGA 的多种癌症类型的 DNA 甲基化（450K 芯片）和 RNA 测序数据，包括乳腺癌（BRCA）、结肠癌（COAD）、胶质母细胞瘤（GBM）和肺腺癌（LUAD）。其中，BRCA 数据集（包含873个样本）作为主要的训练集和核心分析数据集。

对数据进行过滤和缺失值插补，并将甲基化水平从 Beta 值转换为 M 值，以获得更接近高斯分布的数据，从而提高模型的统计特性和预测稳定性。根据表达水平和启动子区域探针信息对数据进行过滤，以获得具有高度代表性的探针和基因。

2.2 DeepMethyGene 模型

DeepMethyGene 的核心是一个名为 AdaptiveRegressionCNN 的自适应回归 CNN 架构。该模型专为处理一维输入数据而设计，非常适合时间序列分析和信号处理。

2.2.1 自适应回归 CNN 架构

该架构主要由卷积层和残差块组成。对于每个基因，输入是其转录起始位点 (TSS) 左右各1 Mb范围内的所有甲基化位点的数据。由于不同基因周围的甲基化位点数量不同，因此输入维度是可变的。

为了有效处理不同维度的输入，作者设计了一种动态通道分配策略。第一个卷积层会根据输入大小自适应地调整其输出通道数（最少64个），而后续层则将通道数减少到最少32个。

在卷积层之间，模型集成了残差块。每个残差块由两个一维卷积层（Conv1d）构成，卷积核大小为3，填充为1，以保持数据维度不变。每个卷积层后都跟随一个 LeakyReLU 激活函数。残差块通过建立卷积层输出与原始输入之间的直接连接，显著增强了深度网络训练的稳定性，有效缓解了梯度消失或爆炸的问题。

经过两个卷积层和两个残差块的特征提取后，特征图被送入一个动态确定维度的全连接层，最后通过一个单神经元的输出层计算出最终的回归预测值（即基因表达水平）。

2.2.2 模型训练

模型使用 Adam 优化器进行优化，学习率为0.001。损失函数为均方误差损失 (MSELoss)。通过五折交叉验证来评估性能，主要指标为皮尔逊相关系数和 $R^2$。训练过程最多进行700个周期，并采用早停 (early stopping) 策略（耐心值为90）来防止过拟合。

3. 实验分析

作者通过一系列详尽的实验，评估了 DeepMethyGene 的性能，并与其他方法进行了比较。

3.1 DeepMethyGene 使用 DNA 甲基化准确预测基因表达

作者使用五折交叉验证，在包含13,982个基因的数据集上，比较了 DeepMethyGene, geneEXPLORE, SVM 和随机森林 (Random Forest) 四种模型的性能。

结果显示，DeepMethyGene 表现出最高的预测性能，其平均 $R^2$ 值达到了0.640，显著高于 geneEXPLORE (0.449), SVM (0.327) 和随机森林 (0.374)。

为了评估卷积层的贡献，作者还进行了一项消融研究，构建了一个不含卷积层的 DeepMethyGene 变体（NoConvLayer）。结果显示，移除卷积层后，性能大幅下降（平均 $R^2$ 降至0.360），这突显了卷积层在增强模型性能中的重要作用。

作者考虑了数据集中同时包含癌症和正常样本可能带来的异质性影响。为此，作者仅使用正常样本重新训练了模型。结果显示，仅使用正常样本训练的模型（$R^2 = 0.628$）与使用所有样本训练的模型（$R^2 = 0.640$）性能相当。这表明模型的性能受样本异质性的影响较小。因此，作者选择使用包含更多样本的完整数据集进行后续分析。

为了评估模型的泛化能力，作者在三个独立的癌症数据集（COAD, GBM, LUAD）上评估了在 BRCA 数据集上训练好的模型。结果显示，模型在这三个数据集上的预测性能（$R^2$ 分别为 0.668, 0.696, 0.640）与在 BRCA 数据集上的性能相当。这证明了 DeepMethyGene 具有良好的泛化能力和鲁棒性，能够适用于不同的癌症类型。

3.2 预测性能受基因附近 CpG 数量的影响

作者分析了基因附近1 Mb范围内的甲基化位点数量与预测性能的关系。结果显示，DeepMethyGene 在甲基化位点密度相对较低的区域，其性能优势相较于 geneEXPLORE 更为明显。

图B展示了两个模型 $R^2$ 值的差异（Compare = $R^2(\text{DeepMethyGene}) - R^2(\text{geneEXPLORE})$）与甲基化位点数量的关系。结果显示，随着甲基化位点数量的增加，DeepMethyGene 相对于 geneEXPLORE 的性能优势在减小。这种负相关关系表明，密集的甲基化模式可能会引入信号复杂性，从而影响 DeepMethyGene 的预测准确性。

3.3 预测性能与 CpG 和基因之间的距离相关

作者进一步分析了甲基化位点与基因转录起始位点 (TSS) 的平均距离对预测性能的影响。结果表明，当甲基化位点距离 TSS 较近时，DeepMethyGene 的性能往往优于 geneEXPLORE。

图B展示了两个模型 $R^2$ 值差异与平均距离的关系。结果清晰地显示，平均距离越小，DeepMethyGene 的性能优势越明显。这种空间依赖性表明，甲基化位点在 TSS 周围的分布对模型的性能有显著影响。DeepMethyGene 在近端区域预测准确性的提升，可能反映了其捕捉局部调控模式的更强能力。