SpineNet-6mA: 预测基因组DNA N6甲基腺嘌呤位点的先进深度学习工具.

paper：SpineNet-6mA: A Novel Deep Learning Tool for Predicting DNA N6-Methyladenine Sites in Genomes

0. TL; DR

SpineNet-6mA 将 SpinalNet 应用于生物序列数据。SpinalNet 采用渐进式输入设计，通过一个并行的双分支 CNN 结构来提取特征。这两个分支使用不同数量的卷积核，能够从不同层次捕捉序列信息，并将学习到的特征进行拼接，以获得更丰富的表示。

在两个水稻 6mA 基准数据集上，SpineNet-6mA 的性能全面优于所有现有的先进方法（如 iDNA6mA-rice 和 SNNRice6mA-large）。此外，通过跨物种测试，模型也证明了其良好的泛化能力。

1. 背景介绍

DNA N6-甲基腺嘌呤 (6mA) 是多种物种基因组中一种重要的表观遗传修饰。它通过在腺嘌呤环的第六个位置发生甲基化来实现，并在调控多种生物学过程（如限制-修饰 (restriction-modification) 系统、细胞防御、DNA 修复和复制等）中扮演着重要角色。现代研究表明，DNA 6mA 修饰的异常状态与人类癌症等疾病有关。

尽管已有一系列实验技术用于识别 6mA 位点，但它们通常耗时且成本高昂。因此，基于计算机的模拟 (in silico) 预测已成为一种重要的替代方法。

近年来，研究人员利用机器学习和深度学习算法，在识别水稻基因组中的 6mA 位点方面取得了不错的进展。

传统机器学习方法：如 iDNA6mA-PseKNC (基于 SVM), i6mA-Pred (基于 SVM), MM-6mAPred (基于马尔可夫模型), SDM6A (基于集成学习)。这些方法大多依赖于手工设计的特征。
深度学习方法：如 iDNA6mA 和 SNNRice6mA，它们使用 CNN 架构，并取得了比传统方法更好的性能。

然而，传统的深度神经网络 (DNNs) 存在梯度消失的问题，并且随着层数的增加，连接数会持续增长。为了克服这些问题，Kabir 等人提出了一种名为 SpinalNet 的新型 DNN 架构。

受 SpinalNet 成功的启发，作者首次将其应用于生物序列数据，提出了 SpineNet-6mA，一个用于预测水稻基因组中 6mA 位点的新型深度学习架构。该模型通过 CNN 自动学习高级抽象特征，并利用 SpinalNet 的独特结构进行分类，旨在实现比现有所有方法都更高的预测准确率。

2. SpineNet-6mA方法

作者提出的 SpineNet-6mA 是一个基于 CNN 和 SpinalNet 的新型深度学习模型。

2.1 数据集

作者使用了两个水稻 6mA 基准数据集：

6mA-rice-Lv：这是一个大规模数据集，包含154,000个阳性样本和154,000个阴性样本。
6mA-rice-Chen：这是一个较小的数据集，包含880个阳性样本和880个阴性样本，被广泛用于方法比较。

所有数据集中的序列长度均为41 bp，中心为 6mA 或非 6mA 位点。

2.2 SpinalNet

SpinalNet 是一种受人类脊髓结构启发的神经网络架构，其核心思想是渐进式输入 (gradual inputs)。

在传统的全连接网络中，每一层的神经元都与前一层的所有神经元相连，这导致参数量巨大，并且容易出现梯度消失问题。SpinalNet 的中间隐藏层被设计为只接收部分输入和前一层的输出。输入特征被分成多个部分。第一个隐藏层只接收第一部分输入。第二个隐藏层接收第二部分输入和第一个隐藏层的输出。依此类推，每个隐藏层都接收一部分新的输入和前一层的输出。

这种设计使得每个隐藏层的输入维度都相对较小，减少了参数量。同时，由于输入是逐步、重复地引入的，即使某个重要特征在某个隐藏层中没有被有效利用，它仍然有机会在后续的隐藏层中发挥作用。

2.3 SpineNet-6mA

SpineNet-6mA 的整体架构如图所示。

2.3.1 序列编码

作者采用了简单的二进制编码 (binary encoding)（即独热编码）将 DNA 序列转换为数值矩阵。

将 A, T, C, G 四种核苷酸分别表示为4维的二进制向量：$(1, 0, 0, 0), (0, 1, 0, 0), (0, 0, 1, 0), (0, 0, 0, 1)$。一个长度为41 bp的 DNA 序列被转换为一个 $4 \times 41$ 的矩阵。

2.3.2 双分支 CNN 特征提取

为了从不同层次提取特征，作者设计了一个并行的双分支 CNN 结构。

输入的编码矩阵首先经过一个共享的卷积层（conv0）。

分支1包含两个卷积层（conv1, conv2），卷积核数量分别为16和32。分支2同样包含两个卷积层（conv3, conv4），但卷积核数量更多，分别为64和128。

每个卷积层之后都接有批归一化 (batch normalization) 和最大池化 (max-pooling) 层。

两个分支的输出被分别展平 (flattened)，然后拼接成一个单一的特征向量。

2.3.3 SpinalNet 分类器

拼接后的960维特征向量被送入一个 SpinalNet 模块进行最终的分类。该模块包含6个隐藏层，每层有8个神经元。

960维的输入向量被平分为两部分，分别作为 SpinalNet 前两个隐藏层的初始输入。SpinalNet 的输出最终通过一个 sigmoid 函数，得到介于0和1之间的分类概率。

2.3.4 模型训练

使用随机梯度下降 (SGD)，学习率为0.001，动量为0.95。使用了一个学习率调度器，在训练10个周期后，如果验证集损失不再下降，则指数级地降低学习率。当验证集上的预测准确率连续30个周期没有提升时，训练将提前终止。

3. 实验分析

作者在两个水稻 6mA 基准数据集上，对 SpineNet-6mA 的性能进行了评估，并与现有的先进方法进行了比较。

3.1 在 6mA-rice-Lv 数据集上的性能比较

作者将 SpineNet-6mA 与两个现有的、在该数据集上表现最好的工具（iDNA6mA-rice 和 SNNRice6mA-large）进行了比较。

结果显示，SpineNet-6mA 在所有五个评估指标（sensitivity, specificity, accuracy, MCC, AUC）上均优于其他两个模型。与次优的 SNNRice6mA-large 相比，其准确率 (accuracy) 提升了2.27%（从92.04%到94.31%），MCC 提升了4%（从0.84到0.88）。

这些图直观地展示了 SpineNet-6mA 的优越性能。以柱状图的形式清晰地展示了 SpineNet-6mA 在各项指标上的领先。ROC 曲线显示，SpineNet-6mA 的 AUC 达到了0.9819，其曲线也完全包围了其他两个模型的曲线。

3.2 在 6mA-rice-Chen 数据集上的性能比较

为了进一步验证模型的鲁棒性，作者在另一个较小的数据集上，将 SpineNet-6mA 与六个其他知名的模型进行了比较。

结果显示，SpineNet-6mA 在所有评估指标上再次全面超越了所有其他方法。其准确率达到了94.77%，MCC 达到了0.8966，均为最高。

3.3 跨物种评估

为了检验模型在训练中未见过的物种上的泛化能力，作者将在水稻数据集上训练好的模型，直接用于测试另外两个蔷薇科物种（Rosa chinensis 和 Fragaria vesca）的数据。

在两个物种上，SpineNet-6mA 的性能都优于 iDNA6mA-rice 和 SNNRice6mA-large。例如，在 Rosa chinensis 数据集上，其准确率比 SNNRice6mA-large 高出4.07%。

以柱状图的形式直观地展示了 SpineNet-6mA 在跨物种测试中的性能优势。

SpineNet-6mA 不仅在训练过的物种上表现优异，而且具有良好的泛化能力，能够有效地应用于其他物种的 6mA 位点预测。

综上所述，SpineNet-6mA 通过其新颖的 SpinalNet 架构和双分支 CNN 特征提取器，成功地构建了一个在性能和泛化能力上均超越现有方法的 6mA 位点预测模型。