i4mC-GRU：使用双向门控循环单元与序列嵌入特征识别小鼠基因组中的DNA N4甲基胞嘧啶位点.

0. TL; DR

i4mC-GRU 使用门控循环单元 (gated recurrent unit, GRU) 和双联序列嵌入特征 (duplet sequence-embedded features) 来预测小鼠基因组中潜在的 4mC 位点。

为了公平地评估模型的性能，作者在两个不同的基准数据集上，将 i4mC-GRU 与多种先进的方法（包括基于传统机器学习的 iDNA4mC, 4mCpred-EL 和基于深度学习的 4mCPred-CNN, MSNET-4mC）进行了比较。结果显示，iDNA4mC-GRU 的性能优于所有现有方法。

1. 背景介绍

表观遗传学研究环境对基因功能的影响。DNA 甲基化作为一种表观遗传事件，在染色质修饰、DNA 稳定、基因表达调控等多种生物学过程中扮演着至关重要的角色。

N4-甲基胞嘧啶 (4mC) 是在原核和真核基因组中发现的三种最常见的 DNA 甲基化修饰之一。它在 DNA 复制和修复、细胞周期、控制基因表达水平等方面发挥着重要的生物学作用。由于其在生物学中的重要性，准确识别其在基因组中的位置，对于揭示未探索的生理和病理途径至关重要。

尽管存在单分子实时 (SMRT) 测序等实验方法来确定 4mC 位点，但这些方法通常成本高昂且耗时。因此，开发计算机模拟方法来辅助实验生物学家确定 DNA 序列中的 4mC 位点变得越来越重要。

近年来，已有一系列基于机器学习和深度学习的计算方法被发布出来，用于识别 DNA 序列中的 4mC 位点。例如，iDNA4mC 和 4mCPred 是基于 SVM 的传统机器学习方法；而 4mCPred-CNN 和 MSNET-4mC 则是基于深度学习的模型。尽管这些方法取得了令人满意的成果，但仍有很大的改进空间。

为此，作者提出了一个更有效的计算模型，名为 i4mC-GRU。该模型旨在通过双向门控循环单元 (bidirectional gated recurrent unit, Bi-GRU) 结合双联序列嵌入特征 (duplet sequence-embedded features)，来预测小鼠基因组中的潜在 4mC 位点。

2. i4mC-GRU 方法

作者提出的 i4mC-GRU 模型是一个基于 Bi-GRU 网络的深度学习模型，其核心在于独特的序列表示方法和网络架构。

2.1 基准数据集

作者使用了两个独立的基准数据集进行模型开发和评估。

2.1.1 数据集 A

从 MethSMRT 数据库收集序列样本，并使用 CD-HIT (80%) 移除相似序列。由于原始数据集中只包含阳性样本（中心为 4mC 的41 bp序列），作者通过以下步骤生成了伪负样本：

  1. 截断 (Truncation)：使用一个35 bp的窗口在原始的41 bp阳性序列上滑动，捕获所有中心为普通胞嘧啶 (C) 的35 bp序列作为伪负样本的“核心”。
  2. 填充 (Padding)：为了使伪负样本的长度恢复到41 bp，作者设计了一种基于频率的填充策略。首先，统计原始阳性序列两端“三联体”与其相邻“双联体”的共现频率，构建一个查找表。然后，根据伪负样本两端的“双联体”，从查找表中按频率加权随机选择一个“三联体”进行填充。

2.1.2 数据集 B

这是一个由 Manavalan et al. 提出的公开数据集，同样来源于 MethSMRT 数据库，并经过了 CD-HIT (70%) 去冗余处理。该数据集直接包含了阳性样本和从非 4mC 序列中随机抽取的阴性样本。

2.2 序列嵌入特征

首先，构建一个包含所有可能的核酸双联体 (duplet)（如 AA, AC, …, TT）及其对应索引的查找表。使用一个大小为2的滑动窗口遍历整个41 bp的 DNA 序列，将其转换为一个由40个双联体组成的“密钥向量”。然后，将每个双联体替换为其在查找表中的索引，最终得到一个长度为40的索引向量 (index vector)。这个索引向量将作为模型的输入。

2.3 模型架构

i4mC-GRU 的模型架构如图所示。

输入的索引向量首先通过一个嵌入层，将其映射为一个 $40 \times 64$ 的嵌入矩阵。对嵌入矩阵进行归一化。归一化后的矩阵被送入一个包含两层的 Bi-GRU 网络。

GRU 是一种比 LSTM 更轻量级的循环神经网络，它通过更新门和重置门来控制信息流，能够高效地捕捉序列数据中的上下文信息。Bi-GRU 则通过从前向和后向两个方向处理序列来增强这种能力。

经过 Bi-GRU 处理后，特征被一个扁平化 (Flatten) 层展平。然后，特征被送入一个全连接层（FC1），并使用 LeakyReLU 激活函数。最后，一个使用 sigmoid 激活函数的输出层返回最终的分类概率。

2.4 模型训练

使用二元交叉熵 (binary cross-entropy) 作为损失函数。

\[\text{Loss} = \sum_{i=1}^{n} (y_i \times \log(\hat{y}_i) + (1-y_i) \times \log(1-\hat{y}_i))\]

使用 Adam 优化器，学习率为 $1 \times 10^{-4}$。模型使用 PyTorch 1.3.1 实现，并在 Google Colab 上进行训练。

3. 实验分析

作者将 i4mC-GRU 与五个其他方法（包括两个传统机器学习方法 iDNA4mC, 4mCpred-EL 和三个深度学习方法 4mCPred-CNN, MSNET-4mC, Deep-4mCGP）在两个基准数据集上进行了比较。

3.1 比较分析

该表展示了所有六种方法在两个独立测试集（Dataset A 和 Dataset B）上的详细性能指标。

在 Dataset A 上i4mC-GRU 在所有七个评估指标上均表现最佳。其 AUCROC 和 AUCPR 分别达到了0.9732和0.9788。4mCPred-CNN 作为次优模型，其性能也相当不错，但仍低于 i4mC-GRU。

在 Dataset B 上尽管所有模型在该数据集上的性能都有所下降（可能是由于数据量较小或数据分布差异），但 i4mC-GRU 仍然在所有指标上保持领先。其 AUCROC 和 AUCPR 分别达到了0.8877和0.8993。

通过 ROC 曲线和 PR 曲线直观地展示了各模型在两个数据集上的性能。i4mC-GRU 的曲线都明显地包围了其他所有方法的曲线，再次证明了其优越的性能。

3.2 讨论

作者对 i4mC-GRU 取得优越性能的原因进行了分析：

  1. 有效的架构设计：与基于传统机器学习的方法（如 iDNA4mC 和 4mCpred-EL）相比，i4mC-GRU 的深度学习架构能够自动学习特征，避免了复杂且可能低效的特征工程。
  2. 适合序列数据的模型：与基于 CNN 的模型（如 4mCPred-CNN）相比，GRU 是一种循环神经网络，它天生更适合处理具有顺序依赖性的生物序列数据。
  3. 轻量级且高效：与更复杂的混合模型（如 Deep-4mCGP）或需要更大感受野的模型（如 MSNET-4mC）相比，i4mC-GRU 的架构相对简单，计算效率更高，在数据量不是特别巨大的情况下可能更容易训练和优化。

综上所述，i4mC-GRU 通过其独特的双联序列嵌入特征和高效的 Bi-GRU 网络，在预测小鼠基因组中的 4mC 位点任务上，取得了超越现有所有先进方法的性能，证明了其作为一个高效、鲁棒且稳定的预测工具的价值。