BiLSTM-5mC: 预测基因组范围DNA启动子5甲基胞嘧啶位点的双向长短期记忆网络.

• paper：BiLSTM-5mC: A Bidirectional Long Short-Term Memory-Based Approach for Predicting 5-Methylcytosine Sites in Genome-Wide DNA Promoters

0. TL; DR

BiLSTM-5mC 用于准确识别全基因组 DNA 启动子中的 5mC 位点。该方法首先将阴性样本随机分为11个大小相等的子集，并将其一与等量的阳性样本结合形成平衡子集。然后，使用独热编码 (one-hot) 和核苷酸性质与频率 (NPF) 两种方法编码的特征向量被送入一个双向长短期记忆 (BiLSTM) 网络和一个全连接层，以训练22个子模型。最后，通过多数投票 (majority vote) 策略整合这些模型的输出来预测 5mC 位点。

实验结果表明，在相同的独立测试集上，BiLSTM-5mC 的性能优于现有的方法（如 iPromoter-5mC 和 5mC_Pred），其 MCC 达到了0.6384，AUC 达到了0.9635。

1. 背景介绍

DNA 甲基化是研究最深入的表观遗传修饰之一，在哺乳动物发育以及多种关键生物学过程中扮演着重要角色。目前，三种最常见的 DNA 甲基化类型是 N6-甲基腺嘌呤 (6mA)、N4-甲基胞嘧啶 (4mC) 和 5-甲基胞嘧啶 (5mC)。其中，5mC 是在 DNA 甲基转移酶的作用下，将一个甲基基团连接到胞嘧啶嘧啶环的第五位碳原子上。

越来越多的研究发现，启动子和调控区域的异常 DNA 甲基化与多种人类疾病有关。例如，DNA 甲基化模式的改变与系统性红斑狼疮等自身免疫性风湿病的发生有关。此外，DNA 甲基化水平还可以作为衰老的生物标志物，用于估算任何组织和细胞类型的年龄，形成精确的表观遗传时钟 (epigenetic clock)。更重要的是，DNA 甲基化水平的改变在致癌作用中起着关键作用。全基因组的低甲基化 (hypomethylation) 和肿瘤抑制基因启动子的局部高甲基化 (hypermethylation) 是癌细胞的共同表观遗传特征。

因此，准确识别全基因组 DNA 启动子中的 5mC 位点对于理解 DNA 甲基化在人类遗传疾病（如衰老和癌症）中的机制和功能至关重要。

尽管存在多种高通量测序技术（如亚硫酸氢盐测序）来检测 5mC 位点，但这些实验方法通常耗时且费力。因此，迫切需要探索有效的计算方法来识别 5mC 位点。近年来，已经有一些基于机器学习的预测模型被提出，如 Methylator, MethCGI 和 iDNA-Methyl。最近，iPromoter-5mC 和 5mC_Pred 等工具开始专注于启动子区域的 5mC 位点预测。然而，这些基于机器学习的工具需要花费大量时间来提取特征和选择最优特征子集。

为此，作者提出了一个名为 BiLSTM-5mC 的新型深度学习框架，旨在进一步提升在全基因组 DNA 启动子中检测 5mC 位点的性能。

2. BiLSTM-5mC方法

BiLSTM-5mC 的核心是一个集成了两种特征编码方案和双向长短期记忆 (BiLSTM) 网络的深度学习框架，并通过多数投票策略进行集成决策。

2.1 基准数据集

作者直接使用了由 Zhang et al. 构建的基准数据集。数据来源于癌症细胞系百科全书 (CCLE) 数据库中小细胞肺癌 (SCLC) 的全基因组启动子。

样本包含69,750个阳性（5mC）样本和823,576个阴性（非 5mC）样本。所有样本都是长度为41 nt的核苷酸序列，中心为待预测的胞嘧啶。

阳性样本和阴性样本的比例约为1:11。这种不平衡的数据能够更客观地反映 5mC 在启动子区域的真实分布。数据被随机分为训练集和独立测试集。

2.2 特征编码方案

作者采用了两种有效的特征编码方案来表示 DNA 序列。

2.2.1 独热编码 (One-Hot Encoding)

独热编码是一种简单而有效的特征表示方案，用于描述 DNA 序列的核苷酸组成。它将 A, C, G, T 四种核苷酸分别表示为 (1,0,0,0), (0,1,0,0), (0,0,1,0) 和 (0,0,0,1)。一个长度为41 nt的 DNA 样本被编码为一个 $41 \times 4$ 维的向量。

2.2.2 核苷酸性质与频率 (NPF)

NPF 编码方案不仅考虑了核苷酸的化学性质，还包含了序列顺序和位置特异性信息。对于序列中的第 $i$ 个核苷酸 $n_i$，它被表示为一个四维向量 $(x_i, y_i, z_i, d_i)$。

其中$x_i, y_i, z_i$ 分别代表该核苷酸的环结构 (ring structure)、化学官能团 (chemical functionality) 和氢键 (hydrogen bond)。

$d_i$ 代表该核苷酸 $n_i$ 在从序列起始到第 $i$ 个位置的前缀字符串中的累积频率。

通过 NPF 编码，每个 5mC 样本也被转换成一个 $41 \times 4$ 维的向量。

2.3 模型构建

2.3.1 整体框架

为了解决正负样本不平衡的问题，作者采用了下采样的方法。将训练集中的大量阴性样本随机划分为11个大小相等的组。将每个阴性样本组与等量的阳性样本结合，形成一个平衡的训练子集。这样总共可以得到11个不同的平衡子集。

对于每个平衡子集，作者并行地使用独热编码和 NPF 编码作为输入，分别训练两个基于 BiLSTM 的子模型。因此，总共会训练出 $11 \times 2 = 22$ 个子模型。

对于一个待查询的序列，将其输入到所有22个子模型中。然后，通过简单多数投票 (simple majority voting) 的方法对22个预测结果进行整合。作者采用了严格的判别标准：只有当所有22个子模型都判断一个样本为真正的 5mC 位点时，BiLSTM-5mC 模型才会做出阳性预测。

2.3.2 双向长短期记忆网络 (BiLSTM)

BiLSTM 包含两个反向的单向 LSTM 网络，能够整合序列中的前向和后向信息，并捕捉序列中的相互依赖关系。在 BiLSTM-5mC 中，作者设计了两个并行的 BiLSTM 模型，分别处理独热编码和 NPF 编码的特征。

2.3.3 全连接网络 (Fully Connected Network)

BiLSTM 模型的输出特征向量被送入一个包含三层的全连接网络。前两层均包含300个神经元。最后一层（输出层）包含两个单元，用于预测两个类别（即 5mC 样本和非 5mC 样本）。输出层使用 sigmoid 作为激活函数。

3. 实验分析

作者在与 iPromoter-5mC 和 5mC_Pred 相同的基准数据集上，对 BiLSTM-5mC 进行了全面的性能评估。

3.1 序列组成分析

作者使用 Two Sample Logo 工具分析了阳性样本和阴性样本中 5mC 位点周围的核苷酸分布偏好。

图 a (训练集) 和 图 b (测试集)结果显示，胞嘧啶 (C) 和鸟嘌呤 (G) 在阳性样本中显著富集，并倾向于出现在 5mC 位点的上游。最保守的基序（motif）似乎是位于20-23位的“CCGG”。

阳性样本和阴性样本之间存在统计上显著的位置特异性差异，这表明通过序列信息来预测 5mC 位点是可行且合理的。

3.2 不同特征编码方法的性能评估

作者比较了四种不同的特征编码策略（one-hot, NPF, one-hot+NPF 拼接, one-hot&NPF 组合）下模型的性能。

• 图 a (训练集): 在5折交叉验证中，所有四种策略都取得了令人满意的性能（Spe 和 Acc 均高于0.92）。仅使用 NPF 特征的模型在 Sen 和 MCC 指标上优于仅使用独热编码的模型，这可能是因为 NPF 编码包含了序列顺序信息。而 one-hot&NPF 组合策略在 Spe, Acc, MCC 上优于 one-hot+NPF 拼接策略。
• 图 b (独立测试集): 在独立测试集上得到了相似的结论。one-hot&NPF 组合策略表现最佳，其 Spe 和 Acc 最高，Sen 和 MCC 也达到了可接受的水平。

ROC 曲线也展示了相似的结论。所有预测器的 AUC 值都高于0.96。

3.3 与现有方法的性能比较

在训练集上，与 iPromoter-5mC 和 5mC_Pred 相比，BiLSTM-5mC 取得了最高的 Spe (0.9404)、Acc (0.9302) 和 AUC (0.9644)。尽管其 Sen 值略低，但这可能是由于数据集中极度不平衡的正负样本比例造成的。

在独立测试集上，BiLSTM-5mC 表现出更全面的优势。它不仅取得了最高的 Spe (0.9374)、Acc (0.9303)、MCC (0.6384) 和 AUC (0.9635)，而且其 Sen 值也达到了可接受的水平。

作者认为，BiLSTM-5mC 的优越性能可能归因于 BiLSTM 模型能够弥补独热编码中时间信息的缺失，并有效捕捉 DNA 序列中的长程依赖信息。

综上所述，BiLSTM-5mC 在训练集和独立测试集上均取得了出色的性能，并超越了现有的工具。这些比较结果表明，BiLSTM-5mC 是一个强大的预测器，能够准确地预测潜在的 5mC 位点。