HD-6mAPred：一种用于精确预测植物物种中N6-甲基腺嘌呤位点的混合深度学习方法.

paper：HD-6mAPred: a hybrid deep learning approach for accurate prediction of N6-methyladenine sites in plant species

0. TL; DR

本研究提出了 HD-6mAPred，一个结合了双向门控循环单元 (bidirectional gated recurrent unit, BiGRU)、卷积神经网络 (convolutional neural network, CNN) 和注意力机制 (attention mechanism) 的混合深度学习模型，用于精确预测植物物种中N6-甲基腺嘌呤位点。

在蔷薇科、水稻和拟南芥三个植物物种的数据集上进行的一系列实验表明，HD-6mAPred 的性能优于现有的先进方法。HD-6mAPred 不仅提高了 6mA 位点预测的准确性，还展示了出色的跨物种泛化能力，在不同植物上的表现均稳定且优异。

1. 背景介绍

DNA 甲基化参与了物种形成和进化的过程。N6-甲基腺嘌呤 (6mA) 是一种通过在 DNA 分子的腺嘌呤N6位添加甲基基团而形成的表观遗传修饰。它在基因调控、DNA 复制、修复和遗传等多种生物学功能中起着至关重要的作用，并与癌症、神经系统疾病等多种疾病有关。因此，准确识别 6mA 位点对于阐明 6mA 表观遗传修饰的作用和机制至关重要。

目前，已有多种实验方法（如 LC-MS/MS 和 SMRT-seq）用于识别 DNA 中的 6mA 位点。然而，这些方法通常耗时、费力且昂贵，并且各自存在一些局限性，如特异性较低或受限于特定的限制性位点。

为了克服生物实验的局限性，一系列基于机器学习 (ML) 的计算方法被引入，用于检测植物中的 6mA 修饰。

传统 ML 方法：如 i6mA-Fuse, Meta-i6mA, i6mA-vote 和 6mA-StackingCV。这些方法大多依赖于传统 ML 算法（如随机森林 (RF), SVM）和手工设计的特征。尽管它们取得了有希望的结果，但手工特征容易受到噪声的影响。
深度学习 (DL) 方法：如 i6mA-Caps, CNN6mA, BERT6mA。这些方法能够从原始数据中自主识别更有效的特征，并取得了优异的性能。

然而，现有的 DL 方法也存在一些局限性，例如在不同物种间的泛化能力不足，准确性有待提高，以及特征提取方法有待优化。

鉴于此，作者引入了一个名为 HD-6mAPred 的集成模型。该模型通过整合 BiGRU、CNN 和注意力机制，并采用多种编码策略，旨在解决序列中的长程依赖问题，同时关注局部特征的提取，从而提高 DNA 6mA 位点预测的性能。

2. HD-6mAPred 方法

作者提出的 HD-6mAPred 是一个混合深度学习模型，其核心在于特征提取策略和结合了 BiGRU, CNN 与注意力机制的网络架构。

2.1 数据集

作者使用了与 6mA-StackingCV 和 i6mA-vote 等研究相同的公开数据集，以便于性能比较。这些数据集包括：蔷薇科训练集、蔷薇科测试集、水稻数据集和拟南芥数据集。

2.2 特征提取

作者探索了四种广泛用于表示 DNA 序列的特征编码方式：

独热编码 (one-hot encoding)：将 A, C, G, T 分别编码为4维的二进制向量。
电子-离子相互作用赝势 (EIIP)：根据核苷酸的电子-离子能量分布，将 A, C, G, T 分别表示为数值 0.1260, 0.1340, 0.0806, 0.1335。
核苷酸化学性质 (NCP)：基于环结构、官能团和氢键强度，将 A, C, G, T 分别编码为 [1, 1, 1], [0, 1, 0], [1, 0, 0], [0, 0, 1]。
增强核酸组成 (ENAC)：通过一个固定长度（本研究中为5）的滑动窗口，计算窗口内四种核苷酸的出现频率。

为了获得最优的特征组合，作者采用了一种留出搜索策略 (hold-out search strategy)。该策略通过在一个留出的训练-测试集上，迭代地测试单一特征编码和不同特征组合的性能，分别为 BiGRU 和 CNN 两个模块筛选出能使其 ACC 最高的特征组合。

2.3 深度学习方法 (HD-6mAPred)

HD-6mAPred 的整体架构如图所示，主要由三个深度学习模块组成：BiGRU、CNN 和注意力机制。

2.3.1 BiGRU 模块

BiGRU 模块旨在捕捉序列中的前后向长程依赖关系。由一个前向 GRU 和一个后向 GRU 组成。GRU 通过其更新门和重置门来控制信息的保留和遗忘，比 LSTM 参数更少，计算效率更高。

2.3.2 CNN 模块

CNN 利用卷积和池化操作来提取序列中重要的局部特征。包含两个卷积 (convolutional) 层和两个最大池化 (max pooling) 层。

2.3.3 注意力机制 (Attention mechanism)

为了有效整合来自两个并行网络（BiGRU 和 CNN）的输出，作者采用了一个注意力机制，为不同模块提取的特征分配权重，突出重要特征并过滤掉不相关的信息。

查询 (Query, Q)来自 BiGRU 的输出 $h_{\text{GRU}}$。键 (Key, K) 和值 (Value, V) 来自 CNN 的输出 $h_{\text{CNN}}$。注意力得分通过 Q 和 K 的点积来计算，并经过 softmax 归一化。最终输出是 V 的加权和。

\[\text{Attention} = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V\]

2.3.4 输出层与损失函数

注意力机制的输出经过一个全连接（Dense）层，并最终由 sigmoid 激活函数生成一个介于0和1之间的预测得分。

模型采用二元交叉熵 (binary cross entropy) 作为损失函数，这适用于二元分类任务。

\[\text{loss} = - \frac{1}{N} \sum_{i=1}^{N} [y_i \log(\hat{y}_i) + (1-y_i)\log(1-\hat{y}_i)]\]

3. 实验分析

3.1 最优特征组合的选择

作者首先使用 BiGRU 模型测试了不同特征编码的性能。结果显示，对于单一特征，ENAC 的 ACC (0.903) 最高。在组合特征中，ENAC+one-hot+NCP 的组合取得了最高的 ACC (0.920)。

对于单一特征，NCP 的 ACC (0.940) 最高。在组合特征中，NCP+ENAC 的组合取得了最高的 ACC (0.943)。

3.2 基序分析 (Motif analysis)

作者使用 Two Sample Logo 软件分析了三个物种中，6mA 阳性序列和阴性序列在核苷酸组成上的差异。结果显示，在所有三个物种（蔷薇科、水稻、拟南芥）中，6mA 位点（第21位）周围都存在显著的核苷酸富集和耗尽现象。序列信息本身对于区分 6mA 和非 6mA 位点具有重要贡献。

3.3 模型分析

作者比较了六种不同模型（BiGRU, CNN, BiGRU+CNN, BiGRU+Attention, CNN+Attention, 以及最终的 HD-6mAPred）在三个独立测试集上的性能。

HD-6mAPred 模型在所有三个物种的测试集上，其性能（ACC, MCC, SN, SP）均优于其他五个模型。

HD-6mAPred 的 ROC 曲线在所有三个数据集上都最接近左上角，其 AUC 值分别为1.000（蔷薇科）、0.985（水稻）和0.980（拟南芥），均为最高。

整合了 BiGRU, CNN 和注意力机制的混合模型，其预测性能优于任何单一模块或模块的简单组合。

3.4 与现有方法的性能比较

作者将 HD-6mAPred 与多个现有的先进方法在三个独立测试集上进行了5折交叉验证比较。

在蔷薇科数据集上: HD-6mAPred 在所有指标上均表现最佳，其 ACC (0.996) 和 MCC (0.993) 显著高于次优的 6mA-StackingCV 和 i6mA-Caps。
在水稻数据集上: HD-6mAPred 在 ACC 和 SP 指标上取得了最佳性能，其 ACC (0.952) 高于 6mA-StackingCV (0.845) 和 i6mA-Caps (0.940)。
在拟南芥数据集上: HD-6mAPred 在 ACC, MCC, SN 三个指标上表现最佳，其 ACC (0.937) 同样显著高于 6mA-StackingCV (0.782) 和 i6mA-Caps (0.868)。

条形图直观地展示了 HD-6mAPred 相对于两个最新的、性能最好的方法（6mA-StackingCV 和 i6mA-Caps）的性能优势。

HD-6mAPred 不仅在预测 6mA 位点方面表现出卓越的能力，还展示了强大的跨不同物种的泛化能力，其综合性能优于所有现有的先进方法。