Deep4mC：基于深度学习的DNA N4甲基胞嘧啶位点系统评估与计算预测.

• paper：Deep4mC: systematic assessment and computational prediction for DNA N4-methylcytosine sites by deep learning

0. TL; DR

本文开发了一个名为 Deep4mC 的新型深度学习预测器，应用了卷积神经网络并整合了四种代表性的特征。对于样本量小的物种，还通过自助法 (bootstrapping) 对深度学习框架进行了扩展。

开发的 Deep4mC 模型在所有六个物种中都获得了高准确性和稳健的性能，平均曲线下面积 (AUC) 值均大于0.9。与之前的工具相比，Deep4mC 在独立数据集上的 AUC 值提升了10.14%到46.21%。

1. 背景介绍

随着基因组测序技术的飞速发展，以高分辨率研究 DNA 化学修饰的功能影响成为可能。在 DNA 甲基转移酶的催化下，DNA 会发生多种甲基碱基修饰，如 N4-甲基胞嘧啶 (4mC)、5-甲基胞嘧啶 (5mC) 和 N6-甲基腺嘌呤 (6mA)。这些表观遗传修饰极大地扩展了基因组组织和调控的多样性。

4mC 修饰通过在胞嘧啶的第4位添加一个甲基基团，在保护自身 DNA 免受限制性内切酶降解、调控 DNA 复制、细胞周期和基因表达等方面扮演着重要角色。然而，目前对 4mC 修饰的鉴定及其功能角色的理解仍然有限，特别是实验产生的数据量非常有限。因此，迫切需要开发能够有效识别或预测基因组中 4mC 位点的计算方法。

近年来，一些实验方法，如单分子实时测序 (SMRT)，已被用于鉴定 4mC 位点。同时，一些数据库（如 MethSMRT, DNAmod, MDR）也被建立起来，用于收集和整合已知的 4mC 数据。这些高质量但仍然有限的数据集，为通过计算方法识别潜在的 4mC 位点提供了机会。

在此背景下，作者首先对现有的 4mC 位点计算预测方法进行了全面的回顾和评估，并在此基础上，开发了一个名为 Deep4mC 的新型深度学习预测器。

2. Deep4mC 方法

作者的工作主要包括三个部分：基准数据集的构建、特征与方法的系统性评估，以及 Deep4mC 模型的开发。

2.1 基准数据集的构建与处理

为了进行公平的比较和开发强大的预测模型，作者编译了两个 4mC 位点的基准数据集。

• 基准数据1：包含了在六个物种（A. thaliana, C. elegans, D. melanogaster, E. coli, G. pickeringii, G. subterraneus）中经过实验验证的7,163个 4mC 位点。该数据集已被广泛用于之前的预测工具中。
• 基准数据2：从 MethSMRT 数据库中重新收集了这六个物种中新增的 4mC 位点，并经过严格的质量控制（修饰置信度得分 QV ≥ 30，序列相似性 < 70%），最终获得了包含285,851个 4mC 位点的非冗余数据集。

对于每个 4mC 位点，都提取其中心胞嘧啶上下游各20 bp，共41 bp的 DNA 片段作为样本序列。

2.2 特征与方法的系统性评估

在开发新模型之前，作者首先对现有的特征工程和机器学习算法进行了系统性的评估。

2.2.1 特征编码方案

作者设计并测试了总共12种基于序列和理化性质的特征编码方法，包括：

• 序列衍生特征：如累积核苷酸频率 (ANF)、二进制编码 (binary)、k-间隔核酸对组成 (CKSNAP)、二核苷酸组成 (DNC)、增强核酸组成 (ENAC)、Kmer、核酸组成 (NAC)、反向互补Kmer (RCKmer) 和三核苷酸组成 (TNC)。
• 理化性质特征：如三核苷酸的电子-离子相互作用赝势 (EIIPs)、核苷酸化学性质 (NCP) 和伪二核苷酸组成 (PseDNC)。

2.2.2 分类算法与模型构建策略评估

作者使用八种经典的机器学习算法（SVM, RF, LR, AB, SGD, DT, KNN, GB）对上述12种特征进行了成对评估。此外，还探讨了两种模型构建策略的贡献：

• 两步特征选择策略：首先使用统计检验（t检验或卡方检验）对特征进行排序，然后通过递归特征消除 (recursive feature elimination) 方法逐步剔除重要性较低的特征，以找到最优的特征子集。
• 堆叠 (Stacking) 框架：将表现较好的六种算法（RF, LR, AB, GB, SGD, SVM）的预测概率作为新的特征向量，再次输入到这些分类器中进行第二轮学习，以构建一个集成模型。

2.3 Deep4mC 模型开发

在系统性评估的基础上，作者开发了一个名为 Deep4mC 的新型 4mC 位点预测器。

2.3.1 模型架构

Deep4mC 的核心是一个基于深度卷积神经网络并融合了注意力机制的架构。

模型接受由四种表现最佳的特征（binary, ENAC, EIIP, NCP）编码后的数据作为输入。使用多层 CNN 来进行特征提取和表示学习。激活函数采用 ReLU。

在最后一个卷积层之后，加入一个注意力层，用于捕捉 DNA 序列中不同位置的潜在重要性。该层会计算一个分数，指示神经网络应该对哪些位置的特征给予更多的关注。

将卷积层提取的特征向量和注意力分数进行整合，然后送入一个逻辑回归分类器，最终通过 sigmoid 函数输出一个0到1之间的概率值，表示该位点是 4mC 位点的可能性。

2.3.2 针对不平衡数据的自助法 (Bootstrapping)

对于阳性样本（P）和阴性样本（N）数量不平衡的物种，作者扩展了模型架构，引入了自助法 (bootstrapping)。

首先，将大量的阴性样本（N）根据阳性样本（P）的数量划分为 $t$ 个箱（bins）。然后，通过 $t$ 次迭代，每次都从阴性样本箱中随机抽取与阳性样本数量相同的样本，与所有阳性样本一起构成一个平衡的数据集，用于训练一个分类器。

将这个过程重复五次，共生成五个独立的分类器。在预测时，取这五个分类器输出概率的平均值作为最终的预测结果。

3. 实验分析

作者通过一系列详尽的实验，评估了各种特征和算法的性能，并展示了 Deep4mC 的优越性。

3.1 十二种特征与八种机器学习算法的成对评估

在六个物种上进行的评估显示：所有12种特征对于 4mC 位点的预测都是有效且信息丰富的（AUC > 0.5）。其中，NCP, binary, ENAC 和 EIIP 这四种编码在多种分类算法和物种中都表现出高性能。

在八种分类算法中，支持向量机表现最为强大，在12种特征上的平均 AUC 达到了0.7662。其他算法如 LR, SGD, RF, GB 也表现良好，而 KNN 和 DT 性能最差。

3.2 两步特征选择策略的贡献

作者对所有特征进行重要性排序，并通过递归消除的方法来寻找最优特征子集。在所有六个物种中，都观察到了一个共同的趋势：随着特征数量的减少，模型的性能（AUC）先是急剧上升，达到一个峰值，然后逐渐下降。这表明，特征选择策略能够有效去除噪声特征，从而提升模型性能。

使用 t-SNE 对特征空间进行可视化。结果清晰地显示，经过特征优化后，阳性（4mC 位点）和阴性（非 4mC 位点）数据点能够被更好地分离开。

3.3 堆叠 (Stacking) 策略的贡献

作者探索了堆叠集成学习策略对模型性能的提升效果。结果显示，与单一模型相比，堆叠模型在大多数情况下都能提升性能，尤其对于 RF 分类器，AUC 值的提升幅度在3-7%之间。

将最优的堆叠模型与使用单一最佳特征（NCP）训练的 SVM 模型进行比较，发现堆叠模型在所有基准数据集上都取得了更好的性能。这表明，堆叠策略能够有效结合多个预测器的优势，从而提升整体性能。

3.4 Deep4mC 的性能评估与比较

作者使用4、6、8、10折交叉验证（CV）在训练集上评估了 Deep4mC 的准确性和鲁棒性（图 A-F）。

结果显示，Deep4mC 取得了非常高的性能：在所有六个物种中，多重 CV 的平均 AUC 值均大于0.9，范围从0.9005（A. thaliana）到0.9722（E. coli）。在每个物种中，不同折数的 CV 结果高度一致，表明 Deep4mC 模型具有很好的鲁棒性。

作者在独立的测试集上，将 Deep4mC 与另一个先进的预测器 Meta-4mCpred 进行了比较（图 G, H, I）。

结果显示，Deep4mC 的 AUC 值比 Meta-4mCpred 高出10.14%（E. coli）到46.21%（G. subterraneus）不等。更重要的是，在特异性（Sp）指标上，Deep4mC 也显著优于 Meta-4mCpred，这意味着 Deep4mC 的假阳性率更低。

这些比较结果充分证明了 Deep4mC 相较于现有工具的优越性和稳健性。