0. TL; DR

TCN-5mC 是一个深度学习模型，将受时间卷积网络 (Temporal Convolutional Networks, TCN) 启发的块与双向门控循环单元 (Bidirectional Gated Recurrent Units, BiGRU) 相结合，并采用了混合的独热编码 (One-Hot) 和核苷酸化学性质 (Nucleotide Chemical Property) 特征编码。

该模型在来自肺癌细胞系的、高度不平衡的数据集上实现了高预测性能，无需进行人工样本平衡。在两个独立的测试集上，其 AUC 值分别达到了0.967和0.989，并在特异性、准确率、MCC 和 AUC 等指标上优于现有方法。

1. 背景介绍

异常的 DNA 甲基化是多种疾病（包括各种癌症、阿尔茨海默病、帕金森病等）的既定驱动因素。在各种表观遗传修饰中，5-甲基胞嘧啶 (5mC) 是最主要、功能最重要的 DNA 甲基化形式，它在调控基因表达、维持基因组稳定性等方面发挥着核心作用。因此，准确识别 5mC 位点对于深入理解疾病机制和发现潜在的治疗靶点至关重要。

然而，传统的 5mC 检测实验方法，如亚硫酸氢盐测序 (bisulfite sequencing)，对于大规模或临床应用来说成本高昂且耗时。因此，开发准确高效的计算工具来预测 5mC 位点是必要的。

近年来，深度学习技术已成为 5mC 位点预测的主流方法，并推动了准确率的显著提升。

早期模型：如 iPromoter-5mC，展示了使用简单 DNN 的可行性。
RNN-based 模型：如 BiLSTM-5mC，引入了双向长短期记忆网络 (BiLSTM) 来捕捉序列的长程依赖关系。
混合架构：如 DGA-5mC，融合了 DenseNet 和 BiGRU 来分别提取局部和全局特征。
Transformer-based 模型：如 BERT-5mC，利用预训练的 DNA 语言模型 DNABERT，消除了手动特征工程的需要，并取得了最先进的性能。

与此同时，时间卷积网络 (Temporal Convolutional Network, TCN) 作为一种强大的序列分析替代方案也已出现。TCN 通过空洞卷积 (dilated convolutions) 提供了灵活的感受野控制，能够比传统循环模型更有效地捕捉长程依赖关系。

在此背景下，作者提出了一个名为 TCN-5mC 的新型深度学习框架。该模型旨在通过整合受 TCN 启发的块和 BiGRU，来更有效地建模 DNA 序列的长程和短程上下文，从而实现对 5mC 位点的更精准预测。

2. TCN-5mC方法

TCN-5mC 的整体架构如图所示，它是一个集成了多种先进神经网络模块的序列处理管道。

2.1 基准数据集

作者使用了从癌症细胞系百科全书 (CCLE) 中提取的数据，重点关注人类小细胞肺癌 (SCLC) 和非小细胞肺癌 (NSCLC) 两种细胞系中的启动子 5mC 位点信息。

所有序列长度均为41 bp。数据集存在严重的类别不平衡，例如在 SCLC 数据集中，正负样本比例约为1:11.8。这真实地反映了 5mC 位点在启动子中的自然分布。将数据集按8:2的比例划分为训练集和测试集。

2.2 特征编码方法

作者采用了一种混合编码方法，将独热编码 (One-Hot) 和核苷酸化学性质 (NCP) 编码进行拼接。

独热编码：将 A, C, G, T 编码为4维的二进制向量。
NCP 编码：根据环结构、化学官能团和氢键强度，将每个碱基编码为一个3维的向量。
- $A_i = 1$ (嘌呤), $0$ (嘧啶)
- $B_i = 1$ (氨基), $0$ (酮基)
- $C_i = 1$ (弱氢键), $0$ (强氢键)

将两种编码拼接后，每个核苷酸被表示为一个7维的向量，一个41 bp的序列最终被转换为一个 $7 \times 41$ 的特征矩阵。

2.3 模型构建

TCN-5mC 的核心网络结构是一个由 TCN 启发式块、BiGRU 和 CBAM 注意力模块组成的序列管道。

2.3.1 TCN 启发式块 (TCN-inspired block)

该模块由多层堆叠的空洞因果卷积 (dilated causal convolutions) 组成。因果卷积确保对某一位置的预测只依赖于过去的信息，这对于序列数据是自然的。空洞卷积通过以指数级增长的空洞率 (dilation rates)，使得网络的感受野 (receptive field) 能够随深度指数级增长，而无需显著增加计算成本。这使得 TCN 能够高效地捕捉 DNA 序列中核苷酸之间的长程依赖关系。残差连接帮助训练更深的网络，防止梯度消失问题。

2.3.2 BiGRU 模块

在 TCN 块之后，作者加入了一个双向门控循环单元 (BiGRU) 模块。

GRU 是一种通过门控机制控制信息流的循环神经网络。双向结构意味着输入序列被两个独立的 GRU 层分别从前向和后向进行处理。这使得模型能够为序列中的每一个核苷酸，同时考虑到其之前和之后的上下文信息，从而产生更鲁棒和准确的上下文理解。

2.3.3 改进的 CBAM (Convolutional Block Attention Module)

BiGRU 的输出被送入一个改进的 CBAM 模块，该模块包含两个并行的子模块：通道注意力 (Channel Attention) 和空间注意力 (Spatial Attention)。

该模块旨在通过自适应地突出最显著的特征并抑制不相关的特征，来优化特征表示。通道注意力通过捕捉不同特征通道之间的依赖关系，为每个通道分配不同的权重。空间注意力通过识别输入特征中最重要的区域，为不同的空间位置分配权重。

2.3.4 MLP 分类器

经过注意力模块优化的特征向量被展平，并送入一个标准的多层感知机（MLP）作为最终的分类器。使用 softmax 激活函数计算输入序列包含 5mC 位点的概率。

3. 实验分析

作者在两个肺癌细胞系的基准数据集上，对 TCN-5mC 模型的性能进行了全面的评估和分析。

3.1 不同特征提取技术的比较

作者首先比较了三种不同特征编码方法（One-hot, NCP, One-hot + NCP）在两个数据集上的性能。在 Dataset 1 上:混合编码（One-hot + NCP）在交叉验证和独立测试中，其 MCC 值都取得了最高分。在 Dataset 2 上混合编码同样在 MCC 和 AUC 指标上表现最佳。

尽管 One-hot 和 NCP 都是从核苷酸身份衍生出来的，但明确地将它们拼接在一起，为模型提供了关于核苷酸化学性质的、直接且可解释的先验知识，有助于提高学习效率和模型性能，尤其是在处理不平衡数据时。

3.2 模型消融实验

作者在 Dataset 2 上对网络的不同组件组合进行了消融实验，以确定最佳组合。

TCNiB + TL + BiGRU vs. 其他组合: 包含所有组件的完整模型（TCNiB + TL + BiGRU）在所有指标上都取得了最佳性能。
TCNiB 的重要性: 通过比较 “TCNiB + TL + BiGRU” 和 “TL + BiGRU”，可以发现加入 TCN 启发式块后，性能有显著提升，凸显了该模块在捕捉长程依赖中的重要性。