通过生成式AI长程与短程交互建模基因组范围甲基化.

0. TL; DR

DiffuCpG 利用了短程相互作用（邻近的 CpG、局部 DNA 序列）和长程相互作用（三维基因组结构、远距离相关性）信息全面地对甲基化组进行建模，将扩散模型应用于 DNA 甲基化插补任务，填补甲基化矩阵的缺失值。

通过在不同组织类型、癌症和技术平台（WGBS, ERRBS, scRRBS, 450K）上进行广泛的独立验证，DiffuCpG 在准确性、可扩展性和多功能性方面均表现出优于现有方法的性能。平均而言，对于亚硫酸氢盐测序数据集，DiffuCpG 可以将原始数据集扩展数百万个额外的 CpG。

1. 背景介绍

甲基化是一种基本的生物化学过程，在 DNA 上，这种化学修饰通常发生在 CpG 位点。DNA 甲基化作为一种关键的表观遗传机制，在调控基因表达、细胞分化、基因组稳定性和遗传等方面扮演着核心角色。甲基化模式的失调与癌症、神经系统疾病、衰老和发育异常等多种疾病有关。

目前，有多种高通量方法可用于量化 DNA 甲基化。基于芯片的方法（如 450K 芯片）虽然被广泛使用，但其覆盖的 CpG 位点数量有限（不到2%）。亚硫酸氢盐测序 (bisulfite sequencing) 是目前主流的方法，包括全基因组亚硫酸氢盐测序 (WGBS) 和简化代表性亚硫酸氢盐测序 (RRBS)。WGBS 能够覆盖整个甲基化组，而 RRBS 则是一种更具成本效益的选择，但牺牲了对 CpG 含量较低区域的覆盖。

然而，所有这些技术都面临着数据缺失的普遍问题。例如，在 scRRBS 数据中，缺失率甚至可以高达92%。与 SNP 数据不同，甲基化数据的插补效果较差，因为缺乏类似单倍型 (haplotype) 的信息。

已有一些计算方法被提出来解决甲基化插补问题，如 DeepCpG，它整合了 CNN 和 GRU 架构。然而，这些方法大多只考虑了局部信息。事实上，多种因素共同影响着 DNA 甲基化状态：

在此背景下，作者提出了一种基于生成式 AI 的创新甲基化插补方法DiffuCpG。生成式模型擅长生成与给定数据集相似的新数据。例如，DALL-E 3 就是一个基于扩散 (diffusion) 模型的强大图像生成模型。作者将这种扩散模型的思想应用于甲基化水平的插补，旨在超越现有方法的局限性。

2. DiffuCpG 方法

DiffuCpG 的核心是一个去噪扩散概率模型 (denoising diffusion probabilistic models)，该模型通过一个双过程机制（前向扩散过程和反向去噪过程）来学习数据的分布并生成新数据（或插补缺失数据）。

2.1 扩散模型

2.1.1 前向扩散过程 (Forward Diffusion Process)

从一个原始的、完整的输入数据 $X_0$ 开始，通过 $T$ 个步骤，逐步地向数据中添加高斯噪声。在第 $t$ 步，加噪后的数据 $X_t$ 可以直接通过原始数据 $X_0$ 和一个方差调度器 $\beta_t$ 计算得到：

\[X_t \sim q(X_t|X_0) = \mathcal{N}(X_t; \sqrt{\alpha_t}X_0, (1-\alpha_t)I)\]

其中，$\alpha_t = \prod_{s=1}^{t} (1-\beta_s)$。这个过程的最终结果 $X_T$ 是一个纯粹的高斯噪声。

2.1.2 反向去噪过程 (Reverse Denoising Process)

模型学习一个神经网络（在 DiffuCpG 中是一个 U-Net），来逆转上述加噪过程。即从一个纯噪声 $X_T$ 开始，通过 $T$ 步，逐步地去除噪声，最终重构出原始的、无噪声的数据 $X_0$。

U-Net 的目标不是直接预测去噪后的数据，而是预测在每一步 $t$ 被添加的噪声 $\epsilon$。通过最小化预测噪声 $\epsilon_{\theta}(X_t, t)$ 与真实噪声 $\epsilon$ 之间的均方误差 (MSE) 来训练 U-Net 模型。

\[\| \epsilon - \epsilon_{\theta}(\sqrt{\alpha_t}X_0 + \sqrt{1-\alpha_t}\epsilon, t) \|^2\]

2.2 U-Net 架构与多通道输入

作者采用了一个为多通道一维数据（如 DNA 序列和甲基化谱）定制的 U-Net 架构。它包含一个对称的编码器-解码器结构，并通过跳跃连接 (skip connections) 来保留细节信息。

为了整合多种信息，DiffuCpG 的输入被设计为多通道的一维数据。除了包含甲基化状态的通道外，还包括：

  1. DNA 序列信息：通过独热编码 (one-hot encoding) 表示。
  2. 长程相互作用：通过 Hi-C 实验数据，将相互作用的两个基因组区域拼接在一起作为输入。
  3. 跨样本信息：计算每个 CpG 位点在所有样本中的95%置信区间（CI），并将其作为额外的通道。

2.3 基于扩散模型的插补 (Inpainting)

DNA 甲基化数据的缺失值插补问题，可以被类比为图像修复中的自由形式修复 (free-form inpainting) 任务。作者为此设计了一个定制的插补算法：

  1. 输入：包含缺失值的甲基化谱 $X_{\text{missing}}$ 和一个标记缺失位置的掩码 $M_{\text{missing}}$。
  2. 初始化：首先对包含缺失值的输入数据添加高斯噪声。
  3. 迭代去噪与重组：在一个包含 $T$ 步的循环中：使用训练好的 U-Net 模型对加噪后的数据进行一步去噪。将去噪后得到的缺失部分的数据，与原始未缺失部分的数据进行重组。将重组后的数据作为下一步去噪的输入。
  4. 输出：经过 $T$ 步迭代后，输出被插补完整的甲基化谱。

这种迭代地将已知信息重新注入去噪过程的策略，迫使模型生成与周围数据模式一致的、更准确的插补值。

3. 实验分析

作者在一系列不同的数据集和技术平台上，对 DiffuCpG 的性能进行了全面的评估。

3.1 不同平台的 CpG 覆盖率

作者首先比较了四种主流技术（WGBS, ERRBS, scRRBS, 450K）的 CpG 覆盖率。

3.2 性能与比较

作者首先通过实验确定了 DiffuCpG 的最优参数。

作者将 DiffuCpG 与四种其他插补工具（MissForest, LightCpG, MethyLImp2, DeepCpG）进行了比较。

作者以一个 ERRBS 样本为例，直观地展示了不同工具的插补结果。在随机移除50%的已知位点后，DiffuCpG 的插补结果与真实值的相似度最高（综合得分为0.8）。

3.3 跨组织、跨疾病和跨技术的稳健性

拓扑关联域 (TADs) 在不同组织类型中是高度保守的，作者因此假设大多数甲基化的 CpG 在不同组织间也应是保守的。

这些结果共同证明了 DiffuCpG 在不同组织、疾病和技术平台之间具有强大的稳健性和广泛的适用性。