MoRE-GNN: 使用异构图自编码器进行多组学数据整合.
0. TL; DR
MoRE-GNN (Multi-omics Relational Edge Graph Neural Network) 是一个异构图自编码器（heterogeneous graph autoencoder）框架。首先通过特定于模态的GCN层来学习初始嵌入，然后通过多层GATv2来聚合和加权来自不同模态邻居的信息，从而捕捉复杂的跨模态关系。
在六个公开可用的数据集上的评估表明，MoRE-GNN能够捕捉到具有生物学意义的关系，并且其性能优于现有方法，特别是在模态间相关性强的场景下。
1. 背景介绍
在单细胞多组学整合的浪潮中，图神经网络（Graph Neural Networks, GNNs）已经成为一种强大的工具。通过将细胞或样本表示为图中的节点，GNN能够显式地建模它们之间的相互作用，从而学习到比传统方法更丰富的特征表示。
然而，现有的GNN方法在应用于多组学整合时，普遍存在一些局限性：
- 依赖固定的生物学先验： 许多方法，如GLUE，依赖于已知的生物学知识（如基因调控网络）来构建图。这限制了模型发现全新的、未知的生物学关联的能力。
- 计算成本高昂： 一些方法，如scMoGNN，为了捕捉所有可能的关系，构建了全连接图（fully connected graphs）。这在处理大规模数据集时，会面临巨大的计算和内存挑战。
- 对异构信息的处理不足： 在多组学场景中，数据本质上是一个异构图（heterogeneous graph）。节点（细胞）是相同的，但连接它们的边（相似性关系）却因组学模态的不同而不同。许多方法在处理这种异构性时，要么将其简化，要么依赖于复杂的元路径（meta-path）定义，这些定义往往不适用于缺乏内在结构顺序的单细胞数据。
为了克服这些局限，作者提出了一个全新的思路：我们能否构建一个模型，它不依赖任何固定的先验知识，而是完全根据数据自身的特性，动态地构建一个异构图，并在这个图上进行智能的信息融合？
基于这一思想，作者开发了MoRE-GNN。它旨在通过一个异构图自编码器的框架，实现从数据驱动的图构建，到多模态信息的注意力融合，为单细胞多组学整合提供一个更自适应、更灵活的解决方案。
2. MoRE-GNN 方法
MoRE-GNN的核心是一个三阶段的流水线：动态图构建、异构消息传递，以及对比式解码重构。
2.1 第一阶段：数据驱动的异构图构建
MoRE-GNN的第一步，是为多组学数据构建一个异构关系图（heterogeneous relational graph）。
图中的每个节点代表一个细胞（cell）。每个节点的初始特征，是由所有组学模态的特征向量拼接而成的。
对于每一种组学模态m，首先计算一个细胞-细胞相似性矩阵 $S_m$，通常使用余弦相似度（cosine similarity）。
\[S_m = \frac{x_m \cdot x_m}{\|x_m\|_2^2}\]然后，基于这个相似性矩阵，为该模态构建一个邻接矩阵 $A_m$。具体方法是：对于每个细胞，只保留其与top-K最相似的邻居之间的连接。
\[A_m(i,j) = \begin{cases} 1, & \text{if } S_{m,i,j} \text{ is in top-K of row } S_{m,i} \\ 0, & \text{otherwise} \end{cases}\]最终，作者得到一个异构图 $G$，它包含了一组共享的节点（细胞），和多组不同类型的边 ${E_m}$，每种边类型对应一种组学模态下的细胞相似性关系。
这种完全由数据驱动的图构建方式，使得模型能够摆脱对固定先验知识的依赖，灵活地适应不同数据集的内在结构。
2.2 第二阶段：异构消息传递
在构建好的异构图上，MoRE-GNN通过一个集成了GCN和GATv2的编码器（Encoder）来进行消息传递和特征学习。
首先，对于每种模态$m$的邻接矩阵 $A_m$，作者使用一个独立的GCN层，对拼接后的总特征H进行初步的卷积操作，得到模态特异性的嵌入。
\[H' = \sigma(\hat{D}^{-\frac{1}{2}} \hat{A} \hat{D}^{-\frac{1}{2}} H W)\]然后，将所有模态的输出求和，并通过批量归一化（batch normalization）和非线性激活，得到第一层的初始嵌入 $h_i^1$。
接着，模型包含L个GATv2注意力层。GATv2是GAT的改进版，具有更强的表达能力。在每一层，对于每种模态$m$，一个GATv2层会根据其邻接矩阵 $A_m$，通过注意力机制来聚合邻居信息，更新节点表示。
\[\alpha_{ij} = \frac{\exp(\text{LeakyReLU}(a^T[Wh_i \| Wh_j]))}{\sum_{k \in N(i)} \exp(\text{LeakyReLU}(a^T[Wh_i \| Wh_k]))}\\ h'_i = \sum_{j \in N(i)} \alpha_{ij} W h_j\]与第一步类似，每一层GATv2的输出也会在不同模态间进行求和、归一化和激活，从而实现跨模态的信息融合。
\[h_i^{l+1} = \sigma(\text{BN}(\sum_{m \in M} \text{GAT}_m(h_i^l, A_m)))\]最后一层是一个不带激活函数的GCN层，用于输出最终的、整合了多组学信息的细胞嵌入 $h_{out}$。
2.3 第三阶段：对比式解码与模型优化
为了训练这个网络，MoRE-GNN采用了一种基于对比学习（contrastive learning）思想的解码器和损失函数。
作者为每一种模态$m$都设计了一个独立的解码器 $D_m$（一个简单的MLP）。解码器接收一对细胞的最终嵌入 $h_{out}^i$ 和 $h_{out}^j$，并预测它们在该模态下是否存在边连接的概率 $p_{m,(i,j)}$。
\[p_{m,(i,j)} = \sigma(\text{MLP}_m(h_{out}^i \circ h_{out}^j))\]模型的总损失由两部分组成：重构损失 $L_{recon}$ 和 聚类损失 $L_{cluster}$。
\[L_{total} = \alpha \cdot L_{cluster} + \sum_{m \in M} L_{recon,m}\]重构损失 $L_{recon,m}$ 是一个对比损失。它鼓励模型正确地预测出正样本边（在原始图$A_m$中存在的边）的连接概率（使其接近1），并抑制负样本边（随机采样的、不存在的边）的连接概率（使其接近0）。
\[L_{recon,m} = - \sum_{(i,j) \in E_{pos}} \log(\hat{y}_{(i,j),m}) - \sum_{(i,j) \in E_{neg}} \log(1 - \hat{y}_{(i,j),m})\]聚类损失 $L_{cluster}$ 鼓励学习到的嵌入在潜在空间中形成紧凑的簇。它通过最小化每个细胞嵌入 $x_i$ 到其最近的聚类中心 $c$ 的距离来实现。
\[L_{cluster} = \frac{1}{|N|} \sum_{i \in N} \min_{c \in C} \{\|x_i - x_c\|^2\}\]3. 实验分析
作者在六个涵盖了CITE-seq, 10x Multiome, TEA-seq, DOGMA-seq和SHARE-seq等多种技术的公开单细胞多组学数据集上，对MoRE-GNN的性能进行了评估，并与SOTA方法MOJITOO进行了比较。
3.1 实验一：细胞类型聚类性能
作者使用ARI和NMI两个指标来评估模型整合后，下游Louvain聚类算法识别细胞类型的准确性。
在BM-CITE和LUNG-CITE这两个RNA-蛋白质相关性较强的数据集上，MoRE-GNN的聚类性能显著优于MOJITOO。例如，在BM-CITE上，ARI达到了0.892，而MOJITOO为0.868。这表明，MoRE-GNN的非线性图方法，能够更好地捕捉这些强相关模态之间的局部邻域结构。
在包含高维、稀疏ATAC数据的PBMC-Multiome和三模态PBMC数据集上，MoRE-GNN的性能与MOJITOO相当或略差。这说明，在处理高噪声、高维度数据时，MOJITOO的全局线性投影方法可能更具鲁棒性。
在最复杂的Skin-SHARE数据集上，两种方法的性能都较差。这是因为该数据集包含的是一个连续的细胞分化过程，而非离散的细胞簇，这给所有基于聚类的评估方法都带来了挑战。
通过对潜在空间进行可视化，作者发现，对于那些生物学上细胞类型界限清晰的数据集（如BM-CITE），MoRE-GNN学习到的嵌入呈现出清晰的三角形结构，三个顶点可能对应着T细胞、B细胞和骨髓细胞三大谱系。而对于Skin-SHARE数据集，其嵌入则呈现为一个弥散的“云”，反映了其背后连续的生物学过程。
下游的Louvain聚类结果也证实了这一点：BM-CITE的簇边界清晰，而Skin-SHARE的簇则相互重叠。
3.2 实验二：跨模态特征重构
作者进一步评估了学习到的潜在嵌入，保留和预测不同模态信息的能力。
MoRE-GNN在从潜在空间中重构ADT（表面蛋白）数据时，取得了最低的RMSE和最高的PCC。这表明，在CITE-seq数据中，模型学习到的潜在表示与蛋白质丰度的关联最强。相比之下，重构ATAC或Peaks的性能则较差，这反映了染色质可及性数据的高稀疏性和高噪声特性。
在PBMC-TEA数据集上的散点图直观地展示了这一点。
- 左图(ADT): 预测值与真实值紧密地分布在对角线附近，一致性很高。
- 中图(ATAC): 预测值系统性地低估了高信号的peaks，动态范围被压缩。
- 右图(RNA): 预测值虽然有中等程度的相关性，但向均值聚集，难以预测极端的表达值。
这些结果表明，MoRE-GNN能够捕捉到具有生物学意义的跨模态结构，但其预测性能强烈依赖于模态本身的特性和模态间的内在关联强度。
