使用多标签引导学习与多尺度融合的多组学整合框架.

paper：A multi-omics integration framework using multi-label guided learning and multi-scale fusion

0. TL; DR

mmMOI 是一个集成了多标签引导学习（multi-label guided learning）和多尺度注意力融合（multi-scale attention fusion）的端到端多组学整合框架。多标签引导的多视角图神经网络利用真实标签和伪标签共同指导学习过程。多尺度注意力融合网络集成了全局注意力和局部注意力。

实验结果表明，mmMOI在分类任务中的性能显著优于SOTA方法，并在不同的生物学背景和测序技术中表现出高稳定性和适应性。此外，mmMOI成功地识别出了与疾病相关的关键生物标志物，进一步增强了其生物学可解释性和实际应用价值。

1. 背景介绍

癌症是一种极其复杂的基因组疾病。为了精准地对其进行诊断和治疗，我们需要一个能够整合来自基因组、转录组、表观组等多个层面信息的强大工具。多组学整合（Multi-omics integration）应运而生。

现有的整合方法虽然众多，但大多采用中间整合（intermediate integration）策略，即先为每个组学学习一个特征表示，再将这些表示进行融合。然而，在这个过程中，它们普遍面临着三大挑战：

对特征选择的严重依赖：许多方法，如MOCSC和CustOmics，在输入模型前都需要进行手动的特征预选择。这个过程不仅繁琐，而且其结果直接影响模型的最终性能，甚至可能引入标签泄露（label leakage）的风险。
泛化能力有限：许多模型，如MOGONET和MOGLAM，其参数和结构往往是为特定数据集量身定制的，当应用于新的数据集时，通常需要大量的重新调参，限制了其通用性。
信息融合不充分：现有的注意力机制大多是单尺度的，它们或者关注样本间的关系，或者关注组学间的关系，但很少有方法能够同时、全面地捕捉这两种不同尺度的相互作用。

为了系统性地解决这些问题，作者提出了mmMOI。它旨在通过一个端到端的框架，实现从原始高维数据的智能表示学习，到多尺度信息的自适应融合，为多组学整合提供一个更通用、更强大、更具解释性的解决方案。

2. mmMOI 方法

mmMOI的框架由两大核心组件构成：一个用于单组学表示学习的多标签引导多视角GNN模块，和一个用于多组学数据融合的多尺度注意力融合模块。

2.1 单组学数据表示学习

这一步旨在为每一种组学数据学习一个高质量的低维表示。该模块本身就是一个精巧的、自成一体的多视角图神经网络。

首先作者使用一个标准的自编码器对原始的高维组学数据 $X$ 进行初步的降维，得到一个低维的特征表示 $Z$。基于这个低维表示 $Z$，作者计算出一个节点关系矩阵 $\Sigma$，它捕捉了样本间最基本的相似性关系。

为了从不同角度捕捉样本间的关系，作者使用多种不同的相似性度量，为样本构建了V个不同的邻接矩阵（即视角）$A^{(v)}$。

mmMOI的目标是学习一个最优的共识图（consensus graph） $S$，它是所有视角图 $A^{(v)}$ 和基础关系矩阵 $\Sigma$ 的加权和。

\[S = \sum_{v=1}^V \omega^{(v)}(A^{(v)} + \Sigma)\]

这里的关键在于如何学习权重 $\omega^{(v)}$。作者创新性地引入了多标签引导机制。对于每个视角，作者都计算一个分数 $s^{(v)}$，该分数由两部分组成：

无监督部分：将该视角下的图嵌入 $H^{(v)}$ 进行k-means聚类，并计算其与伪标签 $Y_P$（由共识图的嵌入聚类得到）的一致性。
有监督部分：将该视角下的图嵌入 $H^{(v)}$ 通过一个MLP分类器，并计算其预测与真实标签 $Y_T$ 的一致性。

\[s^{(v)} = \underbrace{M(\text{k-means}(H^{(v)}), Y_P)}_{\text{unsupervised}} + \underbrace{M(\text{MLP}(H^{(v)T}), Y_T)}_{\text{supervised}}\]

通过这种方式，真实标签和数据内在结构共同指导了每个视角的权重学习，使得最终的共识图 $S$ 能够最全面地反映样本间的真实关系。最终，作者在共识图 $S$ 上运行GNN，得到该组学模态最终的、信息最丰富的表示 $H_S$。

2.2 多组学数据融合

在为每个组学都学习到高质量的表示 $H_{S_m}$ 后，mmMOI使用一个创新的多尺度注意力融合网络来对它们进行整合。

不同的组学模态对最终分类任务的贡献是不同的。全局注意力融合网络GAFN旨在从全局视角，学习每个组学模态的重要性权重。

对每个组学的特征矩阵 $H_{S_m}$ 进行全局池化，将其压缩成一个代表该组学全局信息的标量 $g_m$。将所有组学的全局信息向量 $g$ 输入到一个包含两个全连接层的瓶颈结构中，学习出每个组学的注意力权重 $\tilde{g}m$。将学习到的注意力权重 $\tilde{g}_m$，通过一个残差连接，乘回原始的组学特征矩阵 $H{S_m}$，得到经过全局加权的表示 $\tilde{H}_m$。

\[\tilde{H}_m = \sigma_{ReLU}(H_{S_m} \otimes \tilde{g}_m + H_{S_m})\]

对于每一个样本，不同组学特征之间的相互作用也是不同的。局部注意力融合网络LAFN旨在从局部（单个样本）视角，学习跨组学特征之间的复杂关联。

对于一个样本，将其来自不同组学的、经过全局加权的特征向量 $\tilde{h}_m^l$ 堆叠成一个矩阵 $\hat{H}_l$。将 $\hat{H}_l$ 输入到一个标准的多头自注意力模块中，计算出不同组学特征之间的注意力矩阵。最终输出一个融合了所有组学局部交互信息的、该样本的最终表示 $h_l$。

\[h_l = \text{flatten}(\text{MultiHeadAttention}(\hat{H}_l) W^O)\]

这个最终的表示 $h_l$ 被送入一个分类器，进行最终的疾病亚型预测。

3. 实验分析

作者在四个来自TCGA的癌症数据集（GBM, BRCA, OV, KIPAN）上，对mmMOI的性能进行了全面的评估，并与MOGONET, MoGCN, MOGLAM, CustOmics等多种SOTA的深度学习方法，以及RF, SVM等传统机器学习方法进行了比较。

3.1 实验一：与SOTA方法的性能比较

在所有四个数据集的分类任务中，mmMOI的性能均全面、显著地优于所有其他的比较方法。无论是在准确率（ACC）、F1-macro、精确率（Precision）还是召回率（Recall）上，mmMOI都取得了最佳的平均得分。

例如，在最具挑战性的OV（卵巢癌）数据集上，mmMOI的ACC达到了0.8518，比次优的MCRGCN（0.8364）高出1.54%。在BRCA（乳腺癌）数据集上，ACC达到了0.9010，比次优的MCRGCN（0.8882）高出1.28%。

这些结果一致地表明，mmMOI通过其精巧的多标签引导和多尺度融合机制，能够比现有方法更有效地整合多组学信息。

3.2 实验二：消融研究

作者通过系统地移除模型中的核心模块，来验证它们各自的贡献。

移除多标签引导GNN (w/o ML-GNN): 这是对模型性能影响最大的模块。移除后，模型在所有数据集上的性能都出现了显著的下降。这证明了mmMOI创新的单组学表示学习方法，对于最终的整合性能至关重要。

移除全局/局部注意力 (w/o GA-FN / w/o LA-FN): 移除任何一个注意力模块，都会导致模型性能的下降。这表明，全局（跨组学）和局部（样本内跨组学）两种尺度的信息融合，对于捕捉复杂的生物学相互作用都是不可或缺的。

完整的mmMOI模型（All modules）始终表现最佳，证明了其各个组件设计的合理性与协同效应。

3.3 实验三：不同组学组合的影响

在所有四个数据集中，整合三种组学数据的性能，始终优于整合两种或只使用一种组学数据的性能。这再次验证了多组学整合的必要性。

有趣的是，在GBM和OV数据集中，mRNA的贡献似乎最大；而在KIPAN数据集中，miRNA的贡献则更为突出。这说明不同组学在不同疾病中的重要性是动态变化的，而mmMOI能够有效地从所有模态中提取有价值的信息。

3.4 实验四：可视化与生物标志物发现

mmMOI学习到的嵌入表示，在t-SNE降维后，展现出了最清晰的簇结构，其类内距离更小，类间距离更大。这直观地证明了其强大的特征表示学习能力。

作者使用mmMOI识别出的关键生物标志物，在一个独立的临床队列中进行了生存分析。结果显示，这些biomarker（如GBM中的PDPN，BRCA中的ACSBG1）的表达水平与患者的预后显著相关，验证了它们的临床价值。

对mmMOI识别出的biomarker进行KEGG通路富集分析，发现它们在每个癌症中都富集到了与该癌症高度相关的核心信号通路，如BRCA中的PI3K-Akt和MAPK信号通路。

这些分析充分展示了mmMOI不仅是一个性能强大的分类器，更是一个具有深度生物学可解释性、能够指导下游生物学发现的强大工具。