多组学单细胞数据的半监督知识迁移.
0. TL; DR
DANCE (Dual label scArcity elimiNation with Cross-omic multi-samplE Mixup) 是一个半监督的知识迁移框架。对于源域 (scRNA-seq) 采用基于最优传输（optimal transport, OT）的伪标签生成策略，来扩充带标签的scRNA-seq数据集。对于目标域 (scATAC-seq) 采用一种分而治之（divide-and-conquer）的策略。对于与源域相似的样本，使用一致性正则化（consistency regularization）；对于与源域差异大的样本，则通过从一个候选标签集中逐步排除错误细胞类型来进行学习。
在多个基准数据集上的大量实验表明，DANCE的性能显著优于一系列SOTA方法。DANCE为在标签稀缺的现实场景下，进行单细胞多组学知识迁移提供了一个创新且有效的解决方案。
1. 背景介绍
将一个带有丰富细胞类型注释的scRNA-seq参考图谱，用于注释一个全新的、未标记的scATAC-seq数据集，是单细胞多组学整合的核心任务之一。近年来，scJoint, scBridge, scNCL等方法在这一领域取得了显著进展。
然而，这些方法几乎都建立在一个理想化的假设之上：我们拥有一个“富裕”的、被完全或大量标记的scRNA-seq数据集作为源域。
在现实世界中，为任何一种单细胞数据进行精确的细胞类型注释，都是一个极其耗时、耗力且昂贵的过程。因此，一个更普遍、更具挑战性的场景是： 源域（scRNA-seq）和目标域（scATAC-seq）的数据都存在严重的标签稀缺问题。
在这个双重贫困的场景下，知识迁移面临着两大核心难题：
- 如何在标签稀缺的情况下学习到具有区分度的特征表示？ 深度学习模型的强大能力依赖于大量标签的监督。当监督信号极其微弱时，模型很容易学习到无意义或混淆的特征。
- 如何在保持细胞类型区分度的同时，减小跨组学的异质性？ scRNA-seq和scATAC-seq在数据分布、稀疏性和维度上存在巨大差异。消除这种域差异（domain gap）是成功迁移的关键。但在消除差异的过程中，又极有可能“抹平”了区分不同细胞类型的关键生物学信号，尤其是在缺乏标签指导的情况下。
为了攻克这一现实而严峻的难题，作者提出了DANCE框架。它旨在通过一系列创新的半监督学习（semi-supervised learning）策略，同时解决双重标签稀缺和跨组学异质性这两大挑战。
2. DANCE 方法
DANCE的框架围绕两大核心策略构建：通过双重标签稀缺性消除来“开源”，解决监督信号不足的问题；通过跨组学多样本Mixup来“节流”，减小跨模态的异质性鸿沟。
2.1 源域scRNA-seq的“开源”：基于最优传输的数据集扩展
为了解决源域scRNA-seq数据标签稀缺的问题，DANCE没有采用传统的、容易出错的一对一伪标签（pseudo-labeling）策略，而是引入了最优传输（Optimal Transport, OT）。
传统方法通常将模型预测置信度最高的类别作为伪标签。这种方法容易偏向于简单的类别，导致类别不平衡和错误累积。OT旨在以最小的运输成本，将一个概率分布（如模型对未标记样本的预测分布）匹配到另一个概率分布（如一个期望的均匀类别分布）。
作者将伪标签的生成，构建为一个OT问题。通过Sinkhorn算法求解最优耦合矩阵 $Q$：
\[\min_{Q \in \Pi(\frac{1}{B}1_B, \frac{1}{C}1_C)} \sum_{ij} -\log P_{ij} Q_{ij} + \frac{1}{\sigma}(-\log Q_{ij})\]这里的$P$是模型对一个mini-batch中未标记样本的预测概率矩阵。通过求解这个OT问题，得到的耦合矩阵 $Q$ 能够从全局视角考虑样本和类别的分布，从而生成更平衡、更鲁棒的伪标签。
将生成的伪标签 $\hat{y}i^{(s),u} = \text{argmax}_j Q{ij}$ 分配给未标记的scRNA-seq样本，并将它们加入到带标签的数据集中。通过迭代训练，模型能够逐步提升伪标签的质量和数据集的规模。
2.2 目标域scATAC-seq的“开源”：分而治之的学习策略
对于目标域scATAC-seq数据，由于其与源域存在异质性，直接应用伪标签风险很高。因此，DANCE采用了一种分而治之策略。
根据模型预测的置信度，将未标记的scATAC-seq样本划分为两部分：
- 源域相似样本 (Source-like Samples, $D_{SL}$): 预测置信度高于某个阈值 $\tau$ 的样本。
- 目标域特异样本 (Target-specific Samples, $D_{TS}$): 预测置信度低于 $\tau$ 的样本。
对源域相似样本采用一致性正则化(Consistency Regularization)。对原始样本添加随机扰动（如高斯噪声），然后强制模型对原始样本和扰动后样本的预测结果保持一致。这通过一个交叉熵损失来实现，其中一个样本的“伪标签”被用来监督另一个样本的预测。
\[L_{SL} = - \frac{1}{|D_{SL}|} \sum_{i=1}^{|D_{SL}|} \sum_{c=1}^C \hat{y}_i^c \log(\tilde{p}_i^c)\]对目标域特异样本学习模糊标签集 (Ambiguous Label Sets)。对于这些模型“没有把握”的样本，强行分配一个伪标签是危险的。DANCE的策略是不分配一个“硬”标签，而是学习一个“软”的候选标签集 $Y_i$。
首先选出top-k个最可能的类别。然后，逐步地从这个候选集中，移除那些与最高置信度类别差异过大的不正确类别。
\[Y_i = \{c \in \text{Topk}(p_i) | \max_c p_i[c] - p_i[j] < \mu \}\]然后通过一个加权的软监督损失，来鼓励模型的预测向这个“提纯”后的候选集靠拢。
\[L_{TS} = - \frac{1}{|D_{TS}|} \sum_{i=1}^{|D_{TS}|} \sum_{j=1}^k \alpha_{ij} \mathbf{1}_{j \in Y_i} \log(p_i[j])\]2.3 减小异质性鸿沟的“节流”：跨组学多样本Mixup
为了解决两个模态间的异质性问题，DANCE提出了一种跨组学多样本混搭（Cross-omic Multi-sample Mixup）对齐策略。
作者利用分类器的权重矩阵 $W$ 作为不同细胞类型的原型（prototypes）。通过计算scRNA-seq样本和scATAC-seq样本经过原型投影后的余弦相似度，来得到一个类别级的相似度矩阵 $S$。
将相似度矩阵 $S$ 通过softmax转换为一个混合权重矩阵 $M$。利用这个权重矩阵，将一个mini-batch中的所有scRNA-seq样本的潜在表示 $z_j^s$，通过Mixup（加权求和）的方式，融合成一个虚拟的scRNA-seq样本 $z_i^{m,s}$。
\[z_i^{m,s} = \sum_{j=1}^B M_{ij} \cdot z_j^s\]这个虚拟样本的分布，被认为模拟了其对应的scATAC-seq样本的分布。
最后，通过最小化虚拟scRNA-seq样本和真实scATAC-seq样本在潜在空间中的L2距离，来实现跨模态的对齐。
\[L_A = \frac{1}{B} \sum_{i=1}^B \| z_i^{m,s} - z_i^t \|^2\]3. 实验分析
作者在多个公开的单细胞多组学基准数据集（来自Mouse Atlas和CITE-ASAP）上，对DANCE的性能进行了全面的评估，并与scJoint, scNCL, scBridge等多种SOTA方法，以及DAN, FixMatch等经典的领域自适应和半监督学习方法进行了比较。
3.1 实验一：与SOTA方法的性能比较
作者在三种不同的标签比例（低: 1%, 中: 5%, 高: 10%）下，评估了不同方法的细胞类型注释准确率。
在所有八个数据集、所有三种标签比例下，DANCE的分类准确率都显著地、大幅度地优于所有其他七种比较方法。例如，在snRNA_10X_v3_A-ATAC数据集、低标签比例下，DANCE的准确率达到了50.23%，而次优的scBridge仅为25.57%，性能提升了近100%。
在CITE-ASAP数据集上的可视化结果同样显示，DANCE的性能曲线（橙色）始终远高于其他所有方法。这些结果无可辩驳地证明了DANCE在处理标签稀缺问题上的巨大优势。
3.2 实验二：消融研究
作者通过移除DANCE中的四个核心模块，来验证它们各自的贡献。
- 移除OT伪标签 (w/o OP): 模型性能出现最显著的下降。这证明了基于最优传输的数据集扩展策略，对于解决源域标签稀缺问题至关重要。
- 移除跨组学Mixup (w/o CM): 性能同样显著下降。这证明了跨组学多样本Mixup对于减小异质性鸿沟是必不可少的。
- 移除分而治之策略 (w/o SL / w/o TS): 移除对源域相似样本或目标域特异样本的处理，都会导致性能的轻微下降。这证明了这种精细化的“分而治之”策略，能够从目标域数据中榨取更多的监督信息。
完整的DANCE模型性能最佳，证明了其各个组件设计的合理性与协同效应。
3.3 实验三：可视化与参数敏感性分析
- 图a (参数敏感性): 结果显示，DANCE对两个关键超参数k（候选集大小）和λ（软监督损失权重）的选择不敏感，在很宽的参数范围内都能保持稳定的高性能。
- 图b (t-SNE可视化): t-SNE图清晰地显示，DANCE学习到的嵌入空间中，来自scRNA-seq（红色）和scATAC-seq（蓝色）的细胞被高度混合在一起，而scNCL则几乎没有混合。这直观地证明了DANCE在消除异质性方面的巨大成功。
- 图c (A-distance比较): A-distance是一个衡量两个分布差异的指标。DANCE的A-distance远低于其他方法，并接近于0，再次从定量上证明了其强大的域对齐能力。
这些实验全面地证明，DANCE通过其创新的双重标签稀缺性消除策略和跨组学对齐机制，成功地解决了在标签稀缺的现实场景下进行多组学知识迁移的难题，并取得了SOTA的性能。
