MOLI: 用于药物反应预测的多组学晚期融合深度神经网络.

0. TL; DR

本文提出了MOLI (Multi-omics Late Integration)，一种基于深度神经网络的多组学后期整合方法。MOLI以somatic mutation（体细胞突变）、copy number aberration (CNA) 和gene expression数据为输入，并将其整合用于药物反应预测。

MOLI使用特定类型的编码子网络为每种omics类型学习特征，然后将这些特征拼接成一个统一的表示。通过一个由三元组损失和二元交叉熵损失组成的组合损失函数来优化这个表示。Triplet loss使得响应者样本的表示彼此更相似，并与非响应者样本的表示不同；而交叉熵损失则使这个表示对药物反应具有预测性。

作者在in vitro（体外，PDX模型）和in vivo（体内，TCGA患者）数据集上对五种化疗药物和两种靶向治疗药物验证了MOLI。与state-of-the-art单组学和早期整合多组学方法相比，MOLI在外部验证中取得了更高的预测准确性。MOLI强大的预测能力表明，它可能在精准肿瘤学中具有重要的应用价值。

1. 背景介绍

精准肿瘤学（Precision oncology）旨在利用基因组数据为个体癌症患者量身定制治疗方案。然而，对癌症治疗（无论是化疗还是靶向药物）的反应是一个复杂的表型，通常取决于多种因素，尤其是患者的基因组图谱。目前，只有少数患者能从精准肿瘤学中受益。提高药物反应预测的准确性，将显著增加受益于靶向治疗或化疗的患者数量，并避免那些不会受益的患者遭受不必要的副作用。

大规模的in vitro（体外）研究，如Genomics of Drug Sensitivity in Cancer (GDSC) 和Cancer Cell Line Encyclopedia (CCLE)，为研究人员提供了包含多组学谱和大量药物反应数据的数据集。这些数据集使得在计算机上（in silico）构建能够分析单组学或多组学数据累积效应以准确预测药物反应的计算方法成为可能。

一个关键的挑战是临床效用（clinical utility），即研究结果是否能转化到真实的患者身上。理想情况下，计算方法应在体内（in vivo）数据上训练，但可用的in vivo数据集（如TCGA）的药物反应记录非常有限。因此，一个在in vitro数据上表现良好的模型，如果也能在in vivo数据上表现良好，那么它就具有很好的可转化性（translatability）。

大多数研究表明，gene expression数据是用于药物反应预测最有效的数据类型。然而，添加其他omics数据类型，尤其是在pan-cancer（泛癌）模型中，可以进一步提升预测能力。

在多组学数据分析中，一个核心挑战是如何整合不同类型的数据。主要有两种方法：

  1. Early integration（早期整合）：首先将一个样本的所有omics数据拼接起来，然后应用特征学习方法（如autoencoders）来创建一个统一的表示。这种方法的缺点是：忽略了每种omics数据类型的独特分布；需要复杂的归一化；进一步增加了已经很高的输入维度。
  2. Late integration（后期整合）：为每种omics数据类型分别学习特征，然后将这些特征整合为一个统一的表示，用于后续的分类或回归。这种方法能更好地处理每种数据类型的独特性。

基于此，作者提出了MOLI，一种基于deep neural networks的multi-omics late integration方法，旨在通过一种新颖的组合损失函数来优化多组学表示，并利用迁移学习来提升靶向药物的预测性能。

2. MOLI 方法

MOLI是一个deep neural network，它为给定的样本（由其多组学谱表示）和给定的药物预测药物反应。其网络结构包含编码子网络、整合步骤和分类子网络，并通过一个组合损失函数进行端到端的训练。

2.1 通过编码子网络学习特征

为了为每种omics数据类型学习特征，作者为mutation (XM)、CNA (XC) 和gene expression (XE) 数据设计了独立的encoding feed forward sub-networks（编码前馈子网络）。

每个子网络的输入是单一类型的omics数据，输出是为该omics学习到的特征。作者将这些子网络分别表示为$f_M(X_M)$, $f_C(X_C)$和$f_E(X_E)$。每个编码子网络都有一个带有ReLU激活函数的全连接层，并使用dropout和batch normalization来正则化模型和增强训练过程。

2.2 通过后期整合来整合学习到的特征

在整合步骤中，作者采用了一种late integration方法，将从不同单组学数据类型中学习到的特征拼接起来，以获得一个多组学表示。

\[F(X_M, X_C, X_E) = f_M(X_M) \oplus f_C(X_C) \oplus f_E(X_E)\]

其中，$\oplus$表示拼接操作。这个整合后的表示会通过一个l2 normalization层进行平滑处理。

2.3 通过组合损失函数优化学习到的特征

学习到的特征最终将用于一个预测药物反应的分类器。因此，MOLI的训练目标由一个组合损失函数$J$来定义，它包含两部分：分类损失和triplet loss。

1. 分类损失 (Classification Loss)

MOLI的最后一个子网络是一个带有Sigmoid激活函数的分类层。作者使用标准的binary cross-entropy（二元交叉熵）作为分类损失：

\[L_{Classifier} = -[Y \log g(F(X_E, X_M, X_C)) + (1-Y) \log(1-g(F(X_E, X_M, X_C)))]\]

其中，$Y$是二值化的IC50值（药物反应的度量），$g(\cdot)$是分类器。

2. 三元组损失 (Triplet Loss)

为了对学习到的表示施加进一步的约束，作者引入了triplet loss。这个损失函数的目标是：使得响应者（responder）样本的表示彼此之间比它们与非响应者（non-responder）样本的表示更相似。

一个三元组由一个Anchor（锚点）、一个Positive（正样本）和一个Negative（负样本）组成。在这里，Anchor和Positive都是对给定药物有反应的细胞系，而Negative是无反应的细胞系。

对于一个三元组，模型需要满足以下条件：

\[d(F(\text{Anchor}_i), F(\text{Positive}_i)) + n \le d(F(\text{Anchor}_i), F(\text{Negative}_i))\]

其中，$d(\cdot)$是距离函数（作者使用欧氏距离），$n>0$是一个margin（边界）。第$i$个三元组的损失为：

\[L_{Triplet}^i = \max[d(F(\text{Anchor}_i), F(\text{Positive}_i)) - d(F(\text{Anchor}_i), F(\text{Negative}_i)) + n, 0]\]

总的triplet loss是所有三元组损失的和：$L_{Triplet} = \sum_{i=1}^T L_{Triplet}^i$。

2.4 针对靶向药物的迁移学习

对于靶向药物，作者使用了transfer learning。他们没有为每个单独的药物训练一个模型，而是为作用于相同通路或分子的一系列靶向药物构建了一个泛药物（pan-drug）输入数据集。

作用于相同靶点的药物预期会在细胞系中产生高度相关的反应。通过将这些药物的数据集合在一起，可以大大增加训练集的大小。一个MOLI模型在整个药物家族的数据上进行训练，而不是为每个药物单独训练。

3. 实验分析

作者通过实验旨在回答以下问题：

作者在GDSC细胞系数据集上训练模型，并在PDX（人源肿瘤异种移植）小鼠模型和TCGA患者数据集上进行外部验证。

3.1 MOLI的多组学整合提升了药物反应预测性能

这些实验表明，结合多组学数据、deep neural networks和作者提出的组合损失函数，能够带来显著的预测性能提升。

3.2 靶向药物的迁移学习显著提升了性能

作者观察到，对于靶向药物（Cetuximab和Erlotinib），在pan-drug（泛药物）多组学输入上训练的MOLI（MOLI complete Pan-drug），其性能显著优于在drug-specific（药物特异性）输入上训练的MOLI。对于Cetuximab，泛药物训练的AUC达到了0.80。对于Erlotinib，泛药物训练的AUC达到了0.72。这表明，transfer learning可以有效地提高靶向药物的预测性能。

3.3 MOLI对TCGA患者的预测与EGFR基因相关

作者将在pan-drug输入（EGFR抑制剂）上训练好的MOLI模型，用于预测TCGA中无药物反应记录的乳腺癌、肺癌、肾癌和前列腺癌患者的反应。

通过多元线性回归分析，他们发现，在乳腺癌、肺癌和肾癌中，MOLI预测的药物反应与EGFR通路中多个基因（包括EGFR基因本身）的表达水平存在统计学上的显著关联。例如，在乳腺癌中，AP2A1, CALM2, CLTA, EGFR等基因的表达与预测反应显著相关。这一结果表明，MOLI捕捉到了与药物靶点相关的真实生物学信号。