空间转录组技术在测量基因表达的同时保留细胞在组织中的空间位置,使研究人员不仅能够观察“一个细胞表达了什么”,还能够进一步了解这个细胞位于哪里、周围有哪些细胞,以及它处于怎样的组织微环境中。随着 MERFISH、Xenium 和 CosMx 等高分辨率空间转录组技术的发展,单张组织切片已经可以包含数十万甚至上百万个细胞。快速增长的数据规模,也为训练能够跨组织、跨平台迁移的空间转录组基础模型提供了新的可能。
然而,与传统单细胞转录组相比,空间转录组具有更加复杂的数据结构:基因存在于细胞内部,而细胞又按照空间关系组织成组织。因此,一个真正面向空间转录组的基础模型,不仅需要理解细胞内部的分子状态,还需要进一步理解不同细胞之间的空间关系。
针对这一问题,英国曼彻斯特大学HongpengZhou研究团队提出了空间转录组基础模型NexuST。该模型从空间转录组天然存在的“基因—细胞—组织”层级结构出发,通过基因和细胞两个层级的交替建模,使细胞内部的分子信息与细胞之间的空间信息在整个网络中持续交换,从而探索一种更加适合空间转录组的基础模型架构。该文章近日发布于bioRxiv预印本平台,题为NexuST: A Hierarchical Foundation Model for Spatial Transcriptomics。
如何设计空间转录组基础模型?
现有单细胞基础模型通常以基因为基本单元,通过 Transformer 学习一个细胞内部不同基因之间的关系。这样的设计能够保留较为细致的分子信息,但当它被直接扩展到空间转录组时,会遇到新的困难。一个局部组织区域往往同时包含大量细胞,如果仍然保留每个细胞内部的大量基因,并将所有基因统一放入一个序列中进行建模,输入规模和计算成本都会迅速增加。
另一种思路是先将每个细胞压缩成一个整体表示,再建模不同细胞之间的空间关系。这样虽然更加容易扩展到大规模组织,却可能在一开始就丢失细胞内部显式的基因层级信息。因此,空间转录组基础模型面临一个核心矛盾:如何在保留细粒度基因信息的同时,高效建模大规模细胞之间的空间关系? 研究团队将这一问题概括为 gene–cell scalability tension。
更重要的是,基因和细胞两个层级在生物学上本身也并非彼此独立。一个细胞的转录状态会影响它如何参与组织中的细胞互作,而周围微环境也可能影响细胞自身的分子状态。因此,基因信息和空间信息不应只在模型中被简单串联,而应该能够在学习过程中持续交换。
基于这一思路,NexuST采用了层级式 Transformer 架构。模型首先在单个细胞内部学习不同基因之间的关系,并形成对当前细胞分子状态的表示;随后,再让空间上相邻的细胞彼此交换信息,使每个细胞进一步获得周围组织环境的信息。关键在于,这一过程并不会在空间建模之后结束。经过周围环境更新后的细胞表示,会重新进入下一轮基因建模;新的分子信息随后又继续参与下一轮细胞间的信息交换。
因此,NexuST并不是简单地“先理解基因,再加入空间信息”,而是在整个网络中反复让细胞内部的分子状态与细胞外部的组织环境相互影响、相互修正。这种持续的基因—细胞信息交换,是NexuST最核心的架构设计。
为了处理超大规模组织切片,NexuST将局部组织区域作为基本输入单元,在一个区域内同时建模多个空间邻近细胞,并在每个细胞内部继续保留显式的基因表示。这样的分层方式避免了直接对一个组织区域内所有基因进行统一建模,使分子层和细胞层的信息能够在可控的计算成本下共同学习。
让模型真正学习细胞差异,而不是在预训练中“走捷径”
除了编码器架构,研究团队还进一步关注了另一个问题:预训练任务本身是否真的能够促使模型学习有意义的细胞表示?
NexuST采用自监督学习的方式,随机遮盖一部分基因表达值,再要求模型根据其余基因以及周围组织信息恢复被遮盖的内容。但研究团队注意到,传统的表达量重建目标可能存在一种“捷径”:模型只需较好地恢复一个细胞整体的表达规模,就可以显著降低重建误差,而不必充分学习不同细胞之间真正有生物学意义的基因组成差异。
为减少这一问题,NexuST没有简单使用单一的预测模块直接恢复基因表达,而是将重建过程拆分为两个部分:一部分负责预测细胞整体的表达规模,另一部分负责学习不同基因之间的相对表达组成,再由两部分共同形成最终预测。这样的设计使模型更难仅仅依赖“这个细胞整体表达量有多高”来完成预训练,而需要进一步保留不同细胞之间更细致、更具有细胞特异性的基因组成信息。
考虑到不同基因具有不同的表达和调控模式,NexuST进一步在重建模块中引入了 Mixture-of-Experts(MoE,多专家模型)。不同基因可以根据自身身份调用不同的专家组合,使模型能够更加灵活地处理不同基因之间的表达异质性。
此外,考虑到不同空间转录组平台之间存在明显的技术差异,NexuST将平台身份信息提供给解码器,用于处理不同技术体系带来的批次效应,而不直接将其作为编码器学习细胞表示的输入。这样的设计使技术差异更多由解码器负责解释,从而使编码器更专注于学习具有跨平台迁移能力的生物学表示。
从数据组织、层级信息交换,到预训练任务和解码器设计,NexuST围绕同一个目标进行了整体设计:让模型同时保留细胞自身的分子状态和其所处的空间环境,并尽可能学习具有迁移能力的生物学表示。
构建4570万细胞的HumanST-46M
为了进行大规模预训练,研究团队进一步构建了人体空间转录组预训练语料 HumanST-46M。该数据集包含约 4570万个细胞、72个数据集和123张组织切片,覆盖脑、乳腺、结肠、肺、卵巢、淋巴结、子宫、肝脏、前列腺、皮肤和肾脏等 11种人体器官,并同时整合 MERFISH、Xenium 和 CosMx 三个主流成像型空间转录组平台。
由于单张空间转录组切片可能包含从数千到上百万个细胞,直接对整张组织切片进行训练并不现实。NexuST因此通过空间采样,将大型组织切片转换为多个局部细胞区域进行训练,并在不同训练轮次中不断重新采样,使模型逐步接触组织中的不同细胞和空间邻域。
通过在不同器官、疾病状态和实验平台的大规模数据上进行自监督预训练,NexuST获得了可以进一步迁移到不同下游任务的细胞表示。
系统评测显示NexuST在多类任务中取得领先表现
为了系统评估NexuST学习到的表示,研究团队选取了4个完全独立于预训练数据的空间转录组数据集,包括 MERFISH 人脑、CosMx 正常肝脏、CosMx 肝癌和 Xenium 肺纤维化,总计约 260万个细胞,覆盖不同器官、疾病状态和实验平台。研究设置了四类下游任务:细胞类型注释、组织区域预测、缺失基因恢复以及细胞邻域组成预测,分别从细胞身份、组织结构、基因关系和局部微环境等不同角度评估模型。
NexuST在这些评测中表现出了非常稳定的整体优势。在最基础的细胞类型注释任务中,NexuST在4个测试数据集上,无论直接使用冻结的预训练表示,还是进一步对整个模型进行微调,均取得了最高的总体性能。尤其在CosMx肝脏等细胞状态较为复杂的数据中,NexuST能够更好地区分一些较难仅依靠细胞自身表达进行区分的细胞亚型。
这种优势在更加依赖组织环境的区域预测任务中进一步扩大。在全部3个具有组织区域标注的数据集上,NexuST在冻结模型和完整微调两种设置下均取得最佳结果。其中,在Xenium肺纤维化数据中,完整微调后的NexuST相比最强竞争模型Nicheformer取得了 0.21的macro-F1提升。值得注意的是,在两个CosMx肝脏数据中,仅使用冻结的NexuST预训练表示训练一个简单预测层,其性能就已经超过了所有经过完整微调的其他基础模型。
在直接检验局部空间信息的细胞邻域组成预测中,NexuST表现出了更加一致的优势。在4个数据集、4种不同大小的空间邻域,以及冻结和完整微调两种设置下,NexuST均取得了最低的预测误差。这说明其学习到的细胞表示不仅保留了“这个细胞本身是什么”,还包含了丰富的局部组织微环境信息。
在缺失基因恢复任务中,研究人员人为移除一部分基因,再要求模型根据剩余信息预测这些未输入的基因表达。在冻结预训练编码器的情况下,NexuST在4个数据集上均取得最佳整体恢复性能,显示其预训练表示已经编码了丰富的基因关系和组织上下文信息。完整微调后,不同模型之间的差异有所变化,Nicheformer在部分CosMx肝脏数据上取得更高表现,说明不同预训练模型在针对具体数据进一步适应时仍具有各自特点。
总体来看,NexuST的优势并不局限于某一种任务。从细胞身份识别,到组织区域判断,再到局部微环境表征,NexuST均展现出了稳定而一致的性能优势,而这种优势在真正依赖空间上下文的任务中尤其突出。
这些结果首先证明了NexuST作为通用空间转录组表征模型的整体能力。但更重要的问题是:这种优势究竟来自哪里?模型是否真正从周围组织环境中学习到了超越单细胞基因表达的信息?
模型学到的真的是“空间信息”吗?
研究中的一个重要发现是,仅使用基因表达、不输入任何空间坐标的PCA方法,在不少任务上依然具有很强的竞争力。这说明,部分与组织空间相关的信息本身已经反映在细胞自身的基因表达中。
一个细胞的转录状态往往与其所在的组织区域、功能状态以及微环境相关。因此,即使模型完全不知道细胞的空间坐标,仅从基因表达出发,也可能获得部分与空间组织相关的信息。
这也意味着,仅仅证明一个模型能够完成“空间任务”,并不足以说明它真正学习到了额外的空间信息。更关键的问题是,当细胞自身的基因表达不足以确定其组织环境时,模型还能否进一步利用周围细胞和局部组织结构解决这种歧义?
研究结果显示,这恰恰是NexuST优势最明显的地方。在Xenium肺纤维化数据中,有些细胞类型主要集中在少数组织区域,仅依靠细胞自身信息就能够较容易地判断它们所在的位置;但另一些细胞类型则广泛分布在多个区域,同一种细胞可能出现在完全不同的组织环境中。研究人员进一步量化了不同细胞类型在多个组织区域中的分散程度,结果发现,一种细胞越广泛地分布在不同组织区域中,NexuST相对于Nicheformer的优势就越明显,两者之间的Spearman相关系数达到0.85。
换句话说,NexuST的收益并不是均匀分布在所有细胞上,而是主要出现在“仅仅知道这个细胞本身是什么,已经不足以知道它在哪里”的场景。
类似的现象也出现在肿瘤微环境中。在CosMx肝癌数据中,同一种巨噬细胞或内皮细胞既可能位于肿瘤细胞丰富的区域,也可能处于肿瘤细胞较少的区域。仅依赖基因表达的方法容易趋向于预测这一细胞类型的“平均微环境”,而NexuST能够更加准确地区分同一种细胞所处的不同局部环境。在代表性的巨噬细胞和内皮细胞中,NexuST区分 tumour-rich 和 tumour-poor 环境的 AUROC 可达到约 0.97,而PCA约为 0.83–0.84。
这些结果表明,细胞自身的分子状态和空间微环境并不是彼此替代的信息来源。基因表达本身已经包含了相当一部分与空间组织相关的信号,但当这种信息不足时,真正的局部空间环境能够提供额外的信息,而NexuST的优势正主要集中在这些场景中。
哪些设计真正发挥了作用?
为了进一步确认这些性能提升来自哪里,研究团队对NexuST的关键设计进行了系统消融。
首先,如果去掉细胞之间的信息交换,只保留细胞内部的基因建模,模型在细胞类型注释上的影响相对有限,但在组织区域预测和细胞邻域组成预测等更加依赖空间信息的任务上明显下降。这说明,单个细胞自身的基因表达已经能够很好地支持一部分细胞身份判断,而对于组织区域和微环境等问题,显式的细胞间建模则更加重要。
进一步地,如果模型仍然保留基因层和细胞层,但不再让它们反复交替,而是先完成所有基因建模,再统一进行细胞间建模,空间任务的性能同样会下降。这表明,关键并不只是让模型中同时存在“基因模块”和“空间模块”,而是要让两个层级在整个学习过程中持续交换信息。将两个层级分阶段训练的方案同样整体弱于联合训练,也进一步支持了这一结论。
预训练阶段的解码器设计同样十分重要。当研究人员去掉前面提到的表达规模分离设计后,模型在多项下游任务上的表现均明显下降,而且这一版本在整体消融实验中的表现最弱。替换MoE解码器同样会造成整体性能下降,说明基础模型最终学到什么,不仅取决于编码器采用怎样的架构,也与预训练任务究竟要求模型学习什么信息密切相关。
这些实验共同支持了NexuST背后的核心思想:对于空间转录组基础模型而言,细胞内分子建模、细胞间空间建模、两个层级之间持续的信息交换,以及预训练目标本身,需要作为一个整体共同设计。
训练时300个基因,模型能否适应更大的基因panel?
NexuST在预训练阶段为了控制计算成本,每个细胞采用固定的基因输入预算。但这也带来了一个很现实的问题:如果未来空间转录组技术能够同时测量更多基因,一个已经训练好的模型是否还能够继续使用?
为此,研究团队进行了额外的 full-panel 实验。在主要benchmark中,为了保证不同模型之间公平比较,各模型统一使用300个基因作为候选输入;而在 full-panel 实验中,这一限制被取消,不同模型可以直接使用实验实际测量、且与其预训练词表兼容的更大基因panel。
结果显示,在不进行额外预训练、也不修改NexuST编码器的情况下,模型可以直接处理Xenium肺纤维化数据中的342个基因,以及两个CosMx肝脏数据中的 999个基因。在这一扩展设置下的11个任务—数据集组合中,NexuST取得了其中 10个最佳结果。
这说明,预训练时采用的300个基因主要是一种计算预算,而不是模型固定的下游输入上限。随着未来空间转录组平台不断提高基因通量,这种无需重新预训练即可适应更大基因panel的能力,为基础模型进一步扩展提供了重要基础。
当然,这种扩展并非没有边界。NexuST目前仍采用标准Transformer attention,因此随着基因数量和细胞数量继续增加,计算成本也会快速增长。如何进一步扩大模型能够处理的基因空间和组织范围,仍然是下一代空间转录组基础模型需要解决的问题。
从细胞自身走向组织微环境:模型内部发生了什么?
NexuST的层级结构还提供了一个额外的观察窗口,使研究者能够分别分析模型在基因层和细胞层究竟关注了什么。
在Xenium肺纤维化数据中,研究人员发现,在网络的中间层,模型更多关注能够反映细胞自身身份和所属谱系的信息。例如,成纤维细胞更多关注胶原和细胞外基质相关基因,而巨噬细胞则更多关注典型的巨噬细胞相关基因。随着网络进一步加深,部分attention逐渐从典型的细胞自身特征转向更多与周围组织环境有关的信息。
一个有代表性的例子是 COL1A2。巨噬细胞自身几乎不表达COL1A2,但在模型更深层中,部分巨噬细胞对这一基因的关注反而增加,而这些变化较明显的巨噬细胞,其周围也更富集成纤维细胞。与此同时,在细胞层的attention中,网络深层里巨噬细胞对成纤维细胞的关注也有所增强。
基因层和细胞层出现的这种同步变化,为观察模型如何逐步整合不同尺度的信息提供了一个有趣窗口:模型在中间层更多围绕细胞自身状态和谱系结构组织信息,而在更深层进一步整合部分来自局部组织微环境的信号。
需要强调的是,这些attention分析主要是对模型内部信息流动的描述性观察,并不能直接证明新的生物学因果机制。但它说明,NexuST的层级设计不仅能够提高下游任务性能,也使研究者能够从不同尺度观察模型如何连接分子状态与空间微环境。
总结与展望
总体而言,NexuST所关注的不只是如何进一步提升某几个空间转录组benchmark的性能,而是一个更加基础的问题:空间转录组这种天然具有“基因—细胞—组织”多层级结构的数据,应该采用怎样的基础模型架构?
NexuST给出了一种层级式解决方案:在细胞内部保留细粒度基因信息,在细胞之间建模空间关系,并让两个层级在整个网络中持续交换信息;与此同时,通过重新设计预训练重建过程,使模型更多学习细胞特异性的分子组成,并将实验平台等技术信息主要交由解码器处理。
系统评测进一步表明,NexuST在细胞类型注释、组织区域预测、基因恢复以及细胞微环境表征等不同层面的任务中均展现出较强的通用能力,其优势尤其集中在单个细胞自身信息不足、必须借助周围空间环境才能进一步判断的场景。
这些结果也提示,下一代空间转录组基础模型的发展,可能不仅依赖更多的数据和更大的参数规模,更需要模型架构本身与空间生物学天然的层级结构相匹配。通过将细胞内的分子状态、细胞身份以及组织微环境连接在统一的表示学习框架中,NexuST为未来构建更加可扩展、可迁移并能够理解组织空间结构的基础模型提供了一条新的路径。
原文链接:https://www.biorxiv.org/content/10.64898/2026.09.22.753590v1
代码:https://github.com/UoM-HealthAI/NexuST
数据:https://huggingface.co/datasets/Haiping-UoM/HumanST-46M
制版人:十一
学术合作组织
(*排名不分先后)
推荐直播
转载须知
【非原创文章】本文著作权归文章作者所有,欢迎个人转发分享,未经作者的允许禁止转载,作者拥有所有法定权利,违者必究。
BioArt
Med
Plants
人才招聘
热门跟贴