《Patterns》:Limitations of genomic language models for realistic sequence generation
编辑推荐:
基因组语言模型(genomic language models, gLMs)正越来越多地被探索用于合成基因组生成,但生成序列在多大程度上类似自然基因组仍不清楚。研究人员在210个原核、真核和病毒基因组中评估了Evo 2,并在噬菌体中评估了megaDNA。生成序
基因组语言模型(genomic language models, gLMs)正越来越多地被探索用于合成基因组生成,但生成序列在多大程度上类似自然基因组仍不清楚。研究人员在210个原核、真核和病毒基因组中评估了Evo 2,并在噬菌体中评估了megaDNA。生成序列重现了局部序列统计特征,但在k-mer谱、混沌游戏表示(chaos game representations, CGRs)、nullomer模式、非B DNA基序(non-B DNA motifs)和转录因子结合位点(transcription factor binding site, TFBS)组织方面与自然DNA存在差异。在多数情况下,这些差异超过自然种内变异。分类器能够轻易区分生成序列与自然序列,真核中受试者工作特征曲线下面积(AUROC)值达到0.98,原核中达到0.88,并且这种区分能力随与条件种子(conditioning seed)距离的增加而增强。简单k-mer方法的表现与神经分类器相似。此外,校正单个生成伪影并未解决整体差异,而是将其转移到其他基因组特征。因此,重现局部序列性质并不必然产生能够反映自然基因组更广泛组织的序列。
研究背景:大语言模型(large language models, LLMs)推动了复杂序列数据建模。gLMs在变异效应预测、调控元件识别和序列设计中表现突出。截至2026年初,具备长上下文基因组生成能力的主要模型为Evo 2和megaDNA。Evo 2拥有400亿参数,基于约12.8万个基因组、超过9.3万亿个核苷酸训练,可处理长达100万核苷酸的序列;megaDNA为1.45亿参数模型,基于约99,700个未注释噬菌体基因组预训练,可生成最长96 kb序列。问题在于,生成序列具有功能并不等于其组成和组织类似自然基因组。自然DNA受数十亿年进化约束,包含k-mer谱、重复、结构基序和调控元件等特征。早期gLMs可能主要依赖回忆训练数据,Evo 2在短程信号如密码子使用偏倚和tRNA结构局部性上也有盲点。因此,需要严格量化评估gLMs在真实序列生成中的局限,并建立可追踪模型改进的基准。论文发表在《Patterns》。
研究人员开展的研究:研究人员系统评估Evo 2和megaDNA,提出一组定量指标,比较模型生成序列与自然基因组序列。对Evo 2分析210个完整基因组组装,涵盖主要进化谱系;对megaDNA采用250个噬菌体基因组的配对分析,并利用4,969个自然噬菌体与1,002个从头合成噬菌体的群体级数据。结果显示,生成序列可重现局部序列统计,但在k-mer谱、CGR、nullomer、非B DNA基序和TFBS组织上偏离自然DNA,多数差异超过自然种内变异。简单卷积神经网络(CNN)和浅层k-mer分类器均可区分合成与自然序列,且区分能力随距条件种子距离增加而增强。校正单个伪影会转移而非消除其他畸变。研究意义在于,当前gLMs尚不能可靠生成具有自然样组织真实性的基因组序列,未来需专门架构、生物约束和多目标评估;该基准也有助于生物安全治理和生成序列检测。
主要关键技术与方法:使用Evo 2与megaDNA预训练模型。Evo 2样本来自GenBank和RefSeq的210个参考基因组组装,包括20个真核、52个细菌、9个古菌和129个病毒基因组;真核每个基因组按染色体长度采样40个300 kbp窗口,短于300 kbp基因组则全基因组生成。Evo 2以物种特异性系统发育标签(phylotag)加前3,000 bp自然序列为条件种子,温度=1、top-k=4生成至300,000 bp。megaDNA对250个噬菌体进行配对生成,以3,000 bp为种子生成50,000 bp,温度=0.95;并用4,969个自然与1,002个合成噬菌体进行群体级比较。分析指标包括k-mer谱、CGR/FCGR、nullomer、非B DNA基序、TFBS扫描、Enformer调控活性预测、CNN及浅层基线分类、距种子距离分析、替代解码和校正干预。
研究结果:在“Synthetic genomes fail to recapitulate organismal k-mer spectra”部分,研究人员分析210个代表性物种,发现所有原核和真核物种的合成k-mer谱与自然谱显著不同,四足动物自然谱多为双峰而Evo 2合成谱多为单峰,人类合成序列稀有k-mer减少、中等频率基序膨胀;原核和病毒较接近但仍存在中等稀有k-mer增多,结论是Evo 2不能重现生物体k-mer谱。在“Chaos game representation of genomic k-mers in gLM-produced genomes”部分,FCGR分析显示自然与合成图谱的L1距离普遍升高,合成图谱趋于均一化,昆虫和藻类中出现人为规律性增强,表明未能保留物种特异的高阶k-mer组织。在“Synthetic genomes fail to reproduce natural nullomer patterns”部分,真核合成基因组nullomer相对耗竭,且随k增大效应增强,k=10–13时所有物种显著;病毒和原核呈现相反富集,提示域无关的生成行为。在“Systematic distortion of non-B DNA motif landscapes in synthetic genomes”部分,20个真核基因组中Evo 2生成序列一致耗竭非B DNA基序,直接重复、反向重复、镜像重复和短串联重复在100%真核中耗竭,Z-DNA和G-四链体(GQs)分别在95%和85%物种中耗竭;古菌、细菌和病毒中则多见富集,说明非B DNA密度无法被复制。在“Transcription factor binding sites are systematically enriched in synthetic genomes”部分,研究人员分析1,019个转录因子谱,发现合成人类序列中绝大多数TFBS丰度高于自然序列,且空间组织更均一,Fano因子和Gini系数更低,呈选择性畸变。在“Synthetic human sequences show reduced predicted regulatory activity”部分,Enformer预测显示合成窗口中DNase可及性在40个窗口中34个降低,CAGE活性在27个窗口中降低,但自然-自然基线无显著差异;这提示预测调控活性降低,但非实验功能证据。在“Compositional and structural divergence in megaDNA-generated phage genomes”部分,megaDNA生成噬菌体保留k-mer谱整体形状但发生质量重分布,FCGR持续偏离,nullomer减少,直接重复和反向重复耗竭而镜像重复和短串联重复富集,Z-DNA和GQs效应较弱。自然-自然基线比较显示,FCGR合成-自然距离超过自然-自然变异,非B DNA多数比较显著,nullomer差异较可变。在“CNN model reliably distinguishes natural and synthetically generated genomes”部分,CNN在真核中AUROC从单块0.89升至≥8块0.97–0.98,原核约0.74–0.82,病毒约0.62–0.69;浅层k-mer逻辑回归和线性SVM表现相当或更好,说明可分性主要来自基础组成差异;距种子越远,分类性能越高,表明局部统计保留但长程上下文逐渐崩溃。在“Compositional divergences persist across alternative decoding configurations”部分,低温和核采样下主要组成偏离持续存在。在“Corrective interventions reveal trade-offs in sequence realism”部分,约束解码可降低同聚物但增加k-mer散度、FCGR距离、低复杂度含量和CNN可检测性;训练时辅助损失虽减轻目标伪影,却增加k-mer散度,说明干预转移而非消除生成伪影。
讨论部分总结:该研究表明,受评估的gLMs在长序列生成中未能重现自然基因组的若干组成和组织特性。结论仅针对生成序列,不涉及嵌入、似然、变异效应预测或其他由自然基因组输入计算的模型衍生表示。Evo 2和megaDNA在k-mer谱、nullomer、CGR、非B DNA和TFBS等指标上出现广泛畸变;Enformer预测的CAGE和DNase降低不应解释为实验证明的功能损伤,因为生成序列可能超出预测器训练分布。基因组序列稀疏、高噪声、重复且受复杂进化约束,与人类语言不同。简单分类器即可区分合成与自然序列,说明偏离主要是系统性组成差异。Evo 2在超过约400 kb后出现模型崩溃,距种子越远质量下降。功能可行性不保证自然样组成或组织真实性,因此若将gLM生成全基因组用于基准测试、基因组组织建模或进化推断,需要谨慎验证。未来应发展专门基因组架构、整合转录组/表观遗传/染色质可及性等多模态数据、引入进化先验和长程依赖约束,并采用多目标评估。该研究基准可用于追踪生成模型能力,也可辅助检测和归因生成序列,对生物预测和生物安全治理均有意义。局限性包括部分类群代表数有限,尤其是古菌n=9,另有20个真核物种和5个病毒门,因此结论应理解为采样类群中的稳健趋势而非所有谱系的普适陈述。研究结论翻译:本研究表明,受评估的gLMs在长序列生成过程中未能重现自然基因组的若干组成和组织特性;这些结论仅限于生成序列,不涉及嵌入、似然、变异效应预测或其他从自然基因组输入计算的模型衍生表示。