利用深度卷积神经网络对基因表达进行预测建模,并定位DNA结合位点
《PLOS Computational Biology》:Predictive modeling of gene expression and localization of DNA binding site using deep convolutional neural networks
【字体:
大
中
小
】
时间:2026年04月02日
来源:PLOS Computational Biology 3.6
编辑推荐:
尽管经历了测序革命,迄今为止测序的基因组中仍有很大一部分缺乏关于转录因子结合位点在调控DNA上排列的任何信息。大规模并行报告基因检测(MPRAs)通过测量由调控区域的数千个突变变体驱动的基因表达水平,有潜力显著加速我们的基因组注释工作。然而,对这些数据的解释通常假设调控序列中的每
尽管经历了测序革命,迄今为止测序的基因组中仍有很大一部分缺乏关于转录因子结合位点在调控DNA上排列的任何信息。大规模并行报告基因检测(MPRAs)通过测量由调控区域的数千个突变变体驱动的基因表达水平,有潜力显著加速我们的基因组注释工作。然而,对这些数据的解释通常假设调控序列中的每个碱基对都对整体基因表达有独立的贡献。为了能够以考虑调控序列中远距离碱基之间可能的相关性的方式分析这些数据,我们开发了深度学习自适应调控序列识别器(DARSI)。这个卷积神经网络利用MPRA数据为每个操作子训练特定的模型,从而直接从原始调控DNA序列预测基因表达水平。通过利用这种预测能力,DARSI能够以单碱基对的分辨率系统地识别调控区域内的转录因子结合位点。为了验证其预测能力,我们将DARSI与经过整理的数据库进行了对比,确认其在预测已知转录因子结合位点方面的准确性。此外,DARSI还预测了新的未映射的结合位点,为未来验证这些结合位的存在以及识别目标这些位点的转录因子铺平了道路。因此,DARSI为MPRA实验数据分析提供了一个新的框架,它生成了可实验操作的预测结果,可以推动旨在实现对转录调控的预测性理解的理论与实验循环的迭代。在这里,我们开发了一种称为DARSI的深度学习方法,该方法利用这些大规模并行报告基因检测来预测DNA序列的基因表达水平,并帮助定位这些重要的结合位点。通过训练我们的模型来识别影响基因表达的DNA序列模式,我们的方法不仅能够高精度地找到已知的结合位点,还能预测需要未来实验验证的新结合位点。
作者总结:理解基因是如何被激活和关闭的是生物学中的一个基本问题。这一过程通常由转录因子蛋白控制,这些蛋白结合到DNA的特定区域以激活或抑制附近的基因。识别这些蛋白的结合位置是解码基因调控机制的关键。最近,来自所谓的大规模并行报告基因检测的大量实验数据集(其中测试了数千个略有不同的DNA序列)为高通量识别这些结合位点打开了大门。
引言:生物学中的一个核心挑战是从基因组序列的知识中准确预测基因调控程序及其功能[1-3]。这些程序在很大程度上受到包含转录因子结合位点的DNA调控区域的控制。这些蛋白与转录机制相互作用,通过增强或抑制转录来调节基因表达。要实现对转录调控的这种预测性理解,需要解决两个关键挑战:(i)识别和表征调控区域内的转录因子结合位点;(ii)将这些知识整合到能够定量预测这些结合位点的数量、位置和亲和力如何决定基因表达的理论模型中[2-4]。因此,预测DNA调控区域编码的调控结果的基础步骤涉及确定转录因子结合位点的位置和身份。尽管迫切需要绘制调控区域中的转录因子结合位点图谱,但我们准确识别这些位点的能力仍然不足[5,6]。例如,在被研究最彻底的模型生物之一大肠杆菌(Escherichia coli)中,迄今为止只绘制了大约33%的基因的结合位点[6-8]。虽然有些基因可能不受转录调控,因此缺乏转录因子结合位点,但这一数字更可能反映了迄今为止进行的详细案例研究的数量有限。在多细胞生物(如果蝇Drosophila melanogaster)中,这一挑战更为明显,因为其调控网络更为复杂且了解不足[9]。传统上用于查找和验证调控区域内结合位点的方法通常是手动的,因此通量较低。具体来说,这些方法依赖于创建报告构建体,在其中对疑似结合位点进行突变。通过将DNA序列与产生的报告基因表达水平相关联,可以验证转录因子结合位点。由于这一流程的低通量性质,只有少数基因的结合位点在模型生物中被详细绘制[10-14]。大规模并行报告基因检测(MPRAs)最近作为一种强大的工具出现,用于绘制调控序列[8,15-22]。这些检测涉及合成大量(>1000个)调控区域的突变变体,并将它们整合到质粒中(图1A和1B)。然后将质粒库转染到细胞中,在细胞裂解后,通过测序高通量测量每个变体的基因表达水平(图1C和1D)。
下载:PPT
PowerPoint幻灯片
PNG
较大图像
TIFF
原始图像
图1. 大规模并行报告基因检测的示意图,用于解析大肠杆菌中的调控区域。(A) 合成了一个先前未知调控序列的突变版本库。(B) 每个序列都被条形码标记并整合到驱动报告基因表达的构建体中,形成一个质粒库。(C) 质粒库被转化到培养的细胞(如大肠杆菌)中。(D) 细胞裂解后,通过测序提取并量化报告基因的mRNA。(E) 一个示意图,显示了调控序列变体与其相应基因表达水平之间的相关性。(F) 这些数据使得可以捕捉序列中每个碱基对突变后的基因表达变化,从而识别激活子和抑制子结合位点。
通过将这些突变的调控区域的序列与其相应的基因表达水平联系起来(图1E),MPRAs允许识别影响基因表达的序列位置。如图1F所示,这种方法能够确定未表征调控区域中的转录因子结合位点:激活子结合位点的突变通常会降低基因表达,而抑制子结合位点的突变则倾向于增加表达[8,22]。S1文本中的表A提供了一个MPRA数据集示例。虽然MPRAs显著推进了调控序列的研究[20,21],但在系统分析所得数据集以揭示转录因子结合位点方面仍存在关键挑战。例如,一个重要的潜在限制在于这些分析依赖于诸如基因表达对突变的敏感性(图1F)或基因表达与碱基对身份之间的互信息[8,16,23]等指标。这些指标通常假设碱基对对基因表达有独立贡献:因为这些指标通过有效地平均序列中所有其他位置的影响来评估突变的影响,它们可能忽略了调控序列内的核苷酸相互作用。鉴于机器学习和基础模型的最新进展,我们探索了现代序列建模技术如何能够解决这些限制,并更全面地捕捉调控区域之间的依赖性。在这项研究中,我们介绍了深度学习自适应调控序列识别器(DARSI),这是一个旨在解决结合位点识别挑战的框架,同时考虑了DNA序列中的空间相关性。DARSI结合了最近进展中涉及的卷积建模的优势[24-30],同时在处理典型MPRA数据集的规模上保持了计算效率。我们的方法能够直接从原始调控序列预测离散的基因表达水平,而不依赖于对调控结构的先验知识。尽管DARSI提供的预测能力远未达到我们通过物理模型最终寻求的预测性理解[16,22,31-34],但它使我们能够获得关于调控序列中转录因子结合位点的数量和空间排列的详细见解。假定的结合位点是通过集成显著性映射技术来识别的——类似于计算机模拟的突变实验——这使我们能够解释特定核苷酸序列变化对基因表达结果的影响。必须指出的是,虽然DARSI促进了对MPRA数据集的深入和自动化分析,但它并不是一个可以用于任何随机序列数据的现成机器学习模型。这里开发的流程允许用户输入任何类型的MPRA数据集,并训练DARSI模型来推断输入数据中的高显著性位置,在这里考虑的MPRA实验的情况下,这些位置对应于转录因子结合位点。我们将DARSI应用于[8]发布的大肠杆菌中95个操作子的MPRA数据。首先,我们展示了训练有素的网络在直接从原始序列预测报告基因表达水平方面的平均准确率约为80%。基于这种预测能力,我们展示了这些网络可以用来识别转录因子结合位点。具体来说,DARSI识别了超过170个结合位点,其中包括之前已绘制位置的88%以上,并在这些操作子中发现了73个新的假设结合位点。因此,我们证明了DARSI中的卷积神经网络架构可以用来增强基因表达MRPA数据的分析,以实现预测能力并识别可以指导进一步实验的结合位点。
结果:DARSI:一种用于从MPRA数据预测基因表达的卷积神经网络
为了开发一个能够从调控序列变异预测基因表达的模型,我们首先评估了现有的基因组学机器学习架构。特别是,大规模预训练的Transformer架构(如DNA BERT和Nucleotide Transformer [35-38])已经证明了学习生物序列中复杂长距离相互作用的能力。同样,深度卷积神经网络(包括BPNet和Enformer [39,40])也直接从原始DNA输入实现了高分辨率的调控活性预测。如S2文本中所详细描述的,我们评估了这些及相关框架在MPRA衍生数据背景下的潜在实用性,权衡了预测准确性、可解释性、可扩展性和适合中等规模实验库等因素。根据我们的评估,我们得出结论,当在小数据集上训练时,卷积神经网络在预测准确性和可解释性之间提供了最佳折中。因此,我们实现了一个专门设计用于从MPRA衍生调控序列学习并预测基因表达水平的卷积神经网络。为了实现对调控区域的预测能力并捕捉核苷酸之间的相关性,该模型利用了能够检测碱基对之间局部和长距离相互作用的卷积滤波器[41],从而可能识别分布在输入序列中的调控特征。该网络以给定操作子的序列变异及其相应的表达水平作为输入。经过迭代优化后,我们选择了12层架构(见S3文本),该架构与领域中先前建立的模型具有设计元素[39-41]的共性。作为案例研究,我们使用了[8]在大肠杆菌中进行的一项最新MPRA研究的数据。这项工作通过随机突变每个操作子转录起始位点上游160 bp的区域(突变率为10%)来解析114个细菌操作子的调控信息。这一过程生成了一个类似于图2A所示示意图中的数据集,该数据集将序列与基因表达关联起来。为了确保足够的突变覆盖范围,我们选择了至少具有1000个序列变异的操作子。这个数字保证了对于序列中的每个碱基对,我们的数据集至少包含100个该碱基对发生突变的序列变异。我们进一步将所有序列与EcoCyc [42]上可用的注释过的大肠杆菌基因组进行了交叉验证,以确认这些序列包含了基因上游的区域。用于变异数量的下限和与注释数据库的数据交叉验证将数据集减少到了95个突变操作子,每个操作子都来自在LB培养基中培养的大肠杆菌菌落。在这95个操作子中,每个操作子的平均独特序列数量为,每个操作子的独特条形码数量为。这导致所有操作子的总序列变异数量为。每个操作子的序列数据作为网络的输入,而离散化的标准化mRNA计数(如下所述)作为输出。为每个操作子分别训练了一个卷积神经网络,总共获得了95个独立训练的网络。DARSI处理流程:(A) MPRA数据集,它能够将调控序列与基因表达关联起来;(B) 一种独热编码方案,用于将每个DNA序列转换为二进制图像;(C) 对yqhC操纵子的示例中,基因表达值所分配的bin的分布情况。请注意,低表达和高表达bin之间的重叠是直方图分箱的伪影,并不代表实际表达类别之间的重叠;(D) 图像及其对应的基因表达bin构成了我们卷积神经网络的输入和输出。https://doi.org/10.1371/journal.pcbi.1014092.g002
卷积神经网络旨在接收图像或矩阵作为输入。因此,为了准备DNA序列数据以便输入到我们的网络中,我们将序列转换为二维矩阵表示。具体来说,MPRA数据集中的每个160 bp调控序列都使用所谓的独热编码方案编码为二进制图像,如图2B所示,并在“材料与方法”部分的“独热编码”章节中有详细说明。因此,每个操纵子的数据表示为一组图像,每张图像对应于该操纵子的特定序列变体。在设计网络输出时,我们考虑了两种可能的方法:通过回归预测连续的基因表达水平,或将输出离散化并将问题视为分类任务。为了确保序列之间的可比性,我们首先通过将测序到的mRNA数量除以每个变体的相应DNA拷贝数来标准化mRNA计数(图2A)。为了评估回归方法,我们在具有最多序列变体的十个操纵子(leuABCD、rumB、zupT、yncD、uvrD、mscK、ftsK、yqhC、groSL和xylA)上训练了回归模型。正如S4文本中的详细说明,回归方法的预测性能相当低,平均R2值为0.06,标准化RMSE值为1.02,表明泛化能力差。鉴于我们的网络在通过回归预测连续基因表达水平方面的表现不佳,我们决定探索离散化方法。具体来说,我们将标准化后的基因表达值离散化为表达bin,称为“类别”,并训练网络来预测与每个调控序列相关联的bin。这种分箱使我们能够将任务视为多类分类问题。序列内的突变可能导致各种结果,例如完全缺乏可检测的基因表达、可测量的减少或与每个操纵子的典型水平相比基因表达的增加。为了捕捉这种表达水平的变化,我们检查了标准化表达计数的对数分布。基于这一分布,我们定义了三个不同的表达类别:(1) 未检测到基因表达的序列(零表达bin),(2) 产生低但可测量基因表达水平的序列(低表达bin),以及(3) 与高基因表达水平相关的序列(高表达bin)。虽然使用三个bin的决定是基于数据在对数空间中的自然聚类,但这种选择最终是一种简化,正如我们在后续章节中将展示的,它仍然可以提高预测能力和识别转录因子结合位点的能力。对于每个操纵子,我们确定了将基因表达计数分配到这三个类别中的阈值。零基因表达bin对应于未检测到mRNA的序列。低表达和高表达bin之间的阈值被设定为使得这两个类别之间的平均基因表达水平有统计学上的显著差异,具体细节在“RNA计数标记”部分的“材料与方法”中有所描述。图2C显示了MPRA数据集中yqhC操纵子的分布及其相关的bin,颜色编码表示[8]。整个文本中使用这个操纵子来说明我们的流程及其结果,因为它代表了流程的平均性能。类似的图2C,显示了数据集中其余操纵子的表达计数分布,可以通过我们的GitHub仓库访问。每个表达bin中的观察数量差异很大。实际上,如图2C所示,零基因表达bin的比例通常高于低表达和高表达bin。为了解释这种过度表示,训练网络时对零基因表达bin进行了欠采样,而对低表达和高表达bin进行了过采样,以创建一个均匀分割的处理数据集[43,44]。每个网络的训练使用了70%的处理数据,在数据不平衡进行了调整之后。训练在MATLAB中使用标准优化工具箱进行,参数通过随机梯度下降进行优化[45–47]。在训练期间,另外预留了15%的数据(95个操纵子的3,000–5,000个变体)用于验证,以优化网络架构,如下所述。剩余的15%的数据用于最终评估每个网络的预测能力。在开始训练所有95个网络之前,我们优化了整体网络架构,以提高预测我们数据集中基因表达的准确性。虽然增加更多的卷积层应该允许网络提取序列中核苷酸之间的长距离相互作用,但增加网络深度会导致可训练参数数量大幅增加,可能会引起过拟合[24]。因此,我们系统地、迭代地调整了网络架构,以评估其对预测准确性的影响。为了优化网络架构,我们专注于具有最多序列变体的10个操纵子的数据。正如预期的那样,我们的优化显示,增加模型复杂性(例如,通过增加层和通道)通常可以提高训练准确性,但可能会导致过拟合,即模型在使用未见数据进行验证时的表现较差。我们找到了一个最佳架构,详细信息在S3文本的表A中,它在模型复杂性和性能之间取得了平衡。这种选定的架构与先前研究中实现的类似网络一致[27,39,40]。使用这种优化后的架构,我们独立训练了95个卷积神经网络,每个操纵子一个。有关DARSI架构、其优化和训练规范的更多细节可以在S3文本中找到。最后,我们还探讨了是否可以通过利用跨变体的汇总数据集来训练单一模型来提高预测能力。然而,正如S5文本中的所示,这种方法的表现并不比随机分类更好,这进一步证明了我们针对特定操纵子的建模策略的合理性。
DARSI可以从原始序列预测基因表达。如上所述,每个训练好的网络对应于数据集中的单个操纵子,使用预留的15%的处理数据(作为测试集)进行评估。对于每个操纵子,将测试分区中的原始序列输入到训练好的网络中,然后网络预测相应的输出基因表达bin。将预测的bin与实验测量的基因表达值进行比较,以计算每个网络的准确率。如图3A所示,所有95个操纵子的网络平均预测准确率为79.8%。下载:PPT、PowerPoint幻灯片、PNG(更大图像)、TIFF(原始图像)。图3. DARSI模型在细菌MPRA数据上的预测性能。(A) DARSI模型在预测数据集中每个大肠杆菌操纵子之前未见DNA序列的基因表达水平方面的准确性。平均预测准确率79.8%以水平线显示。(B) 混淆矩阵展示了E. coli中yqhC操纵子的测量表达水平与预测表达水平之间的比较,突出了模型的性能。矩阵中的每个条目代表每个基因表达bin被分类为真正例、真负例、假正例和假负例的数量。混淆矩阵的行投影(蓝色和红色)分别是真正例率和假正例率,而列投影(蓝色和红色)分别是真负例率和假负例率。(C) 三个表达bin的平均F1分数值以实线水平线表示理想分类器。F1分数的值接近1,对应于理想分类器。https://doi.org/10.1371/journal.pcbi.1014092.g003
为了更严格地评估我们的DARSI模型在从原始序列输入预测基因表达方面的有效性,我们生成了混淆矩阵。在这些矩阵中,每一列代表预测的表达bin(即零表达、低表达或高表达),而每一行表示序列实际所属的bin(根据测量结果)。矩阵中的每个条目表明属于每种预测和测量基因表达bin组合的序列数量。因此,这些矩阵总结了每个离散表达bin的假正例、假负例、真正例和真负例的数量。yqhC操纵子的混淆矩阵显示在图3B中。该矩阵表明,训练好的模型以高特异性(低假正例率)和高敏感性(低假负例率)对大多数未见数据进行了分类,这一点通过图3B中的对角线主导和行及列投影得到了证明。要获取所有训练模型的混淆矩阵完整列表,请参阅GitHub仓库。为了进一步评估DARSI在从原始序列预测基因表达水平(bin)方面的有效性,我们研究了其预测能力与最近发布的预训练基础模型的比较——参见[38,48]中的示例。我们使用Nucleotide Transformer(NT)基础模型[38]中的5000万参数-所有物种模型从原始序列数据生成嵌入。然后使用这些嵌入来训练逻辑回归,以分类每个基因的表达bin。该模型的所有操纵子的平均分类准确率为48.5%,而DARSI在同一任务上的准确率为79.8%。这表明,一个更简单的DARSI模型不仅在这一预测任务上优于大型基础模型。这种一次性基础模型基分类方法的细节在S6文本中讨论。为了评估DARSI在所有95个操纵子上的整体性能,我们计算了每个表达bin的平均F1分数。F1分数是一种评估分类器特异性和敏感性的指标,常用于衡量分类器性能[24,49–51]。给定表达bin的F1分数定义为(1),其中,“真正例”表示我们的模型为特定bin产生的真正例数量。根据这个定义,一个具有100%真正例和0%假正例和假负例率的理想分类器的F1分数为1。图3B中突出显示了代表性的yqhC操纵子的零基因表达bin的真正例、假负例和假正例,从而得到该操纵子三个bin的平均F1分数为0.64。通过平均所有DARSI网络的F1分数,我们可以将平均网络性能与理想分类器的性能进行比较。图3C展示了所有95个训练好的卷积神经网络的零表达bin()、低表达bin()和高表达bin()的F1分数值,误差条表示标准差。所有三个表达bin的F1分数都超过了大多数领域常见的0.7阈值[52,53],表明该模型能够以高特异性和敏感性区分这些bin中的序列。因此,我们认为训练好的DARSI模型 made 的基因表达预测是可靠的,可以在我们探索E. coli的调控架构时加以利用。
接下来,我们利用网络的预测能力在未映射的调控区域内识别转录因子结合位点。为了使用MPRA数据集完成这项任务,现有方法通常分析互信息或单个碱基对突变引起的基因表达变化(图1F;[8,22,54,33])。这些分析旨在分离每个核苷酸突变对整体基因表达水平的影响。为了实现这一点,我们对序列中所有其他核苷酸的突变贡献进行了平均处理。因此,这些方法假设单个碱基对对基因表达的贡献是相互独立的。相比之下,本研究中使用的卷积神经网络架构能够考虑序列中核苷酸之间的空间相关性。为了检验我们的网络识别与结合位点相对应的核苷酸簇的能力,我们创建了所谓的显著性图(salience maps)。这些显著性图在卷积神经网络用于图像分类的背景下更容易理解。例如,可以训练神经网络来区分包含狗的图像和不包含狗的图像[55,56,57]。显著性图是一种热图,它显示了图像中每个像素在决定如何分类该图像时的重要性。在特定于识别包含狗的图像的分类情况下,我们预期位于狗内部的像素比位于图像背景中的像素携带更多信息。同样,由于调控序列(图4A)使用one-hot编码方法表示为图像(图4B),每个序列的显著性图描述了图像中每个像素(每个序列独特的二进制模式)对于确定相应基因表达组的重要性(图4C)。因此,这些显著性图可以被视为热图,用于报告预测的基因表达水平对调控序列上每个核苷酸突变的敏感性。正如“材料与方法”章节中的“显著性图”部分所详细描述的,生成这些图涉及计算网络损失函数(衡量网络在预测输出基因表达方面的表现)相对于网络二进制输入层中编码DNA序列的每个像素的导数。下载:PPT、PowerPoint幻灯片、PNG格式的大图像、TIFF格式的原始图像。
图4. 显著性图的生成和结合位点的识别。(A) 来自给定操纵子测试子集的序列变体,每个变体都包含随机点突变,通过预处理管道处理以生成one-hot编码,如(B)所示。(C) 这些one-hot编码的序列被输入到训练有素的DARSI模型中,在那里计算网络损失相对于每个变体输入图像中每个像素的梯度。这些梯度衡量了网络输出对每个核苷酸的敏感性。将这些梯度在测试子集中的所有变体上进行平均处理,以生成显著性图,这些图以热图的形式表示。这些热图指示了网络用于分类输入序列基因表达组时使用最多信息的像素。(D) 以yqhC操纵子为例的显著性图突出了高敏感性区域。值得注意的是,同一序列位置上的显著性值对碱基对被的身份相对不敏感,这表明DARSI主要依赖于位置信息而不是特定核苷酸的身份来预测基因表达。(E) 每个位置上的最大显著性值被归一化并取指数,以产生无单位制的基因表达敏感性图,如图yqhC所示。(F) 通过过滤超出平均值一个标准差以上的峰值(图E中的虚线)、至少跨越10 bp的峰值,并显示作为激活子或抑制子的连续效应,进一步 refinement这些敏感性图。(G) 精细化的图使我们能够识别潜在的结合位点和操纵子调控结构。对于yqhC操纵子,发现了两个先前注释过的区域:一个与操纵子相关的启动子和一个激活子结合位点,尽管被注释过,但之前并未与yqhC的调控关联。
通过将此过程应用于测试数据集中给定操纵子的所有序列变体,我们为每个序列变体生成了一组显著性图。然后对这些图进行平均处理,以生成操纵子的最终显著性图。如图4D所示,本研究中使用的示例yqhC操纵子的显著性图揭示了序列中几个在训练有素的DARSI模型进行预测时表现出更高信息量的片段。值得注意的是,沿单个列的变化很小,这表明网络在分类表达水平时主要考虑碱基对的位置上下文而不是其特定的核苷酸身份。这些高敏感性位置的簇构成了序列中结合位点位置的初步假设。为了解释显著性图中编码的信息,计算了调控序列上每个位置(即显著性图的每一列)四个核苷酸中的最大显著性值。结果是一个显著性向量,它报告了输出基因表达对调控序列上突变的敏感性。请注意,网络生成的显著性图的绝对值本身并不具有解释性;只有这些值的相对变化才有意义。因此,我们通过减去其平均值并除以其标准差来归一化显著性向量。随后,将归一化的显著性向量取指数,以表示可能性或概率(见“材料与方法”章节中的“结合位点识别”部分)。这些处理后的值被可视化为“基因表达对突变的敏感性”图。图4E显示了yqhC操纵子的这样一个示例图。由于我们关注这些图中的结合位点大小特征,我们使用之前研究中使用的5 bp滑动窗口对数据进行了平均处理[8]。更多示例见S1图。为了识别转录因子结合位点,我们检查了图4E中显示的基因表达对突变的敏感性平滑值。这里,红色条形代表序列中突变导致表达增加的位置,表明可能是抑制子结合位点。相反,蓝色条形代表突变导致表达减少的核苷酸,表明可能是激活子结合位点。为了预测调控序列上的结合位点,我们识别出具有高敏感性的碱基对簇。具体来说,遵循[58]的方法,我们检测到最大敏感性超出整个序列平均值一个标准差以上的位置(图4E中的水平线)。根据[59–61]报告的大肠杆菌中DNA结合位点的最小长度,潜在的结合位点被定义为超过此阈值并且至少跨越10个碱基对的区域。图4F展示了一个过滤后的表达对突变敏感性图,突出了两个明显的峰值(蓝色),对应于RegulonDB[7]中注释的调控区域。第一个峰值与之前映射到yqhC的启动子对齐,而第二个峰值对应于激活子结合位点,尽管在RegulonDB中有所注释,但之前并未与yqhC的调控相关联。这一发现突显了DARSI识别调控元素与其目标基因之间功能连接的能力。值得注意的是,当检查互信息(S2图)时,这些激活子结合位点并不明显,而互信息是之前使用MPRA数据识别结合位点的方法的基础。这个特定的例子展示了DARSI揭示传统方法忽略的调控特征的能力。关于生成这些表达位移图所采用的过滤步骤的详细描述,请参见“材料与方法”章节中的“结合位点识别”部分。此外,在GitHub仓库中可以找到DARSI预测的所有操纵子的敏感性分析与基于互信息的相同分析的比较。使用这一流程,我们在所有95个操纵子中识别出了总共172个结合位点,成功捕获了已发表和整理数据库中记录的88.4%的位点[7]。除了这些注释的结合位点外,DARSI还预测了73个新的假设结合位点,涵盖了MPRA数据集中超过三分之一的操纵子(图5A)。只有那些之前被映射为启动子的位点才被分类为启动子;否则,我们将它们标记为激活子位点。此外,将相距5-6 bp以内的结合位点报告为一个单独的位点,以进行更保守的评估。
图5. 将DARSI识别的结合位点与RegulonDB数据集中的结合位点进行基准对比。(A) 维恩图显示了DARSI识别的结合位点数量——包括转录因子结合位点和启动子——以及这些数量与已知位点的比较。DARSI在所有95个操纵子中识别出了总共172个结合位点,捕获了已发表和整理数据库中记录的88.4%的已知位点,并预测了73个新的结合位点。(B) 条形图展示了DARSI发现的位点数量、RegulonDB[7]中先前注释的位点数量,以及本研究中分析的所有95个操纵子中DARSI遗漏的位点数量。
图5B提供了DARSI识别的结合位点、遗漏的结合位点以及每个操纵子的新预测假设位点的详细总结,以及RegulonDB数据库[7]中的注释。值得注意的是,DARSI未能识别RegulonDB中之前注释的ykgE、yicJ、rapA、yeiQ、ybeZ、yjjJ、tff-rpsB-tsf、poxB、rspA、ompR、yjiY、znuA和leuABCD操纵子的13个位点。这些遗漏的位点主要位于包含多个结合位点的调控结构中,如ykgE和ompR操纵子。通过DARSI推断的调控结构示例见S2图,所有操纵子的详细可视化信息可通过GitHub仓库获取。此外,补充表中提供了每个结合位点的序列、基因组坐标、链方向和先前注释的详细信息,可供在GitHub仓库下载。讨论
MPRAs已成为高通量剖析调控基因组的基本实验工具。来自这些实验的数据通过越来越复杂的方法集进行了匹配,以提取尽可能多的信息。然而,显然还有很大的改进空间。例如,寻找转录因子结合位点和启动子的传统方法(如互信息)依赖于局部度量,并假设碱基对之间的独立性[8]。本研究强调了打破碱基对独立性假设的潜力,并在寻找序列中的结合位点时考虑远距离碱基对之间可能的相互作用。特别是,我们探讨了基于卷积神经网络的DARSI框架是否能够增强结合位点的识别,并提高我们对它们在决定基因表达中作用的理解。在我们的工作中,我们选择了卷积神经网络架构,而不是更现代的机器学习方法,如基于变换器的架构和其他大型预训练模型[40,37,38]。尽管这些更先进的方法在大型数据集中取得了显著的预测性能,但在MPRA实验中的应用面临重大挑战。具体来说,如Nucleotide Transformer [38]这样的模型包含数亿到数十亿个参数,并需要大量的训练数据(例如,在[38]中训练的模型需要174B个核苷酸)才能达到令人满意的性能。相比之下,我们的MPRA数据集通常每个操纵子大约只有1,000个变体,相当于160k个核苷酸。因此,可用的MPRA数据量比有效训练此类数据密集型架构所需的数据量小几个数量级。此外,我们还展示了未经任何微调的预训练基础模型进行的零样本预测与DARSI相比缺乏预测能力,这将在S6文本中进一步讨论。在选择DARSI而不是更复杂替代方案时的另一个重要考虑因素是可解释性。CNNs实现了直接的反向传播和核苷酸级贡献对模型预测的解释。这种反向传播对于生成构成我们识别结合位点方法的显著性图至关重要。这些图直接在输入矩阵(即one-hot编码的核苷酸序列)上计算,使我们能够将驱动预测的特征追溯到特定的碱基对位置。相比之下,使用显著性图或其他类似方法解释基于变换器的模型仍然是一个活跃的研究领域。这种困难的一个原因是使用了分词化(tokenization)技术——即将输入的DNA序列分割成短片段,称为k-mer(例如6-mer),而不是作为单独的核苷酸进行分析。这种方法将原始序列分割成碎片,使得将模型的关注度或重要性评分直接关联到序列中的特定核苷酸位置变得具有挑战性。这些实际和方法论因素,加上我们强调与当前MPRA实验设计的兼容性,促使我们决定采用卷积架构。关于这些权衡的详细讨论和进一步理由在S2文本中提供。为了使用MPRA数据识别调控序列中的结合位点,我们首先证明了DARSI可以直接且离散地从原始调控序列中预测基因表达水平。重要的是,这种预测能力是在没有任何关于调控基因表达的物理机制和语法的基本假设的情况下实现的。在此基础上,我们利用显著性地图(saliency maps)来突出高信息密度的区域,这些区域驱动模型预测,从而推断转录因子结合位点和启动子的位置,在这种方法中这些位置是无法区分的。训练有素的DARSI模型在所有95个操纵子中识别出了超过170个结合位点,包括73个之前未注释的位点和99个之前已映射的位点,约占现有数据库中注释位点的90%。因此,我们的发现表明,虽然基于CNN的模型可能无法达到大型基础模型中观察到的最高绝对预测精度,但卷积神经网络在性能、可解释性和MPRA规模应用中的可行性之间提供了有效的平衡。为了更好地理解DARSI的有效性和局限性,我们将其对基因表达敏感性的预测与使用传统互信息方法[8,16]获得的预测进行了基准测试。S2图展示了三个代表性操纵子的这些比较。这种比较突出了MRPA数据的两种测量方法并不总是能够识别出相同的峰值,以及DARSI识别出的峰值在位置和范围上可能与互信息识别的峰值略有不同。S7文本中提供了对这两种方法的详细分析,强调了DARSI相对于互信息的潜在优势和挑战。如该节所讨论的,由于机器学习模型的“黑箱”性质,很难解析这些差异的来源,但DARSI的有用性及其与成熟方法的比较最终将通过旨在验证假设结合位点的未来实验来验证。因此,我们将DARSI的新颖预测解释为优先的、可测试的假设,而不是确定的调控注释,并强调系统性下游验证的重要性。未来的工作将侧重于整合保守性分析、基于基序的转录因子分配以及现有的ChIP或调控数据集,以进一步完善和实验评估这些预测。此外,尽管显著性地图提供了有价值的见解,但重要的是要认识到它们的局限性,特别是在应用于像碱基对身份这样的离散变量时。这种方法可能会因为依赖于诸如梯度消失(vanishing gradients)这样的衍生现象而在解释上引入挑战,在这种情况下,学习和归因的信号在计算上变得非常微小,从而难以评估单个碱基的重要性[62]。尽管存在这些局限性,这些发现确立了DARSI以及更一般的卷积神经网络作为推进调控架构实验研究的宝贵平台。例如,可以生成大型体内序列库来补充和完善体内实验,从而设计出针对特定表达水平的调控序列[63,64]。需要注意的是,尽管DARSI能够有效地识别结合位点,但它并不能预测结合到这些假设位点的具体转录因子。解决这一限制,以及阐明它们的分子机制和表征它们的生物物理性质(如结合亲和力),仍然是一个重大挑战,这需要整合额外的计算方法和实验验证[8,22,33]。这些努力对于推进我们对转录调控的理解以及提高像DARSI这样的预测模型在功能基因组学中的效用至关重要。尽管这项研究集中在细菌调控序列上,但DARSI框架广泛适用于细菌和真核系统的差异表达数据集。除了基因表达和调控序列活性之外,DARSI还可以适应其他表型分析,揭示序列到表型关系中的因果联系和变异轴。例如,给定适当的训练数据集,DARSI方法可以用于预测蛋白质属性,如溶解度、疏水表面组成[65]或结合亲和力[66,67]。同样,与其他机器学习方法一样,DARSI的效果在很大程度上取决于其训练数据的质量和规模。突变技术的进步导致了更大规模的MPRA数据集,其中包含更多的变异体和更广泛的覆盖范围,有望进一步提升像DARSI这样的框架的效用,为计算生物学开辟新的精确途径。特别是,我们的实验室设想在新突变技术的背景下探索DARSI,这将使得在多细胞生物中实施MPRA成为可能[68]。
材料与方法
MPRA数据集来自大肠杆菌
本文使用的数据集是通过[8]的工作生成的。如图1A所示,大肠杆菌中114个操纵子的转录起始位点周围160 bp长的区域以10%的速率随机突变(即,序列中的每个碱基对有10%的机会从其野生型碱基突变为其三个替代碱基中的任何一个)。然后将这个文库克隆到质粒中,驱动报告基因的表达(图1B和1C)。质粒文库被转化到细胞中,并在各种生长条件下培养(尽管在这项工作中我们只关注在LB培养基中生长的细菌)。通过测序测量每个操纵子变异体的表达(图1C)。为了标准化每个报告基因构建物的拷贝数变化,表格中还包括了条形码的DNA计数,并用于根据正文中讨论的方法标准化表达计数。因此,处理后的数据集提供了调控区域的序列和该序列调控的基因的标准化表达计数(图1E)。在这项研究中,我们只考虑了具有足够序列变异体的操纵子,以确保平均每个碱基对在至少100个变异体中被突变(即100倍的覆盖率)。以10%的突变率计算,这对应于至少有...个变异体。S1文本中提供了yqhC操纵子中的一些序列变异体的示例。
RNA-seq原始数据处理
本研究中使用的测序数据集存储在SRA数据库中,分别为PRJNA599253和PRJNA603368。序列处理的代码在Github仓库中提供,同时提供了示例数据集和Jupyter Notebooks,展示了如何使用数据生成S1文本中概述的处理后的数据。这里我们简要描述了这一过程。在启动子和报告基因之间随机克隆了条形码,以便通过RNA读取来识别启动子变异体,并提供多个不同的数据点,以减少条形码可能引入的偏差。在初步测序过程中,启动子序列和条形码同时进行测序,以获得将调控区域变异体与相应条形码关联的地图。合并了 paired end reads,通过“fastp”[69]进行质量过滤和读取长度过滤。从每个读取中提取启动子序列和条形码,并计算每种条形码和启动子组合的出现次数。一个启动子变异体可以有多个关联的条形码,但条形码必须是唯一的。如果一个条形码出现在多个启动子变异体中,则移除该条形码。此外,由于测序错误的可能性,少于3次读取的组合也被移除。在Reg-Seq中,启动子文库在各种生长条件下培养,以评估多种调控条件。为了本文的目的,我们选取了其中一种生长条件:在LB培养基中生长。从每种培养物中提取RNA和DNA(质粒)。使用特定引物,将报告基因mRNA(包括条形码)逆转录并扩增以生成cDNA并测量基因表达。还使用PCR从质粒中扩增条形码,以计算具有特定调控序列的质粒数量。通过另一个PCR添加测序适配器,然后对来自cDNA和质粒DNA的条形码进行测序。使用‘fastp’[69]对读取进行修剪和质量过滤。在RNA-Seq和DNA-Seq数据集中计算每个条形码的出现次数。最后,使用初步测序的结果,通过条形码识别每个相应的启动子变异体。
独热编码(One-hot encoding)
MPRA数据集中的每个160 bp长的调控序列被转换为二维二进制图像,其中矩阵Ai,j的每个条目形式为(2),其中nj是每个序列中的第j个核苷酸。图2D展示了为yqhC操纵子的调控序列生成的这些二进制图像的一个示例。
RNA计数标记
每个序列变异体对应的RNA计数报告了该突变调控区域驱动的基因表达水平。这些值通过将RNA计数除以DNA拷贝数计数来标准化,以确保标准化RNA计数的变化不是由于质粒拷贝数的变化。为了对标准化表达计数进行分组,我们开发了一个分箱算法,根据它们的标准化RNA计数将序列变异体分为三类:(1)导致零基因表达的序列,(2)导致低基因表达水平的序列,以及(3)导致高基因表达水平的序列。该流程首先将所有零表达计数分到零表达组。然后自动确定最佳阈值,将剩余的基因表达数据分为低表达组和高表达组。为了实现这一点,对低表达组和高表达组的平均基因表达差异进行t检验,以最小化组之间的p值。向量encodes表示数据集中每个operon i的Ni序列变异体相关的表达组。给定operon i的每个序列变异体都分配了一个标签Ki = {1,2,3},其中1、2和3分别表示零、低和高表达组。我们实现的算法试图将向量划分为三个组,以最小化每对组之间进行的t检验的p值[71,70]。
显著性地图(Saliency maps)
训练有素的DARSI模型展示了直接从它们的核苷酸序列预测操纵子表达水平的能力。除了预测之外,这些模型还可以用于识别调控序列中的潜在结合位点。这是通过分析网络损失函数(下面详细描述)相对于输入序列的导数来实现的。通过计算这些梯度,可以识别出对模型预测基因表达最关键的核苷酸。网络的性能通过一个称为(3)的交叉熵损失函数来量化,其中表示给定操纵子每个变体的真实标签向量。例如,被分配到零表达仓的变体表示为。类似地,表示网络对同一序列预测的概率向量。这个三维向量指定了序列属于每个表达仓的预测概率,由模型确定。该损失函数衡量网络预测与真实标签之间的差异,作为模型准确性的指标。为了评估分类输出对核苷酸序列扰动的敏感性,我们利用了梯度加权类激活映射(Grad-CAM)方法[55,57,72]。Grad-CAM计算网络指定层(通常是卷积层)中神经元或节点的选定可微输出(如交叉熵损失)的梯度。有关通过反向传播计算显著性图的示例,请参见S8文本。该方法通过将梯度反向传播到网络并将其叠加在输入序列上来可视化对模型预测至关重要的特征。由此产生的梯度图突出了输入图像中(对应于序列中的核苷酸)显著贡献于网络决策过程的像素。通过识别这些关键特征,Grad-CAM增强了深度学习模型的可解释性,并提供了关于基因表达调控结构的见解[55,57,72]。对于像DARSI这样的二维图像分类器,具有k个通道的卷积层中任何给定通道的显著性得分通过(4)计算,其中yc是bin c的预测后验,是位于选定卷积层第k个通道的(i,j)位置的像素,N是像素总数[55]。方程4为卷积层中的每个通道k生成了一个加权得分。为了像图4C和4D中显示的那样将此得分绘制为热图,计算了一个加权平均掩码U,即(5),其中f表示一个非线性激活函数,如修正线性单元函数ReLU[55]。算法2总结了为表达位移数据集中的每个基因生成这些显著性图所采取的步骤。算法2 显著性图生成。1:对于每个操纵子i执行 2:训练并找到优化后的DARSI模型 3:加载操纵子i的测试数据子集 4:运行Grad-CAM脚本以生成测试子集中每个变体的掩码(Uc) 5:将每个图像的掩码叠加到输入二进制图像(序列的one-hot编码表示(图4B)上,并将其绘制为热图,显示每个碱基对的相对重要性(图4C) 6:通过对测试数据中生成的所有映射取平均值来计算最终显著性图(图4D) 7:通过取每个核苷酸位置的最大值来计算每个操纵子i的一维显著性向量,即 对于?? ∈{1, 2,…, 160} 8:将每个作为碱基对位置的函数绘制(图4E和4F)。9:结束 如上述算法2所讨论的,为给定操纵子i计算的显著性向量捕获了每个调控序列的显著性。向量关于其均值和标准差进行了归一化,即(6),其中和分别是向量的均值和标准差。向量表示在任何给定位置j上表达水平对突变的敏感性差异。因此,我们假设这个向量与解离常数关于该核苷酸的导数成正比,或者更正式地说(7),其中KD和nj分别是位置j的解离常数和核苷酸。最后,我们利用这种比例关系来估计占据概率P(j)i,即(8),其中表示绝对值。由于向量已经进行了归一化,使用绝对值是必要的,这确保了强烈负值和强烈正值归一化值都对概率估计有所贡献。这种调整对于考虑与激活剂(负值)和抑制剂或其他功能元素(正值)相关的区域非常重要,确保在这两种情况下都能捕获到强烈的信号。对于每个操纵子i的每个位置j计算了概率,并将其绘制为条形图以显示表达位移(图4E)。从均值偏离一个标准差以上的概率峰值被选中(图4F)。然后通过二次过滤只选择那些连续的抑制或激活区域(即预测的结合位点)长度超过10 bp的区域——这是大肠杆菌结合位点的最小长度[59–61]。生成过滤后的表达位移图的过程显示在算法3中。算法3 结合位点识别。1:对于每个操纵子i执行 2:生成显著性图。3:使用方程6对向量进行归一化以生成向量。4:生成一个指数向量。5:找到在中高于均值一个标准差的元素 6:初始化一个空向量来存储最终的表达位移数据。7:对于上一步中找到的每个峰值k执行 8: 确认峰值周围的区域在使用归一化显著性向量的符号时是连续的抑制或激活,并且该区域大于10个核苷酸 9: 如果发现一个区域长度超过10 bp,则将该区域存储到最终的表达位移向量中 10:结束 11:为操纵子i绘制 12:结束 DARSI流程仓库 为了提高DARSI在基因表达预测及相关应用中的可访问性和可用性,我们采用了模块化架构进行实现。每个MATLAB脚本独立运行,并附有全面的文档以便于理解。还提供了一个主脚本,用于依次执行必要的功能,提供关于处理原始RNA-Seq数据和训练DARSI模型的详细指导。完整的脚本集合可在专门的GitHub仓库中找到。该仓库包括处理原始RNA-Seq数据的模块、生成表达位移数据集、训练DARSI模型、执行交叉验证、评估模型性能以及识别结合位点的模块。此外,用于训练DARSI模型的所有数据以及显著性图、混淆矩阵和表达位移图等输出也都在仓库中提供。支持信息 致谢 我们想感谢Rob Philips和Julia Falo-Sanjuan对手稿的评论。参考文献