《PLOS Computational Biology》:PEtab Select: Specification standard and supporting software for automated model selection
编辑推荐:
生物系统数学建模的一个核心问题是确定哪些过程最为相关以及如何描述这些过程。通常存在竞争性假设,从而产生不同模型。模型比较需要参数优化(parameter optimization)与采样方法(sampling methods)。然而,目前尚无用于模型选择问题规
生物系统数学建模的一个核心问题是确定哪些过程最为相关以及如何描述这些过程。通常存在竞争性假设,从而产生不同模型。模型比较需要参数优化(parameter optimization)与采样方法(sampling methods)。然而,目前尚无用于模型选择问题规范以及快速评估广泛方法的可用标准。PEtab Select 通过新的文件格式标准和软件包,为模型选择及其相关校准(calibration)问题提供简洁、标准化的规范,以应对这一挑战。该标准有助于紧凑表示即使非常庞大的模型选择问题;在一个示例中,涉及数十亿个模型备选。PEtab Select 建立在 PEtab 标准之上,用于参数估计(parameter estimation)问题的规范,并使得利用 COPASI、Data2Dynamics、PEtab.jl 和 pyPESTO 的最先进建模与校准工作流成为可能。PEtab Select 支持常用模型选择准则(例如 Akaike 信息准则(Akaike information criterion, AIC)和 Bayesian 信息准则(Bayesian information criterion, BIC)),并且可以容易地扩展以使用其他准则。为确保灵活性,PEtab Select 实现了若干模型空间探索(model space exploration)方法,包括基本暴力搜索(brute-force)、前向(forward)选择和后向(backward)选择,以及先进、灵活的选择方法。PEtab Select 引入了模型选择任务的首个标准化,填补了现有计算流程中的关键空白。它通过促进模型选择中的互操作性(interoperability)和可复用性(reusability),对系统生物学(systems biology)中的 FAIR 研究软件作出重要贡献。
该研究围绕系统生物学(systems biology)中机制模型(mechanistic models)的模型选择(model selection)问题展开。机制模型可用于解释和预测动态过程、指导实验设计并支持假设检验。由于模型以数学形式编码生物学假设,不确定性既来自假设不完整,也来自数学实现不完善。模型选择通过量化竞争模型表述对观测数据的解释程度来帮助解决这些歧义。模型构建周期日益受到社区标准支持。该研究主要关注常微分方程(ordinary differential equation, ODE)模型,但设计上可适配其他模型类别。模型可用 SBML(Systems Biology Markup Language,系统生物学标记语言)编码,模拟与参数化工作流可用 SED-ML(Simulation Experiment Description Markup Language,仿真实验描述标记语言)和 PEtab 描述。PEtab 已可指定测量数据、实验条件、观测模型和参数,并通过基于似然(likelihood)或后验(posterior)的目标函数实现含噪数据的统计严格参数估计,也支持跨工具和编程语言的互操作校准与分析流程。若干软件工具已提供模型选择能力,包括信息准则(information criteria)AIC(Akaike information criterion,赤池信息准则)、AIC
c(校正 AIC)、BIC(Bayesian information criterion,贝叶斯信息准则),Bayes 因子,似然比检验(likelihood ratio tests)和交叉验证(cross-validation);相关功能还包括特征选择、模型约简以改善可识别性(identifiability),以及多模型推断(multi-model inference)。常用工具包括 Data2Dynamics、dMod 和 pyPESTO。然而,模型选择问题通常以工具特定或 ad hoc 方式指定,限制了可重复性和互操作性,且不同模型选择方法的支持仍然碎片化。为此,研究人员提出 PEtab Select 标准与参考软件包,扩展 SBML 和 PEtab,紧凑、互操作地描述模型空间及相关校准问题,支持大规模比较分析而无需新建工具链。
研究人员开展的工作包括:建立 PEtab Select 标准,用于编码系统生物学中的模型选择问题;提供参考软件包,将其集成到既有校准工作流。该软件包通过 BasiCO 等接口与 PEtab 兼容工具 Data2Dynamics、PEtab.jl、pyPESTO 和 COPASI 交互,支持多种探索策略,包括暴力搜索、前向、后向和 FAMoS,并将模型校准委派给所选后端工具。PEtab Select 提供三方面内容:简洁标准描述候选模型定义及相关校准问题;参考软件包协调模型空间探索和模型比较;标准化输出记录校准模型和选择结果以供下游分析。校准本身由外部 PEtab 兼容工具执行,使用户保留偏好的求解器、优化器和流程特定功能。局限主要继承自 PEtab 和校准工具,例如对 ODE 模型支持较好,对偏微分方程(partial differential equation, PDE)模型支持较少;SBML 可支持随机模型,但 PEtab Select 不直接支持随机模型,原因之一是模型选择因似然通常不可处理而复杂化;文档提供非 ODE 模型选择示例。标准扩展 PEtab 的 TSV/YAML 结构,增加模型选择特定配置。模型空间以 TSV(tab-separated values,制表符分隔值)表示,可由显式列出的单模型和超集模型组合,通过参数值表变化指定组件,派生大量候选模型,支持组合空间紧凑表示。候选模型目前通过参数级开关和值赋值派生,涵盖纳入或排除过程、反应或效应等常见用途。还引入“元参数”(metaparameters),用于需要多个参数同时开启或关闭的模型选择假设,例如 Michaelis-Menten 动力学涉及 V
max 和 K
m 参数时需二者同时存在或同时缺失。模型文件以 YAML 传输单个模型信息,问题文件以 YAML 捆绑完整模型选择任务,指定探索方法和选择准则。软件包用 Python 3 编写,可通过 Python 应用程序编程接口(application programming interface, API)或命令行访问。模型选择方法包括全局和局部方法:全局暴力搜索校准并评分指定空间中每个模型,适用于小或中等模型空间及基准测试,但对组合空间不可行;局部逐步探索包括前向方法迭代加入组件或释放固定参数、后向方法移除组件、横向方法在同一步中加入和移除;局部方法从初始模型出发,初始模型可由用户提供或包自动生成;软件包还支持 FAMoS,一种元启发式局部策略,根据可定制切换方案在前向、后向和横向移动之间切换,并支持“跳至最远”移动以逃离局部邻域。研究人员通常建议,如果暴力搜索计算可行则采用暴力搜索,否则推荐 FAMoS,因为可达模型空间比经典后向或前向搜索更多;但 FAMoS 本质上是局部搜索序列,实际运行时间可能长于前向或后向搜索;横向方法不能到达与初始模型大小不同的模型,因此建议仅通过 FAMoS 使用。选择准则支持 AIC、AIC
c 和 BIC,通过评估校准拟合并考虑模型复杂度,用于自动排序和决策。其他功能包括自动汇总运行、自定义或自动选择初始模型、限制每次迭代校准的模型数量、用先前结果重启运行,以及面向对象编程以便实现其他方法和准则。FAIR 原则方面,PEtab Select 使用机器可读 TSV/YAML 格式、定义有文档的受控词汇、为 YAML 文件提供 JSON Schema(JSON 模式),并基于 SBML 和 PEtab 实现跨工具端到端可重复;结果以相同标准格式存储,便于独立于校准后端进行下游分析。
关键技术方法方面,PEtab Select 以 TSV/YAML 扩展 PEtab,定义模型空间、模型文件与模型选择问题文件;提供 Python 3 API 和命令行,后端须能校准 PEtab 问题并实现包 API;已集成 COPASI(经 BasiCO)、Data2Dynamics、PEtab.jl 和 pyPESTO。探索方法含暴力搜索、前向、后向、横向与 FAMoS;准则含 AIC、AIC
c、BIC;测试套件验证工具集成。示例问题来自 Blasi et al. (2016) 的组蛋白 H4 乙酰化研究,实验数据取自原发表,而非新样本队列。无具体试剂和质粒构建步骤。
结果:PEtab Select enables model selection in existing workflows, each with unique tool-specific features(PEtab Select 可在现有工作流中实现模型选择,各工具具有独特特征)
为评估互操作性,研究人员在四种 PEtab 兼容工具中测试功能:BasiCO(基于 COPASI)、Data2Dynamics、PEtab.jl 和 pyPESTO。各工具均通过测试套件中的测试,确认可解析并执行 PEtab Select 标准定义的模型选择任务。各工具特征:BasiCO(COPASI)可用自定义评估函数替代标准信息准则,其可编程接口支持模型特定优化器设置,可将回调或后处理步骤纳入模型选择工作流,允许逐模型调整参数或在每次校准后自动可视化。Data2Dynamics 支持将一个已校准模型的参数估计转移到另一个模型,可能减少引入新模型时的计算时间;用户可定义自定义校准例程在参数拟合前、中、后调整工作流,例如根据参数空间大小动态设置优化器多起点次数,或自动生成诊断图评估校准质量。PEtab.jl 集成 Julia SciML 生态,利用 DifferentialEquations.jl 提供的高效 ODE 求解器和自动微分例程,实现新方法快速原型和运行时高效参数估计。pyPESTO 支持基于 ensemble 的方法,例如使用 Akaike 加权 ensemble 组合多个候选模型结果;其即用后处理工具有助于结构化输出校准结果并自动生成诊断图,简化大型模型空间分析。
结果:PEtab Select enables reproducible model selection across workflows(PEtab Select 可跨工作流实现可重复模型选择)
为评估跨工作流结果可比性,研究人员考虑 Blasi et al. (2016) 的示例模型选择问题:组蛋白 H4 蛋白乙酰化,可在 4 个位置独立乙酰化,产生 16 种可能乙酰化模式(motifs)。数学模型为 ODE 模型,描述将一种组蛋白 H4 模式转化为另一种的乙酰化和去乙酰化反应,含 16 个状态变量,表示不同组蛋白模式丰度。实验数据取自原发表。简要而言,实验从初始一定量未乙酰化组蛋白 H4 模式开始,测量数据为单一较晚时间点 15 种模式的相对浓度。由于乙酰化和去乙酰化反应相对于实验时间尺度较快,测量假设处于稳态(steady state)。模型选择问题因此是识别哪些乙酰化反应需要模式特异性即反应特异性速率常数参数。该问题与原始发表不同之处在于省略了原发表中另外 11 个“位点特异性”模型,这些模型计算成本可忽略且不在最佳模型之列。该模型选择问题涉及 32 个可能的模式特异性参数,因此有 2
32 个(约数十亿)可能模型。原发表中所有模型经校准后比较,最佳模型选择 7 个反应具有模式特异性速率常数。为求解该实现,研究人员运行 PEtab Select 的 FAMoS 方法 100 次,每次从模型空间中随机选择的模型初始化,平均有 16 个模式特异性参数。首个实验使用仅 pyPESTO 作为校准工具,以确定 PEtab Select 能否找到相同发表最佳模型。100 次搜索中的最佳模型与发表最佳模型匹配,FAMoS 在 100 次运行中 3 次找到它。100 次运行总计 83,125 次模型校准(相对于 2
32 模型空间;其中 58,858 个唯一),耗时 655.8 CPU 小时。外推至完整模型空间,节省了 CPU 年量级计算;因此 FAMoS 使标准化 PEtab Select 方法在计算上可行,意味着无需像原始发表那样针对问题定制模拟和优化例程。三次成功运行之一涉及 339 次使用 pyPESTO 的模型校准,其初始模型已给出。为评估 PEtab Select 生成的模型选择结果在所有校准工具间的可重复性,研究人员用每个工具重复该 FAMoS 运行。所有运行,即使用 COPASI(BasiCO)、Data2Dynamics 和 PEtab.jl,重现相同局部搜索方法序列并校准相似 339 个模型集合。重要的是,每个校准工具都找到相同最佳模型。所考虑问题的模型选择本身具有挑战性:搜索空间巨大,许多候选模型的信息准则值仅在数值精度内不同,因此微小浮点变化使排序在不同机器间实际上非确定性。尽管重复的单次 FAMoS 搜索(339 次模型校准)在重复执行时以及在工具之间在模型空间中轨迹略有不同,每条轨迹在模拟器和优化器容差内带来相同总体改善,跨校准工具的准则差异可忽略(小于 0.01 AIC
c)。确实,经典前向和后向选择大多未能达到最优解;相比之下,FAMoS 算法可重复地收敛到准则分数显著更好的模型。总体而言,该示例突出表明,在暴力搜索不可行的大模型空间中,多起点局部搜索可以是有用替代方案。尽管无法对多起点局部搜索作出保证,但可以像多起点优化那样执行以提高找到最佳模型的机会。研究人员建议运行局部搜索直到 (i) 所选模型的拟合优度和其他标准检查可接受,(ii) 这些所选模型已由多个独立局部搜索发现。
讨论部分总结:可用性与未来方向方面,代码、数据和特定软件包版本可在 Zenodo 获取;代码维护于 GitHub,文档托管于 ReadTheDocs。PEtab Select 有若干改进方向。目前仅支持 SBML 数学模型格式,因为这是 PEtab 唯一支持的模型格式;但 PEtab Select 不直接依赖模型格式,预计随下一版 PEtab 支持非 SBML 模型格式而改善。参数可识别性是模型选择中的重要问题,AIC 等常用准则需要它;准确的可识别性分析计算成本高,在大模型空间中不可行,因此潜在改进是自动可识别性分析,例如对模型子集进行启发式分析以确保模型选择准确。进一步实现改进包括将校准工具特定功能移入软件包,以便这些功能可用于任何校准工具,例如一旦找到更好模型就终止模型选择迭代。在 Blasi et al. (2016) 问题上工作时还发现若干模型选择方法学改进机会。一方面,分析显示可通过开发定制策略处理多个模型在最佳准则值上等价(至数值噪声)的情况来提升可重复性;如果执行后向搜索,一种可能性是将后向搜索分支为多个后向搜索,每个等价模型一个。另一方面,进一步改进搜索算法将有益,尤其对大模型空间,例如在 FAMoS 方法中跨运行自动调优元启发式。
研究结论翻译:总之,PEtab Select 首次为大规模、可重复的模型选择建立了统一标准与参考实现。通过将模型选择任务的描述与求解该任务的校准引擎解耦,该框架使研究人员能够在最适合其工作流的环境中——COPASI、Data2Dynamics、pyPESTO、PEtab.jl 或未来工具——处理包含数十亿候选模型的搜索空间。这种互操作性不仅加速日常实践,还降低方法学创新的门槛,使新的推断算法能够立即在现实问题上进行基准测试。研究人员因此预期,PEtab Select 将成为生命科学和物理科学中透明、可比较且可扩展的模型选择的基石。