ReDynToT:一种用于问题分解和检索增强推理的反思性动态思维树框架

《Information Processing & Management》:ReDynToT: a reflexive dynamic tree-of-thought framework for question decomposition and retrieval-augmented reasoning

【字体: 大 中 小 】 时间:2026年09月30日 来源:Information Processing & Management 8.1

编辑推荐:

   •ReDynToT统一了分解、验证和推理,用于处理复杂问答任务。•句法指纹检索对齐的示例,引导大语言模型进行分解。•反思性重建机制可选择性地检测和修订低质量分解。•保持依赖关系的稀疏-密集检索融合聚合辅助答案合成。•ReDynToT在三个基准测试上将F1ans分别提升了0.7

  
  • •
    ReDynToT统一了分解、验证和推理,用于处理复杂问答任务。
  • •
    句法指纹检索对齐的示例,引导大语言模型进行分解。
  • •
    反思性重建机制可选择性地检测和修订低质量分解。
  • •
    保持依赖关系的稀疏-密集检索融合聚合辅助答案合成。
  • •
    ReDynToT在三个基准测试上将F1ans分别提升了0.7、8.1和11.4分。

引言

在知识密集型问答(QA)中,一个核心挑战是准确理解复杂的用户问题,并生成由外部证据支持的答案。对于简单的事实性问题,基于检索的开放域问答系统通常可以通过从大规模语料库中检索和分析相关段落来回答问题(Chen等人,2017)。然而,在现实应用中,许多复杂问题涉及多个实体和关系,且证据分散在不同文档中,表述方式各异。因此,系统必须支持问题理解、多步证据收集和答案合成。近期的研究表明,大语言模型(LLM)在思维链(CoT)提示下可以执行更强大的多步推理(Wei等人,2022)。检索增强生成(RAG)通过引入外部证据进一步提高了知识密集型任务中的可靠性,近期的综述也强调了检索、排序和生成之间的紧密交互(Fan等人,2024;Lewis等人,2020;Zhu等人,2025)。尽管取得了这些进展,检索-阅读流水线在复杂多跳问答中仍然脆弱:一旦上游的问题解析和任务规划出现偏差,错误就会在检索和推理中级联放大,缺失或嘈杂的证据可能引发语义漂移和答案不稳定(Zhang等人,2026、2025;R. Zhu等人,2025)。
为应对上述挑战,问题分解逐渐成为一种有前景的检索增强推理范式。其核心思想是将复杂问题分解为一组可检索的子问题,逐步检索证据并聚合得到最终答案(Wolfson等人,2020;Wu等人,2024;Zheng等人,2026)。现有方法大致可分为两类:1)反应式链式引导检索:在推理过程中按需生成中间子问题,并将其与检索过程交替执行(Press等人,2023;Trivedi等人,2023;Yao、Zhao等人,2023);2)显式计划引导检索:首先构建子问题的树或图结构,然后按照预定义顺序执行检索和聚合推理(Cao等人,2023;Huang等人,2023;Yao、Yu等人,2023;Yao等人,2024;Zhang等人,2023、2024)。尽管这些方法提高了复杂问答的可解释性和组织性,但在具有多样表达和嵌套依赖的开放域设置下,仍存在三个关键瓶颈。局限一:现有方法难以生成既保留限制性语义又可作为独立检索单位的子问题,导致检索召回不稳定。局限二:分解阶段缺乏质量感知和在线修复机制,早期结构错误难以及时纠正,并在推理过程中被放大。局限三:分解后的执行阶段往往缺乏鲁棒的证据获取和答案仲裁机制,当证据分散或检索噪声较高时,局部偏差仍可能在答案聚合过程中被放大。
因此,本研究旨在开发一个可靠且可解释的基于大语言模型的框架,用于知识密集型问答中的复杂问题分解和检索增强推理。具体而言,该研究针对三个目标:1)提高复杂问题初始子问题分解的质量;2)建立针对低质量分解的定量评估和在线修复机制;3)增强跨子问题的依赖感知证据聚合和答案生成。为此,本文提出了反思性动态思维树(ReDynToT)框架,将复杂问题表示为可执行的分解树,如图1所示的三阶段架构。在结构对齐阶段,基于依赖关系的句法指纹用于从示例池中检索结构对齐的少样本示例,引导大语言模型产生具有更稳定粒度并更好保留语义约束的初始分解。在动态重建阶段,该框架评估分解置信度,并在检索前有选择地标记低质量子结构进行反思性在线重建,以限制早期错误传播。在检索聚合阶段,跨子问题的依赖关系在基于树的执行过程中被显式保留,同时结合稀疏-密集融合检索和置信度感知的答案选择来支持证据聚合和最终答案合成,从而提升推理稳定性和回答准确性。
为评估ReDynToT的有效性,在三个多跳问答基准数据集HotpotQA(Yang等人,2018)、2WikiMQA(Ho等人,2020)和MuSiQue(Trivedi等人,2022)上进行了对比实验,并与一系列代表性基线方法进行了比较。在GPT-4o-mini模型下,ReDynToT在三个数据集上均取得了最高的整体F1ans和EM,相对于最强基线方法的F1ans/EM分别提升了0.7/0.4、8.1/4.4和11.4/9.2分。进一步的统计检验、模块级分析、消融实验、效率与成本分析以及跨模型分析均证实了该框架的有效性、稳定性和鲁棒性。主要贡献总结如下:
  • •
    ReDynToT是一个反思性动态思维树框架,将复杂问题表示为具有依赖关系感知的可执行分解树,用于检索增强推理。
  • •
    提出了一种基于句法指纹的动态示例匹配机制,用于捕捉复杂问题中的结构模式和语义关系,从而提升初始分解的质量。
  • •
    引入了一种反思性检测和在线重建机制,在检索前利用生成子问题的词元对数概率和结构检查,选择性地标记并重建不可靠的问题树。
  • •
    提出了一种保持依赖关系的检索聚合策略,采用基于树的执行方式,结合稀疏-密集融合检索用于证据聚合和答案合成。在三个数据集上的实验结果表明,相对于基线方法取得了稳定的提升,且在不同模型配置下均表现一致。

章节摘要

反应式链式引导检索

随着大语言模型中思维链推理的发展,如何在推理过程中引入外部证据在复杂问答中引起了越来越多的关注(Fan等人,2024;Y. Zhu等人,2025)。早期的研究主要依赖基于链的提示来将复杂推理组织为中间步骤。从少到多的提示(Zhou等人,2023)采用了一种从易到难的分解策略,使模型能够逐步构建中间步骤。规划与解决提示(Wang等人,2023

方法论

为支持复杂问题的可靠检索增强推理,本文提出的反思性动态思维树(ReDynToT)框架将求解过程建模为可执行参照问题树(ERQT)的构建、验证和执行。该框架将每个问题组织为相互依赖的子问题,以实现可执行的检索和推理。
具体而言,该框架包含三个阶段。首先,句法指纹驱动的示例匹配检索

数据集

ReDynToT在三个公开的多跳问答基准数据集上进行了评估:HotpotQA(Yang等人,2018)、2WikiMQA(Ho等人,2020)和MuSiQue(Trivedi等人,2022)。HotpotQA包含多样的自然多文档问题,涵盖桥接推理和比较推理。2WikiMQA包含相对规则的多跳推理模式,包括组合、推断、比较和桥接比较问题。MuSiQue是一个基于组合的基准数据集,需要多跳推理,且

整体F1ans和EM表现

在本节中,ReDynToT与三个基准数据集HotpotQA、2WikiMQA和MuSiQue上的六种代表性基线方法进行了评估对比。使用F1ans和EM作为主要指标来评估各方法的整体表现。
如表1所示,最佳和次佳结果分别以加粗和下划线标出。对于ReDynToT,所有数据集均使用K = 5。实验结果表明,ReDynToT取得了最高的整体F1ans和EM

主要发现

结果表明,ReDynToT在知识密集型问答中表现出更稳定的性能,因为它改进了三个紧密关联的阶段:问题分解、分解验证和推理执行。首先,句法指纹驱动的动态示例匹配机制通过提供与当前问题结构对齐的少样本示例来引导大语言模型,而不是依赖针对特定任务的固定提示或预定义的静态分解模式。

结论

本文提出了ReDynToT,一个用于知识密集型问答中问题分解和检索增强推理的反思性动态思维树框架。为了更好地处理复杂问题的句法和语义丰富性,该框架引入了句法指纹驱动的示例匹配来引导初始分解,利用结构对齐的少样本示例;置信度感知的反思性重建作为低质量问题树的选择性保障机制;以及

CRediT作者贡献声明

韩岩:撰写—审阅与编辑、撰写—初稿、验证、软件、方法论、数据整理、概念构思。马小平:撰写—审阅与编辑、方法论、调查研究、形式化分析。陈颖婷:可视化、验证、软件、数据整理。姚顺宇:撰写—审阅与编辑、验证、方法论、形式化分析。项鹏:撰写—审阅与编辑、可视化、形式化分析、数据整理。
韩岩|马小平|陈颖婷|姚顺宇|项鹏
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号