
-
生物通官微
陪你抓住生命科技
跳动的脉搏
面向长文档的分层结构感知生成式信息提取:Hi-SCCG 框架
《Scientific Reports》:Hi-SCCG: Hierarchical Structure-aware Chunking and Context Generation for document-level information extraction
【字体: 大 中 小 】 时间:2026年09月23日 来源:Scientific Reports 4.9
编辑推荐:
摘要基于大规模语言模型(LLM)的生成式信息提取(IE)在处理长文档时受到有限上下文窗口的限制,而必要的文本分块步骤会破坏语义连贯性,导致主题偏移、共指未解决以及用于构建细粒度知识图谱所需的整体约束丢失。现有的上下文增强方法要么只能提供有限的局部上下文,要么在引入无关信息的同时带
基于大规模语言模型(LLM)的生成式信息提取(IE)在处理长文档时受到有限上下文窗口的限制,而必要的文本分块步骤会破坏语义连贯性,导致主题偏移、共指未解决以及用于构建细粒度知识图谱所需的整体约束丢失。现有的上下文增强方法要么只能提供有限的局部上下文,要么在引入无关信息的同时带来较高的计算成本,这主要是因为它们没有充分利用文档的层次结构。我们提出了Hi-SCCG(分层结构感知的分块和上下文生成)框架,该框架通过基于LLM的标题校正重建文档结构的逻辑框架,并采用自底向上的递归策略生成缓存的多粒度摘要。在推理过程中,Hi-SCCG通过将从叶子节点到文档根节点的祖先摘要连接起来,形成一种轻量级的路径感知上下文,从而帮助将局部文本与其文档级别和章节级别的主题关联起来。我们进一步引入了LDE-500,这是一个针对中文分层文档的文档级别IE的专门基准测试,并使用主题恢复率(SRR)作为需要恢复主题的三元组的诊断性子集召回度量指标。在LDE-500测试中,Hi-SCCG的F1分数为0.82,诊断性SRR为82.1%,相比最强的评估基线提高了9.4个百分点。在一个包含45,000个标记的代表性文档案例中,经过一次标题校正、递归摘要生成调用、提取输入标记和提取输出标记后,Hi-SCCG将知识图谱构建的标记消耗量相对于SLIDE降低了75.4%–77.7%。这些结果表明,在结构丰富的长文档中,当结合标准三元组级别指标和子集级别精度来解释SRR时,结构感知的路径注入是一种有前景的细粒度IE策略。补充的完全人工注释的Legal-OOD-60评估显示了类似的趋势,在这个紧凑的法律领域样本中,Hi-SCCG的F1分数为0.77,SRR为75.0%,尽管仍需要更广泛的跨领域验证。