自适应分类规则构建中决策森林优化的双种群混合遗传编程
《Swarm and Evolutionary Computation》:Dual-Population Hybrid Genetic Programming for Decision Forest Optimization in Adaptive Classification Rule Construction
【字体:
大
中
小
】
时间:2026年10月01日
来源:Swarm and Evolutionary Computation 9.6
编辑推荐:
# 摘要
复杂数据融合需要在具有不同语义、结构和特征表示的异构数据源之间识别一致的关联,这对可靠分类提出了重大挑战。基于决策树 (DT) 的方法提供了可解释性,但在高度异构的环境中往往缺乏鲁棒性和适应性;而决策森林 (DF) 等集成方法仍面临平衡多样性、效率和优化复杂度的挑
# 摘要
复杂数据融合需要在具有不同语义、结构和特征表示的异构数据源之间识别一致的关联,这对可靠分类提出了重大挑战。基于决策树 (DT) 的方法提供了可解释性,但在高度异构的环境中往往缺乏鲁棒性和适应性;而决策森林 (DF) 等集成方法仍面临平衡多样性、效率和优化复杂度的挑战。本文旨在通过增强结构多样性和进化优化,开发一种用于复杂数据融合的自适应分类框架。为此,提出了一种基于双种群的混合遗传编程 (DPHGP) 框架,以自动构建和优化基于 DF 的分类规则。具体来说,设计了一种双种群协同进化机制,用于进化用于相似性特征构建的决策树和用于聚合的集成结构,从而改善多样性和鲁棒性。同时,引入了自适应繁殖算子,以在进化过程中平衡全局探索和本地开发。此外,纳入了一种紧凑遗传算法 (CGA) 来优化精英分类器中的数值常数,从而支持更有效的数值参数优化。在 OAEI 基准数据集上的实验结果表明,与最先进的进化算法和机器学习方法相比,DPHGP 在评估的数据集上实现了具有竞争力的匹配准确性和鲁棒性。这些结果表明,所提出的框架为复杂数据融合场景中的自适应规则构建提供了一种有效且可解释的解决方案。
# 引言
物联网 (IoT)、生物医学和智慧城市等领域异构数据源的快速增长,迫切需要对复杂数据融合的需求,以将多源信息集成到统一且一致的表示中 [1]。然而,异构源之间的术语、结构和数据表示差异引入了重大挑战,通常在集成过程中导致不一致和信息丢失。复杂数据融合的代表性任务,如本体对齐,可以被视为分类导向的过程,用于确定来自不同源的数据项对是否指代相同的潜在实体或关系。该过程依赖于各种相似性特征 (SFs),用于量化异构数据实体之间的词汇、结构或语义相似性 [2]。形式上,数据融合过程输入为一个相似性特征值矩阵 $SM=[SFV_{i,j}]_{|D_1| \times |D_2|}$,并输出一个二元对应矩阵 $BM=[bm_{i,j}]_{|D_1| \times |D_2|}$,其中 $|D_1|$ 和 $|D_2|$ 分别表示源 $D_1$ 和 $D_2$ 中的数据实体数量。每个元素 $SFV_{i,j}=(sfv_{i,j}^1, sfv_{i,j}^2, \dots)$ 表示数据对 $(i,j)$ 的 SF 向量,其中 $sfv_{i,j}^k$ 表示第 $k$ 个相似性特征的值。对应的元素 $bm_{i,j} \in \{0, 1\}$ 指示 $D_1$ 中的第 $i$ 个实体和 $D_2$ 中的第 $j$ 个实体是否被分类为一致 (1) 或不一致 (0)。虽然多个 SF 提供了捕捉多样化异构性所必需的互补视角,但没有单个 SF 能在所有融合场景中始终表现良好。因此,有效地集成多个 SF 的自适应分类规则构建已成为实现准确、鲁棒和可解释数据融合的关键但具有挑战性的问题 [3]。
决策树 (DT) [4] 因其简单性、可解释性和可扩展性,被广泛用于为复杂数据融合构建分类规则。然而,单个 DT 通常对噪声敏感,并在以语义模糊、结构不一致和数据质量变化为特征的异构融合场景中难以保持有效性 [5]。为应对这些挑战,决策森林 (DF) [6] 结合了多棵 DT,通过集成来自多个数据源的多样化相似性特征模式来增强鲁棒性和稳定性。尽管具有这些优势,但为复杂数据融合优化有效的 DF 仍然具有挑战性。首先,由于多模态或多源数据固有的异构性和不平衡性,在 DT 之间实现足够的多样性和互补性很困难。在异构融合环境中,不同的 SF 可能捕捉到互补的语义证据,但传统的 DF 构建方法通常缺乏有效协调这些跨树异构特征的机制,这可能导致有限的多样性和降低的集成鲁棒性。其次,传统的 DF 构建方法计算量大,且通常依赖于穷举搜索或固定的聚合策略,随着数据和特征维度的增加,这限制了可扩展性。第三,过大的森林可能引入冗余,降低紧凑性和可解释性,从而损害整体效率。此外,大多数现有的 DF 构建策略采用预定义的聚合机制,无法自适应地建模不同决策树之间的协作关系。这些局限性凸显了需要对 DF 优化技术的适应性需求,以共同平衡多样性、适应性和效率,从而在复杂数据融合环境中实现鲁棒的性能。
遗传编程 (GP) [7] 是一种强大的进化算法 (EA),非常适合构建 DF,因为它可以探索巨大且复杂的搜索空间,同时自然地进化集成结构。然而,将 GP 应用于构建用于数据融合的 DF 引入了几个挑战。首先,融合任务的高维度和异构性使得进化多样且高性能的 DT 变得困难,因为必须在不冗余的情况下组合大量的异构 SF [8]。当由于存在大量相似性特征而导致搜索空间变得极其庞大时,传统的 GP 进化可能会收敛到结构相似的树,从而限制了有效集成构建所需的多样性。其次,GP 通常难以微调 DT 节点内的数值常数,因为这些参数在进化期间没有得到显式优化,限制了导出的分类边界的精度。如果没有专门的参数优化机制,嵌入在进化决策节点中的阈值可能保持次优状态,这可能会显著影响涉及细微相似性差异的数据融合任务中的分类准确性。第三,现有的基于 GP 的方法 [9]、[10] 主要专注于独立进化 DT,而忽视了集成级别的优化。在复杂数据融合场景中,不同 SF 的相对重要性可能因上下文而异,设计不佳的集成可能会削弱原本强大的 DT 的有效性。因此,树级别进化与集成级别聚合之间缺乏显式协调,阻止了 GP 充分利用不同决策树捕捉到的互补信息。这些挑战需要一种先进的 GP 框架,该框架同时促进 DT 多样性、优化内部常数,并自适应地进化集成结构,以满足异构数据融合任务的多样化需求,最终实现准确、鲁棒和可解释的融合性能。
为了解决上述挑战,本工作提出了一种基于双种群的混合遗传编程 (DPHGP) 框架,通过自适应选择和组合多样化的 SF,自动构建以 DF 形式存在的分类规则。在本工作中,DF 构建被表述为涉及决策树结构、集成聚合关系以及嵌入树节点中的数值参数的联合进化优化问题。与现有独立进化决策树的基于 GP 的方法不同,所提出的表述显式地建模了树级别结构与集成级别聚合之间的协调。为了解决这一挑战,DPHGP 引入了双种群协作协同进化机制以及混合优化策略。本文的主要贡献如下。
1. 我们提出了一种双种群表示机制,其中一个种群进化决策树结构,而另一个种群进化集成聚合策略,从而实现树级别模型和集成级别结构的协调优化,并改善复杂数据融合分类规则的多样性和互补性。
2. 我们设计了自适应繁殖算子,包括宏观和微观层面的交叉和变异,以在进化过程中动态平衡全局探索和本地开发,从而增强进化决策森林的搜索能力和鲁棒性。
3. 我们纳入了紧凑遗传算法 (CGA) 来优化精英决策树个体中的数值常数,为决策森林构建过程中的数值参数优化提供了一种紧凑的概率机制。
本文其余部分组织如下。第 2 节回顾相关工作。第 3 节介绍所提出的用于决策森林构建的 DPHGP 框架。第 4 节报告实验结果并提供详细分析。最后,第 5 节总结全文并讨论未来研究方向。
# 相关工作
机器学习 (ML) 方法在复杂数据融合中变得越来越普遍,因为它们能够识别异构数据源之间的复杂关系和潜在结构,从而显著改善融合准确性 [11]。通过利用先验示例或学习到的模式,ML 技术可以有效地将数据实体对分类为一致或不一致,解决潜在的语义、结构和表示挑战。
# 算法概述
算法 1 给出了 DPHGP 框架的伪代码。该算法维护两个相互作用的种群:一个 DT 种群 $P_{dt}$ 和一个集成种群 $P_{en}$。两个种群均使用斜坡半对半方法初始化,以确保结构多样性。每个 DT 个体通过为每个内部节点分配一个输入终端——代表相似性特征或常数——生成,随后生长形成左子树和右子树的输出终端。这些...
# 实验设计
在本工作中,采用本体对齐作为代表性基准设置,用于评估所提出的方法在复杂异构数据融合场景中的性能。DPHGP 的性能是使用从本体对齐评估倡议 (OAEI) [1] 改编的异构数据融合基准进行评估的,该倡议提供了表现出不同语义、结构和词汇异构程度的标准化测试用例。这...
# 结论与未来工作
本文提出了一种新颖的 DPHGP 框架,用于复杂数据融合,该框架自适应地构建以 DF 形式存在的分类规则,以实现异构数据源之间的准确和鲁棒集成。所提出的方法集成了三个关键组件:增强决策树之间多样性和互补性的双个体表示、平衡进化过程中探索与开发的自适应繁殖算子,以及用于紧凑...
# CRediT 作者贡献声明
Xingsi Xue: 写作 – 审阅与编辑,写作 – 原稿,验证,方法论,资金获取,概念化。
Syed Muhammad Waqas: 写作 – 审阅与编辑,监督,方法论。
Guodong He: 写作 – 原稿,可视化,软件,形式分析。
Wenxi Liu: 写作 – 审阅与编辑,方法论。
Jianhui Lv: 写作 – 审阅与编辑,资源。
# 利益冲突声明
作者声明,他们没有已知的可能影响本文所报告工作的竞争财务利益或个人关系。
# 致谢
本工作得到了福建省自然科学基金 (编号:2026J0011026) 和国家自然科学基金委员会 (编号:62172095) 的支持。
Xingsi Xue | Syed Muhammad Waqas | Guodong He | Wenxi Liu | Jianhui Lv
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号