基于自适应生态位机制的梯度加速差分进化算法,用于高维非凸优化问题

《IEEE Transactions on Networking》:Adaptive Niching-Based Gradient-Accelerated Differential Evolution for High-Dimensional Nonconvex Optimization

【字体: 大 中 小 】 时间:2026年03月20日 来源:IEEE Transactions on Networking

编辑推荐:

  非凸优化在深度神经网络训练中面临局部最优和收敛性问题,AdaptiveGDE算法通过两步突变算子平衡探索与利用,自适应 niching策略动态调整子种群数量,在近似L1正则化下保证以O(1/??)次迭代接近最优解,实验验证其全局探索与局部利用能力显著优于传统方法,尤其在数据有限场景提升测试精度。

  

摘要:

非凸优化在许多领域都面临重大挑战,尤其是在训练深度神经网络(DNN)时,不良的局部最小值会降低模型的泛化能力——尤其是在数据有限的情况下。高维非凸优化主要存在两个核心问题:1)如何有效平衡全局探索与快速局部优化;2)如何在非光滑正则化条件下确保算法的收敛性。为了解决这些问题,我们提出了一种基于自适应生态位的梯度加速差分进化算法(AdaptiveGDE)。该算法引入了一种新的两步变异操作符,将差分变异与梯度下降过程分离,从而能够独立控制探索和优化过程。自适应生态位策略会根据种群相似性和迭代进度动态调整子种群的数量,实现早期的多样化探索和后期的精确收敛。在放宽光滑性假设以及使用近似<
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号