生成对抗网络(GANs)(Goodfellow等人,2014年)已成为无监督图像生成的基础范式,在图像合成(Kang, Zhu, Zhang, Park, Shechtman, Paris, Park, 2023; Zhang, Xu, Li, Zhang, Wang, Huang, Metaxas, 2018)、超分辨率(Zhang等人,2022a)、风格迁移(Liao, Hu, Yang, & Rosenhahn, 2022)和图像增强(Rafiei, Gauthier, Adeli, & Takabi, 2022)等任务中取得了显著进展。它们的成功依赖于生成器和判别器之间的对抗学习,这种竞争性互动使得合成出视觉上真实的数据成为可能。尽管取得了这些进展,但GAN的性能仍然对架构设计选择非常敏感,训练过程经常受到模式崩溃和梯度消失等不稳定现象的阻碍。尽管已经提出了多种损失函数(包括最小二乘损失(Mao等人,2017年)、Wasserstein距离(Arjovsky, Chintala, & Bottou, 2017年)和铰链损失(Brock, Donahue, & Simonyan, 2018年)以及深度卷积(Radford, Metz, & Chintala, 2015a)和残差结构(Xue, Zhang, Neri, Xue, & Zhang, 2025)等架构改进,但这些解决方案严重依赖于专家知识和大量的手动实验,限制了其可扩展性和可重复性。
神经架构搜索(NAS)通过算法搜索策略自动化架构设计,提供了一个原则性的替代方案。NAS在图像分类等监督领域表现出色(Bi, Xue, Mesejo, Cagnoni, Zhang, 2022; Hussain, Mushtaq, Shahroz, Akram, Ghith, Tlija, Kim, Ashraf, 2025; Wu, He, Dai, Zhou, Shang, Fan, Hu, 2025),但其应用于GANs仍然具有挑战性。根本困难在于GAN训练的非凸非凹最小-最大优化问题,其中稳定的平衡点难以识别,性能评估本身也存在噪声。此外,常用的评估指标(如Inception分数(IS)(Salimans等人,2016年)和Fréchet Inception距离(FID)(Heusel, Ramsauer, Unterthiner, Nessler, & Hochreiter, 2017年)计算成本高、不可微分,且不适合在搜索过程中频繁进行内循环评估。为了降低计算成本,引入了基于权重共享和超网络的一次性NAS方法(Bender, Kindermans, Zoph, Vasudevan, Le, 2018; Brock, Lim, Ritchie, & Weston, Pham, Guan, Zoph, Le, Dean, 2018)。然而,在对抗性设置中,这些方法经常受到严重评估偏差的影响,这是由于子网络之间的参数干扰和先前学习权重的覆盖(Benyahia, Yu, Smires, Jaggi, Davison, Salzmann, Musat, 2019; Chu, Zhang, Xu, 2021; Xue, Tong, Neri, Chen, Luo, Zhen, Wang, 2024b),从而削弱了架构评估的可靠性。
因此,进化算法作为GAN架构搜索的一个有吸引力的替代方案出现了,因为它们具有无梯度优化、对非平滑目标的鲁棒性以及强大的全局探索能力。然而,现有的进化NAS-GAN方法经常在搜索效率、稳定性和可扩展性之间面临权衡。一些方法仅限于小规模的搜索空间,而其他方法则由于架构-权重优化之间的紧密耦合而导致训练动态不稳定或过早收敛到过于紧凑的模型,例如在DONAS-GAN(Aung等人,2025)中观察到的情况。这些限制突显了一个根本性挑战:有效的GAN架构搜索不仅需要高效的探索,还需要在对抗性不确定性下进行可靠、基于知识的评估。
在这项工作中,我们提出了HEAGAN,这是一种专门为GANs设计的高效混合进化架构搜索框架。HEAGAN不是将架构搜索视为纯粹的组合优化问题,而是明确解决了搜索过程中性能评估的可靠性问题。该框架结合了遗传算法(GA)和粒子群优化(PSO),并增加了受灰狼启发的引导机制,以平衡种群多样性和收敛性。为了减轻传统全权重共享方案引入的评估偏差,HEAGAN引入了具有动态节点激活的部分权重共享策略,这限制了参数的重用并减少了权重耦合和多模型遗忘。因此,子网络评估提供了更一致和有信息的反馈,以指导进化过程。
在之前的进化NAS-GAN框架(如EWSGAN(Xue等人,2024b)、EAMGAN(Man, Xu, & He, 2025)和Evo-OSNAS(Zhang, Jin, & Hao, 2022b)的基础上,本文做出了以下贡献:
•混合进化决策框架。我们引入了一种紧密结合的GA-PSO搜索策略,增强了灰狼群引导、基于锦标赛的选择和余弦退火惯性控制,从而在复杂的对抗性搜索空间中实现稳健的探索-利用平衡。
•考虑可靠性的超网络训练。我们提出了一种具有动态节点激活和受限参数重用的部分权重共享机制,显著减少了子网络干扰并提高了架构性能评估的准确性。
•鲁棒损失引导的搜索。我们引入了一种自适应的鲁棒损失函数,以在噪声和异常值存在的情况下稳定对抗性训练,为进化优化提供了更平滑和更有信息量的适应度信号。
•多目标知识驱动的优化。我们使用NSGA-II(Lu等人,2019)将GAN架构搜索表述为一个多目标决策问题,同时优化IS和FID,以加速收敛到帕累托最优前沿。