平衡兴奋-抑制网络中的强制学习

《Neural Computation》:Force Learning in Balanced Cortical E-I Networks

【字体: 大 中 小 】 时间:2026年03月26日 来源:Neural Computation 2.1

编辑推荐:

  本研究探讨如何将“强制学习”这一机器学习方法应用于模拟大脑皮层的兴奋-抑制(E-I)神经网络,以解决如何在生物可信网络中实现复杂动力学生成的问题。研究发现,在E-I平衡网络处于“混沌边缘”的最优状态下,强制学习效率最高。这一结果为理解大脑可能的学习机制提供了新的计算模型依据。

  
在探索智能的奥秘时,大脑如何通过神经元之间的复杂连接和活动来实现高效学习,一直是科学家们着迷的问题。在机器学习领域,有一种名为“储备池计算”的灵感来源于大脑的方法,它使用一个内部连接随机且固定的递归神经网络(RNN, Recurrent Neural Network)来处理信息。但这种方法在生物大脑中如何实现,其内部连接如何能恰好适应不同任务,仍然是个谜。与此相关,一种名为“强制学习”的方法,旨在训练这些递归网络内部的连接权重,从而使其能够生成各种复杂的动力学模式。尽管“强制学习”在机器学习中展现出强大潜力,但它在真实大脑中实现的可能性却很少被讨论。大脑并非一个均匀的网络,其皮层主要由兴奋性和抑制性(E-I, Excitatory-Inhibitory)两类神经元构成,它们之间的微妙平衡被认为是大脑正常功能的基础。那么,一个关键问题浮现出来:强制学习能否在大脑这种具有明确E-I结构的生物网络中有效运作?其效率又是否会受到E-I平衡状态的影响?
为了回答这些问题,研究人员在《Neural Computation》上发表了一项研究。他们构建了一个模拟大脑皮层结构的多模块E-I网络模型。这个网络包含多个由兴奋性和抑制性神经元组成的模块,并在外部设置了一个类似于传统储备池计算中的“读出头”。该读出头的输出是各个模块中兴奋性神经元经过滤波的平均放电率的线性组合。此外,网络中还加入了反馈连接,将输出信号以随机强度回馈到各个模块的兴奋性神经元中。有趣的是,这种结构的网络会自发表现出一种称为“传递性混沌同步”的动态行为,即同步化的模块会混沌且间歇性地发生重组。研究人员就在这种复杂的动态背景下,使用强制学习的方法,训练这个E-I网络去生成简单的正弦周期信号。研究的核心在于观察,当调整网络中兴奋和抑制活动的平衡状态时,强制学习的效率会发生怎样的变化。
研究人员主要采用了计算建模和理论分析相结合的技术方法。核心是构建一个生物物理启发的、包含兴奋性和抑制性神经元的多模块递归神经网络模型。在此模型上,他们实施了强制学习算法,通过调整网络内部的突触权重,使网络输出逼近目标信号。研究过程中,他们系统地改变了网络的兴奋-抑制比例或输入强度,以调控网络的E-I平衡状态和动态模式(如从有序到混沌),并定量评估在不同动态状态下强制学习的收敛速度和最终性能。该研究不涉及生物实验,因此没有样本队列。
研究结果
1. 网络模型与基本动力学
研究首先定义了一个由兴奋性(E)和抑制性(I)神经元组成的多模块网络。每个模块内部以及模块之间都存在随机连接。网络表现出丰富的动力学行为,特别是在引入反馈后,出现了“传递性混沌同步”,这为学习提供了一个复杂且动态变化的内部状态基底。
2. 强制学习在E-I网络中的应用
研究成功将强制学习算法应用于所构建的E-I网络,并使其能够学习生成目标周期信号。这证明了强制学习原理在具有生物神经元类型区分和模块化结构的网络中依然是可行的。
3. E-I平衡对学习效率的调节
这是本研究的关键发现。通过调整影响网络E-I平衡的参数(如外部输入强度),研究人员观察了强制学习效率的变化。他们发现,学习效率并非单调变化。当网络动态处于高度有序或高度混沌的状态时,强制学习的表现都相对较差。学习效率在接近“混沌边缘”的一个最优E-I平衡点附近达到最大。在这个最优状态下,网络的活动既保持了足够的丰富性(高熵)为学习提供资源,又不至于过于混沌而难以被训练信号所“驯服”。
4. 与无类型区分网络的对比
研究指出,在传统的储备池计算网络中,通常不区分兴奋性和抑制性神经元。而本研究表明,在引入生物真实的E-I结构后,网络的动态特性和学习性能会显著受到E-I平衡的调节,这突显了在考虑大脑可能的学习机制时,神经元类型特异性是一个不可忽视的重要因素。
结论与讨论
本研究的结论强调了兴奋性与抑制性神经元协同工作对于在大脑样网络中实现高效学习的重要性。研究发现,强制学习在模拟皮层的E-I网络中确实可以生效,但其效率强烈依赖于网络的E-I平衡状态。最大的学习效率出现在网络动态处于“混沌边缘”的最优平衡点附近。这一“混沌边缘”假说在认知和计算中常被提及,本研究为其在具有生物细节(E-I区分)的神经网络学习任务中提供了具体的计算证据。
这项研究的意义在于架起了计算神经科学与机器学习之间的桥梁。它表明,受大脑启发的机器学习算法(如强制学习),其有效性的可能条件(如E-I平衡)反过来也可能反映了大脑实际运作所依赖的计算原理。这暗示大脑皮层可能通过调节兴奋和抑制的微观平衡,使其网络动态维持在接近“混沌边缘”的临界状态,从而优化其信息处理和学习能力。尽管这是一个理论模型研究,但它为未来在更精细的生物神经网络模型中探索学习机制,以及设计新型的、更接近生物现实的神经网络学习算法,提供了新的理论视角和计算框架。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号