论文部分内容阅读
在神经科学中,研究者相信记忆主要存储于突触强度而学习是改变突触强度的过程。突触强度的改变由神经系统的突触可塑性机制控制。神经科学领域已经积累了关于突触可塑性的大量生理实验和生物建模研究。神经机制中的突触可塑性对应了人工神经网络的权重学习规则。在机器学习领域,连接权重学习方法使人工神经网络具备强大的学习能力来解决各类实际工程应用问题。独立于突触强度变化,最近的神经生理实验结果表明单个神经元同样具有改变自身激活性来匹配突触输入分布的调整能力。文献中这种单个神经元的调整能力被称为神经元内在可塑性。在数学建模中,内在可塑性和神经单元激活函数的调整相关。研究者已经基于一定的理论假设来建立内在可塑性学习规则,该假设认为该机制的调整目标是维持平稳平均输出响应的同时最大化神经元输入输出之间的互信息。受到这种新的可塑性机制的启发,作者在本文中也提出了一种新颖的基于神经元放电尖峰的内在可塑性规则。在单独研究内在可塑性的基础上,作者将内在可塑性机制和传统研究中的突触可塑性机制进行了结合。在生物或人工学习系统中这两种可塑性机制的结合被称为协同学习。在本文中作者首先分别阐述了突触可塑性和内在可塑性机制,进而展示协同学习方法在计算神经建模以及机器学习中的发挥作用。在计算神经科学中,作者研究了内在可塑性机制和突触可塑性相结合的计算神经模型,该模型被用来建模视觉生物实验现象,研究结果表明了协同学习在神经建模中发挥的作用。在机器学习中,参照突触可塑性机制启发了人工神经网络的权重学习算法,作者通过引入激活函数调整规则的方式将内在可塑性引入了人工神经网络。在该研究工作中,作者对权重调整(突触可塑性)和激活函数调整(内在可塑性)都采用了基于信息论的学习方法。该研究结果表明了协同学习对于提升人工神经网络性能具有良好的作用。本文从神经科学中的生物建模出发,以信息科学中的工程应用技术为落脚点,在一定程度上搭建了大脑生物神经机制与仿脑信息处理技术之间的桥梁。