从上世纪80年代起，神经网络的研究引起了人们的高度重视，其应用范围广泛，涉及模式识别、函数逼近、智能控制、数据挖掘和知识发现等诸多领域，并取得了可喜的成绩。但在应用中，尤其在神经网络学习方面还面临着一系列的问题，比如如何确定网络结构、过学习与欠学习、知识可增殖学习等问题。这些严重影响着神经网络的整体性能。如何解决神经网络面临的问题，建立有效的神经网络学习机制是神经网络应用迫切需要解决的课题。基于微分几何、信息论以及统计学的信息几何理论，是研究非结构化、非线性空间更合理的方法和手段。以应用该理论为代表的整体结构的研究，是人工神经网络下一步发展的重要方向和突破点之一。 本文主要以信息几何理论为基础，对神经网络学习中的几个关键问题如结构学习、学习机制及增殖学习问题做了研究，提出了基于信息几何的模型选择准则、给出了对网络修剪法的信息几何理论解释并提出了信息几何的网络构建和优化算法、提出了简化的层次化神经系统模型、提出了模块化网络是真正实现网络知识增殖学习的有效途径并从信息几何的角度作了论证。主要创新工作有： 1.提出了一种基于信息几何的模型选择准则IGMSC，并给出了理论分析与实验验证。该准则利用模型流形的内在几何特性及模型流形与数据流形的几何位置关系来评价模型的复杂度与模型-数据拟合度，具有参数表示不变性的特点，赋予了复杂度与拟合度清晰的几何意义，为数据模型的选择提供了理论上的支持，实验结果也证实了准则的可行性与有效性。 2.给出了神经网络结构修剪法的信息几何理论解释，并提出了基于子流形投影的神经网络结构构建和优化算法SPP。使用信息几何理论证明了修剪法的理论可行性，将修剪过程表述为一系列信息投影问题，诠释了修剪法的作用机理，为提出更有效的网络构建和优化策略提供理论基础和依据。在此基础上提出了基于信息几何的修剪法SPP，该算法具有可靠的数学基础以及明确的数学机理。实验结果证明了方法的可行性与有效性。 3.提出了一种简化的模拟人类思维层次的层次化神经系统模型，并利用基于信息几何的神经场学习理论解释了不同层次的神经系统通过前馈和反馈连接进行动态交互作用的逼近学习机制，进而从整体的宏观的角度对人脑学习的机理、概念的形成给出了一个数学上的描述。 4.提出了模块化的网络是真正实现人工神经网络知识增殖学习的有效途径，并从神经生物、认知科学角度及统计学、信息几何的角度分别作了论证。对单一结构神经网络的“灾难性忘记”现象以及模块化网络的增殖学习能力作了数学分析。