人工神经网络(ANN)是一种最常用的、能胜任一系列工作的人工智能(AI)工具。通常,单个人工神经网络未必能够精确而全面地掌握某一特定工作的特点,因此人们提出了“人工神经网络Ensemble”([1])模型――一种集成一定数量单个人工神经网络使它们能够按照一定机制给出统一的输出的构架。随着对神经网络模型的数学基础研究的深入和实际应用需要的增长,人们提出了统计神经流形(statistical neural manifolds) ( [2], [3])模型,来考察某类神经网络的总体性质以及神经网络间信息流的动力学特性。最近的神经网络的数学基础的前沿研究将兴趣投向神经场理论([4], [5] , [6]),以便在提供大规模神经元的数学行为的描述的同时给出神经网络的统一统计数学模型。本文的工作可以分成三类:一,对最优网络构架和推理原则是否一致[7]的研究;二,统计神经流形上的Fisher信息矩阵的表示和计算;三,对神经网络统计模型的统一数学描述的探索。具体说来,本文有创新意义的工作主要有:1)提出了适用于具有三层总体网络拓扑构架的网络或Ensemble的动态子网选择机制,并给出了Ensemble具有唯一、稳定统计最优输出组合权值的充要条件。2)给出了全参数MLP神经流形上的Fisher信息矩阵的分快矩阵表达式,并给出其关键子块的显式表达和逆。3)基于亚指数S-型网络(sub-exponential sigmoidal networks) ([8])的Vapnik-Chervonenkis维(VC-dimension)的有限性([8], [9])结果,给出了S-型MLP神经流形上的“一致自然梯度算法”。4)提出了无穷维统计神经流形模型,将所有有限维神经流形统一纳入此模型。