回声状态网络是一种新型的递归神经网络,动力学特性丰富,学习算法简单有效,训练速度快,适用于处理复杂的非线性系统,已广泛应用于时间序列预测、模式识别、非线性系统建模及控制等领域。然而,回声状态网络在解决实际问题时,仍存在一些关键性问题亟待解决,如:(1)传统回声状态网络的储备池拓扑结构完全随机生成,导致网络性能及其性能稳定性较差;(2)回声状态网络在训练过程中常存在不适定问题,特别是当网络存在近似共线性问题时,易产生病态解,导致网络的泛化能力降低;(3)回声状态网络往往需要较大的网络结构以获得良好的网络性能,而冗余的网络结构会导致网络的预测精度及泛化能力下降。针对上述问题,本文的主要研究内容如下:1.针对回声状态网络储备池拓扑结构设计存在的问题,借鉴脑网络具有层次化和模块化的拓扑结构特征,将生物神经网络的拓扑结构引入到回声状态网络的储备池拓扑结构设计中,设计了类脑的分层模块化储备池拓扑结构,并建立了一种分层模块化回声状态网络模型。与传统的储备池拓扑结构相比,分层模块化储备池拓扑结构降低了神经元间的耦合程度,丰富了网络的动力学特性,使其更接近于真实的生物神经网络。实验结果表明,类脑的分层模块化储备池拓扑结构能够使网络获得更好的预测性能及其性能稳定性。2.针对回声状态网络训练过程中存在的不适定问题,提出了一种基于贝叶斯信息准则的混合正则化学习算法。该算法通过在网络的目标函数上添加一个混合惩罚项,解决了储备池状态变量间的近似共线性问题。通过最小角回归算法计算完整的正则化路径,根据贝叶斯信息准则确定最终的网络模型,继而获得一种基于贝叶斯信息准则的混合正则化回声状态网络模型。通过时间序列预测实验验证算法的有效性和可行性,结果表明,基于贝叶斯信息准则的混合正则化学习算法在一定程度上解决了求解过程中的不适定问题,提高了回声状态网络的预测精度和泛化能力。3.针对回声状态网络冗余结构的优化问题,提出了一种基于贡献度的回声状态网络结构优化设计方法。首先分析储备池神经元输出对网络输出信息的贡献程度,提出衡量储备池神经元贡献度的评价指标;然后根据贡献度大小判断其与输出层神经元连接权值的重要性,动态修剪贡献度较小的储备池神经元的冗余连接权值,获得精简的网络结构。实验结果表明,基于贡献度的结构优化算法降低了回声状态网络结构的复杂程度,提高了网络的预测性能和泛化能力。4.针对城市污水处理过程中关键水质参数难以在线实时测量的问题,设计了基于结构优化回声状态网络的关键水质软测量模型。通过对污水处理过程中关键水质参数进行分析,将改进型回声状态网络应用于城市污水处理过程出水水质预测,建立了城市污水处理过程的关键水质软测量模型。最后通过污水处理厂实际数据测试模型的有效性。实验结果表明,该模型能够准确测量出水水质。