论文部分内容阅读
20世纪末期,统计物理学家便开始从各种角度研究复杂系统的各个分支,比如生物,复杂网络,和新兴的机器学习和大数据。由于复杂系统的自由度越来越高,模型越来越复杂,从物理的角度出发寻求解释也变得日益重要。物理学家利用统计物理给复杂系统领域带来了许多新的思考,同时复杂系统的发展需求也给统计物理带来很多新的方向。 本文将分三个方向讨论统计物理在算法科学上的应用。第一是模拟加速问题,我们主要研究如何构建粗粒化力场,用于加速蛋白质折叠,我们目的是要构建能够保持自由能曲面的粗粒化算法,方法是自适应混合粗粒化。第二是深度学习,我们研究超深网络当中的训练退化现象,训练退化指的是非常深的网络性能比不上浅的网络。借助于统计物理当中局域化以及自旋玻璃等思想,我们提出新的训练退化解释,并初步讨论深度学习的机制,这部分主要是实验。第三是逆增强学习,现行的逆增强学习框架是基于最大熵的对抗训练,直到生成模型领域的突破性进展,才使得逆增强学习理论被进一步推广,我们在这个部分主要讨论算法理论本身的,并指出几个重要的定理,这些定理的证明同统计物理当中的密度泛函联系非常紧密。