松弛约束非负矩阵分解算法研究

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:fionwy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
非负矩阵分解是一种新兴的能够保持数据非负性的非监督机器学习技术。传统的非负矩阵分解算法实现非负约束主要有两种方法。第一种方法只在迭代过程中使用矩阵乘法、矩阵加法、矩阵点乘和矩阵点除这四种能够保持矩阵非负性的矩阵运算,从而整个迭代算法也是可保持非负性的。这类算法普遍存在收敛速度慢或重构误差大的问题。第二种算法允许数值计算过程中自由使用各种矩阵运算。对于出现的负元素,这类算法需要强制添加一步非负化的操作,比如将出现的负元素投影为0。投影操作会使收敛性的理论分析变得复杂,甚至导致算法的失去稳定性。针对传统非负矩阵分解算法在数值计算的每次迭代中强制非负约束而带来的种种问题,本文提出了两种全新的NMF算法:松弛约束非负矩阵分解算法和弱约束非负矩阵分解算法。松弛约束非负矩阵分解算法是一种在数值计算之后再实现非负约束的算法。该算法把非负矩阵分解问题拆分松弛问题和约束问题。在松弛阶段,不考虑非负约束,先在实数范围内求解出一组矩阵分解;在约束阶段,再通过适当的方法将这组实数分解转化为非负分解。通过这样两步来完成非负矩阵分解。对于松弛阶段,本文提出了自适应松弛约束非负矩阵分解算法,并证明了算法的收敛性。对于约束阶段,本文在给出了两个实数矩阵可非负化的判定条件;对秩为2的情况,设计了非负化算法;对秩大于2的情况,给出了近似非负化算法。弱约束非负矩阵分解算法是一种对数值求解的单次迭代没有强制的非负性要求、而是在整个求解过程中逐渐实现非负性约束的一种新型非负矩阵分解算法。通过引入非负约束强度的概念,使得非负约束得到精确量化。而且只需要添加一步弱约束步骤,就可将实数矩阵分解算法转化为非负矩阵分解算法,大大简化了非负矩阵分解的算法设计。在此基础上,本文还提出了一种变非负约束强度的弱约束非负矩阵分解算法。弱约束非负矩阵分解算法及其改进算法是针对不同秩的通用算法,而且重构误差显著小于传统算法,从而具有重大的实际应用价值。
其他文献
数字地球技术的发展,使得电子地图逐渐成为各项研究的基础。但是随着我国改革开放的不断深入,经济的迅速发展,城市布局发生了重大变化,新建、改建、迁建的工程项目不断增加,电子地
Web日志挖掘是从服务器端纪录的用户访问日志或从用户的浏览信息中抽取感兴趣的模式。利用Web日志挖掘,我们可以知道用户对网站的浏览模式,通过分析这些数据可以帮助理解用户
信息化是提高制造业竞争力、应对挑战的重要手段。数字化电子手册就是在这样的形势下应运而生的。数字化电子手册不是纸质手册内容的简单再现,它是利用了计算机能够海量存储、
渲染是动画制作的重要步骤,目前国内该行业基本上是单机孤岛式的制作方式,由于没有基于网络环境的分布式资源管理、渲染节点的故障检测、排除和渲染文件分散存储的软件系统,
嵌入式计算、网络、传感器和无线通信四大技术孕育了无线传感器网络。无线传感器网络通常包含大量的自组织成多跳无线网络的分布式传感节点,是一种全新的信息获取和处理、传
数据流的出现引发了人们对数据流处理技术的广泛研究。数据流频繁模式挖掘技术就是其中的一种,它在商务决策、知识库的应用中起着重要的作用。但是由于数据流本身动态多变、
服务发现协议(Service Discovery Protocol,SDP)是解决终端设备如何发现和获取网络中服务的协议。该协议让用户和应用程序,在没有预先配置的情况下,就可以自动定位服务,使用
计算机视觉和机器学习技术被广泛应用于数据挖掘、信息安全、遥感图像处理、生物信息学、智能交通、智能安防和医疗服务等领域。作为计算机视觉领域中的重要分支之一,运动目
生物体特征识别技术使用了人体本身所固有的生物特征,与传统的身份识别方法完全不同,具有更高的安全性、可靠性、和有效性,越来越受到人们的重视。人脸自动识别技术作为生物特征
随着计算机处理对象越来越复杂,所要求软件的功能就相应地要越来越强,软件的质量和可靠性尤为重要,软件测试是其重要保障。而软件测试是软件开发过程中的一个至关重要的环节,