机器学习旨在研究如何通过计算的手段,利用经验来改善系统自身的性能。在这个过程中,经验常常以数据的形式存在。因此机器学习主要研究的是从任务数据中产生模型的算法。在现实世界中,根据来源不同,数据的结构和特性也不相同,从而需要使用不同的任务结构进行学习。例如,维基百科中的词条可能有一个或多个标记,而标记维度成千上万,想要对每个词条进行准确的分类,我们就需要建立高维多标记学习任务对其进行学习;而对于互联网上用户产生的图像数据,虽然不包含标记信息,但是仍然蕴含着大量的用户行为信息,为了挖掘图像等高维无标记数据中的潜在信息,我们则需要建立高维无标记学习任务。此外,在一些机器学习问题,如强化学习问题中,数据在智能体与训练环境的交互过程中产生。为了有效利用复杂环境中产生的层次结构数据,我们需要建立策略分层强化学习任务;而对于一批类似环境上的强化学习,为了利用类似环境中的经验数据来加速在新的环境上训练,我们需要建立策略经验重用学习任务。如何在不同的任务结构中,有效的利用数据的特性,是改进机器学习算法的关键。本文从多种不同的任务结构出发,分析任务中的数据蕴含的结构和特性,从多个方面展开研究,取得如下成果:1.在高维多标记学习任务上,针对传统多标记学习算法面临维度灾难的问题,本文分析并利用了标记中的关联性,提出了线性二值压缩的多标记分类算法BILC,通过无梯度优化的方法,将高维标记压缩至低维二值空间,从而可以使用比回归器结构风险更低的分类器在低维空间进行预测。与现有多标记分类方法相比,在高维多标记数据上取得了更好的效果。2.在高维无标记学习任务上,针对传统混合模型聚类算法难以拟合复杂高维数据的问题,本文结合混合模型聚类和生成对抗式网络,提出了生成对抗式网络混合模型GANMM,进行端到端的高维图像数据聚类,并提出了ε-EM算法对GANMM进行有效的优化,取得了良好的效果。3.在策略分层强化学习任务上,针对现有分层强化学习仅仅利用数据的层次信息进行策略分层,对于上层策略决策频率不能进行合理控制的问题,本文提出了自适应子策略切换的分层强化学习方法TEMPLE,通过分析和利用层次数据中包含的时序信息,让网络自适应的更新上层策略的决策频率,在很多任务上表现出了比现有方法更好的效果。4.在策略经验重用学习任务上,现有经验重用的迁移强化学习方法仅仅从某一个固定的粒度上对经验数据进行提取和重用,这造成了精度的损失,限制了策略经验重用的效果。本文提出了多粒度多层次的经验提取和重用算法PRR,并且提出了自上而下的PRR网络的训练方法,在策略经验重用学习任务上取得了较好的效果。