随着大数据时代的到来,如何从庞大的数据集中挖掘有用信息已经成为了一个亟待解决的社会难题。在线凸优化是一种计算高效且具备理论保障的通用学习范式,能够赋予机器学习算法自动更新、实时反馈的能力,因此适用于处理迅速增长的大规模数据。然而,传统在线凸优化算法通常只能处理如凸、指数凹或强凸等某一种类型的损失函数。为解决这个问题,研究者提出了可以通用地处理多类损失函数的普适算法。但是,现有最优普适算法在处理强凸函数时只能实现次优的遗憾界,且不支持平滑函数。本文主要研究如何提升现有普适算法的理论保障,同时扩大普适算法的适用范围,取得了以下进展:第一,为提升普适算法的理论保障,本文提出多专家学习率算法Maler。Maler遵循专家学习框架,维持一个两层层级结构:在底层,运行多种在线凸优化算法作为专家;在顶层,利用一个元算法基于历史数据动态追踪最优专家。为处理强凸函数,Maler引入了一种新型替代损失以提高优化效果。理论分析表明,Maler能同时处理凸、指数凹和强凸三种类型的函数,并可分别实现O((?)),O(dlogT)和O(logT)的极大极小最优遗憾界,其中T为迭代次数,d表示数据维度。相比于现有最优普适算法,Maler将处理强凸函数的理论保障提升了d倍,实现了更紧的遗憾界。这一结论也解决了一个开放问题,表明最优和普适可以同时实现。第二,为进一步扩展普适算法的适用范围,本文提出普适在线平滑优化算法UFO。UFO遵循与Maler相似的学习框架,同时引入专门为平滑函数设计的替代损失和新型专家算法来自动利用平滑性提升算法性能。理论分析证明,对于凸、指数凹和强凸函数,UFO可实现与Maler相同的极大极小最优遗憾界;而当函数同时具有平滑性时,UFO可分别实现O((?)),O(dlogL_*)和O(logL_*)的小损失遗憾界,其中L_*表示最优决策的累计损失。这样,当L_*较小时,遗憾界会自动变得比极大极小最优界更紧。注意到,UFO是首个对平滑强凸函数实现O(logL_*)遗憾界的算法,这一结果与现有最优理论保障相比提升了 d倍。