话题模型(Topic model)是目前流行的一种图模型(Graph model)的.其严格遵守贝叶斯概率框架,是一种完全的贝叶斯模型。话题模型作为一种产生式模型,具有非监督学习,能够利用大量的现有的互联网数据,学出的话题易于人类理解,能够发现文档集中隐含的语义的特点。是一种良好的聚类和降维工具。然而对于将话题模型应用分类问题,由于其非监督的特点,其学出来的话题并不一定有利于分类的进行,为此如何有效的加入监督信息也成为了研究热点。本研究旨在探索更多加入监督信息的方式。在本文之中,我们首先提出了一种用于多类分类的有监督学习的上游话题模型,其能够同时进行文档建模和分类。较之现有的有监督学习的话题模型,这个模型具有三个优势:1)类别是显示的作为关于话题的分布来建模的,其相当于为每个文档添加了一个非常强烈的先验分布,2)每个文档都明确的分解成对于类别而言的三种不同的组分,3)关于文档类标的推理是非常稀疏的,而这种稀疏性对于文档分类而言正是必须的。我们并将其应用与文本与图像分类。在随后的章节中,我们针对上游模型无法有效利用类间信息的缺点,提出一个将产生概率和监督学习信息联合起来的叫做LogisticLDA的模型,其用符合原则的方式从数学上将一个产生式模型和一个判别模型集成起来。通过使用logistic normal分布来最大化关于文档类标的后验概率,我们的模型有效的将监督学习信息集成进来以最大化话题空间的类间距离,同时仍旧享受文档之间可交换性所带来推理的容易性。在三个测验样例数据集上的实验结果表明,我们的模型表现结果超过现今流行的有监督学习的话题模型。相比于SVM,我们的模型也获得可以比较的结果,但它同时能够发现有利于降维,话题和文档索引挖掘隐藏的话题的空间。