聚类算法是指根据数据的关联性,将相似数据划分至相同数据簇,而将相异数据划分至不同数据簇的过程。随着计算机深入到人们日常生活中,互联网上每天都会产出海量的数据,但这些数据大多数是不包含标签的。给这些海量数据做人工标注非常耗时费力,所以目前较为成熟的有监督学习算法面临着训练数据匮乏的问题。因此使用无监督学习中的聚类算法,根据样本之间的相似性对其自动分组具有非常重要的研究意义。传统的聚类算法只能提取数据的浅层特征,不能有效挖掘出隐藏在数据中的更深层次非线性特征,并且计算复杂度随着数据规模的提升而急剧提升。相较之下,深度学习聚类算法通过深度神经网络提取数据更为抽象的特征,降低了计算复杂度,提高了聚类精度。深度学习聚类的算法主要使用了自编码器模型,也有少量研究工作使用生成对抗网络。自编码器模型将数据域和隐空间做一一对应的映射,所以泛化能力较弱。假如只使用小样本数据训练模型,则对整体数据的聚类精度不佳。生成对抗网络具有比自编码器更强的泛化能力,当数据样本小或者有少量噪声数据扰动时,生成对抗网络的性能比自编码器稳定一些。但是使用生成对抗网络做聚类的研究工作较少,仍处于起步阶段。因此本论文针对以上问题,对基于生成对抗网络和变分自编码器的聚类算法进行研究,主要内容如下:1.针对图像数据聚类的问题,提出Info-Cluster-GAN模型。在原有生成对抗网络生成器和判别器的对抗基础上,增加了一个深度神经网络构建的分类器。分类器将使用不同隐空间变量生成的数据映射至不同类别,该操作使得生成数据与隐变量互信息最大化。从而可以使用低维的隐空间变量表示高维的数据类别。在初步实现对生成数据的聚类功能之后,利用期望最大化算法更新分类器参数,来提升模型对真实样本的聚类精度。此外,本模型通过使用Wasserstein距离替换相对熵来衡量生成样本和真实样本之间的差异,使得模型收敛性得到提升。为了优化模型的训练速度,本模型采用了两种方式。其一是使用多损失函数代替交替训练各个神经网络。其二是共享判别器和分类器之间的网络参数,该方法减小了网络复杂度,节省了模型训练时间。实验表明,本模型的聚类精度比起现有的基于生成对抗网络的聚类模型,得到了进一步的提升。2.针对使用单一高斯分布噪声生成的数据存在模式崩塌的问题,采用降噪变分自编码器来生成混合高斯噪声分布。具体地,使用隐变量作为训练数据训练降噪变分自编码器。生成不同类别数据时,通过编码器和隐变量,生成不同分布的混合高斯噪声信号。在不同的高斯分布中采样信号作为生成器输入,以此避免单一的噪声输入带来的模型崩塌。对优化后的模型进行了加噪数据的聚类实验,证明了模型有相对较好的抗噪抗干扰能力,且聚类精度比优化前模型有所提升。