异常检测的基本目标是检测出偏离整体数据特征的稀少数据,近年来随着互联网技术的快速发展和大数据时代的来临,数据增长速度加快,数据多样性增加,异常检测问题得到越来越多的关注,越来越多的应用在网络入侵、信用欺诈、故障检测、医疗诊断、信息安全等领域中,特别是无监督式的异常检测技术,应用场景更广泛、技术难度更大,因此对其进行研究具有重要的意义。本论文首先对异常检测领域相关技术进行了总结,比较了现有的异常检测方法,选择数据异常检测领域的两个难点问题:处理高维数据时的检测效率降低问题、异常数据占比变化时检测模型鲁棒性难以保证的问题。本论文从深度自编码器的结构上进行了改进,保留了其基于重构误差的异常检测技术优势;并利用高斯过程回归算法的高可靠性弥补了深度自编码器在异常数据比例较高时检测性能的不足,提出了一种针对高维、高异常率数据的新型无监督式异常检测算法,从而提供了一种能同时有效地缓解上述两个难点问题的方案。本论文进一步优化了深度自编码器和高斯过程回归的训练方法,给出了一种自监督式的训练方法,该方法迭代地以预测结果作为标签的方式进行训练,在20次迭代之后有效收敛。通过Python语言编写仿真实验代码并进行了仿真实验,相比较离群点检测算法、单类支持向量机、深度自编码器等传统异常检测算法而言,新型混合异常检测算法在检测性能上有明显的提升,在MNIST、CIFAR-10、Fashion MNIST、STL-10基准数据集上的异常检测性能指标AUC平均值分别达到了0.961、0.669、0.865、0.684;特别是在输入数据维度高、异常数据占比变化大的情况下,新型混合异常检测算法的检测效率更高、检测性能所受影响更小,能保持相对稳定。本论文完成了新型异常检测算法相应的逻辑设计,包括卷积运算模块、全连接运算模块、激活函数模块和指数运算模块的逻辑设计;通过编写Verilog HDL代码完成了数字电路的仿真与综合,Vivado仿真结果表明各模块功能正确;在PYNQ-Z2开发平台上进行了验证,虽然计算中精度有一定的损失,但是在MNIST数据集上的异常检测AUC平均值仍达到了0.873,优于单类支持向量机和深度自编码器的异常检测性能。