图像加密技术通过研究和设计加密、解密算法,实现在公共网络通信信道内,加密或隐藏有效信息,从而保障数据和信息的安全。光学图像加密和认证技术具备大容量、多维度、并行性和高设计自由度等优势,能够满足图像传输和管理的安全需要,是目前图像加密技术中的主要实现形式之一,其关键技术的发展始终备受关注。目前,在光学图像加密和认证技术领域中,仍存在症结性问题亟待解决,如光学图像密码系统密钥分配管理不便,基于双随机相位编码技术的加密方法安全性较低,光学实现过程中的轴对准问题,以及多路图像加密时叠加复用产生的串扰噪声问题等。本文围绕上述几个技术难题,研究Fresnel变换域和Gyrator变换域中光学图像加密、水印及认证系统的关键技术,解决目前存在的问题。本文主要贡献如下:(1)针对彩色图像传输过程中的信息安全问题,提出一种利用矢量运算和超混沌副像相位掩模对彩色图像加密的方法。首先利用图像的矢量运算将原始图像矢量分解,并叠加到R、G、B三个通道上的两个相位板当中;然后使用超混沌副像相位掩模在Fresnel域中的双随机相位编码,对其中一个相位板加密;最后利用两个随机矩阵的Kronecker积对编码图像进行进一步随机化处理,实现光学彩色图像加密。该研究设计的一次一密加密体系,使算法能够很好地抵御选择明文攻击、高斯噪声攻击和统计分析攻击,大大增强传统双随机相位编码算法的安全性。(2)针对光学图像加密系统中复数密钥安全传输和分发的问题,结合公钥密码学算法,提出一种基于超混沌和压缩感知的光学图像加密方法。首先利用单像素成像系统,通过构造的Walsh-Hadamard变换和测量矩阵对原始图像进行采样测量,稀疏化操作使能量更为集中,为后续压缩提供条件,二值Hadamard矩阵易于在高速空间光调制器件上实现和快速生成;然后利用Chen 4D超混沌系统构造相应的超混沌序列,经过预处理得到待使用的超混沌随机相位掩模,借助超混沌相位掩模在待加密图像的Fresnel域中,对原始图像进行双随机相位编码处理;接着通过DNA序列操作进一步编码图像;最后利用公钥密码分配体制实现密钥序列非对称管理。该研究旨在提高Fresnel域下双随机相位编码系统安全性,增强密钥敏感性,降低公钥密码学加密算法的时间复杂度,结果表明所提出方法具有良好的统计分布特征和较强的抗环境干扰能力。(3)针对光学实现时水印加密算法中的轴对准问题,以及光学密码系统的安全性,提出一种基于超混沌相位掩模和Gyrator变换的光学水印方法。首先利用Chen 4D超混沌系统构造超混沌相位掩模;然后通过菲涅尔波带板和径向希尔伯特掩模构造的涡旋光,对超混沌相位板进行照明;最后借助Gyrator变换将加密后的水印图像植入宿主灰度图像,实现Gyrator域下的光学信息隐藏。通过Gyrator逆变换提取目标图像中植入的水印信息,引入菲涅尔波带板能够有效降低轴向误差对解密效果的影响,提高提取水印图像的质量。该研究旨在解决光学加密系统中的轴对准问题,进而能够从高不可感知性的目标图像中提取高质量的水印信息,加密目标图像信噪比高,与宿主图像的相关性强,能有效地抵御较强的椒盐噪声攻击和高斯噪声攻击,在抵御遮挡攻击时具有良好的鲁棒性,有效提升系统的安全性。(4)针对光学多图像认证方法中,多路复用图像中的串扰噪声,以及不同认证级别下的信息安全问题,提出一种基于超混沌振幅型掩模和Gyrator变换域下相位信息复用的光学多图像认证方法。首先利用He分数阶超混沌系统构造超混沌随机振幅掩模;然后通过改进的Gerchberg-Saxton算法对原始图像进行低级或高级别编码,利用超混沌掩模作为振幅约束,迭代获得目标图像,并将得到的N个目标图像编码成复合图像;最后再次通过Gerchberg-Saxton迭代将复合图像转化为两个便于传输的纯相位掩模。研究结果能够使不同安全级别的用户拥有各自的认证密钥,其中低级认证可以通过检索图像与原始图像的非线性相关峰值,判断认证图像的正确性;而高级认证则可以获得与原始图像相似度较高的认证图像。该研究方法对遮挡攻击和噪声攻击具有良好的鲁棒性,旨在解决光学多图像认证及加密方法中多路图像叠加复用产生的串扰噪声问题,提升光学认证系统的安全性。对于上述所有研究内容,论文采用系统设计和数值仿真等方式加以证实。通过分析光学图像传输环境,设计模拟攻击手段,结合所述算法和系统,来实现对光学图像加密和认证系统安全性的增强。通过大量实验验证算法在可行性、鲁棒性、安全性及时间复杂度等方面的先进性,为光信息安全系统的进一步发展起到良好的促进作用。