近年来,深度学习模型由于其突出的学习能力已被广泛应用于诸多智能领域。然而,随着智能化技术革命的不断拓展,深度学习模型在复杂场景下的智能应用面临着两个主要挑战:（1）深度模型泛化性差。特定任务训练的深度学习模型无法有效应对终端用户产生的复杂多变场景和分布差异较大的测试样本,直接导致模型的输出性能下降;（2）深度模型规模大、效率低。由于实际应用场景下计算设备的存储和计算能力是有限的,这与深度学习模型框架复杂、计算和存储需求大矛盾。本文通过研究和拓展深度卷积神经网络泛化性和高效压缩理论,提出相应的网络正则和网络压缩方法进行模型优化,实现提高网络的泛化性、训练效率和运行效率的研究目标。本文提出的具体方法如下:（1）针对基于特征扩展的网络正则方法灵活性和针对性差的问题,提出了自适应的乘性噪声正则卷积神经网络。在该模型的正则过程中,利用可学习机制提高正则方法的灵活性;提出多尺度机制生成粒度更细的多频扩展信息;采用条件预测权重机制提高正则方法的针对性,同时可以更合理地生成扩展数据;提出自恒等映射机制提高正则方法的通用性,使其能够应用在不同结构的网络中。该正则方法可以有效地提高正则过程的灵活性和针对性。（2）针对基于特征扩展的网络正则方法训练收敛慢的问题,提出快速收敛的加性噪声正则卷积神经网络。该模型的正则过程从可学习的噪声分布中生成加性噪声代替传统乘性噪声,可在提高正则灵活性的同时降低扩展数据对样本特征的依赖,进而缩小扩展数据与原始数据的分布差异,稳定模型的训练。此外,提出块注意力机制在特征图注意力激活的局部块区域加入噪声来降低特征图的模糊程度,可以进一步稳定模型训练。最后,原始特征和噪声模糊特征通过共享卷积和采用预测权重融合输出特征的方式再次稳定模型的学习过程。与传统正则方法相比,该模型可以显著地提高网络的训练效率。（3）针对基于分组卷积的网络压缩方法存在平面维度参数冗余和底层框架实现平面卷积效率低的问题,提出超稀疏卷积神经网络。通过将二维平面卷积核稀释到三维卷积核的方式在卷积核的平面维度上对网络进行压缩。这种稀释方式可以同时提取到特征图的平面几何特征和通道差异信息,保证网络的学习能力不损失。同时,基于这种设计准则,三维卷积核的每个平面卷积核只有一个非零参数,因此网络可以完全通过平面尺寸为“1×1”的卷积操作实现,节省底层框架实现平面卷积时的“img2col”和“col2img”的操作时间,可以得到深度框架更高效的支持。所以,该网络可以在实现简单高效的基础上更有效地对网络进行压缩,提高网络的训练效率和运行效率。（4）针对基于分组卷积的网络压缩方法存在通道维度参数冗余和底层框架实现分组卷积效率低的问题,提出稀疏复用组卷积神经网络。通过将卷积核的通道维度进一步分解并得到组的维度,在不同分组间利用共享平面卷积核的方法首次在卷积核组的维度上降低参数冗余。此外,共享卷积同样可以避免使用逐通道卷积操作,进而降低分组卷积的分组数目,最终从理论和实践上实现对网络的高效压缩,提高网络的实际运行效率。另外,由于共享卷积核能在一次迭代中处理更丰富的信息,可以提高卷积核的学习能力,因此比传统分组卷积压缩网络的训练效率更高且取得更高的准确率。