无线通信中的自动调制识别是频谱资源应用与管理的重要环节,也是该领域最热门的研究方向之一。传统的无线通信信号调制识别研究主要采用基于最大似然比判决理论的调制识别和基于特征的调制识别两种方法,由于这两种方法存在的不足限制了调制识别的正确率和识别速度的进一步提高,本文将基于卷积神经网络的目标分类技术引入到无线通信信号的调制识别中,并结合自动调制识别需求对其进行了研究与改进,提出了一种改进型目标分类算法,并对其进行了实验验证,所做工作如下:首先使用分解卷积和分组卷积相结合的方法对深层网络模型VGGNet进行了改进,配合双Re LU激活函数与通道混洗技术设计了混合型特征提取网络模型DSNet,对其特征提取的精度和速度进行了探索。其次在DSNet的基础上采用特征融合技术对特征提取网络进行改进,提出了密集型特征提取网络Dence-DSNet,并对该网络的特征提取能力进行了探索。最后通过实验对所提出的新型卷积神经网络目标分类的速度和正确率进行了测试。实验自建了涵盖7种调制方式,每种调制方式1200张的无线通信信号星座图数据集,按照2:8的比例形成训练集和测试集在改进的网络上进行测试,运算结果表明,DSNet的分类正确率是93.7%,平均识别速度是14.6ms;所提出的Dence-DSNet的分类正确率是95.1%,平均识别速度是18.5ms。较改进前的卷积神经网络算法对调制方式的识别速度和识别率有明显提高。