电子战的非合作通信场景下,接收到的通信信号调制方式未知,调制识别是信号解调的关键。民用领域,近年来快速发展的智能接收机对自适应解调的需要越来越高,如何高效的调制识别成为军用民用通信领域急需解决的问题。电磁环境日益复杂,接收信号的信噪比范围更大,传统调制识别存在噪声鲁棒性弱和特征提取难的问题。同时,存在同信道多个待识别信号时域、频域、空域均混叠的情况,此时传统的信号分离后识别办法失效,需要寻找直接识别方法。针对这两个问题,本文拟研究基于深度学习的通信信号调制识别算法,主要包括以下几个内容:首先,以具有调制识别功能的宽带中频软件无线电接收机为基础,结合实际通信信号的制式、参数、信道条件搭建大范围信噪比以及混叠情况的信号模型并生成本文算法使用的数据集。第二,利用卷积神经网络自动提取特征的方法,提取时域信号特征并利用网络最后一层实现信号调制分类,解决单一感兴趣信号信噪比变化范围大时传统特征失效导致系统噪声鲁棒性差的问题。第三,基于胶囊网络的并存信号调制识别算法,通过两种路由方式,动态路由和EM路由,解决同信道信号时频空域混叠,待识别信号不固定,且均感兴趣其调制方式的问题,目的是提高识别准确率,降低漏检和虚警率,提高噪声鲁棒性和泛化能力。目前已有的相关研究主要为2个信号混叠,在本文的工作中,最大共存信号数为三个。