波形识别技术，对于认知被动雷达、电子对抗以及无线网络安全等领域具有至关重要的作用。传统的波形识别基于特征提取的方法，典型的特征包括时频分布特征、分形特征和高阶累积量特征等。随着深度学习技术的日益成熟，神经网络的方法被广泛应用于波形识别中，并且性能大大超过了传统的波形识别方法。然而，实测过程中发现，对于在不同信道场景、不同采样率下的接收机采集的数据，已训练模型的泛化能力不理想，考虑到在线波形识别中信道条件多变的特点，需要引入迁移学习的方法进行知识迁移。
　　本文首先搭建硬件平台采集真实信道场景的协议数据集，包含不同的信道条件和不同的采样率。其次，对于同域同构的波形识别问题，设计了卷积神经网络模型，在调制信号识别和协议信号识别上都取得了良好的性能，并提出了双通道卷积神经网络模型，结合了双向长短时记忆网络，可以提取不同尺度的特征，充分利用信号的时间序列特性，取得了更好的结果。最后结合卷积神经网络和软件无线电平台，设计并实现了智能通信信号在线识别系统。
　　对于不同信道场景、不同采样率的波形识别问题，本文设计了两种基于深度迁移学习的跨域波形识别方法。对于目标域有部分标签数据的情况，设计了参数迁移的方法，完成知识的迁移，该方法基于源域模型，只需少量目标域标签数据便可快速实现目标域的准确识别。对于目标域没有标签数据的情况，设计了通用无监督的领域自适应方法，引入对抗学习的方式学习域不变特征；使用编码器网络实现不同领域数据的变换，通过域判别器实现源域和目标域特征的相似映射。
　　此外，对于电台个体识别问题，考虑到个体之间的相似性，本文提出了一种基于短时傅里叶变换和卷积神经网络的方法，实现个体识别和业务识别。先对个体信号进行短时傅里叶变换得到时频图，然后使用卷积神经网络对时频图进行特征提取和分类，实验结果证明了方法的有效性。