辐射源个体识别（Specific Emitter Identification,SEI）技术在电子侦察、无线网络安全、频谱管理等领域有广阔的应用前景。目前,一方面深度神经网络因具有强大的细微特征提取能力,其在SEI领域的应用研究得到学者的广泛关注,是该领域的研究前沿;另一方面,深度学习模型容易受到对抗样本攻击,给基于该类模型的SEI算法带来了极大的安全隐患,需要研究防御对抗攻击的方法。因此本文围绕这两个方面展开研究,主要工作如下:（1）提出了一种基于卷积神经网络的辐射源特征提取和识别方法。该方法通过数据增强和归一化对数据预处理流程进行改进,使用深度残差网络从信号时频图中提取特征完成辐射源识别。在实采的7台Hack RF设备的数据集上进行了验证,结果表明,与传统的根据辐射源指纹产生机理进行特征提取的方法相比,提出的算法识别效果更好;在20台USRP的公开数据集上进行了验证,结果表明,与一维卷积神经网络提取特征的方法相比,提出算法性能更优。（2）提出了一种适用于深度学习SEI技术的通用对抗扰动生成方法。该方法首先采用快速梯度法针对部分样本定制扰动向量,然后设计优化模型,通过奇异值分解求解通用对抗扰动向量,解决了快速梯度法需要干扰信号和被干扰信号同步的问题。使用Hack RF设备实采数据集对算法进行验证,实验结果表明,在白盒（被攻击模型的训练数据集和网络参数已知）和灰盒（被攻击模型的训练数据集或网络结构未知）场景下,提出的对抗扰动生成方法较高斯噪声具有更好的干扰效果。（3）提出了一种基于梯度惩罚的对抗攻击防御方法。该方法在神经网络损失函数中引入样本梯度正则项,采用梯度惩罚辅助对抗训练,有效提升了网络对于对抗样本的分类和检测效果。在Hack RF设备实采数据集上,利用提出的防御方法,对多种对抗样本进行分类和检测,实验结果表明,使用梯度惩罚辅助对抗训练得到的模型,可以进一步提升对抗样本的分类准确率;在虚警概率一定的情况下,可以有效提高对抗样本的检测概率。