无线通信系统采用的高频段、大带宽、多天线和多载波传输等技术为物理层安全算法的研究开展提供了广阔的空间和前景。本文在分析无线通信系统安全防护的重要性和物理层无线信道特性的基础上，针对传统的物理层安全算法未充分利用无线传输特性这一问题，结合假设检验方法，提出了一种物理层信道检测算法，该算法利用支持向量机（S VM）对采样后的信道向量进行挖掘，实现对信息的逐条实时认证，减少高层信令的复杂度。并对算法进行了优化设计，给出该算法在小区重选机制中的应用。本文的主要研究工作概括如下：　　（1）研究4G-LTE新技术、无线信道的传输特性以及常用的机器挖掘算法。无线新技术和信道的时间选择性、频率选择性和空间相关性等本质特性的研究为后续算法的设计奠定了基础。着重研究SVM算法的本质特征和优缺点，为算法实现提供信息挖掘工具。　　（2）提出一种利用信道状态信息实现信道检测的算法—基于 SVM的物理层信道检测算法。通过对4G无线传输信道本质特性的研究，提出信道检测参数，并结合假设检验方法，利用SVM对信道向量进行挖掘，建立分类预测模型，实现对后续测试数据的分类预判。采用MATLAB仿真4G系统，并获取相应的信道向量，利用所提算法对其进行分类判决，论证算法的可行性。　　（3）基于 SVM的物理层信道检测算法的优化设计。为了提高分类的效率，本文利用优化网格搜索参数的算法对参数选择进行优化，并利用 LIBSVM开放平台实现仿真，实验结果明确表明了优化参数搜索的必要性。此外，由于冒充攻击者所处环境具有随机性和多变性，一旦识别一个冒充攻击者，又会出现新的冒充攻击者，只有当信道检测系统具有很强的适应性、自学习性和鲁棒性，才能更好地保障终端的安全性能。本文比较几种常用的增量学习算法，并利用两种简便高效的增量算法改进物理层信道检测算法，实现对后续不同信道向量的快速检测。　　（4）基于 SVM的物理层信道检测算法的应用设计。针对当前小区重选把参考信号的质量作为唯一的判断准则这一特点，利用基于SVM的物理层信道检测算法提出一种增强终端重选安全性的方案。单一的判断准则为冒充攻击者提供了可趁之机，它很可能通过辐射强度大、质量好的无线信号来骗取终端接入其覆盖的非法网络，威胁终端的安全。本文利用提出的物理层信道检测算法改进当前的小区重选机制，结合信道向量判决是否需要发生重选，而不是单纯地把参考信号的质量作为唯一的判断准则。