在高铁通信系统中,由于高铁列车运行环境复杂以及列车高时速,多径衰落、多普勒频移和高车厢穿透损耗导致的复杂场景中移动中继节点接收信号质量差等问题,一直是近年来高铁通信领域的研究热点。越区切换是高铁行驶过程中不可避免的关键步骤,快速高效的越区切换保障了列车的安全和用户的满意度。由于高铁运行速度快,在基站重叠区停留的时间很短,并且随着网络时代的与时俱进,用户类型不断多元化,用户的通信需求也持续增加,给高铁通信系统的稳定运行带来了巨大挑战。高效的越区切换技术,既能降低切换的中断概率,又能提高系统的性能。因此如何设计合理的越区切换算法,有效提升高铁用户服务质量和服务体验是高铁无线通信系统亟待解决的主要问题。本文基于波束赋形技术和机器学习策略研究了高铁通信场景中越区切换成功率低的问题,主要工作和研究成果如下:（1）提出一种基于波束预留角和列车位置辅助的动态波束赋形LTE-R越区切换方案,利用铁路沿线基站的覆盖方式为带状覆盖的特点,在基站的重叠区运用动态波束赋形技术。当列车进入基站重叠区后,基站天线由原来的工作模式切换为波束赋形模式。与传统波束赋形不同的是,动态波束赋形能够根据列车顶部车载移动中继的位置,自适应地调整波束主瓣的方向,使波束主瓣始终对准行驶中的列车。同时为了降低列车因系统噪声和传输时延而造成的定位误差,提出波束预留角策略,进而避免因列车定位错误引起的掉线和中断。仿真结果表明,对比传统的越区切换方案,基于动态波束赋形的LTE-R越区切换算法可以有效的降低高铁列车越区切换时的中断概率,且保障了切换触发概率和切换成功率。（2）提出一种基于LSTM天线波束预测的高铁列车越区切换方案,利用神经网络可靠的时间序列预测特性,预测越区切换过程中列车所需的波束增益,便于基站进行功率分配。本文在单覆盖区场景下提出一种基于最小中断概率阈值和基站总功率联合约束的波束增益预测分配算法,合理地为基站重叠区内的列车分配所需的波束赋形增益进一步优化越区切换时列车的车地间无线通信的可靠性。仿真结果表明,同传统的波束赋形算法和A3切换算法相比,本文所提算法能够适应实际情况,满足我国铁路无线通信系统规定的切换成功率指标要求,提高了越区切换的性能。