近年来随着信息流量需求的迅速增长,以微波为信息载体的卫星通信技术在通信数据率的提高上逐渐显现出局限性。而卫星光通信技术相对卫星微波通信技术而言,具有设备体积小、抗干扰强和保密性高等诸多优点,同时在通信数据率方面更是有着极大的提升空间。自上世纪六十年代以来,美国、欧洲以及日本等研究机构都相继对卫星光通信技术的研究投入了巨大的人力和物力,而目前我国对该领域的关注也在不断的提高。目前国际上卫星光通信系统基本都是采用基于半导体激光器的直接调制方式。在保证大输出光功率的前提下,由于卫星光通信链路中无法实现中继放大,在直接调制方式下进一步提高通信系统调制速率的难度越来越大。而采用由半导体激光器和掺铒光纤放大器(EDFA)构成的过渡性调制子系统结构或由半导体激光器、LiNbO3波导调制器以及EDFA组成的下一代主流调制子系统结构可以解决这一难题。在上述两种解决方案中都需采用EDFA技术。然而EDFA受到空间辐射后,其光学性能指标会有所下降,这会影响到整个卫星光通信系统的通信质量。因此,本文对EDFA在空间辐射环境下的性能变化进行了理论和实验研究,主要内容包括以下几个方面:为解决EDFA辐射影响研究中原有EDFA无法直接测试的难题,在基于掺铒光纤背景损耗的速率方程与传输方程的基础上,通过在无源测试模型中引入有源测试方法给出了一个新的EDFA辐射增益特性测试模型。采用该有源测试模型,只需通过测试EDFA信号光的输出功率随辐射剂量的变化就可以直接得到单波长EDFA的辐射增益特性,这使得在EDFA整机的测试过程中不再像无源测试模型中那样必须测试掺铒光纤辐射背景损耗,从而为卫星光通信系统设计人员提供一个更为便捷的分析方法。针对光纤恢复效应所引起的测试时间受限问题,首先对能够描述常规环境下多波长EDFA增益特性的黑匣子模型的本质进行了分析。然后在此基础上将黑匣子模型引入到辐射环境中来描述多波长EDFA辐射增益特性,从而提出一种采用黑匣子模型的多波长EDFA辐射增益特性的测试方法。为了对卫星光通信系统优化选择EDFA提供更加全面的参考依据,进一步对EDFA的抗空间辐射性能进行了实验研究。主要通过掺铒光纤的铒离子浓度与辐射剂量的关系、掺铒光纤放大器与铒镱共掺光纤放大器的抗辐射性能对比以及采用电子作为辐射源这三方面对EDFA的抗空间辐射性能进行了研究分析。最后,为了研究EDFA在卫星光通信系统中的应用情况,进一步从信噪比以及误码率的角度分析了由辐射引起的EDFA性能变化对通信系统的影响。仿真结果表明受EDFA性能变化的影响,通信系统信噪比都是随辐射剂量的增加而减小,而误码率是随辐射剂量的增加而增大。但是在相同通信系统参数的情况下,采用EDFA作为前置放大器的通信系统的抗辐射性能要优于采用EDFA作为功率放大器的通信系统。上述这些研究工作将为采用EDFA技术的卫星光通信系统的设计提供参考依据,并对解决高功率与调制速率这一技术矛盾从而实现卫星光通信系统的高数据率通信传输具有重要意义。