目前,光纤通信系统中最常用的信息载体是光孤子。光孤子可以在反常色散光纤中实现保形传输,但是光孤子的单脉冲能量受到非线性效应的限制,光能量无法发挥很高的水平,虽然传输中受到的损耗很小,但是在实际传输过程中需要在一定的传输距离后对光孤子进行中继放大。要实现光纤通信系统的远距离无中继传输,需要从系统光源和传输信道两方面入手,对现有系统进行改进。本文针对以上两个问题,分别对自相似锁模光纤激光器和自相似脉冲在光纤中的传输过程进行了研究,主要完成了以下几个方面的研究工作:1、对被动锁模掺镱光纤激光器输出自相似脉冲的色散范围和特性进行了仿真研究。数值分析了激光器腔内净色散、饱和增益能量和有限增益带宽等对输出自相似脉冲的脉宽、峰值功率等参数的影响。对激光器输出自相似脉冲进行了定量研究。2、对被动锁模光纤激光器内自相似脉冲对的相互作用机理进行了探索性的研究。实验结果表明,这种脉冲相互作用的现象首先取决于脉冲对间的间隔距离,距离越近作用越明显;其次,这种作用的强度也与增益饱和能量、腔内整体色散有关,表现出脉冲的排斥远离或脉冲的吸引碰撞。通常情况下,当脉冲距离与脉冲宽度相比很大的时候,脉冲间的作用力就已经很小,可以忽略不计。相反,在本文中,自相似脉冲的作用力范围要远远大于这个范围。从实验结果中可以看出,在脉冲宽度为1ps,脉冲间距离为20ps的情况下仍然存在着相互作用力。自相似脉冲对间的相互作用还与增益带宽有关,较大的增益带宽条件下的作用力更大。3、对自相似脉冲和自相似脉冲对在单模光纤中的传输过程进行了详细研究。研究表明,单一色散光纤并不能支持自相似脉冲和自相似脉冲对的保形传输。通过使用色散管理技术,可以实现这一点。本文对色散管理光纤的色散分布和长度进行了适当调整,定量分析了以上两种参数对自相似脉冲传输过程中的波形、能量、脉宽和谱宽等因素的影响,找到了其中的规律。这部分结论对远距离无中继光通信系统有一定的学术意义。通过对上述问题的研究,本文取得了以下几个方面的成果:1、建立了被动锁模光纤激光器的数学模型,提出了一种产生自相似脉冲的光纤激光器结构。开创性地对光纤激光器中自相似脉冲对的相互作用情况进行了研究,分析了内在的作用机制,指出非线性相移在自相似脉冲间的作用中起主导作用,找到抑制非线性相移的方法就可以减小脉冲间的作用。研究结果将对实际自相似锁模激光器的实验研究和优化设计提供理论参考;2、利用非线性薛定谔方程,对自相似脉冲和自相似脉冲对在光纤中的传输理论进行了研究。在单一色散光纤无法支持自相似脉冲保形传输的情况下,提出了一种利用色散管理光纤实现自相似脉冲远距离保形传输的方法。仿真结果证明,使用色散管理光纤作为自相似脉冲的传输介质要远远优于单一色散光纤和常见的色散渐减光纤。这部分结论对实现远距离无中继光通信系统有一定的指导意义,并将促进自相似脉冲在光纤通信系统中的应用。