垂直腔面发射激光器(VCSELs)具有体积小、阈值低、功耗小、单纵模、与光纤耦合效率高以及易形成高密度二维阵列等优点，在光通信、光互连、光存储和光传感等领域有广阔的应用前景，相关研究是近期光电子领域的热点。然而在VCSELs实际应用中普遍存在外光反馈问题，微量反馈便可使其出现复杂非线性现象，对系统性能造成极大影响。对该问题的研究有助于深入揭示此类激光器在外部扰动下特殊的物理和光学特性，为激光器和通信系统性能优化提供理论指导。本文研究目的在于：通过考虑VCSELs结构特点和外光反馈的影响，深入剖析外部反馈下VCSELs呈现的各类静态和动态特性，探究这些复杂现象的外在表现形式和内在物理成因，并探寻相应的控制措施。研究内容包括VCSELs多横模特性、单模和多横模VCSELs外光反馈特性、注入和互注入非线性效应、外腔VCSELs混沌同步及其在混沌光通信领域的应用等热点问题。处理方法上，主要借助Simulink开发可视化且易于拓展的动态仿真模型，并结合特殊的控制和处理程序进行分析；针对弱折射率导引VCSELs，利用光波导理论得到横模空间分布函数，并借助计算机绘图得到横模传播常数和空间分布特征；对VCSELs多横模相关问题则分别采用二维有限差分法和有源区积分消元法进行处理。这些方法具有高效和拓展性强等优点，可广泛用于光电子领域的研究。主要研究结论：对VCSELs多横模特性研究表明：窄(宽)的盘型或靠近有源区中心(边缘)的环型电流注入利于低(高)阶横模激射；模式强度空间不均性导致载流子在径向和角向呈不均匀分布，引发空间烧孔(SHB)效应；载流子扩散会削弱SHB效应；盘型注入下，偏置电流增加或注入电流扩散会降低器件单模特性。首次对单模和多横模VCSELs外光反馈特性做了详细探讨。除得到短外腔下静态特性和长外腔下的分岔和混沌振荡等典型非线性特性外，发现可通过调控自发辐射因子等内部参数或引入外光注入或外光电反馈来抑制反馈所致非线性行为。考虑多横模反馈时，各模在常规反馈下呈相同动力学特征，且模间竞争会引发反相变化；模式或极化选择反馈下，虽只有一个模式直接受影响，其余模式仍呈类似非线性特性，并可利用该系统实现极化或模式选择。在单向注入和互注入系统中同样存在分岔和混沌等典型非线性现象。两类系统中，频率失谐均会增加系统复杂度，互注入情形，该参量还将导致系统输出对应频率的周期振荡。首次分析了多横模VCSELs在常规和模式选择性注入下的非线性和模式锁定行为。对于常规注入，各模均呈前述典型动力学特征，并在强注入下被对应模式锁定；选择性注入时，仅与注入光具有相同或平行极化方向的模式呈现上述行为，与之正交的模式则在竞争中被抑制。外腔VCSELs混沌同步系统中存在全同步和普通注入锁模同步，激光器自发辐射噪声对全同步影响极大(表现为系统相关度的急剧下降和同步误差的急速增加)，对普通同步的影响则可以忽略。首次分析了常规注入和模式选择性注入下多横模VCSELs混沌同步特性。结果表明，常规注入下，两端激光器对应模式及总功率间可实现高质量同步；选择性注入下，仅直接受注入光泵浦的模式才能与对应注入模同步，其余则受到极大抑制，相关度低。对外腔VCSELs混沌通信系统研究表明，混沌调制(CM)、混沌隐藏(CMS)和混沌键控(CSK)三种调制方式下发射端发送的数字或模拟信号在系统达到混沌同步后均可在接收端得以正确恢复，与实验报道吻合。首次得出：由于注入锁模同步对参数失配过度容忍，基于该类同步的混沌通信系统安全性有待提高；外部光组件引起的附加光反馈可导致有用信息完全暴露于载波之外，使系统安全性大为降低；可通过减小强注入引起的收发两端混沌信号强度差来提高系统解码性能；可在系统中实现类似频分复用的多路信号混沌传输；级联混沌通信系统可实现全同步、普通同步和混合型同步，发送端所传信息在中间激光器和从激光器中均可得到正确解调，系统具备中继特性。