近年来,研究光学和机械自由度之间通过辐射压力耦合的腔光力学已成为一个迅速发展的研究领域。在过去的几年中,经典和量子情况下的非线性光力相互作用引起了越来越多的关注。弱耦合区的非线性光力相互作用会导致一些有趣的效应,如微扰或非微扰的边带产生、参量不稳定性、光力混沌、载波包络相位依赖效应等,这些效应在电荷以及微质量的精密测量,提供低阈值声子激光,保密通信和测量激光脉冲的载波包络相位等方面有重要应用。单光子水平上的强光力耦合产生了重要的量子效应,如光子阻塞、量子压缩和非经典态等,这些效应为量子信息处理和量子测量学提供了途径。本论文讨论了经典情况下非线性光力相互作用的一些相关现象,包括二阶边带、声子激光（相干机械放大）和光力混沌。首先,我们讨论了与原子耦合的混杂光力系统中二阶边带产生（SSG）的新特性。基于微扰展开方法,可以获得二阶边带的解析表达式。结果表明,原子集体耦合强度可以调节二阶边带频率响应的形状和振幅。根据集体激发模式和腔模之间的失谐量,区分出三个区域,在这三个区域内,集体耦合强度以不同的特征影响二阶边带频率响应。在共振区,由于腔场的减小,SSG被抑制。在近共振区,由于机械振荡的放大,SSG可以显著增强,并且二阶边带关于其中心频率的对称结构被破坏。在非共振区,混合系统可以退化为常规的光力系统,随着集体耦合强度的变化,二阶边带的频率响应没有明显的变化。这些结果导致了原子系综对二阶边带的良好调节作用。通过选择合适的共振区并调整原子集体耦合强度,可以显著提高或降低SSG在其中心频率附近的效率,并且可以保持或破坏SSG的频域对称性。在非共振区也可以实现原子系综对SSG的精细调节。其次,我们探讨了微波腔磁力系统中声子激光阈值泵浦功率的最佳参数点。声子激光对于描绘光力系统不稳定性很重要,因为它揭示了由静态不动点产生振荡周期轨迹的第一个动力学分岔,这是光力系统走向复杂非线性动力学的必由之路。对于两个超模（或两能级增益介质）辅助的声子激光,两个超模之间的布居数反转为机械振荡提供了能量,与纯粹光力系统中的自维持机械振荡相比降低了所需的阈值功率。然而,我们对由两个磁极化子超模辅助的声子激光的研究表明,如果与机械模式无耦合的腔模的衰减率超出某个限制,与磁力参量不稳定性相比,二能级结构辅助的声子激光不再能降低所需的阈值功率。根本原因在于,两个磁极化子超模的有效自发衰减率抑制了两个超模之间的受激跃迁速率。利用声子激光背后的Hopf分岔原理,我们发展了一种求解产生声子激光的阈值泵浦功率的解析方法,并详细分析了腔模衰减率对阈值功率的影响。我们发现腔模的损耗限制了二能级的磁极化子在产生低阈值声子激光方面的性能表现。同时,利用这一解析方法,对于某一确定的腔模衰减率,我们可以在系统的参数空间中精确地定位到最佳参数点以获得最小阈值功率。第三,我们研究了嵌入原子系综的复合光力系统中原子系综对光学混沌-有序转变的操控。Hopf分岔从静态平衡态产生周期振荡,它是产生混沌的前提,因为静态系统不可能是混沌系统。当周期振荡的稳定性丧失时,分岔级联会使系统的频谱产生新的谱线,直到出现连续谱,随之而来的是系统失去运动周期性。这被称为通往混沌的路径,通常通过倍周期分岔级联和环面的破裂。根据前人的实验结果和理论研究,在光力系统中,随着单个输入激光功率的增加,腔场由周期振荡演化为混沌振荡,并且引入连续波双色输入场可以极大地降低产生光力混沌所需的功率。受此启发,我们提出在与原子耦合的混杂光力系统中利用原子系综实现可控光学混沌的方案。我们详细讨论了原子跃迁频率和原子集体耦合强度对光学混沌-有序转变的有效控制。通过在一定范围内调节原子跃迁频率,可以方便地打开和关闭混沌窗口;在其他一些范围内调节原子跃迁频率时,则形成了一个相当复杂的规则和混沌运动窗口交替的序列。通过调节原子系综的集体耦合强度,系统动力学可以单调地进入或退出混沌状态。因此,正如以前的提案所建议的那样,我们的研究结果可能为信息处理的混沌传输和基于混沌的保密通信提供一个可供选择的平台。