随着高温超导铜氧化物和巨磁电阻锰氧化物的发现，大量的实验和理论研究已充分证明多数过渡金属氧化物中都存在多种竞争的态和自旋自由度与轨道自由度的相互作用，表现为丰富和复杂的相图。本论文就自旋-轨道体系的磁性和轨道相变和临界性质、自旋轨道系统的纠缠性质与相变之间关系以及NaxCoO2(X>0.5)体系磁相图的形成机制三个方面进行了研究。　　 在第一章，简单介绍了轨道白由度的量子效应和NaxCoO2体系的研究现状及存在的物理问题，并提出了本论文的研究内容及其科学意义。　　 在第二章，研究了二维三角品格伊辛型(Ising-like)自旋-轨道耦合体系的相变和临界特征。首先，通过利用最近发展的团簇自洽场方法(Cluster-SCF)，发现这个系统的基态是一个复合的自旋-轨道铁磁长程有序态。虽然朗道平均场预言复合序的有序-无序相变是一个二级相变，但是，采用实空间重正化群(RSGR)计算的临界指数却表明这个相变是远离二级的。相反，它更接近一级相变。这个不同寻常的临界行为被归因于在临界点复合自旋-轨道序参数的分解。　　 第三章讨论了零温和有限温度下自旋一轨道系统的纠缠特征和标度多粒子纠缠度大小的部分熵。笔者发现在仅轨道自由度的系统中，零温部分熵的不连续与一级量子相变之间有着密切关联；有限温度部分熵的极值直接反映出系统的激发特征，而其一级导数提供了揭示热力学二级相变的一个强有力的工具。接着，在自旋-轨道耦合系统中，我们首先构建了两自由度双粒子最大纠缠基；接着研究了t2q体系的量子相图和纠缠特征；最后利用部分熵进一步考虑了伊辛型自旋-轨道耦合体系的热力学相变。在这一部分，除了不同粒子之间的纠缠和单个自由度下的子纠缠(sub-entanglement)之外，强调了不同自由度之间的量子纠缠。　　 第四章研究了NaxCoO2体系中Co离子形成的二维层状三角格子体系的重掺杂区相图。采用Kotilar和Ruckenstein发展的隶玻色子方法研究了单带Hubbard模型在重掺杂区的零温磁特征，其中理论模型包括了层内次近邻和第三近邻间的电子跳跃积分。首先利用隶玻色子平均场理论计算了体系随带填充和在位库仑作用U的磁相图。本结果表明层间反铁磁长程序仅出现在x>0.78掺杂浓度，低于这个掺杂非磁解史稳定。通过研究U=O顺磁费密面拓扑，发现这种层间反铁磁结构源于波矢为Q=(0，0，π)的自旋密度波失稳。为了分析在非磁掺杂区0.5<π<0.75的电子自旋可能的涨落模式，笔者进一步在隶玻色子平均场框架下讨论了非磁相的磁化率失稳，研究体系对无限小的外磁场响应。本结果表明非磁相绝不代表泡利顺磁性：在0.5<π<0.6掺杂时存在层间反铁磁自旋涨落模式，而在0.6<π<0.78时铁磁和层间反铁磁自旋涨落模式共存。本文建议重掺杂NaxCoO2体系的反常电子特征主要起源于边分享的CoO6八面体结构引起的面内长程跳跃积分，而小是电子之间的关联U。因此NaxCoO2(x>0.5)的电子本质上是巡游的。　　 在最后一章中，我们对所有结果进行了总结，并对下一步的研究工作进行了展望。