过渡金属氧化物VO2作为强关联电子模型体系，蕴含着丰富的结构和新奇的物理现象，如温致金属‐绝缘态相变，伴随着光、电、磁等物理性质的突变，在激光致盲、红外遥感、太阳能温控乃至锂离子电池等诸多领域具有重要的应用前景，一直是凝聚态物理、材料领域极为关注的重要对象。目前，寻找新型结构相变、建立新结构与物理性质的联系、揭示复杂物理现象背后的物理机制是VO2体系亟待解决的关键科学问题。高压作为独立于温度的物理参量，可以有效地诱发结构相变，形成高压新相，为探索新结构与新性质、发现新现象与新规律提供了重要途径。然而，相对于温致相变，人们对二氧化钒的高压研究还十分匮乏，目前还仅限于初始结构为M1相的高压相变研究，且压力范围小。对于更大压力范围、其它多种稳定初始结构的高压研究还未见报道，对最近人们十分关注的微纳尺寸效应对高压结构相变的影响尚属空白。因此，本论文利用金刚石对顶原位高压实验技术结合理论计算，着重研究了初始结构为A和B相的微纳VO2的结构相变，探讨了初始结构为M1相的VO2在更高压力下的结构相变，希望揭示高压结构相变规律，发现新奇的物理现象，加深对强关联体系的认识，为获得具有新奇结构和优异物性的新型功能材料提供科学依据。本论文获得的主要结果如下：1）利用水热法和高温煅烧法成功制备出成分单一、尺寸均匀且分散性良好的A相VO2准微米棒、B相VO2纳米棒以及M1相VO2准微米棒。这些高质量的样品将有助于我们下一步的高压研究。2）利用原位高压同步辐射X光衍射、高压Raman和高压IR方法系统地研究了单斜晶系M1相VO2准微米棒的高压结构相变与金属化相变，实验最高压力为33GPa。发现VO2准微米棒经历了两次结构相变：在4.6GPa开始由M1转变为Mx1，在10.1GPa时完全转变为Mx1相；当压力升高至18.1GPa时开始由Mx1转变为Mx2，并在更高压力下（21.7GPa）完全转变为Mx2相。VO2准微米棒的高压相变规律与其体材料截然不同。VO2体材料仅在~12GPa发生了一次结构相变，由M1转变为Mx。Mx1和Mx2与体材料中的Mx具有不同结构，是两种全新的高压相结构。IR研究发现VO2准微米棒在~14.4GPa发生了金属化，而VO2体材料则在~12GPa发生金属化。卸压后，VO2准微米棒为Mx2结构、准一维形貌的绝缘体，而VO2体材料则转变为原始的M1结构绝缘体。首次研究了M1相VO2亚微米材料的高压结构相变，揭示了其尺寸效应对M1相VO2高压相变的影响。同时，首次在常压条件下获得结晶性良好的全新的高压相VO2样品，丰富了对M1相VO2高压结构相变的认识。3）利用原位高压同步辐射X光衍射和高压IR方法系统地研究了单斜晶系B相VO2纳米棒的高压结构相变与金属化相变，实验最高压力为40GPa。发现VO2纳米棒在~30GPa发生压致非晶化，揭示了其非晶化是由高压下垂直于纳米棒生长方向的（010）面内八面体之间的链接遭到破坏导致。IR研究发现VO2纳米棒在非晶化之前（~15GPa）发生了压致金属化转变。我们认为在压力作用下纳米棒b轴方向层与层之间的相互作用增强导致了其绝缘-金属化转变。这是首次在实验中观测到压致金属化和压致非晶化现象分别出现在同一八面体体系材料中，进一步扩展了压致金属化与压致非晶化的研究范围，同时也为新型非晶纳米功能材料的合成提供了新的思路。4）利用原位高压同步辐射X光衍射、高压Raman和高压IR方法系统地研究了四方晶系A相VO2准微米棒的高压结构相变与金属化相变，实验最高压力为46GPa。发现VO2准微米棒在~32GPa发生压致非晶化。通过拟合XRD数据可知V-O-V键角随压力的变化不连续，使得VO6八面体在高压下经历了复杂的旋转，这种旋转造成了晶格结构的不稳定，最终诱导了非晶化。IR研究发现VO2准微米棒在非晶化之前（~28GPa）发生压致金属化转变。我们认为在压力作用下V3d电子的离域化导致了其绝缘-金属化转变。卸压后，VO2准微米棒为非晶结构的绝缘体。这是首次在VO2家族发现了一个全新的四方金属相，扩展了VO2家族金属相的范围，丰富了对VO2金属-绝缘体转变的认识，同时为证明VO2的金属化相变为Mott相变提供了重要的实验依据。