高温超导一直是近年来凝聚态物理和材料科学的重要研究领域。在这一研究中，高温超导体的混合态物理是一个对高温超导机理和实际应用研究都具有非常重要价值和意义的热点课题。从基础角度来看，量子磁通涡旋线本身就反映超导态和正常态的结合与过渡(从正常态“芯”到超导态外围)，可以为讨论高温超导机理提供一个新的有益的视角。从应用角度来看，许多超导材料和器件的实用性都依赖于超导体的磁通钉扎性质。目前，关于RE-Ba-Cu-O系列高温超导体的材料制备和物性研究受到了广泛的关注，发现了很多新现象；但是这些现象的内部机理还不太清楚，缺乏详尽的实验研究。在众多RE-Ba-Cu-O超导体中，混合稀土氧化物超导体(Nd0.33Eu0.33Gd0.33)Ba2Cu3O7-δ因其所具有的高临界电流密度(在液氦温区最高能达到105Acm-2量级)以及在液氧温区的极佳性能而被认为具有相当大的潜在应用价值，关于它的磁通不稳定性的研究，在阐明磁通动力学机制和未来应用方面也具有非常重要的意义。另外，对于RE-Ba-Cu-O超导体中另一类具有高临界电流密度和高不可逆场的超导体Nd1+xBa2-xCu3O7-δ与Sm1+xBa2-xCu3O7-δ。关于Nd1+xBa2-xCu3O7-δ的研究已有不少，但对于Sm1+xBa2-xCu3O7-δ单晶所进行的研究则非常的少。因此有必要对SmBCO单晶的磁通钉扎进行研究。本文对c轴择优取向的织构样品(Nd0.33Eu0.33Gd0.33)Ba2Cu3O7-δ和最佳掺杂的SmBCO单晶样品进行了研究，主要内容为： 一、研究了c轴择优取向的熔融织构样品(Nd0.33Eu0.33Gd0.33)Ba2Cu307-δ的磁通跳跃行为。实验结果表明，在外加磁场平行于样品c轴的条件下，在5K以下的低温区域，观测到部分磁通跳跃(partialfluxiump)现象；而在5K及以上温区，磁通跳跃尚未出现。在磁场垂直于样品c轴情况下，在2K到Tc的整个温区尚没有观察到磁通跳跃现象。从各向异性钉扎力和几何退磁因子出发，对这种各向异性磁通跳跃行为给予了初步解释。同时，实验发现随着温度的降低，磁通跳跃数目增加，且首先在M(H)曲线的反向加场区域出现，与其它区域比较，在该区域表现出磁通跳跃的最不稳定过程。而在正向磁场降低过程，M(H)曲线则表现为最稳定的。从磁通湮灭及绝热理论出发，解释了磁历史对磁通跳跃和超导体内涡旋物质状态的影响规律。实验表明磁通跳跃对磁场扫描速率具有很强的依赖关系。随着磁场扫描速率的增加，所观测到的磁通跳跃数目增加，且发生第一次磁通跳跃的磁场值在测量曲线中的位置向低场前移，并通过磁通弛豫测量观测到了存在于样品中由于磁通蠕动导致的磁弛豫现象。 二、研究了SmBCO单晶样品的直流磁化行为，观测到了峰效应的存在。发现就本实验所测量的温度情况下，在74K以上，随着温度的降低，峰效应变得明显，临界电流密度增加，不可逆场升高；在30-59K的中间温区，第二峰变得很宽；在15K以下低温区没有观测到峰效应。这里，Sm1+xBa2-xCu3Oy团簇在样品内部的细密分布起到了场致钉扎的作用，使得单晶的峰效应随温度变化比较大，且在高场时临界电流密度也很高。SmBCO的峰效应可归因于磁通动力学上面的一个从弹性蠕动到塑性蠕动的转变。不可逆线Birr(T)随温度的变化可以从幂指数关系Bir(T)∝(1-T／Tc)a得到很好的描述，其中a=1.279。通过归一化钉扎力与约化磁场关系的研究，结果表明了在SmBCO体系中除了δTc钉扎机制外，还存在其它钉扎机制。 三、研究了SmBCO单晶在交流磁场下的响应特性。发现随着磁场Bdc的增加，交流磁化率实部的转变温度向低温移动，转变宽度变宽；损耗峰在磁场下也表现出宽化现象，证明损耗在随着磁场的增加是增加的，这种损耗可通过热激活模型给予解释。通过不同频率和振幅下的磁测量，表明交流磁化率与交流磁场的频率具有很强的依赖关系，证明测量到的损耗是磁通流动占主导的。同时，发现了存在于SmBCO单晶中的双峰效应，可能说明该超导体包含有两种的Jc成分，分别为CuO2面内和面间的电流表现。从交流磁化率虚部峰值的实验结果，我们给出了SmBCO单晶不可逆线的标度，其结果与Fisher等人所预测的相一致。