非常规超导体是不能用以声子作为配对媒的传统BCS理论理解的超导体,主要有铜氧化物超导体、铁基超导体、重费米子超导体和有机超导体等。经过近半个世纪的研究,物理学家们虽然认为非常规超导的诱发与磁性涨落和量子临界现象有关,但至今仍无法对其找到完备而统一的描述方式。因此,发现新型非常规超导体系以提供新的研究平台,并对其进行物性研究得到更多非常规超导机理的线索,就成了非常重要的课题。本篇论文基于寻找非常规超导材料的基本原则性思路,对探索基于过渡金属化合物的新型超导体做了一些有益尝试。本篇论文的第一部分首先概括了常规超导现象及物理图像,并简单介绍了铜氧化物超导体、铁基超导体、重费米子超导体和有机超导体四类非常规超导体,然后对历史上发现非常规超导的各种尝试做了回顾和梳理,并尝试提出了探索非常规超导材料的基本原则性思路,最后介绍了设计钴、镍基高温超导的一个实例。论文的第二部分介绍了我们所使用的晶体生长、表征方法,和电输运测量、热输运测量、磁性测量、高压测量的实验及分析方法。论文第三部分我们以LaRu2P2材料为平台对Ru基122系统中可能存在的电子关联效应进行研究。我们在LaRu2P2单晶中观测到了超导转变温度Tc随压力P的增强,这不能由麦克米兰理论完全理解。关于正常态电阻以及上临界场的自洽分析暗示某些额外关联性质的电子-玻色子相互作用可能在压力下被诱发,成为超导性质增强的来源。基于电子及声子结构的第一性原理计算,我们分析了关联增强可能的原因,并对Tc-p中相图的dome状结构做出了解释。我们的实验表明LaRu2P2与自旋涨落为配对胶的铁基超导有一些共通之处,这或许会在将来激发Ru基系统中关联效应诱发新型非常规超导的研究。论文第四部分是为发现新超导做出的一些尝试。我们首先研究了EuPdAs多晶样品,通过电阻和磁化数据我们可以看到样品常压下在180 K存在的相变,当我们对样品施加静水压,仅仅0.48 GPa就将180 K相变完全压制,并且电阻在压力下单调降低,然而加压直至1.90 GPa都并未看到超导在低温被诱发。这说明180 K相变可能仅仅是一个价态转换相变,而与长程磁序无关。为了实现一些奇异电子性质,我们认为使用电子掺杂调节Pd原子的4d轨道占据应当是必要的途径。接着我们看到了MnP多晶在高温区的铁磁相变与低温区的螺旋磁性相变,磁化上螺旋磁性态出现了回滞,而高温区的铁磁态并未建立回滞。我们发现在高场下螺旋磁性相变会被压制,使系统在低温区为铁磁态,而静水压下300K左右的铁磁相变将缓慢往低温移动。我们还讨论了绝缘态RuP向金属态CrP的系列掺杂实验,并在Cr60%处看到了可能对形成超导态有利的疑似量子临界现象。论文第五部分首先介绍了一些量子自旋液体态(QSL)的理论背景,之后对Kagome格子中的非常规超导材料LaRu3Si2进行了化学掺杂研究。我们对La位和Ru位进行了不同稀土与过渡金属的掺杂,得到了从LaRu3Si2至CeRu3S i2勺全相图,并发现稀土与碱土金属的掺杂对超导只有较微弱的压制作用。特别是在Ru位用Cr和Ni磁性元素进行的掺杂,对超导的压制作用远远比不上同为磁性原子的Fe元素。通过居里外斯定律拟合分析,我们得到杂质元素Cr和Ni局域磁矩非常小,显示它们的确未像Fe元素那样建立较强的局域磁性散射中心,而仅仅扮演了类似巡游磁矩的角色。论文第六部分是全文的总结。