粒子物理的标准模型在描述基本粒子相互作用方面取得了巨大成功,2012年7月,质量约为125 GeV的Higgs粒子的发现为标准模型补上了最后一块拼图。然而,标准模型并不是完美的,自然界中仍然存在一些该模型理论无法解释的问题,如中微子振荡现象表明中微子具有微小质量,这是标准模型不能解释的;天文观测结果表明宇宙中存在暗物质,但是在标准模型中没有此类暗物质的候选者等,这些实验观测结果以及模型本身的理论问题,如与引力理论的兼容性问题、等级问题等,为标准模型之外的新物理提供了明确证据。为了解释这些问题,大量的文献已经提出并且研究了标准模型的各种扩展,这其中预言了一些新粒子的存在。寻找并研究与此相关的新物理是本文的主要工作。在大型强子对撞机（LHC）上发现标准模型Higgs粒子之后,进一步研究该Higgs粒子的性质以及寻找其他新Higgs粒子存在信号成为LHC的重要课题。双Higgs二重态模型作为标准模型的最小扩充,预言了重Higgs粒子的存在,这些重Higgs粒子具有不同的CP性质,带来了更加丰富的Higgs物理唯象学。本文的主要内容之一是在Type-Ⅱ双希格斯二重态模型的理论框架下,研究重Higgs粒子的产生信号,在这方面,我们完成的主要研究工作如下:·Top夸克是标准模型中最重的基本粒子,其衰变宽度约为1.5 GeV,寿命约为5×10-25 s。由于衰变宽度远大于QCD强子化标度,使它在形成强子态之前衰变。Top的自旋是轴矢量,在宇称变换下保持不变,用此来研究宇称破坏的相互作用是非常有利的。在标准模型中,top的主要衰变过程t→bW.→blv是矢量-轴矢量（V-A）的相互作用形式,在这个衰变过程中,top夸克的自旋性质传递给其衰变产物,其中带电轻子是分析top夸克自旋性质的最佳选择。我们通过对这些衰变产物角分布的分析研究Higgs与tt伴随产生,系统地研究了LHC上top夸克的半轻子衰变过程pp→ttφk→bl+vbl-vφk,其中包括夸克湮灭和胶子融合两个子过程,以及对应的背景过程。通过定义合适的top夸克自旋关联算符研究了标量Higgs粒子、赝标量Higgs粒子、标量赝标量混合Higgs粒子的性质。得到了这些自旋关联量依赖于Higgs粒子质量以及初态部分子的部分子分布函数（PDF）。此外,预言了这些自旋关联量的微分分布对Higgs粒子的CP性质和ttΦk的耦合强度非常敏感,可以用这些分布区分不同Higgs粒子,进而区分不同新物理模型。·在探测器上,Higgs粒子信号通常是通过重建它的衰变产物来寻找的,研究Higgs粒子的不同衰变产物就变得尤为重要,LHC上与Higgs粒子衰变相关的理论计算以及事例模拟都取得了很大的进展。2018年9月,LHC通过Higgs与W,Z玻色子伴随产生过程直接探测到了h→bb衰变道。相比于h→bb衰变道,h→τ+τ-衰变道的衰变分支比较小,但是考虑到带电轻子末态信号过程对应的背景较为干净,这在挑选粒子做重建方面表现出明显的优势。我们在2HDM的理论框架下,利用h→bb和h→τ+τ-两个衰变道重建Higgs粒子,系统研究了 LHC上Higgs与bb伴随产生。尝试应用不同组合的判选条件方案压低来自标准模型的背景过程,并从中选取了效率最高的一组研究。此外,对LHC上bbH（bbA）和ttH（ttA）的快度分布进行了详细研究,预言了CP破坏相互作用项依赖于重Higgs的CP性质,并且正比于夸克和重Higgs粒子的质量比,可以用此区分Higgs-top耦合的CP性质。对Higgs质量和tan β的二维参数平面进行信号强度扫描,得到了在当前实验下新物理信号可能存在的参数空间。这些研究结果表明,bbbb和bbτ+τ-对于在大型强子对撞机乃至未来强子对撞机上寻找重Higgs粒子的研究中发挥着重要的作用,成为寻找新共振态产生的重要工具。中微子具有微小质量是超出标准模型新物理存在的直接证据。跷跷板模型可以比较自然地解释中微子的质量起源,其中第（Ⅰ）类跷跷板模型预言了Majorana中微子的存在,该粒子存在的信号可以通过B介子稀有衰变过程来研究。本文对此进行了系统分析。首先,我们研究了 B介子稀有衰变过程B+→K（*）+μ+μ-,考虑第（Ⅰ）类跷跷板模型中Majorna中微子的贡献后,该过程衰变分支比的预言结果与LHCb实验最新的测量数据在误差范围内一致。其次,研究了轻子数破坏过程B+→K（*）-μ+μ+,通过LHCb实验对该过程衰变分支比的上限给出了混合矩阵元|VμN|2和中微子质量mN的参数限制。得到的同号轻子对产生的B+→K（*）-μ+μ+过程衰变分支比结果与2012（2014）年LHCb（BABAR）实验测量结果基本一致。最后,研究了B+→K（*）-μ+μ+这一轻子数破坏过程中末态双轻子不变质量谱分布和角分布。这些研究结果对未来LHCb上的B介子实验具有重要参考价值。