加速器质谱系统(Accelerator Mass Spectrometry，简称AMS)是基于粒子加速器的一项现代核分析技术，具有测量灵敏度高、所需样品量小和测量效率高的优点，在考古学、地球科学、环境科学和生命科学等领域有广泛应用。近年来，小型化一直是国际上AMS技术的发展趋势并获得了一定成功，小型化的一个思路是尽量减小串列静电加速器的端电压从而减小系统整体规模以降低成本，另一个思路则是采用其他类型的小型加速器。 北京大学重离子物理研究所针对目前国际上现有小型化AMS的不足之处，提出了基于RFO加速器的<14>C测量小型化AMS的设想。RFQ加速器具有体积小、流强高等优点，且RFQ本身对粒子有选择性，可分离被测核素及其同位素离子，比较适合作为AMS的主加速器。但一般RFQ输出束流能散大于1％，较大的能散不利于高能部分束流传输，也会使AMS系统分辨率下降。因此，研究设计具有较低束流输出能散的RFQ加速器是实现RFQ-AMS设想的关键。前期工作对降低RFQ束流能散的有效途径进行了分析，给出了能散为0.6％的RFQ物理设计方案。本文在前期期工作的基础上，较为深入地研究了RFQ加速器输出束流能散问题，通过反复模拟优化，得到了输出束流能散仅有0.49％的RFQ物理设计，在此基础上进行了RFQ-AMS高能分析系统的初步设计，并对RFQ-AMS的本底问题进行了一些分析讨论。 本文第一章概述了AMS系统的发展，介绍了基于串列静电加速器、单极静电加速器、回旋加速器等各类小型化加速器质谱系统，并对RFQ-AMS基本设想和设计要求作了说明。第二章概述了RFQ加速器基本原理和动力学设计方法，对RFO加速器输出束流能散，由其是微聚束段纵向聚焦力对输出束流能散的影响进行了深入细致的讨论，给出了输出束流能散为0.4％的RFQ加速器物理设计的具体参数。第三章首先描述AMS测量中的各种干扰本底，然后重点介绍在现有小型化<14>C测量AMs系统上进行的本底实验和RFQ加速器粒子选择性模拟研究。第四章用Transport程序对RFQ-AMS高能分析系统束流传输进行了模拟计算，并给出了初步设计方案。第五章对全文进行了总结。