随着当前无线通信的发展，无线通信设备和无线通信用户的增长，无线通信资源趋近于饱和，如何合理利用无线资源逐渐成为人们当前研究的热点。为了满足人们日益增加的对于无线通信系统性能的要求，高阶调制、资源分配以及不同载波调制方式逐渐的进入当今的研究课题来增大频谱利用率。本文主要研究的内容是以加权分数傅里叶变换(Weighted-type Fractional FourierTransform, WFRFT)为理论基础，对比参照正交频分复用(OrthogonalFrequency-Division Multiplexing, OFDM)系统和离散傅里叶变换扩展正交频分复用(Discrete Fourier Transform Spread Orthogonal Frequency DivisionMultiplexing, DFT-S-OFDM)系统的资源分配，通过最优化方法来研究混合载波调制系统即加权分数傅里叶变换扩展正交频分复用(Weighted Fractional FourierTransform Spread Orthogonal Frequency Division Multiplexing, WFRFT-S-OFDM)系统的资源分配问题。在多载波无线通信系统中，资源分配的研究方向可以分为两个方面：一是子载波分配；另一个是功率分配。目前人们已经提出了不少关于OFDM系统的子载波分配和功率分配的策略。在单用户系统的实际应用中，子载波分配过程中，由于丢弃了一些子载波，必定会引起频带利用率的下降，而在实际的多用户系统中，如果进行了子载波分配，必定会造成多个用户中公平性的下降；在实际通信系统中，如果进行了功率分配，必定会引起不同子载波之间传输公平性的下降。因此进行子载波分配和功率分配的过程是多个性能的折中过程。本文在多径瑞利衰落信道和高斯白噪声信道的条件下，分别对OFDM、DFT-S-OFDM系统的子载波分配方式和功率分配方式进行了详细的分析和研究，推导了WFRFT-S-OFDM系统的子载波分配和功率分配策略，并且分析了WFRFT-S-OFDM与OFDM、DFT-S-OFDM系统的子载波分配方式和功率分配的不同。此外，本文还建立了通信系统功率分配的系统模型，为了解决WFRFT-S-OFDM系统的功率分配问题，本文还将粒子群最优化算法引入到了WFRFT-S-OFDM系统中来逼近系统的最优化功率分配方式，本文重点分析了三种WFRFT-S-OFDM系统的功率分配方式：一是特定线性加权功率分配方式；二是基本粒子群算法搜索功率分配方式；三是改进式的粒子群算法搜索功率分配方式。