差分进化算法是一种基于种群的并行迭代优化算法,已经广泛应用在求解各类优化问题上。然而,差分进化算法也存在早熟收敛和搜索停滞等缺陷,限制了其优化能力和应用范围,特别是应用于求解动态优化问题,迫切需要加以研究和改进。在通信系统设计领域中也存在很多优化的应用问题,如基于导频的快衰落信道估计问题,因为快衰落导致很多参数并不能及时获取;多中继节点协同通信系统的资源分配问题,因为理论分析计算复杂,往往只能进行简化近似处理。而启发式智能算法为上述解析类问题提供了一种有效解决问题的新思路。为此,本文针对差分进化算法早熟收敛与搜索停滞的问题,提出基于元胞自动机进化的改进差分进化算法,并将其用以解决无线最佳接收机的信道估计算法以及协同通信系统的资源分配算法两类优化问题。论文的主要研究内容和创新点如下:(1)提出基于元胞自动机的改进差分进化算法。针对差分进化算法早熟收敛的缺陷,通过利用元胞自动机具有扩散衍变与并行计算的特点,从而维护进化群体的多样性。通过研究元胞邻居结构和元胞进化规则调节差分进化算法控制参数的选择压力,利用元胞自动机并行演化的特点平衡差分进化算法的探索能力与开发能力;通过反学习方法初始化种群以及正交交叉算子选择多个子代中优胜者进入下一代进化,从而实现提高进化算法的全局收敛速度并保持种群的多样性,避免种群过早收敛。(2)提出基于混沌局部搜索的元胞差分进化算法。针对差分进化算法搜索停滞的缺陷,研究混沌局部搜索方法在差分进化算法的进化个体更新机制。通过利用混沌序列遍历性的特点,对设定迭代次数内未更新且陷入局部最优的进化个体进行重新初始化,将帮助其脱离局部最优解,从而大大提高获得全局最优解的几率,尽快找到全局最优解;算法利用混沌局部搜索算子的遍历性和随机性避免优化算法陷入局部最优和搜索停滞。(3)提出采用元胞差分进化算法实时获得有效信道长度的一种新型最大似然信道估计算法。针对基于导频的最小均方误差准则信道估计算法计算复杂度高、传输效率低的缺点,首先在讨论经典的线性最小均方误差信道估计算法的基础上,通过对信号子空间维数的判定,获得运算复杂度与估计性能的折中,即在估计性能基本不变的情况下,通过降低矩阵的秩,从而有效降低运算复杂度,同时通过二次滤波提高数据检测的误码率性能;为了减小导频数目,提高估计算法的传输效率,提出基于最小二乘支持向量机以及极限学习机的导频预测机制;最后,通过采用元胞差分进化算法实时获取有效信道长度,提出一种基于元胞差分进化的最大似然信道估计算法。(4)提出一种基于元胞差分进化算法的正交频分多址协同通信系统资源分配算法。正交频分多址协同通信系统的资源分配问题是一个复杂的联合最优化问题,很难找出最优解,现有的分配方法一般采取简化近似处理,从而将问题转化为凸优化问题进行求解次优解。而启发式智能算法为解决上述解析类问题提供了一种有效解决问题的新思路。第一,提出基于元胞差分进化算法的多中继协同系统功率分配算法,并对其与其他经典分配方法等进行仿真比较;第二,通过引入最大化准则作为优化算法准则,提出基于元胞差分进化算法的正交频分多址协同通信系统资源分配算法,从而兼顾多个用户公平性和系统总体性能。