当信号经过无线信道传输，发射机和接收机产生的噪声和障碍物引起多径传播会严重的降低接收信号的质量，伴随着接收机的高速移动，使得信息更加难以可靠的接收。因此许多先进的技术不得不应用于高速率、快速移动的无线通信系统，例如MIMO多天线、正交频分复用和迭代译码技术等。与此同时，这些算法也增加了接收机的计算复杂度。人们试图寻找优良的VLSI算法实现，期望同时满足性能要求、低成本和低功耗。本文针对MIMO-OFDM无线通信系统中的几个关键算法的VLSI设计做了系统和深入的研究，取得了以下关键性成果：1.针对3GPP LTE中正交频分复用调制时所需的快速傅里叶变换，提出了一种采用时分复用控制策略的单蝶形VLSI结构。核心电路由一个混合基蝶形计算单元和一个CORDIC坐标旋转数字计算器组成，避免了传统FFT计算中的乘法运算。通过仔细设计规则的流水线电路结构，使得核心计算电路中的所有寄存器之间的组合电路的关键路径趋于一致，利用动态电压和频率调整技术，可以优化功耗管理。2.针对2×2天线配置的多输入多输出无线通信系统,提出了一种新颖的近最大似然MIMO检测算法，该算法只对搜索树的第二层节点耗尽搜索，第一层应用提出的区域判定法直接得到假设星座点和反假设点，不需要对每一层搜索树的部分欧几里德距离排序。依据此算法设计了低复杂度且规则的VLSI结构，可以配置并行检测核的数目取得灵活的吞吐率控制。3.针对采用最大后验概率算法的Turbo译码器,提出了一种前向、后向度量计算和存储器管理的策略，通过在前向状态度量计算时对部分度量值等间隔抽取存储，然后在对数似然比计算时经过内插还原出未存储的状态度量值，减少了状态度量存储单元，从而降低VLSI实现面积和功耗。4.针对3GPP LTE标准中的Turbo码，设计了一种基于最大后验概率算法的低功耗并行译码器。根据二次置换多项式交织器的数学特性，分解并行处理中每个译码器的交织地址为子码块地址和块内偏移地址，提出一种递归计算子码块交织地址的算法，使得并行度可以为任意值，而不仅仅限于2的幂次。并依此设计了低复杂度的实时递归计算交织器的互连结构，以避免传统实现方法中对交织地址的存储，简化了Turbo译码器本征信息处理的互连网络，减小了实现面积和功耗。