大规模MIMO(Massive Multiple Input Multiple Output,大规模多输入多输出系统)是下一代无线通信中的关键技术。但随着MIMO系统天线阵列规模的不断增大,大规模MIMO系统也面临着诸多的挑战,其中之一就是大规模MIMO系统中的检测问题。在上行链路的信号检测中,大规模MIMO系统有着例如高复杂度、低并行性的挑战。信号的线性检测算法,如ZF(Zero Forcing,迫零算法)和MMSE(Minimum Mean Square Error,最小均方误差检测法),它们拥有相对较低的复杂度。但是,由于大规模MIMO系统规模的不断增大,算法中涉及到的例如大型矩阵求逆等运算,其复杂度仍然是不可接受的。一种解决该问题的方法是在信号的线性检测算法中利用迭代逐渐逼近准确结果,避免大型矩阵求逆带来的高复杂度。本课题基于ZF,对传统的CG(Conjugate Gradient,共轭梯度算法)方法进行优化并提出新的TCG(Three Term Recursion Conjugate Gradient,三项递归共轭梯度算法)方法,通过在原有CG中增加参数,改变了算法步骤之间的数据依赖关系,增加了算法的并行性。同时本课题还提出了一种根据象限确定迭代初值的新方法。该方法根据匹配滤波向量,确定需要估计的发送向量中元素所在的象限,从而减小迭代初值与最终值之间的欧氏距离,使算法能更快收敛。针对TCG算法,一种基于流水线的VLSI被设计出用以实现128×8 64-QAM的大规模MIMO检测。本课题设计的VLSI结构在FPGA上进行了验证,而后利用TSMC 65nm CMOS技术在ASIC上进行了验证。TCG算法与现有的线性检测算法相比,除了矩阵乘以向量中元素之间的并行性,还多出了算法步骤与步骤之间的并行性。而新的迭代初值则使TCG算法有了更快的收敛速度,可以在更少的迭代次数时得到更小的SER(Symbol Error Rate,误符号率)结果。该迭代初值可以在实际中减少算法的迭代次数,从而从侧面减少算法的复杂度。通过对设计的芯片进行测试,结果显示,整个ASIC芯片的面积为1.87×1.87mm~2,该芯片可以工作在500MHz的频率下,并达到1.5Gpbs的吞吐率,此时芯片的功率为557mW。如果不考虑预处理部分,本设计的能量效率和面积效率分别可以达到12.5Mbps/mW和3.79Mbps/kGE。该数据与CHD(Cholesky Decomposition,乔莱斯基分解法)、MPD(Message Passing Detector,集成信息传递检测器)、SD(Sphere Decoding,球形译码)的芯片相比,能量效率分别提高了4.99×、1.59×和13.01×,面积效率分别提高了1.87×、3.59×和48.56×。