随着互联网技术的发展,用户对无线数据业务的需求日益增加。这对物理层无线通信系统的设计带来了更多的挑战。为了保证无线通信产品能为用户提供更快、更可靠、更节能的数据传输业务,将无线通信传输频段扩展到高频段成为未来无线通信发展的主要趋势之一。因此毫米波通信技术作为下一代蜂窝网无线通信系统的核心技术之一已成为工业界与学术界的共识。为了更好的提高频谱利用率以及克服传输中的路径损耗,在基站与用户端都会采用多天线的设计方式以提供更多的传输自由度。同时,为了降低射频链路的能量消耗,射频通道数通常会小于天线数。进一步,为了有效地进行预编码/波束赋形,基站端与用户端都需要获得各自对应的信道状态信息。对于频分双工——Frequency Division Duplex(FDD)的系统,发射端(基站或者用户端)需要传输导频信号给接收端,接收端通过该导频估计信道,接着再将估计出的信道状态信息反馈到发射端,从而保证发射端能够使用信道状态信息进行预编码设计。对于时分双工——Time Division Duplex(TDD)的系统,发射端可以利用接收信道与传输信道的互易性,通过估计出的接收信道状态信息来进行发射的预编码设计。对于以上讨论的FDD与TDD两种传输制式,本文主要针对基站作为数据传输端的情形进行讨论;即对于FDD系统,主要讨论用户端如何获取用于反馈的下行信道状态信息;对于TDD系统,主要讨论基站端如何获取上行信道状态信息用于下行预编码的设计。进一步,由于基站与用户端都采用了数模混合的多天线结构,如果采用传统的空域正交导频设计方式将大幅增加信道估计的导频开销。为了有效的解决该问题,可以利用毫米波信道有限散射的特点,即信道可以被有限的参数所描述。这种特点表现为多天线系统角度域的稀疏性以及系统响应在时间域的稀疏性。因此,本文的研究重点为如何利用该稀疏性有效地降低信道估计的导频开销。本文提出以张量作为基本数据结构的导频传输架构,同时以张量分解作为有效的数学工具来处理上述的FDD与TDD传输制式下的信道估计问题。具体的,对于FDD的传输制式,本文讨论多天线正交频分复用系统中的下行信道估计问题,利用多载波多天线收发端信道固有的三阶低秩张量结构,提出将接收导频信号建模为三阶张量,并给出基于张量分解的信道估计与分析方法。对于TDD的信道估计问题,本文先讨论单载波多天线的上行信道估计问题,利用多用户多天线收发端信道固有的三阶低秩张量结构,提出基于张量分解的信道估计方法;此外也简要讨论了多天线正交频分复用系统下基于张量分解的上行信道估计方法。对于以上的建模与求解方法,都可以通过张量分解的唯一性条件,为导频设计提供有效的准则。与此同时,张量分解唯一性条件也可作为分析导频开销临界条件的方法。此外,为了与传统的方法进行对比,本文将基于张量分解的信道估计方法与压缩感知方法进行了比较。由于基于张量分解的信道估计方法有效的利用了毫米波信道多维低秩结构,理论分析和仿真结果表明该方法具有更低的计算复杂度,同时对信道的恢复性能更好。