近年来,机器学习技术与传统的通信技术有了更多的交集。现代的通信系统在运行过程中会产生大量的数据,将其与先进的机器学习技术结合能够显著提升网络的性能并优化通信组件的设计和管理。在这一领域,最近提出了一种利用端到端训练对通信系统组件进行联合优化的方法。本文利用这一思想,对单载波频域均衡(SC-FDE)系统进行信道估计与信号检测。本文主要工作如下:(1)首先,针对单天线SC-FDE系统,利用深度学习网络以端到端的方式处理无线SCFDE信道。有别于传统SC-FDE系统的先估计后检测,深度学习的方法隐式估计信道状态信息(CSI)并直接恢复发送的数据。为了解决信道失真,首先使用基于信道统计特性仿真生成的数据离线训练深度学习模型,然后利用训练好的网络恢复发送数据。根据仿真结果,基于深度学习的方法与最小均方误差(MMSE)估计具有相近的符号检测性能。此外,在使用较少训练导频以及省略循环前缀(CP)的情况下,基于深度学习的方法优于传统算法。(2)其次,由于无线传播,发送信号在达到接收器之前可能经历严重的失真,功率放大器在发送端处引入的非线性失真可能使该过程进一步复杂化。本文针对MIMO-SCFDE系统,利用储池计算(RC)对非线性端到端系统进行符号检测。RC是一种类神经形态的计算方法,这种方法特别适用于时间序列检测任务。它显著降低了递归神经网络(RNN)的训练复杂性,且易于硬件实现。回声状态网络(ESN)是一种特殊的RC网络,利用ESN网络进行符号检测则信道估计变的不必要。在系统中,ESN被看作是黑匣子,能够有效的检测和恢复发送符号。非线性MIMO-SCFDE系统未编码误码率的仿真结果表明,基于ESN网络的检测方案优于传统算法。