非易失性存储的NAND闪存具有读写速度快、体积小和容量大的优点,而被广泛应用于智能手机、个人电脑、数据中心等。然而,NAND闪存技术在提高容量和读写速度的同时,数据存储的可靠性面临着巨大风险。如何保证NAND闪存的数据存储可靠性是目前存储领域的研究热点之一。目前,尽管基于软判决的低密度校验码(Low-Density Parity-Check,LDPC)可以极大地改善闪存数据存储的可靠性。但是随着闪存的存储密度的增加,闪存信道的干扰不断加剧,单一的纠错码技术越来越难以保证数据存储的可靠性。因此迫切需要研究进一步提升数据存储的可靠性的技术,如:信道估计和信号处理技术。鉴此,本文对高密度多电平NAND闪存的工作原理及其信道特征进行深入的研究分析,并结合高密度多电平NAND闪存信道的噪声产生的机理和阈值电压分布特性,研究了神经网络辅助的纠错算法和信道参数估计算法。具体研究工作和创新点归纳如下:(1)深入研究了NAND闪存的内部结构特性、擦除编程机制、各种噪声的产生机理及特点和噪声对阈值分布的影响,并建立了一个闪存信道仿真模型。在此基础上,研究NAND闪存信道估计算法和纠错算法。(2)研究分析了LDPC码的基本原理及其译码算法,并在闪存信道模型下进行了误码性能仿真。(3)根据持久性干扰的作用机理,提出一种长时间掉电时的闪存信道估计算法。由于闪存信道模型可以近似为高斯混合模型,该算法通过最小化统计测量的阈值电压的概率与高斯混合模型的概率之间的误差来估计阈值电压分布的均值和标准差。(4)结合闪存的信道特征,提出一种相对的对数似然比(Logarithmic Likelihood Ratio,LLR)计算方式,并在此基础上提出一种应用于NAND闪存的神经网络辅助的纠错算法。相对LLR的计算是利用读参考电压的相对位置来估算LLR值,这使估计的LLR值更加稳定。稳定的LLR值能够提高神经网络对闪存信道的学习精度。经过训练后的神经网络能够对部分错误比特进行纠正,从而减低原始码字的错误率和提高闪存数据存储可靠。