由于超顺磁效应传统磁存储设备的记录密度接近1Tb/in²的密度极限,因此存储工业届和学术界开始致力于研究下一代磁存储技术。二维磁记录技术是应对记录密度极限的一种有效方法。相对于其他新型磁记录技术如图案化介质和能量辅助磁记录技术,二维磁记录技术仍然使用传统的记录介质,主要通过二维的信号处理方法进一步提升记录密度。二维磁记录系统的目标是达到1grain/bit的颗粒密度极限,这就意味着比特区域极小,而读磁头将超过单个比特的规模,从而在信号回读时产生严重的沿磁道方向和跨磁道方向的二维码间串扰等问题。因此,探究二维的信号处理过程是二维磁记录的研究重点。对于二维码间串扰,主要从均衡和检测两个方面进行深入研究。首先通过泊松点分布算法结合Voronoi模型建立介质模型,使用二维高斯函数作为读磁头灵敏度函数建立完整的二维磁记录系统读写通道模型。在此基础上,详细推导了二维均衡目标的设计过程,并根据二维磁记录的道间干扰特性提出了一种改进的维特比检测算法。仿真结果表明二维GPR均衡和改进的维特比算法能够有效的消除严重的道间干扰。仿真结果还表明二维磁记录系统达到10^-4的误码率目标所需要的信噪比强度随着颗粒密度的减少而逐渐增加。对于介质噪声,研究发现二维磁记录系统的介质噪声存在严重的数据依赖特性,受限编码是消除介质噪声的一种有效方法。提出了一种新的易于实现的二维受限编码算法,来消除两种具有最强数据依赖介质噪声的二维写入图案。仿真结果表明该受限编码算法不仅具有较高的码率,约为0.95,并且能够有效的消除系统的介质噪声。