走样是由于对连续信息进行离散采样、存储或表示等所导致的一种信号失真现象,反走样是计算机图形学研究的基本问题之一。图形反走样可以有效地重建出几何、纹理、运动等各种细节,从而提高绘制图形和生成动画的质量,帮助用户获得更好的视觉体验。因此,反走样一直是计算机图形学研究中的重要课题,在三维计算机游戏、计算机动画、虚拟现实、影视后期制作等领域具有广泛和重要的应用。随着各种图形应用对绘制效果和绘制性能要求的不断提高,延迟着色技术正成为实时绘制中的主流方法。而传统的屏幕反走样技术与延迟着色技术不兼容,因此面向延迟着色的后期处理反走样算法成为当前图形反走样的研究热点。该类算法利用场景的光栅化几何或着色信息进行反走样,避免了传统反走样方法需要依赖于原始几何信息的不足。如何高效存储和利用几何缓存信息,实现接近超采样的反走样效果,是该类算法中一个重要挑战。阴影可以反映场景中物体的几何属性和相对位置,是真实感图形绘制中的重要组成之一。在实时绘制中,阴影图算法因其简单、高效而被广泛使用。但是,由于阴影图只是记录了离散的场景深度信息,在实际应用中存在着严重的走样现象。如何高效、高质量地生成反走样阴影,一直是阴影图算法中的一个重要研究问题。本文针对实时绘制领域中延迟着色和阴影图算法中存在的各种走样问题,进行了深入的分析和研究,提出了一系列基于几何的反走样创新算法,具体如下：在面向延迟着色的后处理反走样方面,本文首先提出了一种基于三角形几何的子像素重建反走样算法。作为子像素反走样的几何依据,算法将像素的覆盖三角形与周围子像素的位置关系存储为屏幕分辨率大小的位图,大大降低了算法所需的存储空间,并提高了确定子像素着色信息的准确性。对于高频率几何区域,算法使用形态学的反走样方法作为补充。该算法具有良好的兼容性和扩展性,巧妙地通过紧凑的几何缓存实现高质量的图形反走样。针对现有各种后处理反走样算法适用性的局限,本文提出了一种统一的后期处理反走样算法。该算法既能通过子像素级几何对几何边界进行高质量的反走样重建,又能根据着色信息对颜色纹理走样进行形态学滤波。此外,我们在屏幕空间滤波的基础上引入了基于重投影反走样方法,克服了两类后处理反走样算法所导致的像素之间过渡不平滑问题,并解决了动态场景中可能出现的闪烁问题。与现有后期处理反走样算法往往只能处理单一类型的走样相比,上述算法可以在统一的框架下解决不同类型的走样问题。在阴影图反走样算法方面,本文首先提出了一种基于三角形几何重建的阴影图算法。在该算法中,阴影图采用场景的原始三角形表示和记录阴影遮挡物信息,从而可以准确重构出遮挡物深度,避免阴影走样和深度偏移问题；为了降低三角形几何的冗余存储,提出了一种基于GPU的几何缓存压缩方法；最后使用一种打包式阴影计算方法进一步降低访存开销。为了解决几何信息不完整所造成的阴影瑕疵,本文使用线性外插估计遮挡物深度。作为一种基于几何的阴影图算法,该算法能够高效地生成高质量阴影。从离散信号重构的角度出发,本文提出了一种高效的线性阴影图算法。该算法对基于点采样的阴影图对进行线性重构,实现对阴影图的预滤波。为了保证阴影轮廓的光滑性,算法采用了阴影轮廓线重建方法。该算法可以以接近原始阴影图算法的性能实现阴影的反走样。此外,线性阴影图算法可以与任何基于均匀点采样的阴影图反走样算法相结合,如扭曲算法、拟合算法、z-分割算法、自适应分割算法等,显著提升这些反走样算法的阴影生成质量和效率。