乳腺癌是一种女性最常见的恶性肿瘤,我国已成为乳腺癌发病率增长速度最快的国家之一,且呈年轻化趋势。在对乳腺癌发病原因与预防手段尚未完全清楚的情况下,对乳腺癌的早期检测是提高患者治愈率和降低死亡率的关键。在众多乳腺摄影技术中,乳腺X线摄影术是临床上最常用的乳腺癌疾病筛查手段之一。目前我国乳腺癌检测存在以下问题：(1)检测结果往往基于医生主观分析,缺乏客观定量的分析结果；(2)筛查阶段的乳腺X线图像数量较多,放射科医生阅片工作量繁重；(3)相比于西方女性,我国女性多为致密型腺体乳房,腺体组织相互重叠,容易产生类似病变的特征或将病变掩盖,乳腺癌病变的检测难度进一步增大。基于图像处理和模式识别的理论与技术,可获取乳腺X线图像定量客观的分析结果,有助于乳腺癌早期检测。现有的乳腺癌检测方法主要以西方乳腺图像为研究对象,我国女性多为致密型乳房,将已有方法用于我国乳腺X线图像病变检测存在一些问题。本文以西方和我国乳腺图像为研究对象,针对乳腺X线图像乳腺癌检测与分类方法中的一些关键问题进行了深入研究,主要包括胸肌区域分割、多视角肿块检测、肿块检索和肿块分类,并取得如下研究成果：(1)胸肌区域分割：针对纹理相对一致的胸肌,提出了一种基于解剖学特征(纹理一致性和高亮度方差)的胸肌区域分割方法。基于胸肌区域的解剖学特征定义胸肌边缘置信图,计算其初始边缘,较好地避免了现有方法认为边缘为直线的假设。将胸肌边缘建模为加速运动位移曲线,使用卡尔曼滤波修正初始边缘,为胸肌边缘的修正提供了新思路。实验结果表明相比现有方法,该方法具有更好的胸肌分割性能。针对纹理较为复杂的胸肌区域,提出了一种基于谱聚类与区域合并的胸肌分割方法。引入梯度信息,得到结合边缘的谱聚类用于图像分割,提高了胸肌边缘处的分割准确性。基于胸肌区域的三角形状特征,对谱聚类分割后的图像进行区域合并,以解决纹理复杂胸肌区域被分割为多个子区域的问题。实验结果表明相比现有方法,该方法对于纹理复杂胸肌区域边缘分割更有效。(2)双边肿块检测：提出了一种结合形状上下文区域匹配与分级相似性测度的双边分析肿块检测方法。在区域匹配方法中定义匹配代价概念,以解决现有区域匹配可信度信息缺失的问题。针对现有相似性测度在正常区域和肿块区域中区分度不高的问题,提出了一种同时考虑全局和局部图像特征的相似性测度。实验结果表明,相比于现有单视角和双边分析肿块检测方法,本文方法对于致密型乳腺图像具有更好的肿块检测效果。(3)肿块检索：提出了一种结合可区分锚点图哈希(Discriminating AnchorGraph Hashing, DAGH)和线性近邻传递(Linear Neighborhood Propagation, LNP)的肿块检索方法。在传统AGH基础上,引入图像病理类别信息到图像相似度计算,提出DAGH作为图像新的表示方式,以增强检索图像间病理相关性。使用LNP作为相关反馈技术,实现交互式肿块图像检索。实验结果表明在无需分割肿块边缘的情况下,相比于传统AGH和其他现有方法,本文方法对于致密型乳腺图像具有更好的肿块检索性能。(4)肿块分类：提出了一种基于非等间隔降采样texton的肿块良恶性分类方法。Texton通过对训练图像进行聚类分析得到纹理字典,将其作为图像纹理特征,避免了现有基于纹理描述符的分类方法人为设定得到纹理字典的问题。提出了非等间隔降采样以捕捉不同的可区分结构,通过融合多个可区分结构,降低了texton的尺度依赖性。实验结果表明在无需分割肿块边缘的情况下,本文方法在肿块良恶性分类性能上优于现有基于纹理特征的方法。