文档布局分析（Document Layout Analysis,DLA）的目的是将文档图像分解为高级语义区域（即图像、表格、文本和背景）,DLA是光学字符识别（Optical Character Recognition,OCR）、文档理解、表格识别以及图像检索等任务的基础。由于文档样式以及文档风格的差别,文档通常被划分为不同类,例如学术类、杂志类,每个类构成了独立的域。在实际布局分析过程中,这些域之间存在着较大的分布差异,导致训练好的模型在跨域过程中存在明显的性能损失。模型跨域时的性能损失一般来源于两个方面,一是跨域前模型对域内能够进行泛化的样例边缘知识及特征知识利用不充分;二是跨域时模型对跨域的连接信息及目标域的关键样例信息挖掘不充分。本文针对目前文档布局分析任务中存在的域内知识挖掘不足以及域间知识泛化不足的问题展开了探讨,从样例边缘知识挖掘、样例特征知识挖掘、样例跨域连接信息挖掘、跨域关键样例信息挖掘四个方面进行深入研究,取得如下创新结果:（1）针对样例边缘知识挖掘不充分问题,提出了基于显式边缘嵌入网络的文档图像布局分析方法。目前很多基于深度学习的文档布局分析方法侧重于直接通过卷积神经网络从颜色通道中学习知识,然而图像中的高频结构（特别是图像边缘）蕴含着更多的信息,之前的DLA任务一直忽略了对这些知识的挖掘。为了解决样例边缘知识挖掘不充分的问题,本文提出了一种新的具有显式边缘嵌入网络的文档布局分析框架（E~3N et）。该框架的创新性在于:使用边缘嵌入块和动态跳接模块来产生更加详细的特征;同时,为了增强框架的实用性,使用轻量级的全卷积子网作为骨干网络;边缘嵌入块的设计是为了显式地合并从文档图像中获得的边缘信息;动态跳接模块的目的是获取具有可学习权值的颜色和边缘表示。本文在三个文档布局分析基准上使用提出的框架进行了实验,证明了E~3N et在有效性和效率方面优于以往工作。（2）针对样例特征知识挖掘不充分问题,提出了基于动态残差特征融合的文档布局分析方法。除了样例本身忽略的隐式知识之外,样例特征间也会存在信息的损失。为解决该问题,本文提出了一种名为动态残差融合网络（DRFN）的端到端联合网络,来挖掘样例特征蕴含的知识。该方法的创新性在于:设计了一个能够充分利用低维信息和维护高维类别信息的动态残差特征融合模块;为了解决由于数据不足而导致的模型过拟合问题,提出了对有限的训练数据进行高效微调的动态选择机制。本文在一些具有挑战性的数据集进行了实验,证明了DRFN的有效性。（3）针对样例跨域连接信息不平衡问题,提出了基于风格引导的无监督跨域文档布局分析方法。在有效利用样例本身知识的基础上,设计较强泛化能力的通用DLA框架的一个重要挑战是,如何有效挖掘域间的隐含信息,特别是在文档对象的布局、大小、长宽比、纹理等方面多样化的情况下。许多研究人员通过合成数据构建大型训练集来应对这一挑战。然而,合成的训练数据具有不同的风格并且质量不稳定。此外,源数据域与目标数据域之间也存在很大的差距。本文提出了一种基于文档风格指导的无监督跨域DLA框架。该框架的创新性在于:将文档质量评估和文档跨域分析集成到一个统一的框架中。本文的框架由三个组件组成:文档布局生成器（GLD）用于文档布局生成,文档元素装饰器（GED）用于文档布局元素填充,文档样式鉴别器（DSD）用于文档质量评估和跨域指导。本文首先使用GLD来预测生成的文档的位置;然后,设计了一种基于美学指导的新算法来填充文档的位置;最后,使用对比学习来评估文档的质量。此外,本文还设计了一种将文档质量评估组件转换为文档跨域风格引导组件的新策略。本文的框架是一个无监督的文档布局分析框架。通过多次实验证明,本文所提出的基于风格引导的无监督跨域文档布局分析方法取得了显著的性能。（4）针对跨域关键信息利用不充分问题,提出了基于外部知识引导的关键样本选择方法。对于一些特殊的样本,仅依靠基于风格引导的无监督跨域方法效果有限。为了进一步扩展DLA模型的通用性,本文引入了“人在环路（human-in-the-loop,HITL）”协作智能策略。因为HITL可以通过添加基于知识的少量数据来推动模型从未知问题中学习,这有利于提升模型的泛化能力。HITL通过使用置信度来选择关键样本,然而,使用置信度来找到关键样本并不适用于DLA任务,本文提出了关键样本选择（KSS）方法。该方法的创新性在于:通过模型协作来更准确地找到高级任务（语义分割）中的关键样本,有效地降低了成本。一旦样例被选择,这些关键样本被传递给人类进行标记,然后模型就会使用标记的样本更新参数。此外,本文从强化学习视角重新审视了学习系统,设计了基于关键样本选择的更新策略,有效地提高了模型接受新样本的能力。在一些具有挑战性的数据集进行了实验,证明了基于外部知识引导的关键样本选择方法的有效性。