深化对政府合法性的研究，维护政府自身的合法性，扎实政府合法性的基础，已经成为政府所必须面对的一个现实问题。政府合法性的根基是民意，而政府获取社会公众支持与拥护的前提条件是政府的有效性和良好的绩效。政府管理的有效性和工作绩效的提高又依赖于完善的政府领导体制。因此，改革政府领导体制，完善政府领导体制的结构，科学化与规范化设置政府机构，对于维护政府合法性来说是非常有必要的。本文主要运用文献资料法、综合归纳分析法和比较分析方法，解析了政府领导体制和政府合法性的相关理论，指出了政府领导体制和政府合法性之间的关系，即政府合法性是政府领导体制形成与运行的前提条件；政府领导体制的完善与有效运行是政府合法性的体制保障，并从政府领导体制的组成机制、组织结构和领导制度三个角度来具体分析政府领导体制的运行对政府合法性的影响。然后，在以前苏联为具体事例分析两者之间关系的基础上，结合本国实际，指出了我国政府领导体制存在的问题，包括领导权力仍然比较集中，党政不分的情况依旧存在，领导组织结构设置不尽合理，领导体制的组成机制尚不健全，领导制度建设不完善，并分析了政府领导体制的不完善对政府合法性基础的消极影响，提出了完善政府领导体制的基本路径，即在进一步下放权力的基础上科学划分领导权限，科学规范党政关系，优化政府领导体制的组织结构，健全政府领导体制的组成机制，完善政府领导制度。