机器博弈是人工智能领域一个既古老又具有挑战的问题,为人工智能成果的验证提供了一个良好的平台。非完美信息博弈问题是机器博弈问题的一个重要的分支,由于这类博弈问题具有非完美信息,即参与者需要在只知道对手的部分信息的情况下做决策,因此,更接近现实世界中的决策问题,具有更高的研究价值。本文针对非完美信息博弈问题的关键算法进行了研究,尤其是具有大空间和高复杂度的非完美信息拓展型博弈问题,并在幻影围棋中对本文提出的算法的性能进行了分析,比较了不同算法的效果。本文以非完美信息拓展型博弈问题为基础和基本模型,给出了基于信念状态的非完美信息博弈问题的数学模型。在此模型的基础上,对非完美信息博弈问题的关键算法进行研究,提出了利用信念状态树的数据结构表示非完美信息博弈问题的博弈过程,以蒙特卡洛树搜索算法为基础,提出了信念状态-蒙特卡洛树搜索算法并应用于处理具有非完美信息的博弈决策问题。本文在信念状态-蒙特卡洛树搜索算法的基础上,提出了两种基于对手模型的信念学习算法,分别是在于部分偏执的信念学习算法和基于随机最优反应估计的信念学习算法,旨在利用非完美信息博弈问题的隐藏信息通过建立对手模型的使参与者获得更高的收益。之后,将信念状态-蒙特卡洛树搜索算法应用到幻影围棋博弈问题中，提出了幻影围棋博弈问题中信息的处理方法,并结合幻影围棋博弈问题的特点,给出了基于信念状态-蒙特卡洛树搜索算法在幻影围棋博弈问题中的改进算法进行了研究,提出了三种改进算法,包括混合策略、AMAF启发算法和信息探测。最后,在幻影围棋博弈问题下,对信念状态-蒙特卡洛树搜索算法的性能进行了分析,对两种信念学习算法的性能和效果进行了分析和对比,并且,对基于幻影围棋博弈问题的改建算法的效果进行了测试。