本文以音字转换问题为背景，以最大熵模型为基本框架，对汉语语言模型进行研究。音字转换是指由计算机自动地将连续的拼音串转换成相应的汉字串，正确的音字转换是解决键盘输入、语音识别、语音合成等等自然语言应用问题的关键。音字转换问题源于拼音与汉字并非一一对应。本文通过建立最大熵语言模型，解决音字转换中的歧异问题，实现汉语的音字转换。 本文首先对语言模型进行了研究。语言模型主要分为基于规则的语言模型和基于统计的语言模型。一个基于统计的语言模型是把自然语言被看作是一个随机过程，其中每一个语言单位，包括词、句子或篇章等，均被看作是带有某种概率分布的随机变量，计算机通过统计语言模型的概率参数，可以估计出自然语言中每个句子出现的可能性。基于规则的语言模型对一个输入的文字串，借助于文法规则，推导出该文字串的语法结构，从而判断出该文字串是否符合文法。 在分析了语言模型的基础上，本文采用最大熵方法建立自然语言模型。最大熵方法是统计方法和规则方法的结合：它采用统计的方法建立模型，使求得的模型满足语言特征的统计分布；同时，最大熵语言模型能够把各种异构的语言特征巧妙地结合在一个统一的框架之下，最大熵方法丰富的特征选择方式，使规则模型所依赖的语法自然而然的融入了语言模型之中。最大熵方法的建模原则是对已知的事实建模，对未知的情况不作任何假设。建立最大熵语言模型时，把反映语言知识的语言特征作为模型的约束条件，使建立的语言模型与已知的语言知识一致，对未知的语言知识，使其尽可能均匀的分布。 本文还尝试将音字转换模块加入到实验室的语音识别系统，实现语音识别后处理中音节流到汉字流的转换过程。