随着科技的发展，新一代的计算机，无论计算能力和计算速度，都比旧的计算机优越。但人类对高性能计算的需求，也不断提高。除了增强处理器本身的计算能力外，并行处理是一种提高计算能力的有效手段。从前，并行处理要采用昂贵的专用计算机，随着个人计算机及网络成本下降，现已广泛用分布式网络计算机系统进行并行处理。在分布网络计算机系统中，采用消息传递方法实现进程间的通讯。当前流行基于消息传递的并行编程环境是MPI（Message Passing Interface）和PVM（Parallel Virtual Machine）。本文简介MPI的背景及其功能，包括MPI的通讯子、进程组、阻塞与非阻塞通讯等。在开发目的、可移植性及互操作性、进程组与通讯等方面对MPI及PVM作了比较。探讨在机群系统环境下编写基于MPI的SPMD并行程序的方法，给出数据划分、负载平衡、避免死锁、非同步通讯等功能的MPI程序代码框架。最后，给出解N皇后及旅行售货员的编程，供学习和开发MPI并行程序的程序员和学生参考。本文例子采用的环境，是基于Linux平台的LAM/MPI实现。