用户应用程序中的并发性正在逐渐增长,现代计算机包含了单核多线程和单芯片多核的功能。如何有效地在多核处理器体系结构下开发出高性能、可移植的并行程序,降低并行程序的开发难度,提高并行程序的设计开发效率成为并行计算领域的一个关键性问题。传统的用户应用程序使用细粒度锁的互斥方式达到同步,但是这种方式容易形成死锁和具有不可组合性、优先级反转和护航效应等问题。非阻塞算法避免了这些限制,且保证线程的延迟或者失败不会阻碍系统整体上向前执行,但同样难于实现和应用。事务内存技术基于数据库管理系统中成功的并发处理经验,能够高效地完成内存级并发读写操作。事务内存系统的核心是冲突检测。本文对国内外在事务内存方面所做的研究与探索进行了总结与分析,研究了现有的软件和硬件事务内存系统的设计方法和冲突检测机制,分析了各自的优缺点。在此基础上,本文首创了适用于所有事务内存系统的冲突检测数学模型。可组合性是现代软件工程的基础,嵌套事务内存正是事务内存可组合性的表现。本文通过对传统并行程序设计方法进行分析,并结合事务内存的现有理论提出了在内存访问层次的嵌套事务内存模型。该模型与硬件无关,定义了平面事务、闭合事务和开放事务在各种操作下的语义,描述了事务所能见的内存状态、内存访问冲突、提交与夭折动作。在该模型的基础上,本文深入研究和分析了开放事务语义,并且提出了适用嵌套事务内存系统的优先级竞争管理算法,将此算法应用于本系统后可以有效地提高单位时间内事务执行的数目。在以上工作的基础上,本文使用C++编程语言实现了一个嵌套事务内存系统。该系统具有良好的可扩展性、友好的编程接口,能从真正意义上简化并行程序设计的开发过程,提高并行程序的开发效率。