膜计算(也称为膜系统或P系统)是近几年兴起的一种具有高度并行性的计算模型,它将生物体内部的工作运行机制和分工合作原理抽象为计算模型,已经在多个领域得到了广泛的应用。近年来,对新型膜计算模型的研究成为膜计算领域的一个研究热点,研究者们期望构建出更加灵活、高效、易扩展的新型膜计算模型来解决复杂的实际应用问题。超图理论是对简单图的扩展,目前已经被应用于图像处理、聚类、空间数据挖掘等多个领域。在超图理论中,一条超边可以包含多个顶点,一个顶点可以存在于多个不同的超边中,可以表示普通图不能表示的多端元件以及多层次的网络结构,克服了普通图在复杂的逻辑关系表示上的缺陷,能够很好地描述高阶关系。所以,使用超图理论来建立模型,在一定程度上保证了对现实世界中对象间的复杂关系描述的准确性。本文尝试将膜计算与超图理论结合,提出了超图膜计算模型,在此基础上提出了三个超图膜算法,论文主要研究了超图膜算法及其在聚类分析任务和基于深度学习的眼底图像分割任务上的应用,主要工作如下:(1)本文研究了一种新型的膜计算模型,将膜系统建立在超图理论中的超边与顶点的多元关系之上,提出了超图膜计算模型(HPS)。在HPS中,一个超顶点膜可以同时存在于多个不同的超边膜内。然后,提出三种超图膜计算模型的扩展,分别是动态超图混合膜计算模型(HDHPS)、链式超图混合膜计算模型(HCHPS)和网状超图膜计算模型(GHPS)。三种扩展模型有着更加灵活和复杂的结构,论文对三种模型的定义、膜结构和对象等进行了描述,以处理复杂的实际应用问题。(2)将超图膜系统和深度学习模型结合,提出了一种基于动态超图混合膜系统的多任务深度膜分割算法(HDHPS-MDPS)。设计了算法的膜系统、对象和规则,在基于图的单元中使用规则执行计算操作,在基于树的单元中并行执行多个卷积神经网络Mask R-CNN,同时利用膜出色的收敛性和并行性以及卷积神经网络在图像分割上的出色性能,来对图像进行并行的像素级分割。在三个糖尿病视网膜公共数据集上进行了对微动脉瘤、硬性渗出液和视盘的多任务分割实验,实验结果和对比分析证明HDHPS-MDPS取得了目前最优的分割性能。(3)利用超图膜系统改进了模糊C均值聚类算法,提出了一种基于链式超图混合膜系统的多目标模糊聚类集成算法(HCHPS-MOEC),设计了膜系统及膜结构、对象和规则,在反应链式膜子系统中根据规则并行使用三个多目标进化算法对模糊C均值聚类进行优化,进化过程中得到的局部非支配对象在局部通信膜子系统中进行交流,最后将来自不同基聚类的非支配对象在全局集成膜子系统中进行集成。在8个真实数据集上进行的对比实验证明了 HCHPS-MOEC的优越性、稳定性和鲁棒性。(4)利用超图膜系统改进了 CLIQUE算法,提出了一种基于网状超图膜系统的改进的CLIQUE算法(GHPS-ICLIQUE),在改进的CLIQUE算法中定义了密集单元的识别和分组时的有效数据点和新的搜索路径以减少待聚类分割任务中的噪声点,然后利用设计的网状超图膜系统及新的规则使用改进的CLIQUE算法(ICLIQUE)进行聚类。在具有挑战性的脉络膜新生血管的分割任务上进行了实验和对比分析,实验结果证明了 GHPS-ICLIQUE算法在分割精度和分割效率上的优越性。