基于脑电和眼动数据融合的多模态情绪识别研究

被引量 : 0次 | 上传用户:dellson
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
情绪在人们日常生活中发挥着重要的作用,是一种复杂的心理状态或过程。研究表明,将不同模态融合用于情绪识别,有助于发挥模态间情绪表征的互补性,进而提升情绪识别性能。基于脑电信号的情绪识别,可有效反映人真实的内心状态,已成为研究情绪识别的一种常用方法。然而,现有的多模态融合方法往往忽略不同模态间的相互映射关系。因此,本文提出了一种基于脑电与眼动数据深层融合网络对情绪进行识别。本文的主要研究内容如下:(1)提出了一种基于前馈编码器的脑电特征提取方法,用于脑电情绪识别。首先提取了3种不同的脑电特征(微分熵、功率谱密度、小波熵),并通过对比分析发现微分熵特征具有最强的情绪表征能力。然后对微分熵特征进行特征平滑,去除冗余信息,利用前馈编码器提取深层的微分熵特征,并对微分熵特征的时、频、空间域信息进行整合。后续在SEED-IV数据集上进行方法验证,四分类情绪平均识别准确率达到75.37%,实验结果表明本文所提方法可以提升情绪识别性能。(2)提出了一种基于前馈编码器的眼动特征提取方法,解决眼动特征情绪表征能力不强的问题。首先提取到包含眼动信息的33种眼动特征,然后设计了基于眼动数据的特征F检验方法,用于验证不同眼动特征对不同情绪的区分能力,通过筛选,选出最优表征情绪的25种眼动特征。最后,利用前馈编码器提取眼动的深层特征,通过对眼动特征的相互依赖关系及特征相应强度进行重构,得到更具情绪表征能力的眼动特征。并在SEED-IV数据集上进行方法验证,四分类情绪识别准确率达到65.87%,验证了本文所提方法的有效性。(3)设计了一种基于脑电与眼动数据的多模态注意力网络模型,用于多模态情绪识别。其中交互注意力模型用于学习多模态互补信息和语义层上下文信息,获取多模态情绪表征性,多头自注意力使模型集中于情绪分类的判别性特征以及情绪分类。实验结果表明本文所提出的多模态融合方法在SEED-IV四分类情绪数据集上的识别准确率为92.26%,其性能优于单一模态情绪识别。
其他文献
表面活性素是一种新型生物表面活性剂,因其具有良好的表面活性、可生物降解及抗菌活性,在石油开采、医药、农业和食品化妆品等领域具有广阔的应用前景。高产表面活性素菌株的获得和发酵过程优化是其商业化生产的关键。文中考察了脂肪酸合成途径对表面活性素合成的影响,强化脂肪酸生物合成关键基因以及该途径全部基因分别构建了高产表面活性素枯草芽孢杆菌BacillussubtilisTHBS-2和THBS-8,并对发酵过
期刊
根据2021年《最高人民法院关于适用〈中华人民共和国刑事诉讼法〉的解释》第101条的规定,事故调查报告中有关专门性事项的认定可以在刑事诉讼中使用。事故调查报告是一种较具代表性的专业性认定,以其为研究对象可以透视行政执法证据在刑事诉讼中使用时面临的如下共性问题:法定证据种类归属不明;采信专业性认定在法律和司法解释上存在障碍;责任追究形式不符合追究刑事责任的要求;无法发挥行政执法机关在事实认定和法律适
期刊
本研究采取问卷调查的方式,以党校参训的12个教学班次共计540名处级干部为研究对象,调查分析了领导干部身心感知特征,并选取体育锻炼和业余爱好两个方面,探讨领导干部日常活动与身心状态之间的关联。调查结果显示,领导干部身心状态与任职年限和岗位职责相关,工作经验是身心状态的积极影响因素,而工作负荷过载会削弱心理弹性。领导干部的业余爱好主要包括体育锻炼、读书学习和艺术审美活动等。分析发现,锻炼和爱好活动与
期刊
为提高情绪识别的准确率,本研究利用卷积神经网络和迁移学习,提出了一种基于心电(electrocardiography, ECG)信号图像特征的情绪识别方法。首先对ECG信号进行预处理,去除噪声;然后提取ECG信号的时域波形图和时频图;最后,利用迁移学习和双输入EfficientNetV2网络学习图像的时域和频域特征并进行分类,得到对应的情绪类别。在公开数据集Amigos上进行验证,结果显示,本研究
期刊
随着风险社会的到来,维持社会稳定、有序发展变得愈加困难,生产作业对促进我国实业发展等方面具有重大意义,但其间所造成的安全生产事故亦是一场灾难。监管行为是保障安全生产的关键环节,但在理论研究以及司法实践中,监管过失案件仍存在诸多问题。监管过失以新新过失论为理论基础,主张抽象的结果预见可能性,这与我国传统刑法理论存有矛盾由于,且由于其多为存在第三人行为介入的情况,导致刑法层面上的诸多认定均变得尤为复杂
学位
<正>人类的情绪以你想象不到的干预能力掌控着你的行为。它们在你看不见的地方操纵着你,你根本不知道它们的影响有多么大。——《头脑特工队》编剧、导演彼特·道克特*(Pete Docter)《头脑特工队》是一部由美国皮克斯公司出品的动画片,去年国庆档期在全国上映。该片展现了11岁小女孩莱莉因为爸爸的工作变动,随父母从明尼苏达州搬家到旧金山之后所经历的成长烦恼。影片将小女孩脑海中的情绪拟人化
期刊
本研究采用以行为方式与心理感受为主的自编问卷,对327名局处级干部进行了包括工作感受、压力感受、行为与身心状况感知、业余生活与社会交往等方面的问卷调查。调查结果显示,局处级领导干部普遍感到工作负担较重,在工作感受、人际交往、情绪反应、行为方式等方面都呈现出较为明显的压力型特征。进一步研究发现,局处级领导干部存在"压力-心力-体力"感受型的个体差异,并表现为适应良好、得心应手、体力透支、心力透支等工
会议
中医学有着悠久的博物学传统,但多集中在本草领域,对于针灸学较少有讨论。以博物学的视角审视《黄帝内经》中的身体知识,尤其通过对腧穴知识生成过程的考察,可以看到《黄帝内经》身体博物学进路:观察、记录、命名与分类。《黄帝内经》身体博物学具有注重名物注释、与自然及事物交互应用、以实践应用为目的等特点。开启身体博物学对于理解古典身体知识的生成以及针灸理论的构建具有重要意义。
期刊
作为党的执政理念和社会治理层面的人文关怀,是科学发展观"以人为本"的具体体现。实现人文关怀,必须着力于人民群众的内在需求,在改善民生的基础上,重点观照人民群众的精神状态和心灵感受,通过不断提升国民幸福感,达到社会和谐健康的人文理想。
期刊
在产业升级加速的背景下,对人才的需求也出现了新的趋势,对复合型人才的需求日益增长。新的《新课标》对全面学习提出了新的要求。作为基本学科,语言是学生发展的先决条件和保证,而小学语文则是学生学习语言的重要依据。在小学语文教学中,要注重学生的自主、全面的学习,同时还要注意教师的指导,为其营造良好的学习氛围。在教科书方面,以部编版为例,把小学语文综合学习作为重点,设立专门的教学单元,为学生提供综合学习的平
会议