目前,神经网络在加密方面的应用主要表现为:已有的传统加密算法与神经网络的非线性相结合,其中神经网络的非线性主要用于产生密钥。但这些应用并不是完全用神经网络来创造学习一套新的加密算法。而本文研究了一种利用生成式对抗神经网络（GAN,Generative Adversarial Networks）学习加密算法,然后利用Aihara混沌神经网络产生随机性很好的密钥,最后将两者结合的加密算法,本文称之为Aihara-GAN（简称A-GAN）加密算法,然后研究了A-GAN加密算法的硬件加速器实现,最后研究了A-GAN加密硬件作为协处理器挂载到RISC-V处理器上的应用。本文第一部分研究了利用GAN网络在对抗训练中自主学习加密算法,训练结果表明,神经网络学习到了加解密误比特率为0.00086%的加解密算法,第三方窃听神经网络用已知密文攻击方式进行攻击的误比特率为47.7%,几乎等于随机猜测,安全性高;同时研究了用Aihara混沌神经网络来产生随机性好的密钥,对产生的密钥的随机性进行了安全性能检测,并提出了GAN加密以及Aihara产生密钥的A-GAN加密算法,对A-GAN加密算法的安全性能进行了检测,结果表明AGAN加密算法安全性很好。第二部分研究了A-GAN加密算法的硬件加速器实现,其中对GAN加解密网络的全连接层、一维卷积层以及Tanh函数的特点进行分析,进行资源分配以及流水线设计,最后制定了一个7级流水线的加解密硬件设计方案,可进行大量数据的高速加解密;同时还对简化之后的Aihara的单混沌神经元进行分析,设计了一套精简的硬件实现方案,最后实现了GAN加解密硬件和Aihara产生密钥硬件并分别进行了测试仿真。第三部分研究了A-GAN加密的三条自定义指令,并使用内嵌汇编对其进行了调用,将A-GAN硬件加速器挂载到RISC-V处理器核上,并进行了指令仿真测试,最后将此协处理器应用成功部署在FPGA上,并通过UART串口实现信息交互。综上所述,本文创新地提出了使用GAN学习加密算法以及Aihara产生密钥的A-GAN加密算法,并研究了其硬件加速器的实现,并最后探索了RISC-V处理器核中自定义A-GAN加密指令并调用协处理器高速实现的应用,实现了设计新加密算法,到算法硬件设计,再到算法硬件实际应用的全面研究。