本文对前人的研究成果做了归纳总结，目前很多国内外学者对四元数函数的解析性进行了研究，但是给出的结论都有一定的局限性。本文针对非解析四元数函数的微分理论做了深入的研究，四元数导数通常有两种定义方式：左导数和右导数。本文主要详细研究了左导数下的四元数函数微分理论以及应用，右导数的四元数函数微分理论可以同样得到。在左导数定义的基础上给出导数的运算法则及性质。由于四元数的非交换性，常规的乘积、复合求导法则不再成立。在证明四元数函数的乘积、复合求导法则时采用从特殊到一般的方法，首先研究其中一个函数为实值函数的情况下的求导法则，其次证明两个四元数函数乘积以及复合的求导法则。发现乘积、复合求导法则与我们常规的实数域上的求导法则是不同的，通过举一些例子来验证求导法则的正确性，接着应用所得结论给出四元数函数的中值定理及泰勒展式，并且给出详细的证明过程。最后把所得到的乘积以及复合求导法则应用到四元数神经网络学习算法中，推导了最小二乘法，Gauss-Newton算法以及 Levenberg-Marquardt(LM)算法。在推导最小二乘法时，考虑到四元数矩阵可实值化的特殊性质，解决了一类“宽”线性最小二乘问题，接着给出 Gauss-Newton算法以及 LM算法的收敛性证明。另外，我们解决了一些四元数矩阵方程的求解问题，采用了两种不同的解法，第一种是将四元数矩阵方程的求解问题转化为一个四元数变量的实值函数的最优化问题，第二种采用常规的矩阵线性运算对方程进行求解，最终两种方法得到的解相同。从而验证了我们所提出方法的合理性。