舍入误差相关论文
在计算机技术高速发展的今天,多项式的函数值及其导数值评估在越来越多的领域发挥着重要作用,几乎所有的函数在计算机运算过程中都......
随着超级计算机的迅猛发展,高性能计算技术面临着巨大的挑战。由于绝大部分计算机均使用浮点运算标准,在大规模问题中,减弱舍入误......
1 本文首先从一般并行计算理论出发，结合大气科学模式的特点，总结出一套对数值模式适用的并行化编程方案，并且提出了并行计算过程中应......
网络传输技术的快速发展,不仅为电子科技和人民生活带来革新,信息传输速度也发生了质的飞跃。但随之而来的信息传输安全问题也备受......
MATLAB仿真时数据计算存在舍入误差，影响仿真精度，导致仿真结果与实际情况不符，而这正是人们在仿真过程中所忽略的问题，尤其是在欠缺理......
本文利用WRF区域模式研究了不同编译器编译条件下和不同积云对流参数化物理过程配置下，模式对亚洲季风区一次暴雨过程的模拟情况。......
对于现在数值计算中舍入误差问题的研究现状进行较全面的了解.根据恽寿榕教授提出的累加计算累积综合舍入误差概率分析算法,编制出......
如何寻求一个最佳的测试节点或测试矢量集是模拟集成电路的故障诊断中的重要问题。该文提出了一种基于可测性测度计算的测试节点选......
研究了8位数控衰减器的控制码规律和校准方法,分析了校准控制码步长与校准误差的关系,得到校准误差随控制码步长螺旋上升的结论,该......
波动率的建模和预测为管理风险、构建投资组合和定价衍生产品等问题提供了关键信息,波动率是描述金融价格不确定性、度量风险的重......
数值计算程序在科研及应用中都有着广泛的使用,它的计算准确和高效都是软件正确运行的重要保证,尤其是在安全要求条件高和计算资源......
无论是设计制造还是选购使用计量仪表,总是要根据测量任务的要求规定出仪表的许多技术指标,而这些指标中几乎都有仪表的分度值和......
本文研究了实际应用修正的里兹向量直接叠加法(以下简称MRVDS方法)中存在的舍入误差问题和可能出现的个别振型消失的现象。用实例......
对捷联惯性制导系统弹载计算机四元数计算的舍入误差进行了概率估计。首先建立定点计算机上四元数计算舍入误差的概率模型，然后利用......
对着发射击高射武器系统毁伤概率的计算公式提出了一种新算法 ,称为二项展开优化法 .它是在原有的常用算法二项展开法基础上改进得......
3．24全体系数矩阵的性质（1）对称性由（3．66）式表明，元素系数矩阵是对称矩阵，所以将其相加所得如（3．74）式那样的全体系数矩阵也完全是对称的。因......
绪论数学建模如今已是一个众所周知的术语了。然而,即使到目前为止,它对工程实践的繁荣所产生的巨大影响似乎并没受到足够的重视......
位场勘探是一种较为成熟的地球物理勘探手段,然而其数据反演中存在的深度分辨率不足问题阻碍了其进一步发展.文章在深入研究位场数......
在[1]中,已以最简单的正压模式为例,根据守恒定律构造了差分格式,并证明在一定条件下,这些格式都是可以预报的,其可预报期的长短......
1990年7月27日国务院批准使用我国市制土地面积计量单位以来,在新近出版的刊物、公报上,仍在使用土地面积市制单位,如“亩、垧、......
本文研究用硬件实现正交离散于波变换时，有限字长对信号分解和重构的影响。给出了子波滤波器量化误差和运算舍入误差的传递模型，推导......
本文提出两个低系数敏感度和低舍入误差的二阶递归数字滤波器的新结构。该结构是通过两步两对抽出法获得的。第一步改善系数的敏感......
本文提出了几种数字正弦振荡器装置及这些装置的设计方法。由于字长有限,这些装置会产生大的舍入误差,既改变所产生的正弦信号的幅......
基于skewtent映射 ,提出了一类离散化的有限状态混沌映射 ,它允许精确的数值计算 ,没有舍入误差 .通过选择合适的参数 ,该映射能产......
阐述了32位浮点数在PLC中的存储方式,揭示了浮点数在基本数学运算中产生误差的原因,给出了在PLC编程累积流量的具体应用时,如何避......
本文提出了一种H.264编码量化过程中自适应调整舍入误差的量化方法.随着输入的被量化数据的变化,舍入操作的分类区间同时发生改变,......
数字信号处理器(DSP)作为统一潮流控制器(UPFC)的控制核心时,正弦脉宽调制(SPWM)波形单个脉宽舍入误差的不断积累是稳态SPWM波形工......
本文提出一种简化了的数字式倍频器。它不存在频率漂移,是开环的,因而能快速跟随输入频率的变化。作整数倍频时,输出频率不受机内......
病态性的自动探测对于进行有效而可靠的数字仿真具有重要意义。本文研究了病态性探测的谱半径估计法和嵌入低阶大稳定域公式法并提......
该文采用量纲分析理论，对NS方程数值计算的截断误差和NS方程数值计算软件化的舍入误差进行了分析，比较了载断误差和舍入误差的相互影......
该文提出了用快速数论变换实现TDM/FDM复用转换的新方案，详细讨论了转换算法及设计方法，与其他一些实现方案相比，由于DFT和多相网络部......
以圆锥运动为模拟条件，以“平均漂移速率”为指标，引入相对误差概念，分析了“平均漂移速率”和相对误差在圆锥运动条件下的性质，绘制了......
本文分析了借助数字计算机进行辨识与建模时,舍入误差给数值计算带来的问题。并因此引入了问题的条件及算法的数值稳定性的概念。......
二次特征值问题(QEP)特征值的导数在模型修正及破损诊断等方面有重要的应用价值.文献[1]中给出了QEP半单重特征值导数的计算公式,......
数字混沌的退化现象一直是理论界热点研究问题，涉及混沌理论基础研究和应用基础研究的许多重要应用。本文基于混沌系统自身的动力学......
该文研究ABS算法的误差分析.Abaffy(1987),Galantai(1987),Abaffy&Galantai&Spedicato(1989),Spedicato(1989)及Dixon(1997)等研究......
最小二乘问题不仅是许多数学分支的基本工具，而且在经济学、统计学、测量学、最优化、信息处理、自动控制、工程技术和运筹学等......
浮点数求和与点积计算在科学计算,信号处理,图像处理等领域中广泛应用.对浮点和与点积计算的硬件结构进行了研究.在只有一次舍入误......
引言 许多物理应用问题求解的核心是如何高效求解稀疏线性方程组.直接解法由于在进行矩阵分解时常引入大量填充元,导致存储量与计......
