运算精度相关论文
针对计量测试技术等领域对数据运算精度高的要求,提出了一种基于定点DSP芯片的数据运算精度提高方法,该方法借用浮点运算底层操作......
基因表达式程序设计(GEP)的染色体由具有特殊限制的头、尾组成,并要求尾部符号严格取自基本的终端集。这一做法作用明了、易于表述,......
在嵌入式软件的设计过程中,如何在有限的硬件资源条件下提高软件的运算精度,是影响软件性能的一个重要问题。本文从标准的浮点数据......
本文通过比较分析序数加减运算和整数加减运算的溢出检测,提出一种序数和整数能混合运算的实现方法,并且对方法的正确性进行了校举证......
这是一个不太为人们熟知,却在计算机史上不能忽视的名字:查尔斯·巴贝奇。他被称为“计算机之父”,虽然他穷极一生也未能制造出他描述......
首先介绍了数字信号处理器ADSP-2181及美国模拟器件公司(ADI)提供的EZ-KIT套件,接着给出了如何利用EZ-KIT套件设计出具有开发功能......
通过对原妈除法加减交替算法运算精度的研究,探讨了该算法在运算过程中存在的误差及产生的原因。针对提高运算精度给出两种修正方法......
编写半圆的数控程序时很容易产生误差的问题。半圆数控程序的误差主要来自于运算精度而不是机床本身的运动精度。程序中数值的运算......
本文应用叠加原理分析运算放大器的开环输入电阻对反相比例放大运算精度的影响.证明当运算放大器的开环增益足够高时,在适当地选取......
本文应用数值方法--基尔法(Gill法)求解机械系统动态响应,该方法的运算精度比常用的龙格一库塔法更高.......
文中主要阐述了两种全自动生化分析仪吸光度测量的对数放大电路,通过实验数据和计算推导出了对数放大电路的数学表达式。实验证实了......
无功优化是电力系统运行中的一个典型难题,遗传算法具有线性时间复杂度和全局收敛的特点,正好适合于该问题的求解。文章首先对遗传算......
意法半导体(STMicroelectronics)推出采用先进制程的新一代IC。该制程有助于芯片节省电能,提高运算精度,简化汽车电子、智能建筑及工业......
介绍了在计算机系统分析和设计中,用于浮点数左规格化的警戒位的设置方法,并简要说明了该类警戒位与用于舍入的警戒位共同组成了运......
<正>计算机体系结构软件模拟技术主要是为了迎合高性能计算机的研发而采取的在现有平台上对体系设计情况进行验证和模拟的过程。它......
通过实际范例和相应的TMS320C54x汇编程序分析了如何在定点数字信号处理器(DSP)中提高运算精度的方法,并介绍了定点DSP中的数据格......
自适应副瓣对消(ASLC)是雷达抗有源干扰的有效方法。本文介绍了自适应副瓣对消的原理,结合试验数据对副瓣对消性能进行研究,分析了......
利用视频信号矩阵变换算法进行D/A信号转换,采用乘法器确定精度,从而得到矩阵变换电路运算精度与占用资源间的关系.......
讨论了集成运算放大器的虚断概念,并用它分析集成运放的性能及对线性运算精度的影响。虚断能更确切地表示集成运算放大器的运算效果......
为了满足速度、功耗等诸多限制的要求,数字信号处理算法常使用FPGA实现。而实现时由于硬件特点,通常将浮点运算转换成定点运算,但......