...rounding error, rounding mode, ulp, underflow. [gap=434]关键词和短语：非正规化数，异常，浮点运算，浮点标准，渐进下溢，保护数位，NaN，则溢出，相对误差，舍入误差，舍入模式，ulp内，溢。
基于436个网页-相关网页
定义 中文名称：化整误差 英文名称：rounding error 定义：当测量值或测量结果的最末一位显示数字进行化整时新出现的误差。 应用学科： 机械工程（一级学科）；实验室仪器和装置（二级学科）；天平仪器-天平仪器一般名
基于66个网页-相关网页
local rounding error [数] 局部舍入误差
accumulation of rounding error [数] 舍入误差累积 ; 舍入误差积累
rounding off error 舍入误差
error in rounding number [数] 数字舍入误差
·2,447,543篇论文数据，部分数据来源于NoteExpress
N an error introduced into a computation by the need to perform rounding 化整误差 [计算机]
In most situations the calculation to return the result from binary to decimal for presentation purposes will remove any rounding error.
大多数情况下，为了显示，从二进制计算返回十进制结果会移除一些四舍五入误差。
Bugs fixed in the new version include: fix paste destination partition smaller than source, prevent visual disk display area from disappearing and fix minor cylinder alignment rounding error.
新版本修补了以往的漏洞：修正了数据在粘贴到目标分区后部分丢失的bug；防止可视磁盘显示区域消失；修复了较小磁道柱面调整的舍入误差。
By generalizing the above results, the paper estimates the rounding error of matrix basic calculation.
推广上述结果，对矩阵基本运算的舍入误差进行了估计。
应用推荐