关于定点机中的比例因子
生活随笔
收集整理的这篇文章主要介绍了
关于定点机中的比例因子
小编觉得挺不错的,现在分享给大家,帮大家做个参考.
计算机采用定点数表示时,对于既有整数又有小数的原始数据,需要设定一个比例因子,数据按比例因子缩小成定点小数或扩大成定点整数再参加运算,结果输出时再按比例折算成实际值。
比例因子必须选择恰当。选择不当,将会影响运算精度,或者会使运算结果超出机器所能表示的数据范围,即出现溢出。
【例题】在定点小数机器中计算 11.01+10.01 选择比例因子2-2=0.01,可将两操作数变换为0.1101+0.1001 但 0.1101+0.1001=1.0110,运算结果不是纯小数,出现了机器数不能表示的数,
即出现了正溢出。 如果选择比例因子 2-3=0.001,可将两操作数变换为 0.01101+0.01001 则运算结果 0.01101+0.01001=0.10110 为正常结果。将0.10110除以比例因子2-3,可得到正确结果 101.10
转载:定点数中的比例因子
总结
以上是生活随笔为你收集整理的关于定点机中的比例因子的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: 为啥八位的计算机可以用补码表示-128
- 下一篇: 报错“Error running ‘To