2020-11-15(IEEE浮点数计算)
生活随笔
收集整理的这篇文章主要介绍了
2020-11-15(IEEE浮点数计算)
小编觉得挺不错的,现在分享给大家,帮大家做个参考.
V=2^E*M(符号位另算)
eg:
0 0110 . 0100
s E M
f是小数位真正的值(不分规格化和规格化)
规格化数
E=e-(2^ (k-1) -1)=6-(2^(4-1)-1)=6-7=-1
e=6
k=4
M=1+f
非规格化数 eg: 0 1111 0100 | 0 0000 0100
M=f
E=1-(2^(k-1)-1)
E全为0时,只用计算尾数M就行
NaN不是一个数,浮点数对比时,查看PF,如果为1,
则其中有一个浮点数为NaN,则此比较恒为0
32位 float s=1 k=8 n=32
64位 double s=1 k=11 n=52
总结
以上是生活随笔为你收集整理的2020-11-15(IEEE浮点数计算)的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: 2020-11-14(移位运算)
- 下一篇: 2020-11-15(getinstan