因为计算机的特性,浮点数计算很多时候不会等于我们想要的值
|
原因
JavaScript
内部只有一种数字类型 Number
,也就是说, JavaScript
语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。 JavaScript
会把超出 53
位之后的二进制舍弃,所以涉及小数的比较和运算要特别小心。
浮点数的运算过程
首先,十进制的0.1和0.2会转换成二进制的,但是由于浮点数用二进制表示是无穷的
|
IEEE754
标准的 64
位双精度浮点数的小数部分最多支持 53
位二进制,多余的二进制数字被截断,所以两者相加之后的二进制之和是
|
将截断之后的二进制数字再转换为十进制,就成了 0.30000000000000004
,所以在计算时产生了误差
解决方法
转换为整数运算
在知道小数的位数情况下,我们将它转为整数,结果在除以对应的倍数
|
位数舍入法
小数部分最多支持53位, 对应的小数位支持17位,我们取15位,然后在用 Number
转换
|
适用于不知道位数的情况下,但是小数位不会超过15位
小数转整数运算
适用所有情况:
把小数部分和整数部分都转换为整数运算,在通过字符串拼接回来
|
参考
Javascript优化后的加减乘除(解决js浮点数计算bug)
- 本文作者: luckyship
- 本文链接: https://luckyship.github.io/2020/12/01/2020-12-01-js-float-calculate/
- 版权声明: 本博客所有文章除特别声明外,均采用 MIT 许可协议。转载请注明出处!