文章目录

  • 浮点数的存储
  • 浮点数的运算
  • 如何解决
  • 参考


jquery validate 浮点数验证 js定义浮点数_十进制

浮点数的存储

和其它语言如Java和Python不同，JavaScript中所有数字包括整数和小数都只有一种类型 — Number。它的实现遵循 IEEE 754 标准，使用64位固定长度来表示，也就是标准的 double 双精度浮点数（相关的还有float 32位单精度）。

这样的存储结构优点是可以归一化处理整数和小数，节省存储空间。

64位比特又可分为三个部分：

  • 符号位S：第 1 位是正负数符号位（sign），0代表正数，1代表负数
  • 指数位E：中间的 11 位存储指数（exponent），用来表示次方数
  • 尾数位M：最后的 52 位是尾数（mantissa），超出的部分自动进一舍零

    • jquery validate 浮点数验证 js定义浮点数_十进制_02

浮点数的运算

小数怎么转换成二进制？

// 0.125  十进制 -> 二进制
0.125 * 2 = 0.25  取0
0.25 * 2 = 0.5    取0
0.5 * 2 = 1       取1
 
==>  0.001 (0.125 的二进制)

从上面我们可以知道通过小数部分不断乘2来判断取二进制位 0 还是 取1，以下是转换的步骤：

  1. 把当前小数乘2，小于1走 步骤2，大于1 走 步骤3，等于1走 步骤4，
  2. 如果小数部分乘2不超过1，二进制位则取0，继续 步骤1
  3. 如果乘2后超过1则取1并不用考虑小数点左边的数字保留小数点右边的数字，二进制位取1 继续 步骤1
  4. 如果小数乘2刚好等于1则结束转换，二进制位取1
// 0.1  十进制 -> 二进制
0.1 * 2 = 0.2  取0
0.2 * 2 = 0.4  取0
0.4 * 2 = 0.8  取0
0.8 * 2 = 1.6  取1
0.6 * 2 = 1.2  取1
0.2 * 2 = 0.4  取0
0.4 * 2 = 0.8  取0
0.8 * 2 = 1.6  取1
0.6 * 2 = 1.2  取1

==> 0.000110011(0011)`   0.1二进制(0011)里面的数字表示循环

你会发现 0.1 转二级制会一直无线循环下去，根本算不出一个正确的二进制数。 所以我们得出 0.1 = 0.000110011(0011)，那么 0.2 的演算也基本如上所示，所以得出 0.2 = 0.00110011(0011) 回来继续说 IEEE 754 双精度。六十四位中符号位占一位，整数位占十一位，其余五十二位都为小数位。 因为 0.1 和 0.2 都是无限循环的二进制了，所以在小数位末尾处需要判断是否进位（就和十进制的四舍五入一样） 那么把这两个二进制加起来会得出0.010011…0100 , 这个值算成十进制就是 0.30000000000000004

回到我们引入的问题，将0.1和0.2都转换为二进制为：

0.1 ==> 0.000110011 0011 0011…(0011循环)
0.2 ==> 0.00110011 0011 0011…(0011循环)

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持53位二进制位，所以两者相加之后得到二进制为：

0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100

因浮点数小数位的限制而截断的二进制数字，再转换为十进制，就成了0.30000000000000004。所以在进行算术计算时会产生误差。

如何解决

  1. 原生：parseFloat((0.1 + 0.2).toFixed(10)) .