浮点类型的比较

  • 一.浮点数精度的损失
  • 二.浮点数的比较
  • 1.方法一
  • 2.方法二
  • 3.方法三:系统方案



jquery 浮点型比较大小 浮点类型比较大小_数据结构

一.浮点数精度的损失

关于浮点数的比较就不得不提到浮点数在内存中的存储,但这里篇幅太大,故我将其放在另一篇博客里浮点数的存储,(如果不了解它的存储看这篇博客也是没问题的)这里我们就直接看现象

浮点数在储存中,并非像我们所想的那样是完整储存的,它会发生精度的丢失,注意这里并不单单指变小,也有可能变大。浮点数在存储时,在计算不尽时会采用四舍五入法

jquery 浮点型比较大小 浮点类型比较大小_jquery 浮点型比较大小_02

那么我们不妨试想一下,既然会发生精度的损失,那么它们在相互比较时能不能成立呢?

二.浮点数的比较

jquery 浮点型比较大小 浮点类型比较大小_c++_03

jquery 浮点型比较大小 浮点类型比较大小_c++_04

从结果可以看出1.0-0.9不等于0.1,跟我们的常理不符,这是因为发生了精度的丢失。

我们得出结论,浮点数相比较时决对不能用==直接比较

那么我们该怎样比较浮点数呢?

1.方法一

jquery 浮点型比较大小 浮点类型比较大小_jquery 浮点型比较大小_05

设定一个范围,只要两浮点数相减的值在一个范围内,那么就可以判断这两浮点数相等

jquery 浮点型比较大小 浮点类型比较大小_浮点数_06


jquery 浮点型比较大小 浮点类型比较大小_浮点数_07

jquery 浮点型比较大小 浮点类型比较大小_浮点数_08

这里我们自定义了一个精度EPS,只要误差在EPS内,那么判断就成立

其实可以看出这样的判断很麻烦,那么我们是否能直接取绝对值,如果我们判断x-0.9是否等于0.1,这样只需要|x-0.9-0.1|<EPS就可以了,接下来介绍一个函数fabs

2.方法二

jquery 浮点型比较大小 浮点类型比较大小_浮点数_09

jquery 浮点型比较大小 浮点类型比较大小_浮点数_10

这个函数就是专门用来取浮点数的绝对值,它的返回值就是这个浮点数的绝对值

jquery 浮点型比较大小 浮点类型比较大小_算法_11

jquery 浮点型比较大小 浮点类型比较大小_数据结构_12

这样看起来是不是就简洁许多了啦

3.方法三:系统方案

像上文中的EPS,是我们自己设定的精度,其实系统自己有一个精度DBL_EPSILON

jquery 浮点型比较大小 浮点类型比较大小_浮点数_13

从定义中可以看到,这个精度很小,是一个最小精度,也是系统给出的精度可以直接使用。在使用时别忘了加上头文件float.h哟

jquery 浮点型比较大小 浮点类型比较大小_算法_14

结论:如果以后判断两个浮点数相等的话,只需要它们两个数相减的值的绝对值小于DBL_EPSILON就可以啦

插入一个小知识,如果要比较浮点数和0的大小