问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么?

java Float丢失精度转int long转double丢失精度_java


实线代表合法转换即无信息丢失的转换,虚线表示转换可能存在精度丢失问题。

在进行两个数值的运算时

如果两个操作数中有一个是double类型的,另外一个自动转换为double类型。
如果其中一个操作数是float类型的,另外一个操作数也将自动转换为float类型。
如果其中一个操作数是long类型的,另外一个操作数也将自动转换为long类型。
否则,两个操作数都会被转换为int类型。
所以在对两个不同类型操作数进行运算时,就可能存在精度丢失的问题。

例如:当一个int型数值和一个float型数值进行运算时,int型操作数将会自动转换为float型操作数。那么int型数值是如何转换为float型数值的?首先要了解他们是如何存储在计算机中的。整型在计算机中以第一位表示符号,剩余尾数表示数值的一串二级制数字来表示,而浮点型无论单精度还是双精度都有相同的存储方式:

符号位
指数位
尾数位

其中符号位表示浮点数的正负,指数位表示其的阶位,以移位的形势表现,尾数为表示其数值。其中float 1位符号位,8位指数位,23位尾数位。double 1位符号位,11位指数位,52位尾数位。
所以当一个int 类型的数值转换为float类型是,int型数值的32位拆分为 1位符号位,8位指数位,23位尾数位,改变了原本的表示方式,故产生了精度丢失。
其他的转换类似,当位数不够时通过补0来凑够位数。
java中double和float精度丢失问题
float和double类型尤其不适合用于货币运算,因为要让一个float或double精确的表示0.1或者10的任何其他负数次方值是不可能的(其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10)。
为什么会出现精度丢失,以及如何解决?
点击这里找到答案