浮点数舍入误差



关于double和float的精度问题

  在进行数值运算时，如果有float或者double类型的浮点数参与计算时，偶尔会出现结果不准确的情况。

  浮点数在计算机中是无法进行准确表示的，比如0.1在计算机中只是一个近似值，因此对浮点数运算结果具有不可预见性。如果两个浮点操作数的误差就能相互抵消，计算结果就能正确。

float : 单精度浮点数

double : 双精度浮点数

两者的主要区别如下：

　　01.在内存中占有的字节数不同

　　　　单精度浮点数在机内存占4个字节

　　　　双精度浮点数在机内存占8个字节

　　02.有效数字位数不同

　　　　单精度浮点数有效数字8位

　　　　双精度浮点数有效数字16位

　　03.数值取值范围

　　　　单精度浮点数的表示范围：-3.40E+38~3.40E+38

　　　　双精度浮点数的表示范围：-1.79E+308~-1.79E+308

　　04.在程序中处理速度不同

　　　　一般来说，CPU处理单精度浮点数的速度比处理双精度浮点数快

如果不声明，默认小数为double类型，所以如果要用float的话，必须进行强转

　　例如：float a=1.3; 会编译报错，正确的写法 float a = (float)1.3;或者float a = 1.3f;（f或F都可以不区分大小写）

注意：float是8位有效数字，第7位数字将会四舍五入

面试题：

　　1. java 中 3 * 0.1 == 0.3;将会返回什么？true还是false？

　　答：false, 因为浮点数不能完全精确的表示出来，一般会损失精度。

　　2. java 中 float f = 3.4; 是否正确？

　　 答：不正确，3.4是双精度数，将双精度型（double）赋值给浮点型（float）属于向下转型会造成 精度损失，因此需要强制类型转换float f = (float)3.4;或者写成 float f = 3.4f;才可以。

public static void main(String[] args) {

System.out.println(3 * 0.1);
System.out.println(3 * 0.1 == 0.3);
　　　　//float是8位有效数字，第7位数字将会四舍五入
float a = 1.32344435f;
System.out.println(a);
    }


浮点数舍入误差_单精度


作者：走马！