《代码大全》读书笔记：浮点误差

标签：

    0.1用单精度浮点数存储后，还是0.1吗？双精度呢？答案都是否定的！因为十进制的0.1转换成二进制的小数，将是一个无限循环小数。

    《代码大全》在这个小节给了一个代码示例：10个单精度浮点类型0.1相加和整型的1相比。

    代码如下：

public class MyTest {
	public static void main(String[] args) {
		float increment = 0.1f;
		float expected = 1;
		float sum = 0;
		for (int i = 0; i < 10; i++) {
			sum += increment;
			System.out.println(sum);
		}

		if (expected == sum) {
			System.out.println("equal");
		} else {
			System.out.println("not equal ");
		}
	}
}

0.1
0.2
0.3
0.4
0.5
0.6
0.70000005
0.8000001
0.9000001
1.0000001
not equal 

Process finished with exit code 0

    从运行结果可以看出来，加到第7次的时候，就已经不再是0.7了，而加到第10次的时候，更是产生了1*10^(-7)的误差。为什么会产生这样的误差？原因归结于float类型在计算机内部的存储方式。

    图片摘自网上。学过《计算机组成原理》的同学都知道，32位的浮点数由3部分组成：1比特的符号位，8比特的阶码（exponent,指数），23比特的尾数。这个结构会表示成一个小数点左边为1，以底数为2的科学计数法表示的二进制小数。尾数部分不表示1，也就是说这个二进制的小数的精度是24位。

    那么一个十进制小数如何表示成一个二进制小数呢？用0.1不断乘以2，直到小数部分全部进位到整数部分。很遗憾，0.1的命不好，乘以无限个2都不能投胎成整数。但是单精度的浮点数只有24位的精度，截断之后，误差也就产生了。

    可以延伸一下，凡是不以5结尾的小数，都无法转换成位数有限的二进制小数。即便以5结尾的小数，如果这个小数不是2的负整数次幂，也是枉然，必然产生浮点误差。

    再做一次延伸，A进制下的有限小数，B进制下就可能是无限小数。

    深入思考这个问题之后，才发现，本科让学的硬件课程并非鸡肋，学过的课程和读过的书总是在潜移默化的帮助你写出更高质量的代码。

《代码大全》读书笔记：浮点误差

标签：

原文地址：http://blog.csdn.net/bruce128/article/details/45098321