单精度浮点数（float）加法计算出错

标签：结果   ges   解决方法   ble   alt   加法   次方   符号位   丢失   

场景：

　　一个float型的变量赋值1170601，加上19000000，结果出现错误。

原因：

　　float占用4个字节（32位）存储空间，包括符号位1位，阶码位8位，尾数23位。浮点数精度与它的尾数有关。

　　尾数为二进制小数1.m，m为23位的小数。所以浮点数的精度为24位二进制有效位数。2的24次方为16777216。

　　19000000 > 16777216，做加法计算之后丢失精度出错。

解决方法：

　　将float用double替换，double占用8个字节（64位）存储空间，包括符号位1位，阶码位11位，尾数52位。

单精度浮点数（float）加法计算出错

标签：结果   ges   解决方法   ble   alt   加法   次方   符号位   丢失   

原文地址：http://www.cnblogs.com/SZxiaochun/p/6928840.html