码迷,mamicode.com
首页 > 其他好文 > 详细

经典的精度丢失问题

时间:2019-04-02 11:04:31      阅读:182      评论:0      收藏:0      [点我收藏+]

标签:单位   也有   ring   test   rac   示例   总结   类型   code   

Java中的类型float、double用来做计算会有精度丢失问题,下面来看下面的示例。

  1. public static void main(String[] args) {

  2.    test1();

  3.    test2();

  4. }

  5.  

  6. private static void test1() {

  7.    double totalAmount = 0.09;

  8.    double feeAmount = 0.02;

  9.    double tradeAmount = totalAmount - feeAmount;

  10.    System.out.println(tradeAmount);

  11. }

上面的程序输出结果是多少?

0.07?非也!

正确的结果是:

  1. 0.06999999999999999

为什么是这样?

浮点数可能丢失精度,浮点十进制数通常没有完全相同的二进制的表示形式,这是CPU所采用的浮点数据表示形式的副作用。为此,可能会有一些精度丢失,并且一些浮点运算可能会产生未知的结果。

浮点运算很少是精确的,只要是超过精度能表示的范围就会产生误差。所以,在使用float、double作精确运算的时候一定要特别小心,除非能容忍精度丢失,不然产生的误差也是会造成双方对账不一致的结果。

怎么解决

在《Effective Java》这本书中也提到这个原则,float和double只能用来做科学计算或者是工程计算,在商业计算中我们要用 java.math.BigDecimal。

BigDecimal适合更精度的运算,也提供了丰富的操作符类型,小数位控制,四舍五入规则等。

不过,使用BigDecimal不当也有精度丢失的情况,如double的构造方法:

  1. BigDecimal(double val)

再来看这个示例:

  1. private static void test2() {

  2.    double totalAmount = 0.09;

  3.    double feeAmount = 0.02;

  4.    BigDecimal tradeAmount = new BigDecimal(totalAmount).subtract(new BigDecimal(feeAmount));

  5.    System.out.println(tradeAmount);

  6. }

输出:

  1. 0.0699999999999999962529972918900966760702431201934814453125

这个精度就更恐怖了。。

所以,一定要使用String的构造方法:

  1. BigDecimal(String val)

  1. private static void test3() {

  2.    double totalAmount = 0.09;

  3.    double feeAmount = 0.02;

  4.    BigDecimal tradeAmount = new BigDecimal(String.valueOf(totalAmount))

  5.            .subtract(new BigDecimal(String.valueOf(feeAmount)));

  6.    System.out.println(tradeAmount);

  7. }

总结

  • 金额运算尽量使用BigDecimal(String val)进行运算。

  • 数据库存储金额,一般有整型和浮点型两种存储方式。如果是有汇率转换的,建议使用浮点数decimal进行存储,可以灵活的控制精度,decimal直接对应java类型BigDecimal。当然,用整数存储分这种形式也可以,转账的时候单位为元而如果忘了转换分为元,那就悲剧了。

经典的精度丢失问题

标签:单位   也有   ring   test   rac   示例   总结   类型   code   

原文地址:https://www.cnblogs.com/chinaifae/p/10640890.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!