码迷,mamicode.com
首页 > 其他好文 > 详细

3-2.6==0.4

时间:2018-10-15 12:05:23      阅读:173      评论:0      收藏:0      [点我收藏+]

标签:不可   应该   自带   big   结果   怎么办   问题   ima   怎么   

这里考察的就是浮点数计算会出现精度缺失的问题

  在浮点数计算里面,其实,3-2.6=0.399999999999999,

  那这个时候应该怎么办呢?

  我知道两个办法

  1,使用java自带的BigDecimal,这个是不可变的,任意精度的整数,这个能够使结果精确

  2,将浮点数乘以倍数之后变成整数计算,最后再除

3-2.6==0.4

标签:不可   应该   自带   big   结果   怎么办   问题   ima   怎么   

原文地址:https://www.cnblogs.com/shiwanming/p/9789306.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!