码迷,mamicode.com
首页 > 编程语言 > 详细

java中数值计算的问题

时间:2017-06-05 12:39:18      阅读:180      评论:0      收藏:0      [点我收藏+]

标签:情况   问题   float   浮点运算   数值计算   0.00   需要   ble   类型   

今天使用javatodo的时候发现了一个问题:1.0-0.9=0.09999999999999998 这究竟是怎么回事,询问了几个人以后才知道原来这不是javatodo的问题,而是java的问题。
float和double类型执行二进制浮点运算,所以它们的计算结果并不完全正确,所以在需要精确计算的场合不能使用它们。
那么对于这种情况使用哪种类型最合适呢?使用BigDecimal类型最为合适。
例如:BigDecimal reBigDecimal = new BigDecimal("1").subtract(new BigDecimal("0.9909090909090"));
System.out.print(reBigDecimal);
输出结果:0.0090909090910

java中数值计算的问题

标签:情况   问题   float   浮点运算   数值计算   0.00   需要   ble   类型   

原文地址:http://www.cnblogs.com/cplusplus-study/p/6944129.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!