码迷,mamicode.com
首页 > 其他好文 > 详细

Division is undefined错误

时间:2019-02-19 10:18:11      阅读:342      评论:0      收藏:0      [点我收藏+]

标签:不同的   tab   ==   mina   ide   ansi   指定   四舍五入   exp   

1. 此错误仅在使用BigDecimal做除法时,且0/0的情况下才会提示。

x/0时,仅提示Division by zero。

2. BigDecimal判断一个值是否为0时,不能使用equals,因为equals会比较值的大小和精度的大小,即0.00 和 0.000是不同的。

需要使用 x.compareTo(BigDecimal.ZERO) == 0 来判断。

3. 且使用divide做除法时,标准的形式为 x.divide(y, scale,rm)

如果不指明scale的值,会默认使用 x.scale - y.scale的值替代,如果此时值为负数,则会报错 Division undefined。

且不指定scale 和 rm四舍五入方式,如果遇到 1/3 这种除不尽的情况,会报如下错误:

Non-terminating decimal expansion; no exact representable decimal result. 

Division is undefined错误

标签:不同的   tab   ==   mina   ide   ansi   指定   四舍五入   exp   

原文地址:https://www.cnblogs.com/AI-U/p/10399377.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!