码迷,mamicode.com
首页 > 编程语言 > 详细

有关java中的问题解答

时间:2016-10-07 11:31:28      阅读:155      评论:0      收藏:0      [点我收藏+]

标签:

1.为什莫double类型的数值运算得不到“数学上精确”的结果?

答:这个涉及到二进制与十进制的转换问题。

       N进制可以理解为:数值×基数的幂,例如我们熟悉的十进制数123.4=1×10²+2×10+3×(10的0次幂)+4×(10的-1次幂);其它进制的也是同理,例如二进制数11.01=1×2+1×(2的0次幂)+0+1×(2的-2次幂)=十进制的3.25。
double类型的数值占用64bit,即64个二进制数,除去最高位表示正负符号的位,在最低位上一定会与实际数据存在误差(除非实际数据恰好是2的n次方)。

举个例子来说,比如要用4bit来表示小数3.26,从高到低位依次对应2的1,0,-1,-2次幂,根据最上面的分析,应当在二进制数11.01(对应十进制的3.25)和11.10(对应十进制的3.5)之间选择。
简单来说就是我们给出的数值,在大多数情况下需要比64bit更多的位数才能准确表示出来(甚至是需要无穷多位),而double类型的数值只有64bit, 后面舍去的位数一定会带来误差,无法得到“数学上精确”的结果。
 2.关于java中每个数据类型所占的位数和表示的数值范围问题

有关java中的问题解答

标签:

原文地址:http://www.cnblogs.com/yirenzui/p/5935443.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!