码迷,mamicode.com
首页 > 编程语言 > 详细

java中double的精度去哪了[转]

时间:2017-07-29 14:03:44      阅读:184      评论:0      收藏:0      [点我收藏+]

标签:保留   target   tar   十进制   alt   数位   div   二进制   精简   

 我们知道,浮点数值采用二进制系统表示,二进制系统无法精确表示1/10,就好像十进制无法精确表示1/3 。
技术分享 
 
所以,我们采用四舍五入/保留小数位方式以获得精简数值。
技术分享

 

那么,问题来了:

 技术分享
 为嘛2.0-1.9会得到17位小数的数值 (一般都是16位)

『解答』http://www.cnblogs.com/shown/p/6305880.html

 

java中double的精度去哪了[转]

标签:保留   target   tar   十进制   alt   数位   div   二进制   精简   

原文地址:http://www.cnblogs.com/oyzpblog/p/7255570.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!