码迷,mamicode.com
首页 > 编程语言 > 详细

java中如何使用BigDecimal使得Double类型保留两位有效数字

时间:2016-08-26 12:06:05      阅读:388      评论:0      收藏:0      [点我收藏+]

标签:

一、场景:从数据表中读出Decimal类型的数据直接塞给Double类型的对象时,并不会有什么异常。

如果要再此基础上计算,就会发生异常。

比如:读出数据为0.0092,将其乘以100,则变成了0.919999999999999...

二、原因:

java mysql 数据类型对照如下:

类型名称 显示长度 数据库类型 JAVA类型 JDBC类型索引(int) 描述
           
VARCHAR L+N VARCHAR java.lang.String 12  
CHAR N CHAR java.lang.String 1  
BLOB L+N BLOB java.lang.byte[] -4  
TEXT 65535 VARCHAR java.lang.String -1  
           
INTEGER 4 INTEGER UNSIGNED java.lang.Long 4  
TINYINT 3 TINYINT UNSIGNED java.lang.Integer -6  
SMALLINT 5 SMALLINT UNSIGNED java.lang.Integer 5  
MEDIUMINT 8 MEDIUMINT UNSIGNED java.lang.Integer 4  
BIT 1 BIT java.lang.Boolean -7  
BIGINT 20 BIGINT UNSIGNED java.math.BigInteger -5  
FLOAT 4+8 FLOAT java.lang.Float 7  
DOUBLE 22 DOUBLE java.lang.Double 8  
DECIMAL 11 DECIMAL java.math.BigDecimal 3  
BOOLEAN 1 同TINYINT      
           
ID 11 PK (INTEGER UNSIGNED) java.lang.Long 4  
           
DATE 10 DATE java.sql.Date 91  
TIME 8 TIME java.sql.Time 92  
DATETIME 19 DATETIME java.sql.Timestamp 93  
TIMESTAMP 19 TIMESTAMP java.sql.Timestamp 93  
YEAR 4 YEAR java.sql.Date 91






 

三、解决方案:

1、将double类型重新变成BigDecimal类型,最后的结果还要获取有效位数

double d = 111231.5585;   

BigDecimal b = new BigDecimal(f);  

double df = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue(); 

2、因为数据表里的类型是Decimal,所以讲java对象中对应的成员变量的类型改成BigDecimal即可。

 

四、BigDecimal简介

在mysql中,对于精度比较高的数据存储,比如money,需要用decimal类型,而不会采用float或double类型,原因在于后者数据误差较大。

decimal列的声明语法是decimal(m,d)。

在mysql 5.1中,参数的取值范围: 

1、M是数字的最大数(精度)。其范围为1~65(在较旧的MySQL版本中,允许的范围是1~254)。 

2、D是小数点右侧数字的数目(标度)。其范围是0~30,但不得超过M。 
说明:float占4个字节,double占8个字节,decimail(M,D)占M+2个字节。 
如DECIMAL(5, 2) 的最大值为9 9 9 9 . 9 9,因为有7 个字节可用。 
 
注: 
M 与D 对DECIMAL(M, D) 取值范围的影响 
 

类型说明 取值范围(MySQL < 3.23) 取值范围(MySQL >= 3.23) 
DECIMAL(4, 1) -9.9 到 99.9 -999.9 到 9999.9 
DECIMAL(5, 1) -99.9 到 999.9 -9999.9 到 99999.9 
DECIMAL(6, 1) -999.9 到 9999.9 -99999.9 到 999999.9 
DECIMAL(6, 2) -99.99 到 999.99 -9999.99 到 99999.99 
DECIMAL(6, 3) -9.999 到 99.999 -999.999 到 9999.999
 

 
# 在mysql 3.23 及以后的版本中,decimal(m, d) 的取值范围等于早期版本中的decimal(m + 2, d) 的取值范围。 
 
另外一种数据类型:
LongBlob,这种数据类型可以直接把图像文件存到数据表中! 
 
在研究mysql的decimal数据类型,现把数据实验结果公布: 
数据库版本:Server version: 5.0.45 Source distribution 
 
1、创建表结构 
 

create table ta (a float,b decimal(10,5));
 

2、插入数据 
 

insert into ta (a,b) values(1,12345.123423);
 

实际插入的b列数据为:12345.12342 
 

insert into ta (a,b) values(1,123456.1234);

实际插入的b列数据为:99999.99999

结论:decimal数据类型, 
1、当插入的整数部分的值超过了其表示范围后就直接忽略了小数部分的值,并以最大值填充。 
2、当整数部分合法,小数部分多余的位数,直接截断。

 

java中如何使用BigDecimal使得Double类型保留两位有效数字

标签:

原文地址:http://www.cnblogs.com/jiangxiaoyaoblog/p/5809636.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!