码迷,mamicode.com
首页 > 数据库 > 详细

SQL反模式学习笔记10 取整错误

时间:2014-10-13 19:04:01      阅读:222      评论:0      收藏:0      [点我收藏+]

标签:style   使用   strong   sp   数据   2014   on   bs   size   

2014-10-13 16:44:28 

目标:使用小数取代整数

 

反模式:使用Float类型

          根据IEEE754标识,float类型使用二进制格式编码实数数据。

          缺点:(1)舍入的必要性: 并不是所有的十进制中描述的信息都能使用二进制存储,处于一些必要的因素,

                        浮点数通常是舍入到了一个非常接近的值。

                     举例:select rate from A where id=123   --Result:59.95

                             select * from A where rate=59.95 --Result:empty set;no rows match.

                             select * from A where ABS(rate-59.95)<0.000001   --这个才能正确查出数据!

                       (2)将浮点数视作“近似相等”

 

如何识别反模式:任何使用Float、Real或者Double Percent类型的设计都有可能是反模式

 

合理使用反模式:如果要存储的值取值范围很大,大于integer、numeric的范围,那只能用float了。科学计算类的程序通常使用float。

 

解决方案:使用numeric、decimal类型

                使用numeric、decimal代替float,他们不会对存储的有理数进行舍入,因此select * from A where rate=59.95会返回记录。

          注意:numeric、decimal在sqlserver乃至sybase中,是完全一样的。

 

结论:尽可能不要使用浮点数

SQL反模式学习笔记10 取整错误

标签:style   使用   strong   sp   数据   2014   on   bs   size   

原文地址:http://www.cnblogs.com/SavionZhang/p/4022584.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!