.net 带小数减法得到的结果出错，小数位溢出很多。

标签：

• 现象：64 - 98.01的正确结果为34.01，但在.net中运算的结果是34.010000000000005

　　　　?64 - 98.01
　　　　-34.010000000000005
　　　　?64.0 - 98.01
　　　　-34.010000000000005

• 原因：98.01的类型是DOUBLE，浮点数的存储方式和其它不一样，它使用基数和指数两部分存储，因此计算时会出现误差

• 解决：运算时把Double类型转换成Decimal类型

　　　　?CDec(64)-CDec(98.01)
　　　　-34.01D

　　　　?64d - 98.01d
　　　　-34.01D

.net 带小数减法得到的结果出错，小数位溢出很多。

标签：

原文地址：http://www.cnblogs.com/whitecf/p/4303096.html