码迷,mamicode.com
首页 > 其他好文 > 详细

【转载】VB6里面,double精度都不够用怎么办?

时间:2016-04-21 10:09:24      阅读:546      评论:0      收藏:0      [点我收藏+]

标签:

double类型的精度确实是可定义类型中最高的,但有效数字为15或16位
另一种Decimal 数据类型有效位可达到28或29位,但不含指数位
应该可以这样理解:
Decimal精度更高但示数范围小;double反之
而且Decimal 数据类型只能在 Variant中使用,也就是说,不能声明一变量为 Decimal 的类型
上面有高手给了你利用Decimal 数据类型解决例题的办法。
另外如果需要,还可以自己定义变量或数组来记录超大数,有效位和示数范围上不封顶,不过进位借位等等操作只有自己解决了

Dim y As Variant
Dim q As Variant
Dim n As Integer

q = 1E+20
n = 17

y = CDec(CDec(q) - Fix(CDec(q) / n) * n)
Print y

【转载】VB6里面,double精度都不够用怎么办?

标签:

原文地址:http://www.cnblogs.com/argent/p/5415612.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!