码迷,mamicode.com
首页 > 编程语言 > 详细

警惕C++中整数除法计算的精度损失

时间:2014-06-18 07:10:51      阅读:233      评论:0      收藏:0      [点我收藏+]

标签:style   color      问题   c++   rgb   

很偶然发现了一个精度损失的问题,简单来说:

有表达式: l = i/30 + j/40 + k/25, 求当{i,j,k} = {50,85,27}时l的值,很简单,用计算器马上可以算出答案为4.8717,但是编写了以下程序来实现:

int i = 50,j = 85, k = 27;

double l = i/30 + j/40 + k/25;

运行后,结果显示4.000000000!

 

     为什么?这是因为在C++中两个整数相处得到的结果还是整数,故除法都被四舍五入了再相加,就得到结果4.00000了。也许你会说,这种小儿科的问题我不会犯,当然情况是这样的时候很容易看出来,也比较容易避免,可是当i,j,k都是类的三个整数类型成员的时候,经常容易忘了他们是整数类型的,而写出上述表达式。所以,在写程序时,上述类型的式子要统一写成:

int i = 50,j = 85, k = 27;

double l = i/30.0 + j/40.0 + k/25.0;

     这样就不会出错了。

     呵呵,这是早就应该知道的问题了,到现在才发现,不过也为时不晚,fighting~ O(∩_∩)O~


警惕C++中整数除法计算的精度损失,布布扣,bubuko.com

警惕C++中整数除法计算的精度损失

标签:style   color      问题   c++   rgb   

原文地址:http://blog.csdn.net/ghevinn/article/details/31790817

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!