码迷,mamicode.com
首页 > 数据库 > 详细

DBL_EPSILON和 FLT_EPSILON的用法

时间:2014-08-20 12:07:02      阅读:317      评论:0      收藏:0      [点我收藏+]

标签:style   blog   http   color   ar   2014   art   div   

bubuko.com,布布扣

 

DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中:

 double a = 0.5;
    if (a == 0.5) { //正确
        x++;
    }
    
    double b = sin(M_PI / 6.0);
    if (b == 0.5) { //错误
        x++;
    }

第一个比较正确,第二个可能正确也可能错误,b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994

一种正确的比较方法应该是这样的:

 double b = sin(M_PI / 6.0);
    if (fabs(b - 0.5) < DBL_EPSILON) {
        x++;
    }

以上的例子可以看出,EPSILON是最小误差。 是EPSILON+X不等于X的最小的正数。

DBL_EPSILON和 FLT_EPSILON的用法,布布扣,bubuko.com

DBL_EPSILON和 FLT_EPSILON的用法

标签:style   blog   http   color   ar   2014   art   div   

原文地址:http://www.cnblogs.com/xiaochaozi/p/3924044.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!