码迷,mamicode.com
首页 > 其他好文 > 详细

浮点数大于0

时间:2017-09-30 17:51:20      阅读:153      评论:0      收藏:0      [点我收藏+]

标签:studio   误差   ros   class   soft   浮点   ram   判断   files   

请看这里面的定义
C:\Program Files\Microsoft Visual Studio 8\VC\crt\src\float.h
float,double分别遵循R32-24,R64-53的标准,他们的位数分别是23,52;即误差在2^-23,2^-52;所以float的精度误差在1e-6;double精度误差在1e-15 
所以要判断一个单精度浮点数:则是if( abs(f) <= 1e-6);
要判断一个双精度浮点数:则是if( abs(f) <= 1e-15 );

 

浮点数大于0

标签:studio   误差   ros   class   soft   浮点   ram   判断   files   

原文地址:http://www.cnblogs.com/profession/p/7615473.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!