标签:studio 误差 ros class soft 浮点 ram 判断 files
请看这里面的定义 C:\Program Files\Microsoft Visual Studio 8\VC\crt\src\float.h float,double分别遵循R32-24,R64-53的标准,他们的位数分别是23,52;即误差在2^-23,2^-52;所以float的精度误差在1e-6;double精度误差在1e-15 所以要判断一个单精度浮点数:则是if( abs(f) <= 1e-6); 要判断一个双精度浮点数:则是if( abs(f) <= 1e-15 );
标签:studio 误差 ros class soft 浮点 ram 判断 files
原文地址:http://www.cnblogs.com/profession/p/7615473.html