Inter IPP 跟 Microsoft V100编译器区别

时间：2014-10-24 18:05:46 阅读：133 评论：0 收藏：0 [点我收藏+]

最近做项目用了两个编译器，由于是一种精度的算法计算，对计算的精度要求非常高，同时都用的float型，发现inter的结果比vs的结果好许多。但是不知道是什么原因，最后测试发现，是两个编译器的问题。

测试后发现：float型在v100编译器中，第6位是有效的，6位以后似乎是随机的，不是那么准确了，但是inter处理器中，float型也是按照double来计算的，所以最后结果好上许多。

强烈mark一下，作为经验，以后做计算的时候可以记住这个BUG的存在。

原文地址：http://www.cnblogs.com/Dr-XLJ/p/4048642.html

踩

(0)

评论一句话评论（0）

分享档案

更多>

周排行