码迷,mamicode.com
首页 > 编程语言 > 详细

关于C++变量类型精度的研究

时间:2020-02-13 14:42:42      阅读:63      评论:0      收藏:0      [点我收藏+]

标签:测试   输出   研究   col   精度   不同的   变量   round   span   

今天在练习的时候,忽然发现了一个神奇的“bug”,就是C++在进行数据精度处理的时候会有不同的结果,下面便是我做的两个小测试。

NO1.

技术图片

如图,在同时使用int类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.000000

NO.2

技术图片

如图,在同时使用double类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.500000

--------------分割线---------------

真的是很神奇,暂时还未找到原因,待解决后补充原因。

关于C++变量类型精度的研究

标签:测试   输出   研究   col   精度   不同的   变量   round   span   

原文地址:https://www.cnblogs.com/alixx/p/12303420.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!