标签:测试 输出 研究 col 精度 不同的 变量 round span
今天在练习的时候,忽然发现了一个神奇的“bug”,就是C++在进行数据精度处理的时候会有不同的结果,下面便是我做的两个小测试。
NO1.
如图,在同时使用int类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.000000。
NO.2
如图,在同时使用double类型的数据进行除法操作后,令其结果输出为float类型,并保留小数点后6位,得到的结果为0.500000。
--------------分割线---------------
真的是很神奇,暂时还未找到原因,待解决后补充原因。
标签:测试 输出 研究 col 精度 不同的 变量 round span
原文地址:https://www.cnblogs.com/alixx/p/12303420.html