码迷,mamicode.com
首页 > 其他好文 > 详细

计算机进行小数运算时出错的原因和避免方法

时间:2019-04-07 12:44:54      阅读:183      评论:0      收藏:0      [点我收藏+]

标签:输出   十进制   bsp   程序   进制   因此   问题   运算错误   形式   

计算机进行小数运算时出错的原因:

 是因为有一些十进制的小数无法转换成二进制数。

如何地避免小数运算错误:

1.回避策略,即无视这些错误。根据程序目的不同,有时一些微笑的偏差并不会造成什么问题

2.就是把小数转换成整数来计算。计算机计算小数时可能会出错,但进行整数计算时一定不会出现问题。因此我们可以将小数暂时转换成整数在输出的时候再以小数的形式来输出

 

计算机进行小数运算时出错的原因和避免方法

标签:输出   十进制   bsp   程序   进制   因此   问题   运算错误   形式   

原文地址:https://www.cnblogs.com/hyy123-/p/10664879.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!