码迷,mamicode.com
首页 > 其他好文 > 详细

《程序是怎样跑起来的》第三章有感

时间:2019-01-28 00:57:46      阅读:152      评论:0      收藏:0      [点我收藏+]

标签:十六进制   c语言   结果   表示   学习   方法   避免   二进制   运算   

    原来计算机将0.1累加100次得不到10。万能的计算机在进行小数运算时也会出错。

    在前面的学习中了解到计算机是用二进制表示的,而有一些十进制的小数无法转换成二进制数。例如0.1就无法用二进制数正确表示。因为无法正确表示的数值最后都变成了近似值计算机无法精确处理结果也就出错了。用浮点数来处理小数是计算机出错的原因之一,可以采用两种方法避免计算机出错。一种是回避法,无视这些错误。另一种是把小数换成整数来计算。

    在C语言程序中在数值开头加上0x就可以表示十六进制数。二进制数的4位相当于十六进制数的1位。

    

《程序是怎样跑起来的》第三章有感

标签:十六进制   c语言   结果   表示   学习   方法   避免   二进制   运算   

原文地址:https://www.cnblogs.com/ytwxh/p/10327842.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!