码迷,mamicode.com
首页 > 其他好文 > 详细

《程序员是怎样跑起来的》第三章

时间:2019-01-28 01:20:52      阅读:178      评论:0      收藏:0      [点我收藏+]

标签:转换   设备   数据类型   无法   nbsp   无限循环   表达式   形式   计算   

第三章是计算机进行小数运算时出错的原因。主要也是讲了这个原因,读完之后了解到这个原因,是因为有一些十进制数的小数无法转换成二进制数。就会出现错误。因为无法正确表示的数值,最后都变成了近似值。计算机这个功能有限的机器设备,是无法处理无限循环小数的,因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度,将数据从中间截断或者四舍五入。

 

此章又详细介绍了双精度浮点数(64位)和单精度浮点数(32位),又对此加深了理解。对于此前不知道的正则表达式,了解到按照特定的规则来表示数据的形式即为正则表达式。单精度浮点数尾数部分的正则表达式如何变化还没完全理解,文章中出现的EXCESS有些不太懂,在表示负数时不时用符号为位,又怎么样表示,自己还得多看几遍。

《程序员是怎样跑起来的》第三章

标签:转换   设备   数据类型   无法   nbsp   无限循环   表达式   形式   计算   

原文地址:https://www.cnblogs.com/T0327/p/10327905.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!