《程序是怎样跑起来的》第三章

标签：计算   表示   正则表达   四舍五入   ...   转换   运行   运算   浮点数   

第三章，讲的是二进制的小数运算机制，如何用二进制表示小数呢？通俗的说:一个小数乘以2结果小于1就为0基数不变，若大于1为1，基数=基数-1。

例：0.6，0.6*2=1.2>1 为1  基数=1.2-1=0.2,0.2*2=0.4<1  为0  基数=0，0.4*0.8<1 为0  基数=0,0.8*2=1.6>1  为1  基数=1.6-1=0.6....所以0.6二进制：1001。计算机在进行小数运算时，有一些数无法转换成二进制数，例如：1/3结果是循环小数，而计算机是功能有限的设备，处理不了无限循环小数。会取近似值或四舍五入。

前三个小章结，讲述了二进制如何表示小数、计算机在程序运行后得不到正确的结果及计算机出错的原因是由于采用浮点数处理小数，期间提到了正则表达式和EXCESS系统以及如何避免出错。在最后补充了二进制和十六进制的转换。

《程序是怎样跑起来的》第三章

标签：计算   表示   正则表达   四舍五入   ...   转换   运行   运算   浮点数   

原文地址：https://www.cnblogs.com/liu7/p/10313239.html