码迷,mamicode.com
首页 > 其他好文 > 详细

var 0.2+0.1!=0.3

时间:2018-05-25 21:17:27      阅读:142      评论:0      收藏:0      [点我收藏+]

标签:nbsp   就是   进制   误差   0.00   十进制   二进制   次方   ===   

0.2 + 0.1 = 0.30000000000000004

二进制转十进制: 0101

  位数:4<--1--0--负1---<

1x2的位数次方=1x1

0x2的位数次方=0x2

1x2的位数次方=1x4

0x2的位数次方=0x8

 

十进制:5

======================

二进制        十进制

0.00000====0

0.00001====0.0625

0.00002====0.125

0.00003====0.1857

 

也就是十进制0.1二进制表示有误差。。。。

 

var 0.2+0.1!=0.3

标签:nbsp   就是   进制   误差   0.00   十进制   二进制   次方   ===   

原文地址:https://www.cnblogs.com/yancongyang/p/9090266.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!