码迷,mamicode.com
首页 > Web开发 > 详细

JS浮点数的研究

时间:2020-01-30 20:49:36      阅读:72      评论:0      收藏:0      [点我收藏+]

标签:差值   highlight   tofixed   ons   研究   运算   code   fun   浮点数   

为什么0.1 + 0.2 得到的是 0.30000000000000004

console.log( 0.1 + 0.2 == 0.3);
//false

在js中所有的整数和小数都是以Number形式储存在字节bit中,而javaScipt中Number采用的是64位的双精度浮点型.

而0.1和0.2转为二进制时:

//0.1转为二进制
0.1 =0.0 0011 0011 0011 0011...(0011无限循环)
//0.2转为二进制
0.0011 0011 0011 0011 0011...(0011无限循环)
//转为二进制时,0.1和0.2的数字实际上是无限循环的.

在加法计算时,Number实际上是以零后52位进行运算,有误差值.

var d = 0.1 + 0.2;
console.log(d.toString(2));
console.log(d);
//0.0100110011001100110011001100110011001100110011001101(默认54位)
//0.30000000000000004

 

解决方法

toFixed方法来固定保留小数位,固定保留小数位。

 

 

JS浮点数的研究

标签:差值   highlight   tofixed   ons   研究   运算   code   fun   浮点数   

原文地址:https://www.cnblogs.com/zenggaozheng/p/12243463.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!