标签:运算 浮点 string nbsp ons 需要 表达 div 进制
0.1+0.2不等于0.3?是不是有点颠覆你的认知,但是,在js中,是真实存在的!
console.log(0.1+0.2); // 0.30000000000000004
其实这都是因为浮点数运算的精度问题。
简单来说,因为计算机只认识二进制,在进行运算时,需要将其他进制的数值转换成二进制,然后再进行计算。
由于浮点数用二进制表达时是无穷的:
// 将0.1转换成二进制 console.log(0.1.toString(2)); // 0.0001100110011001100110011001100110011001100110011001101 // 将0.2转换成二进制
console.log(0.2.toString(2)); // 0.001100110011001100110011001100110011001100110011001101
所以两者相加后,因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 0.30000000000000004,
所以在进行算术计算时会产生误差。
标签:运算 浮点 string nbsp ons 需要 表达 div 进制
原文地址:https://www.cnblogs.com/qiuxiaozhen/p/10505651.html