码迷,mamicode.com
首页 > Web开发 > 详细

JS中小数保留的问题(处理循环浮点数的方法)

时间:2021-03-31 12:06:43      阅读:0      评论:0      收藏:0      [点我收藏+]

标签:计算   解决   因此   计算机   运算   方法   浮点   小数   number   

首先,我们知道计算机是做二进制运算的,因此我们将十进制的数转化成二进制,最后二进制运算完再转化成十进制是有精度丢失的。

例如

  - 0.1 + 0.7 = 0.799999999999999

解决方法:

主动保留n为小数,得到数据类型是字符

        - ` num = num.toFixed(n); 

    - 转成数值

        - ` num = Number(num); 

因此我建议num=Number(num.toFixed(n));

JS中小数保留的问题(处理循环浮点数的方法)

标签:计算   解决   因此   计算机   运算   方法   浮点   小数   number   

原文地址:https://www.cnblogs.com/jyj666/p/14597262.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!