码迷,mamicode.com
首页 > Web开发 > 详细

js小数计算引起的精度误差问题

时间:2019-11-01 15:56:03      阅读:102      评论:0      收藏:0      [点我收藏+]

标签:exp   string   pow   try   控制   cti   turn   +=   let   

我记得刚开始学js的时候学到浮点有举例0.1+0.2 它的计算结果是:

0.1+0.2
0.30000000000000004

很神奇的一个计算,js是弱语言,在精度上没做处理;

我就自己定义了加减乘除:

加:

export const accAdd = (arg1, arg2) => {
  let r1, r2, m;
  try {
    r1 = arg1.toString().split(‘.‘)[1].length;
  } catch (e) {
    r1 = 0;
  }
  try {
    r2 = arg2.toString().split(‘.‘)[1].length;
  } catch (e) {
    r2 = 0;
  }
  m = Math.pow(10, Math.max(r1, r2));
  return (arg1 * m + arg2 * m) / m;
};
 
export function accSub(arg1, arg2) {
  let r1, r2, m, n;
  try {
    r1 = arg1.toString().split(‘.‘)[1].length;
  } catch (e) {
    r1 = 0;
  }
  try {
    r2 = arg2.toString().split(‘.‘)[1].length;
  } catch (e) {
    r2 = 0;
  }
  m = Math.pow(10, Math.max(r1, r2));
  //动态控制精度长度
  n = r1 >= r2 ? r1 : r2;
  return ((arg1 * m - arg2 * m) / m).toFixed(2);
}
 
export const accMul = (arg1, arg2) => {
  let m = 0,
    s1 = arg1.toString(),
    s2 = arg2.toString();
  try {
    m += s1.split(‘.‘)[1].length;
  } catch (e) {}
  try {
    m += s2.split(‘.‘)[1].length;
  } catch (e) {}
  return (
    (Number(s1.replace(‘.‘, ‘‘)) * Number(s2.replace(‘.‘, ‘‘))) /
    Math.pow(10, m)
  );
};
 
export function accDiv(arg1, arg2) {
  let t1 = 0,
    t2 = 0,
    r1,
    r2;
  try {
    t1 = arg1.toString().split(‘.‘)[1].length;
  } catch (e) {}
  try {
    t2 = arg2.toString().split(‘.‘)[1].length;
  } catch (e) {}
  r1 = Number(arg1.toString().replace(‘.‘, ‘‘));
  r2 = Number(arg2.toString().replace(‘.‘, ‘‘));
  return (r1 / r2) * Math.pow(10, t2 - t1);
}
 
这和网上搜出来的
(num1* 100 + num2* 100) / 100
去控制两位小数相加基础上去写;
 
每天都在打代码中学习
 

js小数计算引起的精度误差问题

标签:exp   string   pow   try   控制   cti   turn   +=   let   

原文地址:https://www.cnblogs.com/wangxiaoer5200/p/11777262.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!