标签：nan function 产生 bcs 小数 避免 一个 enum 乘法
最近做一个支付的项目需要做个计算器，所以发现了一个问题。
比如：
0.03/0.00003=999.9999999999999
0.0003*0.3=0.000029999999999999997
0.1+0.2=0.30000000000000004
等...
浮点数值的最高进度是17位小数，但在进行运算的时候其精确度却远远不如整数；整数在进行运算的时候都会转成10进制； 而Java和JavaScript中计算小数运算时，都会先将十进制的小数换算到对应的二进制，一部分小数并不能完整的换算为二进制，这里就出现了第一次的误差。待小数都换算为二进制后，再进行二进制间的运算，得到二进制结果。然后再将二进制结果换算为十进制，这里通常会出现第二次的误差。
所以(0.1+0.2)!=03
直接贴上个方法：
function toDecimal2(x,ss) {
var f = parseFloat(x);
if (isNaN(f)) {
return false;
}
var f = Math.round(x*100)/100;
var s = f.toString();
var rs = s.indexOf(‘.‘);
if (rs < 0) {
rs = s.length;
s += ‘.‘;
}
while (s.length <= rs + ss) {
s += ‘0‘;
}
return s;
}
function bcFixed(num, s) {
var times = Math.pow(10, s)
var des = num * times + 0.5
des = parseInt(des, 10) / times
return toDecimal2(des,s)+‘‘;
}
/**
* 加法运算，避免数据相加小数点后产生多位数和计算精度损失。
*
* @param num1加数1 | num2加数2
*/
function bcadd(num1, num2,s) {
var baseNum, baseNum1, baseNum2,ret;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
ret=(num1 * baseNum + num2 * baseNum) / baseNum;
return bcFixed(ret,s);
};
/**
* 加法运算，避免数据相减小数点后产生多位数和计算精度损失。
*
* @param num1被减数 | num2减数
*/
function bcsub(num1, num2,s) {
var baseNum, baseNum1, baseNum2,ret;
var precision;// 精度
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
ret=((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
return bcFixed(ret,s);
};
/**
* 乘法运算，避免数据相乘小数点后产生多位数和计算精度损失。
*
* @param num1被乘数 | num2乘数
*/
function bcmul(num1, num2,s) {
var baseNum = 0,ret;
try {
baseNum += num1.toString().split(".")[1].length;
} catch (e) {
}
try {
baseNum += num2.toString().split(".")[1].length;
} catch (e) {
}
ret=Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
return bcFixed(ret,s);
};
/**
* 除法运算，避免数据相除小数点后产生多位数和计算精度损失。
*
* @param num1被除数 | num2除数
*/
function bcdiv(num1, num2,s) {
var baseNum1 = 0, baseNum2 = 0,ret;
var baseNum3, baseNum4;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
with (Math) {
baseNum3 = Number(num1.toString().replace(".", ""));
baseNum4 = Number(num2.toString().replace(".", ""));
ret=(baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
return bcFixed(ret,s);
}
};
调用方法：（后面的s为显示小数点后几位，比如s为0时显示整数，2为显示两位小数，比如2.00）
加法：bcadd(num1, num2,s) //如：1+2为 bcadd(1, 2,2)
减法：bcsub(num1, num2,s) //如：1-2为 bcsub(1, 2,2)
乘法：bcmul(num1, num2,s) //如：1*2为 bcmul(1, 2,2)
除法：bcdiv(num1, num2,s) //如：1/2为 bcdiv(1, 2,s)
标签：nan function 产生 bcs 小数 避免 一个 enum 乘法
原文地址：https://www.cnblogs.com/gxsyj/p/9397440.html
