js浮点运算的问题

标签：js浮点运算的问题

问题引入：今天在前台js处理两个数字的相乘时出现了精度的偏差：1.2*3=3.9999999995，本来应该是3.6的。百度了一下，发现这是js浮点运算的一个Bug。网上找了一些对js浮点数运算的重写方法，现在把这些方法总结一下，以供遇到同样问题的朋友参考。

程序代码

1、除法函数

//调用：accDiv(arg1,arg2)
//返回值：arg1除以arg2的精确结果
function accDiv(arg1,arg2){
    var t1=0,t2=0,r1,r2;
    try{t1=arg1.toString().split(".")[1].length}catch(e){}
    try{t2=arg2.toString().split(".")[1].length}catch(e){}
    with(Math){
        r1=Number(arg1.toString().replace(".",""))
        r2=Number(arg2.toString().replace(".",""))
        return (r1/r2)*pow(10,t2-t1);
    }
}

Number.prototype.div = function (arg){
    return accDiv(this, arg);
}

//调用：accMul(arg1,arg2)
//返回值：arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
    var m=0,s1=arg1.toString(),s2=arg2.toString();
    try{m+=s1.split(".")[1].length}catch(e){}
    try{m+=s2.split(".")[1].length}catch(e){}
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}

Number.prototype.mul = function (arg){
    return accMul(arg, this);
}

//调用：accAdd(arg1,arg2)
//返回值：arg1加上arg2的精确结果
function accAdd(arg1,arg2){
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2))
    return (arg1*m+arg2*m)/m
}

Number.prototype.add = function (arg){
    return accAdd(arg,this);
}

js浮点运算的问题

标签：js浮点运算的问题

原文地址：http://blog.csdn.net/ydm19891101/article/details/44197337