码迷,mamicode.com
首页 > 其他好文 > 详细

浮点型数据运算精度bug

时间:2016-10-25 14:39:28      阅读:315      评论:0      收藏:0      [点我收藏+]

标签:数字   空字符串   精度   script   pre   his   rip   turn   比较   

/**
         * 校验是否为数字
         * @param arg
         * @return
         */
        function checkIsNumber(arg){
            if(arg != null && arg.toString() != ""){
                var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
                if(re.test(arg.toString())){
                    return true;
                }
            }
            return false;
        }

        /**
         * 加法函数,用来得到精确的加法结果
         * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
         * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
         * @param arg1
         * @param arg2
         * @return
         */
        function accAdd(arg1,arg2){
            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                return null;
            }
            var r1,r2,m;
            try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
            try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
            m=Math.pow(10,Math.max(r1,r2));
            return (arg1*m+arg2*m)/m;
        }

        // 给Number类型增加一个add方法,调用起来更加方便。
        Number.prototype.add = function (arg){
            return accAdd(this,arg);
        }

        /**
         * 减法函数,用来得到精确的减法结果
         * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
         * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
         * @param arg1
         * @param arg2
         * @return
         */
        function accSub(arg1,arg2){
            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                return null;
            }
            var r1,r2,m,n;    
            try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
            try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
            m=Math.pow(10,Math.max(r1,r2));
            // n=(r1>=r2)?r1:r2; // 控制精度
            // return ((arg1*m-arg2*m)/m).toFixed(n);
            return (arg1*m-arg2*m)/m;
        }

        // 给Number类型增加一个subduct方法,调用起来更加方便。
        Number.prototype.subduct = function (arg){
            return accSub(this,arg);
        }

        /**
         * 除法函数,用来得到精确的除法结果
         * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
         * 返回值:arg1除以arg2的精确结果
         * @param arg1
         * @param arg2
         * @return
         */
        function accDiv(arg1,arg2){
            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                return null;
            }
            var t1,t2,r1,r2;
            try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
            try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
            with(Math){
            r1=Number(arg1.toString().replace(".",""));
            r2=Number(arg2.toString().replace(".","")); 
            return (r1/r2)*pow(10,t2-t1); 
            } 
        } 

        // 给Number类型增加一个div方法,调用起来更加方便。
        Number.prototype.div = function (arg){ 
            return accDiv(this,arg); 
        } 

        /**
         * 乘法函数,用来得到精确的乘法结果 
         * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
         * 返回值:arg1乘以arg2的精确结果 
         * @param arg1
         * @param arg2
         * @return
         */
        function accMul(arg1,arg2) {
            if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
                return null;
            }
            var m=0,s1=arg1.toString(),s2=arg2.toString(); 
            try{m+=s1.split(".")[1].length;}catch(e){}
            try{m+=s2.split(".")[1].length;}catch(e){} 
            return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
        } 

        // 给Number类型增加一个mul方法,调用起来更加方便。
        Number.prototype.mul = function (arg){ 
            return accMul(this,arg); 
        } 
        
        console.log(accAdd(0.3,0.2)+" "+accSub(0.3,0.2))    

 

浮点型数据运算精度bug

标签:数字   空字符串   精度   script   pre   his   rip   turn   比较   

原文地址:http://www.cnblogs.com/hualuna87/p/5996328.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!