码迷,mamicode.com
首页 > 编程语言 > 详细

javascript浮点数计算的问题

时间:2014-06-27 21:32:27      阅读:379      评论:0      收藏:0      [点我收藏+]

标签:style   class   blog   code   java   ext   

  在使用javascript进行浮点数计算的时候经常会出现各种怪异的问题,

比如7*0.4 js计算结果为:2.8000000000000003

  所以在使用js计算的时候就需要一些特殊处理,思路就是先把js中的数

值扩大到相应的倍数,去掉小数部分再进行计算。

var SysRf = SysRf || {};
SysRf.strNum = {};
//浮点数加法运算
SysRf.strNum.add = function(arg1, arg2) {  
   var r1,r2,m;  
   try{r1=arg1.toString().split(‘.‘)[1].length}catch(e){r1=0};  
   try{r2=arg2.toString().split(‘.‘)[1].length}catch(e){r2=0};  
   m=Math.pow(10,Math.max(r1,r2));  
   return (arg1*m+arg2*m)/m;

};
//浮点数乘法运算
SysRf.strNum.mul = function(arg1, arg2) {
    var m = 0, s1 = arg1 + ‘‘, s2 = arg2 + ‘‘;
    try { m += s1.split(‘.‘)[1].length } catch (e) { };
    try { m += s2.split(‘.‘)[1].length } catch (e) { };
    return parseInt(s1.replace(‘.‘, ‘‘)) * parseInt(s2.replace(‘.‘, ‘‘)) / Math.pow(10, m);
};
//浮点数除法运算
SysRf.strNum.div = function(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try { t1 = arg1.toString().split(‘.‘)[1].length } catch (e) { }
    try { t2 = arg2.toString().split(‘.‘)[1].length } catch (e) { }
    with (Math) {
        r1 = Number(arg1.toString().replace(‘.‘, ‘‘))
        r2 = Number(arg2.toString().replace(‘.‘, ‘‘))
        return (r1 / r2) * pow(10, t2 - t1);
    }
}
//浮点数减法运算
SysRf.strNum.sub = function(arg1, arg2) {
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(‘.‘)[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(‘.‘)[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    //动态控制精度长度  
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
};

 

  

javascript浮点数计算的问题,布布扣,bubuko.com

javascript浮点数计算的问题

标签:style   class   blog   code   java   ext   

原文地址:http://www.cnblogs.com/wwwj/p/3807449.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!