码迷,mamicode.com
首页 > 其他好文 > 详细

原来 0.1*0.2!=0.02

时间:2017-05-25 13:25:27      阅读:213      评论:0      收藏:0      [点我收藏+]

标签:class   mod   component   任务   computers   index   ieee   cto   and   

今天老大一本正经的跟我说要交给我一个重大任务。解决关于0.1*0.2的问题。

0.1*0.2不就等于0.02吗??!!一个小学生都知道的答案,但是程序告诉你0.1*0.2并不是0.02。

事实上,不仅仅是 JS,在其他采用 IEEE754 浮点数标准的语言中,0.1 * 0.2 都不会等于 0.02,0.1+0.2也不会等于0.3,就是这样。

如果以后有人问你0.1+0.2 等于多少,0.1*0.2等于多少可别被坑了,就是这么神奇。

更神奇的是,9007199254740992+1=9007199254740992

技术分享  技术分享

 

为什么0.1*0.2 不等于0.02呢 0.1+0.2不等于0.3呢,这并不是因为程序出bug 了,因为他在做浮点数学。电脑只能本地存储整数,所以他们需要一些表示十进制数的方法。 这种表示带有一定程度的不准确性。 这就是为什么0.1 + 0.2!= 0.3。

首先我们先来了解一下什么是IEEE标准754浮点数

这个我就不多说了,您请自己看,我说的也没它好。

IEEE Standard 754 Floating Point Numbers

Floating-point arithmetic

 

现在让我们来看关于 0.1,0.2,0.3,它的二进制表示

0.1D=   2^-3 * 0.11001100110011001100110011001100110011001100110011010
0.2D=   2^-2 * 0.11001100110011001100110011001100110011001100110011010
0.3D=   2^-1 * 0.10011001100110011001111001100110011001100110011001100

我是在ionic2 项目中通过npm install了double-bits 和 pad 

然后ts 文件里这样写

import { Component } from ‘@angular/core‘;
import * as db from ‘double-bits‘;
import * as pad from ‘pad‘;

@Component({
  selector: ‘page-double-bits‘,
  templateUrl: ‘double-bits.html‘,
})
export class DoubleBits {

  constructor() {
    console.log("0.1D=   " + this.base2Str(0.1));
    console.log("0.2D=   " + this.base2Str(0.2));
    console.log("0.3D=   " + this.base2Str(0.3));
  }

  base2Str(n) {
    var f = db.fraction(n)
    return (db.sign(n) ? "-" : "") +
      "2^" + (db.exponent(n) + 1) +
      " * 0." + pad(f[1].toString(2), 20, "0") +
      pad(f[0].toString(2), 32, "0")
  }
}

输出:

技术分享

  0.1100110011001100110011001100110011001100110011001101B
+  1.1001100110011001100110011001100110011001100110011010B
= 10.0110011001100110011001100110011001100110011001100111B

将10.0110011001100110011001100110011001100110011001100111B转化成真值,结果为:0.30000000000000004

所以 0.1+0.2=0.30000000000000004 是这样来的了 。

那么如果我一定要 0.1+0.2=0.3呢

然后我找到了 这个 big.js. 一个小而快速的JavaScript库,用于任意精度的十进制算术。

安装

npm install big

导入项目 

import * as Big from ‘big.js‘;
 
使用
this.tt ="0.1*0.2="+ new Big(0.1).times(0.2);
this.mm="0.1+0.2="+new Big(0.1).add(0.2);
 
页面显示结果:
技术分享

ps:

double-bits  pad big-js

How numbers are encoded in JavaScript 

揭秘 0.1 + 0.2 != 0.3

原来 0.1*0.2!=0.02

标签:class   mod   component   任务   computers   index   ieee   cto   and   

原文地址:http://www.cnblogs.com/huangenai/p/6893902.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!