为什么要使用 bigdecimal? 借用《Effactive Java》这本书中的话，float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不应该被用于要求精 ...
分类：
编程语言 时间：
2016-09-09 20:53:26
阅读次数：
219
基于GPU的图像处理平台 1. (309)英伟达推Jetson TX1 GPU模块力推人工智能 1.1 产品概述 Jetson TX1 GPU模块，主要针对近年来蓬勃发展的人工智能市场，包括无人机、机器人等设备。 1.2 处理板技术指标 1． Jetson TX1 GPU模块包括一颗浮点运算达到te ...
分类：
其他好文 时间：
2016-09-06 10:22:15
阅读次数：
385
最近碰见一个奇怪的问题，商城通过微信支付的订单经常少一分钱，经过排查是PHP浮点运算精度问题造成的 由PHP浮点数运算精度造成的，鸟哥的Bolg有详细的说明。http://www.laruence.com/2013/03/26/2884.html， 小数在二进制表示时，0.58对于二进制，是无限长的 ...
分类：
Web程序 时间：
2016-09-03 14:57:21
阅读次数：
249
Effective Java 2nd Edition 第48条建议：如果需要精确的答案，请避免使用float和doble。float和double类型主要是为了科学计算和工程计算而设计的。他们执行二进制制浮点运算（binary floating-point arithmetic），这是为了在广泛的数值范围上提供较为精确的快速近似计算而精心设计的。然而，他们并没有提供完全精确的结果，所以不应该被用...
分类：
编程语言 时间：
2016-08-22 18:26:52
阅读次数：
4396
float和double主要为了科学计算和工程计算而设计，执行二进制浮点运算，这是为了在广泛的数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不适合用于需要精确结果的场合，尤其是货币计算。 使用舍入可以解决上面问题，但并不是所有的问题都能用舍入解决，如有1元， ...
分类：
其他好文 时间：
2016-08-16 01:58:01
阅读次数：
191
在大多数行业涉及到浮点数的计算的场景比较少，但是在金融、支付行业就比较多了，而且在这两个行业一个小小的错误
可能将会给公司带来极大的损失。
在浮点运算中，浮点运算很少是精确的。虽然一些数字（譬如 0.5 ）可以精确地表示为二进制（底数 2）小数（因为 0.5
等于 2 -1），但其它一些数字（譬如 0.1 ）就不能精确的表示。因此，浮点运算可能导致舍入误差，产生的结果接近但不等于你
可能希望的结果。...
分类：
其他好文 时间：
2016-08-08 21:12:38
阅读次数：
353
IEEE读作[a?-'tr?p(?)l-i:]，电气和电子工程师协会。这个是一个包括所有电子和计算机技术的专业团体，制定标准是其工作之一。 IEEE浮点数算术标准（IEEE 754）是最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。 整数运算和浮点数运算会有不同的数学属性是因为它们处理数 ...
分类：
其他好文 时间：
2016-06-15 23:31:55
阅读次数：
355
>>> 1050 / 3133>>> 1050 / float(31)33.87096774193548 # 分子或者分母用float()方法 强行将整形转化成浮点型， 这样除法的结果也为浮点型>>> round(1050 / float(31))34.0 >>> round(1050 / floa ...
分类：
编程语言 时间：
2016-06-01 19:51:37
阅读次数：
183
1.1 交互式解释器默认centos6上安装了python2.6.6 直接敲命令 python就可以直接进入交互式的python解释器，在这里，我们可以敲一些python的命令。比如进行加减法>>> 10+111也可以做浮点运算>>> 1.0/20.5这里有个技巧，我们输入的数字带小数点，那么计算的 ...
分类：
编程语言 时间：
2016-05-18 00:10:23
阅读次数：
287
